S príchodom ChatGPT, Bard a ďalších veľkých modelov AI sme počuli varovania od ľudí, ktorí sa na nich podieľajú, ako je Elon Musk, o rizikách, ktoré AI predstavuje. Teraz skupina popredných lídrov v tomto odvetví vydala vyhlásenie s jednou vetou, ktoré tieto obavy skutočne potvrdzuje.
Žiadosť bola zverejnená dňa na stránke Bezpečnostného centra umelej inteligencie (Center for AI Safety) je organizácia, ktorej poslaním je „znížiť riziká spojené s umelou inteligenciou v celospoločenskom meradle“. Medzi signatármi sú známi predstavitelia priemyslu umelej inteligencie vrátane výkonného riaditeľa OpenAI Sama Altmana a prednostu Google DeepMind Demis Hassabis. Pod vyhlásenie sa podpísali aj víťazi Turingovho ocenenia Geoffrey Hinton a Joshua Bengio, ktorých mnohí považujú za krstných otcov modernej AI.
Ide už o druhé takéto vyhlásenie za posledných pár mesiacov. V marci Musk, Steve Wozniak a viac ako 1000 XNUMX ďalších vyzvali na šesťmesačnú prestávku vo vývoji AI, aby umožnili priemyslu a verejnosti efektívne zvládnuť túto technológiu. „V posledných mesiacoch sa laboratóriá AI zaplietli do nekontrolovaných pretekov vo vývoji a implementácii čoraz výkonnejších digitálnych myslí, ktorým nikto – dokonca ani ich tvorcovia – nerozumie, nedokáže predpovedať ani ich spoľahlivo ovládať,“ píše sa v liste.
Aj keď AI (pravdepodobne) nie je taká vedomá, ako sa niektorí obávajú, už teraz predstavuje riziko zneužitia a poškodenia prostredníctvom hlbokých falzifikátov, automatizovaných dezinformácií a ďalších. Umelá inteligencia môže tiež zmeniť spôsob, akým sa vytvára obsah, umenie a literatúra, čo môže potenciálne ovplyvniť mnohé pracovné miesta.
Americký prezident Joe Biden nedávno povedal, že „uvidíme“, či je AI nebezpečná, a dodal: „Podľa môjho názoru majú technologické spoločnosti povinnosť uistiť sa, že ich produkty sú bezpečné predtým, ako ich vypustia do sveta... AI môže pomôcť vysporiadať sa s niektorými veľmi zložitými problémami, ako sú choroby a klimatické zmeny, ale musí zvážiť aj potenciálne riziká pre našu spoločnosť, našu ekonomiku, našu národnú bezpečnosť.“ Na nedávnom stretnutí v Bielom dome Altman vyzval na reguláciu AI kvôli potenciálnym rizikám.
Vzhľadom na širokú škálu názorov je cieľom nového briefu demonštrovať spoločné obavy z rizík spojených s umelou inteligenciou, aj keď sa strany nezhodnú na tom, aké sú tieto riziká.
„Odborníci na umelú inteligenciu, novinári, politici a verejnosť čoraz častejšie diskutujú o širokej škále dôležitých a naliehavých rizík spojených s umelou inteligenciou,“ uvádza sa v preambule vyhlásenia. „Môže byť však ťažké vyjadriť obavy z niektorých vážnejších rizík spojených s umelou inteligenciou. Nižšie uvedené stručné vyhlásenie má za cieľ prekonať túto prekážku a otvoriť diskusiu. Je tiež navrhnutý tak, aby informoval rastúci počet odborníkov a verejných činiteľov, ktorí tiež berú vážne niektoré z najvážnejších rizík spojených s umelou inteligenciou.“
Prečítajte si tiež: