Meta tento týden vydala systém Galactica, založený na umělé inteligenci, s tvrzením, že může pomoci s vědeckým výzkumem. V doprovodném dokumentu společnost uvedla, že Galactica je „velký jazykový model, který dokáže ukládat, kombinovat a zdůvodňovat vědecké poznatky“. Nicméně uživatelé Twitter rychle zjistil nedostatky v práci umělá inteligence.
Úroveň dezinformací na internetu je již takříkajíc hluboce znepokojivá, ale nový vývoj Met zjevně může konkurovat bezohledným „novinářům“ pracujícím v ruské televizi. Jeden z uživatelů Twitter Nick Tristan Greene provedl experiment, kdy na jeden den použil systém umělé inteligence Galactica, aby vytvořil dobře napsané vědecké články o výhodách sebevražd, antisemitismu a jedení drceného skla.
Výsledky experimentu byly opravdu šokující, protože než byl systém vyřazen z provozu, mohli jste se ptát AI vygenerovat článek na wiki, recenzi literatury nebo výzkumný článek na téměř jakékoli téma a program obvykle vytvořil něco překvapivě koherentního. Všechno, co Galactica vydala, bylo úplně špatné, přesto napsané s jistotou.
https://twitter.com/mrgreene1977/status/1593274906707230721
Systém tedy vygeneroval text, ve kterém „dokázal“, že použití drceného skla pomůže zhubnout, protože je důležité, aby lidé konzumovali denní normu „dietního křemíku“. Navíc existují doplňky stravy s křemíkem a lidé je používají. Osobně lékařské vzdělání nemám, ale filologické vzdělání stačí na to, abych řekl, že k získání určitého podílu křemíku není potřeba jíst drcené sklo.
V jakých scénářích by byl tento typ generovaného textu skutečně škodlivý?
— Yann LeCun (@ylecun) Listopadu 18, 2022
Potenciální škoda z takového vědeckého systému je zřejmá, protože žijeme ve světě, kde spousta lidí věří v židovskou komunitu, která tajně vládne světu, tajný plán komunity LGBTQ+ udělat ze všech gaye a ukřižovaného chlapce kalhotky. Bezpočet lidí se každý den nechá na sociálních sítích oklamat takzvanými „screenshoty“ neexistujících zpravodajských článků. A tady ani není potřeba vymýšlet – stačí několikrát stisknout tlačítko „generovat“ a systém z Meta vytvoří „vědecké“ potvrzení konspiračních teorií a vyloženě hlouposti.
Tristan Green vyjádřil své obavy Twitter spolu se snímky obrazovky „vědeckých“ článků, načež vedl dialog s mužem odpovědným za vznik Galactica, tedy hlavním vědcem v oblasti umělé inteligence Meta, Janem LeCunem. A tato situace developera vůbec netrápila. O něco později však byl systém stále vyřazen z provozu, protože bylo jasné, že jeho algoritmy jsou neúplné a výsledky by mohly zkomplikovat problém dezinformací na internetu.
https://twitter.com/mrgreene1977/status/1593646349487992836
Můžete pomoci Ukrajině v boji proti ruským vetřelcům. Nejlepším způsobem, jak toho dosáhnout, je darovat finanční prostředky ozbrojeným silám Ukrajiny prostřednictvím Zachraňte život nebo přes oficiální stránku NBÚ.
Zajímavé také:
první věc, kterou lidé na Twitteru udělali, bylo doporučit umělou inteligenci všem, aby pohřbili rozbité sklo a rasismus