Ezen a héten a Meta kiadta a mesterséges intelligencián alapuló Galactica rendszert, azzal az állításokkal, hogy segíthet a tudományos kutatásban. Egy kísérő dokumentumban a cég azt mondta, hogy a Galactica "nagy nyelvi modell, amely képes tárolni, kombinálni és megindokolni a tudományos ismereteket". Azonban a felhasználók Twitter gyorsan észrevette a munka hiányosságait mesterséges intelligencia.
Az internetes félretájékoztatás mértéke már most is mélységesen nyugtalanító, de a Met új fejlesztése láthatóan felveheti a versenyt az orosz televízióban dolgozó gátlástalan "újságírókkal". Az egyik felhasználó Twitter Nick Tristan Greene végzett egy kísérletet, amelyben a Galactica mesterséges intelligencia rendszerét egy napig használta, hogy jól megírt tudományos cikkeket generáljon az öngyilkosság, az antiszemitizmus és az üvegzúzott evés előnyeiről.
A kísérlet eredménye igazán megdöbbentő volt, mert a rendszer használatból való kivonása előtt lehetett kérdezni AI generál wiki cikket, irodalmi áttekintést vagy kutatási cikket szinte bármilyen témában, és a program általában valami meglepően koherens dolgot produkált. Minden, amit a Galactica kiadott, teljesen rossz volt, mégis magabiztosan írták.
https://twitter.com/mrgreene1977/status/1593274906707230721
Tehát a rendszer generált egy szöveget, amelyben "bizonyította", hogy a törött üveg használata segít a fogyásban, mert fontos, hogy az emberek elfogyasszák a napi "diétás szilícium" normát. Ezenkívül léteznek szilíciumtartalmú étrend-kiegészítők, és az emberek használják is őket. Személy szerint nincs orvosi végzettségem, de a filológiai végzettség elég ahhoz, hogy elmondjam, nem kell zúzott üveget enni ahhoz, hogy egy bizonyos adag szilíciumhoz jusson.
Milyen forgatókönyvek esetén lenne ténylegesen káros az ilyen típusú generált szöveg?
– Yann LeCun (@ylecun) November 18, 2022
Egy ilyen tudományos rendszer lehetséges kárai nyilvánvalóak, mert olyan világban élünk, ahol sokan hisznek a világot titokban irányító zsidó közösségben, az LMBTQ+ közösség titkos tervében, hogy mindenkit melegekké tegyenek, és egy keresztre feszített fiúban. bugyi. Számtalan embert bolondítanak meg nap mint nap a közösségi médiában nem létező hírcikkek úgynevezett "screenshotjaival". És itt még csak feltalálni sem kell – elég többször megnyomni a „generálás” gombot, és a Meta rendszere „tudományos” megerősítést hoz létre az összeesküvés-elméletekre és a nyílt hülyeségre.
Tristan Green kifejezte félelmét Twitter "tudományos" cikkek képernyőképeivel együtt, ami után párbeszédet folytatott a Galactica létrehozásáért felelős emberrel, azaz a Meta mesterséges intelligencia főkutatójával, Jan LeCunnal. Ez a helyzet pedig egyáltalán nem zavarta a fejlesztőt. Kicsit később azonban a rendszert mégis leállították, mert nyilvánvaló volt, hogy az algoritmusai hiányosak, és az eredmények bonyolíthatják az internetes dezinformáció problémáját.
https://twitter.com/mrgreene1977/status/1593646349487992836
Segíthet Ukrajnának az orosz megszállók elleni küzdelemben. Ennek legjobb módja, ha adományokat adományoz az ukrán fegyveres erőknek ezen keresztül Savelife vagy a hivatalos oldalon keresztül NBU.
Szintén érdekes:
az első dolga a Twitteren az volt, hogy mindenkinek ajánlották a mesterséges intelligenciát, hogy temessék el a törött üvegeket és a rasszizmust