Meta tento týždeň vydala systém Galactica, založený na umelej inteligencii, s tvrdeniami, že môže pomôcť pri vedeckom výskume. V sprievodnom dokumente spoločnosť uviedla, že Galactica je „veľký jazykový model, ktorý dokáže uchovávať, kombinovať a zdôvodňovať vedecké poznatky“. Avšak používatelia Twitter rýchlo si všimol nedostatky v práci umela inteligencia.
Úroveň dezinformácií na internete je už takpovediac hlboko znepokojujúca, no nový vývoj Met zjavne môže konkurovať bezohľadným „novinárom“ pracujúcim v ruskej televízii. Jeden z užívateľov Twitter Nick Tristan Greene uskutočnil experiment, v ktorom použil systém umelej inteligencie Galactica na jeden deň na generovanie dobre napísaných vedeckých článkov o výhodách samovrážd, antisemitizmu a jedenia drveného skla.
Výsledky experimentu boli naozaj šokujúce, pretože pred vyradením systému z používania ste sa mohli pýtať AI vytvoriť wiki článok, prehľad literatúry alebo výskumnú prácu na takmer akúkoľvek tému a program zvyčajne vytvoril niečo prekvapivo koherentné. Všetko, čo Galactica zverejnila, bolo úplne nesprávne, no napísané s istotou.
https://twitter.com/mrgreene1977/status/1593274906707230721
Systém teda vygeneroval text, v ktorom „dokázal“, že používanie drveného skla pomôže schudnúť, pretože je dôležité, aby ľudia konzumovali dennú normu „diétneho kremíka“. Okrem toho existujú doplnky stravy s kremíkom a ľudia ich používajú. Osobne nemám medicínske vzdelanie, ale filologické vzdelanie stačí na to, aby som povedal, že na to, aby ste získali určitú porciu kremíka, netreba jesť drvené sklo.
V akých scenároch by bol tento typ generovaného textu skutočne škodlivý?
— Yann LeCun (@ylecun) Novembra 18, 2022
Potenciálna škoda z takéhoto vedeckého systému je zrejmá, pretože žijeme vo svete, kde veľa ľudí verí v židovskú komunitu, ktorá tajne vládne svetu, tajný plán komunity LGBTQ+ urobiť z každého gaya a ukrižovaného chlapca nohavičky. Nespočetné množstvo ľudí sa každý deň nechá na sociálnych sieťach oklamať takzvanými „snímkami obrazovky“ neexistujúcich spravodajských článkov. A tu ani netreba vymýšľať – stačí niekoľkokrát stlačiť tlačidlo „generovať“ a systém od Meta vytvorí „vedecké“ potvrdenie konšpiračných teórií a vyslovenej hlúposti.
Tristan Green vyjadril svoje obavy v Twitter spolu so snímkami obrazovky „vedeckých“ článkov, po ktorých mal dialóg s človekom zodpovedným za vytvorenie Galactica, teda hlavným vedcom v oblasti umelej inteligencie Meta, Janom LeCunom. A táto situácia developera vôbec netrápila. Avšak o niečo neskôr bol systém stále vyradený z prevádzky, pretože bolo jasné, že jeho algoritmy sú neúplné a výsledky by mohli skomplikovať problém dezinformácií na internete.
https://twitter.com/mrgreene1977/status/1593646349487992836
Môžete pomôcť Ukrajine v boji proti ruským útočníkom. Najlepším spôsobom, ako to urobiť, je darovať finančné prostriedky Ozbrojeným silám Ukrajiny prostredníctvom Zachrániť život alebo cez oficiálnu stránku NBU.
Tiež zaujímavé:
prvá vec, ktorú ľudia na Twitteri urobili, bolo odporučiť umelú inteligenciu každému, aby pochoval rozbité sklo a rasizmus