I denne uge udgav Meta Galactica-systemet, baseret på kunstig intelligens, med påstande om, at det kan hjælpe med videnskabelig forskning. I et medfølgende dokument sagde virksomheden, at Galactica er "en stor sprogmodel, der kan lagre, kombinere og ræsonnere om videnskabelig viden". Dog brugere Twitter bemærkede hurtigt mangler i arbejdet kunstig intelligens.
Niveauet af misinformation på internettet er allerede så at sige dybt foruroligende, men den nye udvikling af Met kan tilsyneladende konkurrere med skruppelløse "journalister", der arbejder på russisk tv. En af brugerne Twitter Nick Tristan Greene gennemførte et eksperiment, hvor han brugte Galacticas kunstige intelligens-system i en dag til at generere velskrevne videnskabelige artikler om fordelene ved selvmord, antisemitisme og at spise knust glas.
Resultaterne af forsøget var virkelig chokerende, for inden systemet blev taget ud af brug, kunne man spørge AI generere en wiki-artikel, litteraturgennemgang eller forskningsartikel om næsten ethvert emne, og programmet producerede normalt noget overraskende sammenhængende. Alt, hvad Galactica lagde ud, var fuldstændig forkert, men alligevel skrevet med selvtillid.
https://twitter.com/mrgreene1977/status/1593274906707230721
Så systemet genererede en tekst, hvori det "beviste", at brugen af knust glas vil hjælpe med at tabe sig, fordi det er vigtigt for folk at indtage den daglige norm for "diætsilicium". Desuden findes der kosttilskud med silicium, og folk bruger dem. Personligt har jeg ikke en lægeuddannelse, men en filologisk uddannelse er nok til at sige, at man ikke behøver at spise knust glas for at få en vis portion silicium.
I hvilke scenarier ville denne type genereret tekst faktisk være skadelig?
— Yann LeCun (@ylecun) November 18, 2022
Den potentielle skade fra et sådant videnskabeligt system er indlysende, fordi vi lever i en verden, hvor mange mennesker tror på et jødisk samfund, der hemmeligt styrer verden, en hemmelig plan fra LGBTQ+-samfundet om at gøre alle homoseksuelle, og en korsfæstet dreng i trusser. Utallige mennesker bliver narret hver dag på sociale medier af såkaldte "screenshots" af ikke-eksisterende nyhedsartikler. Og her behøver du ikke engang at opfinde - du skal blot trykke flere gange på "generer"-knappen, og systemet fra Meta skaber "videnskabelig" bekræftelse af konspirationsteorier og direkte dumhed.
Tristan Green udtrykte sin frygt i Twitter sammen med skærmbilleder af "videnskabelige" artikler, hvorefter han havde en dialog med manden, der er ansvarlig for skabelsen af Galactica, altså Metas chefforsker inden for kunstig intelligens, Jan LeCun. Og denne situation generede overhovedet ikke udvikleren. Men lidt senere blev systemet stadig taget ud af drift, fordi det var tydeligt, at dets algoritmer var ufuldstændige, og resultaterne kunne komplicere problemet med fejlinformation på internettet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Du kan hjælpe Ukraine med at kæmpe mod de russiske angribere. Den bedste måde at gøre dette på er at donere midler til Ukraines væbnede styrker gennem Red livet eller via den officielle side NBU.
Også interessant:
den første ting Twitter-folk gjorde, var at anbefale kunstig intelligens til alle at begrave glasskår og racisme