I veckan släppte Meta systemet Galactica, baserat på artificiell intelligens, med påståenden om att det kan hjälpa till med vetenskaplig forskning. I ett medföljande dokument sa företaget att Galactica är "en stor språkmodell som kan lagra, kombinera och resonera kring vetenskaplig kunskap". Däremot användare Twitter märkte snabbt brister i arbetet artificiell intelligens.
Nivån av desinformation på Internet är redan så att säga djupt oroande, men den nya utvecklingen av Met kan tydligen konkurrera med skrupelfria "journalister" som arbetar på rysk tv. En av användarna Twitter Nick Tristan Greene genomförde ett experiment där han använde Galacticas artificiella intelligenssystem under en dag för att generera välskrivna vetenskapliga artiklar om fördelarna med självmord, antisemitism och att äta krossat glas.
Resultaten av experimentet var verkligen chockerande, för innan systemet togs ur bruk kunde man fråga AI generera en wikiartikel, litteraturöversikt eller forskningsartikel om nästan vilket ämne som helst, och programmet producerade vanligtvis något förvånansvärt sammanhängande. Allt Galactica lade ut var helt fel, men ändå skrivet med tillförsikt.
https://twitter.com/mrgreene1977/status/1593274906707230721
Så, systemet genererade en text där det "bevisade" att användningen av krossat glas kommer att hjälpa till att gå ner i vikt, eftersom det är viktigt för människor att konsumera den dagliga normen för "dietkisel". Dessutom finns kosttillskott med kisel, och folk använder dem. Själv har jag ingen läkarutbildning, men det räcker med en filologisk utbildning för att säga att man inte behöver äta krossat glas för att få i sig en viss portion kisel.
I vilka scenarier skulle den här typen av genererad text faktiskt vara skadlig?
— Yann LeCun (@ylecun) November 18, 2022
Den potentiella skadan från ett sådant vetenskapligt system är uppenbar, eftersom vi lever i en värld där många människor tror på en judisk gemenskap som i hemlighet styr världen, en hemlig plan från HBTQ+-gemenskapen för att göra alla homosexuella och en korsfäst pojke i trosor. Otaliga människor luras varje dag på sociala medier av så kallade "skärmdumpar" av obefintliga nyhetsartiklar. Och här behöver du inte ens hitta på - tryck bara på "generera"-knappen flera gånger, så skapar systemet från Meta "vetenskaplig" bekräftelse på konspirationsteorier och ren dumhet.
Tristan Green uttryckte sin rädsla i Twitter tillsammans med skärmdumpar av "vetenskapliga" artiklar, varefter han förde en dialog med mannen som var ansvarig för skapandet av Galactica, det vill säga Metas Chief Artificial Intelligence Scientist, Jan LeCun. Och denna situation störde inte utvecklaren alls. Men lite senare avvecklades systemet fortfarande, eftersom det var tydligt att dess algoritmer var ofullständiga, och resultaten kunde komplicera problemet med desinformation på Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Du kan hjälpa Ukraina att slåss mot de ryska inkräktarna. Det bästa sättet att göra detta är att donera medel till Ukrainas väpnade styrkor genom Rädda liv eller via den officiella sidan NBU.
Också intressant:
det första Twitter-folk gjorde var att rekommendera artificiell intelligens till alla att begrava krossat glas och rasism