Deze week bracht Meta het Galactica-systeem uit, gebaseerd op kunstmatige intelligentie, met claims dat het kan helpen bij wetenschappelijk onderzoek. In een begeleidend document zei het bedrijf dat Galactica "een groot taalmodel is dat wetenschappelijke kennis kan opslaan, combineren en beredeneren". Wel gebruikers Twitter merkte al snel tekortkomingen in het werk op kunstmatige intelligentie.
Het niveau van desinformatie op internet is als het ware al zeer verontrustend, maar de nieuwe ontwikkeling van Met kan blijkbaar concurreren met gewetenloze 'journalisten' die op de Russische televisie werken. Een van de gebruikers Twitter Nick Tristan Greene voerde een experiment uit waarbij hij het kunstmatige-intelligentiesysteem van Galactica een dag lang gebruikte om goedgeschreven wetenschappelijke artikelen te genereren over de voordelen van zelfmoord, antisemitisme en het eten van gebroken glas.
De resultaten van het experiment waren echt schokkend, want voordat het systeem buiten gebruik werd gesteld, kon je het vragen AI genereer een wiki-artikel, literatuuroverzicht of onderzoekspaper over bijna elk onderwerp, en het programma produceerde meestal iets verrassend samenhangends. Alles wat Galactica uitbracht was volkomen verkeerd, maar toch met vertrouwen geschreven.
https://twitter.com/mrgreene1977/status/1593274906707230721
Het systeem genereerde dus een tekst waarin het "bewees" dat het gebruik van gebroken glas zal helpen om af te vallen, omdat het belangrijk is dat mensen de dagelijkse norm van "voedingssilicium" consumeren. Bovendien bestaan er voedingssupplementen met silicium, en die worden ook gebruikt. Persoonlijk heb ik geen medische opleiding, maar een filologische opleiding is genoeg om te zeggen dat je geen gebroken glas hoeft te eten om een bepaalde portie silicium binnen te krijgen.
In welke scenario's zou dit soort gegenereerde tekst eigenlijk schadelijk zijn?
— Yann LeCun (@ylecun) 18 november 2022
De potentiële schade van zo'n wetenschappelijk systeem ligt voor de hand, omdat we in een wereld leven waarin veel mensen geloven in een joodse gemeenschap die in het geheim de wereld regeert, een geheim plan van de LGBTQ+-gemeenschap om iedereen homo te maken, en een gekruisigde jongen in slipje. Dagelijks worden talloze mensen op sociale media voor de gek gehouden door zogenaamde "screenshots" van niet-bestaande nieuwsartikelen. En hier hoef je niet eens uit te vinden - druk gewoon meerdere keren op de knop "genereren", en het systeem van Meta creëert "wetenschappelijke" bevestiging van complottheorieën en regelrechte domheid.
Tristan Green uitte zijn vrees in Twitter samen met screenshots van "wetenschappelijke" artikelen, waarna hij een dialoog had met de man die verantwoordelijk was voor de creatie van Galactica, d.w.z. Meta's Chief Artificial Intelligence Scientist, Jan LeCun. En deze situatie stoorde de ontwikkelaar helemaal niet. Even later werd het systeem echter nog steeds buiten gebruik gesteld, omdat het duidelijk was dat de algoritmen onvolledig waren en de resultaten het probleem van desinformatie op internet konden compliceren.
https://twitter.com/mrgreene1977/status/1593646349487992836
U kunt Oekraïne helpen vechten tegen de Russische indringers. De beste manier om dit te doen is door geld te doneren aan de strijdkrachten van Oekraïne via Red het leven of via de officiële pagina NBU.
Ook interessant:
het eerste wat Twitter-mensen deden, was iedereen kunstmatige intelligentie aanbevelen om gebroken glas en racisme te begraven