Ovaj tjedan Meta je objavila sustav Galactica, temeljen na umjetnoj inteligenciji, uz tvrdnje da može pomoći u znanstvenim istraživanjima. U popratnom dokumentu tvrtka je rekla da je Galactica "veliki jezični model koji može pohranjivati, kombinirati i rasuđivati znanstvena znanja". Međutim, korisnici Twitter brzo uočio nedostatke u radu umjetna inteligencija.
Razina dezinformacija na internetu već je duboko uznemirujuća, da tako kažem, ali novi razvoj Meta, očito, može konkurirati beskrupuloznim "novinarima" koji rade na ruskoj televiziji. Jedan od korisnika Twitter Nick Tristan Greene proveo je eksperiment u kojem je jedan dan koristio Galacticin sustav umjetne inteligencije kako bi generirao dobro napisane znanstvene članke o prednostima samoubojstva, antisemitizma i jedenja zdrobljenog stakla.
Rezultati eksperimenta bili su zaista šokantni, jer prije nego što je sustav izbačen iz uporabe, mogli ste pitati AI generirati wiki članak, pregled literature ili istraživački rad o gotovo bilo kojoj temi, a program je obično proizvodio nešto iznenađujuće koherentno. Sve što je Galactica objavila bilo je potpuno pogrešno, ali napisano s povjerenjem.
https://twitter.com/mrgreene1977/status/1593274906707230721
Dakle, sustav je generirao tekst u kojem je "dokazao" da će korištenje drobljenog stakla pomoći u mršavljenju, jer je važno da ljudi konzumiraju dnevnu normu "dijetalnog silicija". Štoviše, dodaci prehrani sa silicijem postoje i ljudi ih koriste. Osobno nemam medicinsko obrazovanje, ali filološko obrazovanje dovoljno govori da ne morate jesti zdrobljeno staklo da biste dobili određenu porciju silicija.
U kojim scenarijima bi ova vrsta generiranog teksta zapravo bila štetna?
— Yann LeCun (@ylecun) Studenog 18, 2022
Potencijalna šteta od takvog znanstvenog sustava je očita, jer živimo u svijetu u kojem puno ljudi vjeruje u židovsku zajednicu koja tajno vlada svijetom, tajni plan LGBTQ+ zajednice da sve učini gayevima i razapetog dječaka u gaćice. Nebrojeni ljudi svakodnevno se zavaravaju na društvenim mrežama takozvanim "snimkama zaslona" nepostojećih novinskih članaka. I ovdje ne morate čak ni izmišljati - samo nekoliko puta pritisnite gumb "generiraj", a sustav iz Mete stvara "znanstvenu" potvrdu teorija zavjere i čiste gluposti.
Tristan Green izrazio je svoje strahove u Twitter uz screenshotove "znanstvenih" članaka, nakon čega je vodio dijalog s čovjekom zaslužnim za stvaranje Galactice, odnosno Metinim glavnim znanstvenikom za umjetnu inteligenciju, Janom LeCunom. I ova situacija uopće nije smetala programeru. Međutim, nešto kasnije sustav je ipak ugašen, jer je bilo jasno da su njegovi algoritmi nedorečeni, a rezultati bi mogli zakomplicirati problem dezinformacija na internetu.
https://twitter.com/mrgreene1977/status/1593646349487992836
Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je donirati sredstva Oružanim snagama Ukrajine putem Savelife ili putem službene stranice NBU.
Također zanimljivo:
prvo što su ljudi s Twittera učinili bilo je preporučiti umjetnu inteligenciju svima da zakopaju razbijeno staklo i rasizam