U petak je suosnivač Koko Rob Morris najavio u Twitter, da je njegova kompanija provela eksperiment kako bi pružila savjete o mentalnom zdravlju napisane umjetnom inteligencijom za 4 ljudi bez prethodne najave, prenosi The Verge. Kritičari su eksperiment nazvali duboko neetičkim jer Koko nije dobio informirani pristanak od ljudi koji su tražili savjet. Koko je neprofitna platforma za mentalno zdravlje koja povezuje tinejdžere i odrasle kojima je potrebna zaštita mentalnog zdravlja s volonterima putem aplikacija za razmjenu poruka kao što su Telegram i Discord.
Na Discordu, korisnici se prijavljuju na Koko Cares server i šalju direktne poruke Koko botu, koji postavlja niz pitanja sa višestrukim izborom (npr. "Koja je najmračnija misao koju imate o ovome?"). Zatim anonimno dijeli zabrinutost osobe, snimljenu kao nekoliko rečenica teksta, s nekim drugim na serveru, koji može anonimno odgovoriti kratkom vlastitom porukom.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
U eksperimentu umjetne inteligencije (AI) koji je uključivao oko 30 poruka, rekao je Morris, volonteri koji su pomagali drugima imali su opciju da koriste odgovor koji je automatski generirao OpenAI-jev GPT-3 model velikog jezika umjesto da ga pišu nezavisno (GPT-3 je tehnologija iza nedavno popularni ChatGPT chatbot). U svom tvitu, Morris napominje da su ljudi hvalili odgovore koje je generirala umjetna inteligencija sve dok nisu saznali da ih je napisala umjetna inteligencija, što ukazuje na ključni nedostatak informiranog pristanka u barem jednoj fazi eksperimenta:
“Poruke koje je sastavila AI (i koje su kontrolirali ljudi) ocijenjene su znatno više od onih koje su napisali sami ljudi. Vrijeme odgovora smanjeno za 50% na manje od jedne minute. Pa ipak… uklonili smo ovu funkciju sa naše platforme prilično brzo. Zašto? Jednom kada su ljudi saznali da su poruke generisane mašinom, one su prestale da rade. Simulirana simpatija izgleda čudno, prazno."
U uvodu servera administratori pišu: „Koko vas povezuje sa stvarnim ljudima koji vas zaista razumiju. Ne terapeuti, ne savjetnici, samo ljudi poput vas." Ubrzo nakon što je Morris objavio poruku, dobio je mnoge odgovore u kojima je eksperiment kritiziran kao neetički, navodeći zabrinutost zbog nedostatka informiranog pristanka i postavljajući pitanje da li je eksperiment odobrio Institucionalni odbor za reviziju (IRB). U Sjedinjenim Državama nezakonito je provoditi istraživanje na ljudima bez pravno efektivnog informiranog pristanka, osim ako IRB ne utvrdi da se pristanak može odustati.
U svom tvitu kao odgovoru, Morris je rekao da je eksperiment "oslobođen" od zahtjeva za informiranim pristankom jer on nije planirao objaviti rezultate, što je izazvalo paradu bijesa.
Ideja korištenja AI kao terapeuta daleko je od nove, ali ono što Kokov eksperiment čini drugačijim od tipičnih pristupa AI terapiji je to što pacijenti obično znaju da ne razgovaraju sa živom osobom. U slučaju Kokoa, platforma je uključivala hibridni pristup u kojem je ljudski posrednik mogao pregledati poruku prije slanja, umjesto direktnog formata za ćaskanje. Međutim, bez informiranog pristanka, kritičari kažu da je Koko prekršio etička pravila osmišljena da zaštiti ugrožene ljude od štetnih ili okrutnih istraživačkih praksi.
Govoreći kao bivši član IRB-a i predsjedavajući, vi ste sproveli istraživanje ljudskih subjekata na ranjivoj populaciji bez odobrenja ili izuzeća IRB-a (VI ne možete odlučivati). Možda MGH IRB process je tako spor jer se bavi ovakvim stvarima. Neželjeni savjet: advokat gore
— Daniel Šoskes (@dshoskes) Januar 7, 2023
U ponedjeljak, Morris je objavio post u kojem odgovara na kontroverzu i objašnjava Kokovo putovanje do GPT-3 i AI općenito: „Primam kritike, zabrinutosti i pitanja o ovom poslu sa empatijom i otvorenošću. Posvećeni smo tome da svaka upotreba AI bude osjetljiva, s dubokom brigom za privatnost, transparentnost i smanjenje rizika. Naš Klinički savjetodavni odbor se sastaje kako bi razgovarao o smjernicama za budući rad, uključujući odobrenje IRB-a.”
Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je da donirate sredstva Oružanim snagama Ukrajine putem Savelife ili preko službene stranice NBU.
Pročitajte također: