Piektdien Koko līdzdibinātājs Robs Moriss paziņoja plkst Twitter, ka viņa uzņēmums veica eksperimentu, lai bez iepriekšēja brīdinājuma sniegtu AI rakstītus garīgās veselības padomus 4 cilvēku, ziņo The Verge. Kritiķi eksperimentu nodēvēja par dziļi neētisku, jo Koko nesaņēma informētu piekrišanu no cilvēkiem, kuri lūdza padomu. Koko ir bezpeļņas garīgās veselības platforma, kas savieno pusaudžus un pieaugušos, kuriem nepieciešama garīgās veselības aprūpe, ar brīvprātīgajiem, izmantojot ziņojumapmaiņas lietotnes, piemēram, Telegram un nesaskaņas.
Programmā Discord lietotāji piesakās Koko Cares serverī un nosūta tiešus ziņojumus Koko robotam, kas uzdod vairākus jautājumus ar atbilžu variantiem (piemēram, "Kāda ir tumšākā doma par šo?"). Pēc tam tas anonīmi kopīgo personas bažas, kas ierakstītas kā daži teksta teikumi, ar kādu citu serverī, kas var anonīmi atbildēt ar savu īsu ziņojumu.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Mākslīgā intelekta (AI) eksperimentā, kurā bija iekļauti aptuveni 30 3 ziņojumu, Moriss sacīja, ka brīvprātīgajiem, kas palīdzēja citiem, bija iespēja izmantot OpenAI lielās valodas modeļa GPT-3 automātiski ģenerētu atbildi, nevis rakstīt to neatkarīgi (GPT-XNUMX ir pamatā esošā tehnoloģija nesen populārais ChatGPT tērzēšanas robots). Savā tvītā Moriss atzīmē, ka cilvēki slavēja mākslīgā intelekta radītās atbildes, līdz uzzināja, ka tās ir rakstījis AI, kas liecina par būtisku informētas piekrišanas trūkumu vismaz vienā eksperimenta fāzē:
“Ziņojumi, ko veido AI (un kurus kontrolē cilvēki), tika novērtēti ievērojami augstāk nekā tie, ko rakstījuši paši cilvēki. Reakcijas laiks samazināts par 50% līdz mazāk nekā minūtei. Un tomēr… mēs diezgan ātri noņēmām šo funkciju no savas platformas. Kāpēc? Kad cilvēki uzzināja, ka ziņojumi ir ģenerēti ar mašīnu, tas pārstāja darboties. Imitēta līdzjūtība šķiet dīvaina, tukša."
Servera ievadā administratori raksta: “Koko savieno jūs ar reāliem cilvēkiem, kuri jūs patiešām saprot. Ne terapeiti, ne konsultanti, tikai tādi cilvēki kā jūs." Drīz pēc tam, kad Moriss publicēja ziņojumu, viņš saņēma daudzas atbildes, kritizējot eksperimentu kā par neētisku, atsaucoties uz bažām par informētas piekrišanas trūkumu un apšaubot, vai eksperimentu ir apstiprinājusi Institucionālā pārskata padome (IRB). Amerikas Savienotajās Valstīs ir nelikumīgi veikt pētījumus par cilvēkiem bez juridiski efektīvas informētas piekrišanas, ja vien IRB nenosaka, ka piekrišanu var atcelt.
Atbildot uz to, Moriss tviterī sacīja, ka eksperiments ir "atbrīvots" no informētas piekrišanas prasībām, jo viņš neplāno publicēt rezultātus, izraisot sašutuma parādi.
Ideja par mākslīgā intelekta izmantošanu kā terapeitu nebūt nav jauna, taču Koko eksperiments atšķiras no tipiskām AI terapijas pieejām, jo pacienti mēdz zināt, ka viņi nerunā ar dzīvu cilvēku. Koko gadījumā platforma ietvēra hibrīdu pieeju, kurā starpnieks varēja pārskatīt ziņojumu pirms tā nosūtīšanas, nevis tiešā tērzēšanas formātā. Tomēr bez informētas piekrišanas kritiķi saka, ka Koko pārkāpa ētikas noteikumus, kas paredzēti, lai aizsargātu neaizsargātos cilvēkus no kaitīgas vai nežēlīgas pētniecības prakses.
Runājot kā bijušais IRB loceklis un vadītājs, jūs esat veicis cilvēku pētījumu par neaizsargātu iedzīvotāju grupu bez IRB apstiprinājuma vai atbrīvojuma (jums nav jāizlemj). Varbūt MGH IRB process ir tik lēns, jo tas attiecas uz šādām lietām. Nelūgts padoms: advokāts
— Daniels Šoskes (@dshoskes) Janvāris 7, 2023
Pirmdien Moriss publicēja ziņu, reaģējot uz strīdiem un skaidrojot Koko ceļojumu uz GPT-3 un AI kopumā: “Es uztveru kritiku, bažas un jautājumus par šo darbu ar empātiju un atklātību. Mēs esam apņēmušies nodrošināt, ka jebkāda AI izmantošana ir sensitīva, nopietni rūpējoties par privātumu, pārredzamību un riska mazināšanu. Mūsu klīniskā konsultatīvā padome tiekas, lai apspriestu turpmākā darba vadlīnijas, tostarp IRB apstiprinājumu.
Jūs varat palīdzēt Ukrainai cīnīties pret krievu iebrucējiem. Labākais veids, kā to izdarīt, ir ziedot līdzekļus Ukrainas bruņotajiem spēkiem Savelife vai izmantojot oficiālo lapu NBU.
Lasi arī: