Á föstudaginn tilkynnti Rob Morris, stofnandi Koko, kl Twitter, að fyrirtæki hans gerði tilraun til að veita 4 manns skrifuðum geðheilbrigðisráðgjöf án undangenginnar tilkynningar, segir í frétt The Verge. Gagnrýnendur sögðu tilraunina afar siðlausa þar sem Koko fékk ekki upplýst samþykki fólksins sem leitaði ráða. Koko er geðheilbrigðisvettvangur sem ekki er rekinn í hagnaðarskyni sem tengir unglinga og fullorðna sem þurfa á geðheilbrigðisþjónustu að halda við sjálfboðaliða í gegnum skilaboðaforrit eins og Telegram og Discord.
Á Discord skrá sig notendur inn á Koko Cares þjóninn og senda bein skilaboð til Koko botnsins, sem spyr röð fjölvalsspurninga (td "Hver er myrkasta hugsunin sem þú hefur um þetta?"). Það deilir síðan áhyggjum viðkomandi, skráðar sem nokkrar setningar texta, nafnlaust með einhverjum öðrum á þjóninum, sem getur svarað nafnlaust með eigin stuttum skilaboðum.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Í gervigreindartilraun (AI) sem fól í sér um 30 skilaboð, sagði Morris, að sjálfboðaliðar sem hjálpuðu öðrum hefðu möguleika á að nota svar sem myndaðist sjálfkrafa af GPT-3 stóra tungumálamódeli OpenAI í stað þess að skrifa það sjálfstætt (GPT-3 er tæknin á bakvið nýlega vinsæla ChatGPT spjallforritið). Í tístinu sínu bendir Morris á að fólk hafi hrósað svörum sem mynduðu gervigreind þar til þeir komust að því að þau væru skrifuð af gervigreind, sem bendir til lykilskorts á upplýstu samþykki í að minnsta kosti einum áfanga tilraunarinnar:
„Skilaboð samin af gervigreind (og stjórnað af mönnum) voru metin umtalsvert hærra en þau sem skrifuð voru af mönnum sjálfum. Viðbragðstími styttur um 50% í minna en eina mínútu. Og samt… við fjarlægðum þennan eiginleika nokkuð fljótt af pallinum okkar. Hvers vegna? Þegar fólk komst að því að skilaboðin voru framleidd í vél hætti það að virka. Eftirlíking samúðar virðist undarleg, tóm.“
Í kynningu á netþjóninum skrifa stjórnendur: „Koko tengir þig við raunverulegt fólk sem skilur þig virkilega. Ekki meðferðaraðilar, ekki ráðgjafar, bara fólk eins og þú.“ Fljótlega eftir að Morris birti skilaboðin fékk hann mörg svör þar sem hann gagnrýndi tilraunina sem siðlausa, þar sem hann vitnaði í áhyggjur af skorti á upplýstu samþykki og spurði hvort tilraunin hefði verið samþykkt af endurskoðunarnefnd stofnana (IRB). Í Bandaríkjunum er ólöglegt að stunda rannsóknir á mönnum án lagalega virkt upplýsts samþykkis, nema IRB ákveði að hægt sé að falla frá samþykki.
Í tísti sem svar sagði Morris að tilraunin væri „undanþegin“ kröfum um upplýst samþykki vegna þess að hann hafði engin áform um að birta niðurstöðurnar, sem olli skrúðgöngu reiði.
Hugmyndin um að nota gervigreind sem meðferðaraðila er langt frá því að vera ný, en það sem gerir tilraun Koko frábrugðin dæmigerðum gervigreindaraðferðum er að sjúklingar hafa tilhneigingu til að vita að þeir eru ekki að tala við lifandi manneskju. Í tilviki Koko fól vettvangurinn í sér blendingaaðferð þar sem mannlegur milliliður gat farið yfir skilaboð áður en þau voru send, í stað þess að vera beint spjallsnið. Hins vegar, án upplýsts samþykkis, segja gagnrýnendur Koko hafa brotið siðareglur sem ætlað er að vernda viðkvæmt fólk fyrir skaðlegum eða grimmilegum rannsóknarháttum.
Talandi sem fyrrverandi IRB meðlimur og formaður hefur þú framkvæmt rannsóknir á mönnum á viðkvæmum íbúa án samþykkis IRB eða undanþágu (ÞÚ færð ekki að ákveða). Kannski MGH IRB atvinnumaðurinncess er svo hægt vegna þess að það fjallar um hluti eins og þetta. Óumbeðin ráð: lögfræðingur uppi
— Daniel Shoskes (@dshoskes) 7. Janúar, 2023
Á mánudaginn birti Morris færslu þar sem hann svaraði deilunni og útskýrði ferð Koko til GPT-3 og gervigreindar almennt: „Ég fæ gagnrýni, áhyggjur og spurningar um þetta starf af samúð og hreinskilni. Við erum staðráðin í að tryggja að öll notkun gervigreindar sé viðkvæm, með djúpstæðri umhyggju fyrir friðhelgi einkalífs, gagnsæi og draga úr áhættu. Klínísk ráðgjafarnefnd okkar fundar til að ræða viðmiðunarreglur fyrir framtíðarstarf, þar á meðal samþykki IRB.
Þú getur hjálpað Úkraínu að berjast gegn rússnesku innrásarhernum. Besta leiðin til að gera þetta er að gefa fé til hersins í Úkraínu í gegnum Bjarga lífi eða í gegnum opinberu síðuna NBU.
Lestu líka: