Noong Biyernes, inihayag ng co-founder ni Koko na si Rob Morris sa Twitter, na ang kanyang kumpanya ay nagsagawa ng isang eksperimento upang magbigay ng AI-nakasulat na payo sa kalusugan ng isip sa 4 katao nang walang paunang abiso, ulat ng The Verge. Tinawag ng mga kritiko ang eksperimento na malalim na hindi etikal dahil hindi nakakuha ng kaalamang pahintulot si Koko mula sa mga taong humingi ng payo. Ang Koko ay isang non-profit na mental health platform na nag-uugnay sa mga kabataan at matatanda na nangangailangan ng pangangalaga sa kalusugan ng isip sa mga boluntaryo sa pamamagitan ng mga messaging app tulad ng Telegram at Discord.
Sa Discord, ang mga user ay nagla-log in sa server ng Koko Cares at nagpapadala ng mga direktang mensahe sa Koko bot, na nagtatanong ng serye ng mga multiple-choice na tanong (hal., "Ano ang pinakamadilim na iniisip mo tungkol dito?"). Pagkatapos ay hindi nagpapakilalang ibinabahagi nito ang alalahanin ng tao, na naitala bilang ilang mga pangungusap ng text, sa ibang tao sa server, na maaaring tumugon nang hindi nagpapakilala sa isang maikling mensahe ng kanilang sarili.
Sa isang eksperimento ng artificial intelligence (AI) na kinasasangkutan ng humigit-kumulang 30 mensahe, sinabi ni Morris, ang mga boluntaryong tumutulong sa iba ay nagkaroon ng opsyon na gumamit ng tugon na awtomatikong nabuo ng modelo ng malaking wika ng OpenAI na GPT-3 sa halip na isulat ito nang nakapag-iisa (GPT-3 ang teknolohiya sa likod ang kamakailang sikat na ChatGPT chatbot). Sa kanyang tweet, sinabi ni Morris na pinuri ng mga tao ang mga sagot na binuo ng AI hanggang sa nalaman nilang isinulat sila ng AI, na nagmumungkahi ng pangunahing kakulangan ng may-kaalamang pahintulot sa kahit isang yugto ng eksperimento:
"Ang mga mensaheng binubuo ng AI (at kinokontrol ng mga tao) ay na-rate na mas mataas kaysa sa mga isinulat ng mga tao mismo. Ang oras ng pagtugon ay nabawasan ng 50% hanggang wala pang isang minuto. At gayon pa man... mabilis naming inalis ang feature na ito sa aming platform. Bakit? Kapag nalaman ng mga tao na ang mga mensahe ay ginawa ng makina, tumigil ito sa paggana. Parang kakaiba, walang laman ang simulated simpatiya."
Sa pagpapakilala sa server, isinulat ng mga administrador: “Ikinokonekta ka ni Koko sa mga totoong tao na talagang nakakaunawa sa iyo. Hindi mga therapist, hindi mga tagapayo, mga taong katulad mo lang." Di-nagtagal pagkatapos na mai-post ni Morris ang mensahe, nakatanggap siya ng maraming tugon na pumupuna sa eksperimento bilang hindi etikal, na binabanggit ang mga alalahanin tungkol sa kakulangan ng kaalamang pahintulot at pagtatanong kung ang eksperimento ay naaprubahan ng Institutional Review Board (IRB). Sa United States, labag sa batas na magsagawa ng pananaliksik sa mga paksa ng tao nang walang legal na epektibong kaalamang pahintulot, maliban kung natukoy ng IRB na maaaring iwaksi ang pahintulot.
Sa isang tweet bilang tugon, sinabi ni Morris na ang eksperimento ay "exempt" mula sa kaalamang kinakailangan ng pahintulot dahil wala siyang plano na i-publish ang mga resulta, na nagdulot ng parada ng kabalbalan.
Ang ideya ng paggamit ng AI bilang isang therapist ay malayo sa bago, ngunit kung bakit naiiba ang eksperimento ni Koko sa mga karaniwang diskarte sa AI therapy ay malamang na malaman ng mga pasyente na hindi sila nakikipag-usap sa isang live na tao. Sa kaso ni Koko, ang platform ay nagsasangkot ng isang hybrid na diskarte kung saan maaaring suriin ng isang tagapamagitan ng tao ang isang mensahe bago ito ipadala, sa halip na isang tuwid na format ng chat. Gayunpaman, nang walang kaalamang pahintulot, sinabi ng mga kritiko na nilabag ni Koko ang mga tuntuning etikal na idinisenyo upang protektahan ang mga taong mahina laban sa mga nakakapinsala o malupit na kasanayan sa pananaliksik.
Noong Lunes, nag-post si Morris ng post na tumutugon sa kontrobersya at nagpapaliwanag sa paglalakbay ni Koko sa GPT-3 at AI sa pangkalahatan: "Natatanggap ko ang mga pagpuna, alalahanin, at mga tanong tungkol sa gawaing ito nang may empatiya at pagiging bukas. Kami ay nakatuon sa pagtiyak na ang anumang paggamit ng AI ay sensitibo, na may malalim na pag-aalala para sa privacy, transparency at pagbabawas ng panganib. Ang aming Clinical Advisory Board ay nagpupulong upang talakayin ang mga alituntunin para sa hinaharap na trabaho, kabilang ang pag-apruba ng IRB.
Matutulungan mo ang Ukraine na labanan ang mga mananakop na Ruso. Ang pinakamahusay na paraan upang gawin ito ay ang mag-abuloy ng mga pondo sa Armed Forces of Ukraine sa pamamagitan ng Savelife o sa pamamagitan ng opisyal na pahina NBU.
Basahin din:
Mag-iwan ng Sagot