Баасан гарагт Кокогийн үүсгэн байгуулагч Роб Моррис энэ тухай зарлалаа Twitter, түүний компани 4 хүнд урьдчилан мэдэгдэлгүйгээр хиймэл оюун ухаанаар бичсэн сэтгэцийн эрүүл мэндийн зөвлөгөө өгөх туршилт явуулсан гэж The Verge мэдээлэв. Коко зөвлөгөө авахыг хүссэн хүмүүсээс зөвшөөрөл аваагүй тул шүүмжлэгчид туршилтыг ёс зүйгүй гэж нэрлэжээ. Коко бол сэтгэцийн эрүүл мэндийн тусламж үйлчилгээ шаардлагатай өсвөр насныхан болон насанд хүрэгчдийг сайн дурынхантай мессежийн программуудаар холбодог ашгийн бус сэтгэцийн эрүүл мэндийн платформ юм. Telegram болон Discord.
Discord дээр хэрэглэгчид Koko Cares серверт нэвтэрч, Koko bot руу шууд мессеж илгээдэг бөгөөд энэ нь хэд хэдэн сонголттой асуултуудыг асуудаг (жишээ нь: "Энэ талаар танд хамгийн харанхуй бодол юу байна?"). Дараа нь энэ нь тухайн хүний санаа зовоосон асуудлаа сервер дээрх өөр хэн нэгэнтэй хэдэн өгүүлбэрээр бичдэг, нэрээ нууцлан хуваалцаж, өөрийн гэсэн богино мессежээр нэрээ нууцлан хариулах боломжтой.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Моррис хэлэхдээ, 30 орчим мессежийг хамарсан хиймэл оюун ухааны (AI) туршилтын үеэр бусдад тусалж буй сайн дурынхан OpenAI-ийн GPT-3 том хэлний загвараар автоматаар үүсгэсэн хариултыг бие даан бичихийн оронд ашиглах боломжтой байсан (GPT-3 бол цаадах технологи юм. саяхан алдартай ChatGPT чатбот). Моррис жиргээндээ хүмүүс хиймэл оюун ухаанаар үүсгэсэн хариултыг хиймэл оюунаар бичсэнийг мэдэх хүртлээ магтаж байсан гэж тэмдэглэсэн нь туршилтын ядаж нэг үе шатанд мэдээлэлтэй зөвшилцлийн гол дутагдал байгааг харуулж байна:
“Хиймэл оюун ухаан (хүмүүсээр удирддаг) зохиосон мессежүүд нь хүмүүсийн өөрсдөө бичсэн мессежээс хамаагүй өндөр үнэлгээ авсан. Хариу өгөх хугацаа 50%-иар буурч, нэг минут хүрэхгүй байна. Гэсэн хэдий ч бид энэ функцийг платформоосоо маш хурдан устгасан. Яагаад? Мессежүүд нь автоматаар үүсгэгдсэн болохыг мэдээд хүмүүс ажиллахаа больсон. Дууриамал өрөвдөх сэтгэл нь хачирхалтай, хоосон юм шиг санагддаг."
Серверийн танилцуулгад админууд: "Коко таныг үнэхээр ойлгодог жинхэнэ хүмүүстэй холбож өгдөг. Эмч биш, зөвлөх ч биш, зүгээр л чам шиг хүмүүс." Моррис мессежийг нийтлэсний дараа удалгүй тэрээр туршилтыг ёс зүйгүй гэж шүүмжилсэн олон хариулт авч, мэдээлэлтэй зөвшөөрөл аваагүйгээс санаа зовж, туршилтыг Байгууллагын хяналтын зөвлөл (IRB) зөвшөөрсөн эсэхэд эргэлзэж байна. АНУ-д IRB зөвшөөрлөөс татгалзаж болно гэж тогтоогоогүй л бол хууль ёсны үр дүнтэй мэдээлэлтэй зөвшөөрөлгүйгээр хүний сэдвээр судалгаа хийх нь хууль бус юм.
Хариуд нь твиттер хуудсандаа Моррис туршилтын үр дүнг нийтлэх төлөвлөгөөгүй байсан тул мэдээлэлжсэн зөвшөөрлийн шаардлагаас "чөлөөт" гэж хэлсэн нь дургүйцлийн жагсаалыг өдөөсөн юм.
Хиймэл оюун ухааныг эмчилгээний эмч болгон ашиглах санаа нь шинэ зүйл биш боловч Кокогийн туршилтыг хиймэл хиймэл оюун ухааны эмчилгээний ердийн аргуудаас ялгаатай болгодог зүйл бол өвчтөнүүд амьд хүнтэй харьцдаггүй гэдгээ мэдэх хандлагатай байдаг. Кокогийн хувьд платформ нь шууд чатын форматын оронд мессежийг илгээхээсээ өмнө хүн зуучлагч хянаж болох эрлийз аргыг ашигласан. Гэсэн хэдий ч мэдээлэлтэй зөвшөөрөл авалгүйгээр шүүмжлэгчид Коко эмзэг бүлгийн хүмүүсийг хор хөнөөлтэй эсвэл хэрцгий судалгааны үйлдлээс хамгаалах зорилготой ёс зүйн дүрмийг зөрчсөн гэж шүүмжилдэг.
Та IRB-ийн гишүүн, даргаар ажиллаж байсан хүний хувьд IRB-ийн зөвшөөрөл, чөлөөлөлтгүйгээр эмзэг бүлгийн хүн амын дунд судалгаа хийсэн (Та шийдэх эрхгүй). Магадгүй MGH IRB pro байхcess нь иймэрхүү зүйлтэй харьцдаг учраас маш удаан байдаг. Хүсээгүй зөвлөгөө: өмгөөлөгч хүртэл
- Даниел Шоскес (@dshoskes) Нэгдүгээр 7, 2023
Даваа гарагт Моррис маргаанд хариулсан пост нийтэлж, Кокогийн GPT-3 болон AI-д хийсэн аяллыг ерөнхийд нь тайлбарлахдаа: “Би энэ ажлын талаар шүүмжлэл, санаа зовоосон асуудал, асуултуудыг өрөвдөх сэтгэл, нээлттэй байдлаар хүлээж авдаг. Бид AI-ийн аливаа хэрэглээ нь нууцлал, ил тод байдал, эрсдэлийг бууруулахад гүн санаа тавьж, эмзэг байдлыг хангах үүрэг хүлээдэг. Манай Клиникийн Зөвлөх Зөвлөл IRB батлах зэрэг цаашдын ажлын удирдамжийг хэлэлцэхээр хуралдаж байна.”
Та Украинд Оросын түрэмгийлэгчдийн эсрэг тэмцэхэд тусалж чадна. Үүнийг хийх хамгийн сайн арга бол Украины Зэвсэгт хүчинд мөнгө хандивлах явдал юм Амьдралыг аврах эсвэл албан ёсны хуудсаар дамжуулан NBU.
Мөн уншина уу: