금요일에 Koko 공동 창립자 Rob Morris는 다음과 같이 발표했습니다. Twitter, 그의 회사가 사전 통지 없이 4명에게 AI로 작성된 정신 건강 조언을 제공하는 실험을 수행했다고 The Verge가 보도했습니다. 비평가들은 Koko가 조언을 구한 사람들로부터 정보에 입각한 동의를 얻지 않았기 때문에 실험이 매우 비윤리적이라고 말했습니다. Koko는 정신 건강 관리가 필요한 청소년과 성인을 다음과 같은 메시징 앱을 통해 자원 봉사자와 연결하는 비영리 정신 건강 플랫폼입니다. Telegram 그리고 디스코드.
Discord에서 사용자는 Koko Cares 서버에 로그인하고 Koko 봇에 다이렉트 메시지를 보냅니다. Koko 봇은 일련의 객관식 질문(예: "이것에 대해 가지고 있는 가장 어두운 생각은 무엇입니까?")을 묻습니다. 그런 다음 몇 문장의 텍스트로 기록된 개인의 관심사를 익명으로 자신의 짧은 메시지로 응답할 수 있는 서버의 다른 사람과 공유합니다.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
약 30개의 메시지가 포함된 인공 지능(AI) 실험에서 Morris는 다른 사람들을 돕는 자원 봉사자들이 OpenAI의 GPT-3 대형 언어 모델에 의해 자동으로 생성된 응답을 독립적으로 작성하는 대신 사용할 수 있는 옵션을 가졌다고 말했습니다. 최근 인기 있는 ChatGPT 챗봇). 모리스는 자신의 트윗에서 사람들이 AI가 작성한 답변이 AI에 의해 작성되었다는 사실을 알기 전까지는 AI가 생성한 답변을 칭찬했으며, 이는 실험의 적어도 한 단계에서 정보에 입각한 동의가 부족했음을 시사한다고 말했습니다.
“AI가 작성하고 인간이 제어하는 메시지는 인간이 직접 작성한 메시지보다 훨씬 높은 평가를 받았습니다. 응답 시간이 50분 미만으로 % 단축되었습니다. 그럼에도 불구하고… 우리는 플랫폼에서 이 기능을 꽤 빨리 제거했습니다. 왜요? 사람들이 메시지가 기계에서 생성된 것임을 알게 되자 작동을 멈췄습니다. 모의 공감은 이상하고 공허해 보인다."
서버 소개에서 관리자는 다음과 같이 씁니다. “Koko는 당신을 진정으로 이해하는 실제 사람들과 연결합니다. 치료사도, 카운셀러도 아니고, 그냥 당신 같은 사람들이요." Morris가 메시지를 게시한 직후, 그는 실험이 비윤리적이라고 비판하는 많은 응답을 받았습니다. 정보에 입각한 동의가 부족하다는 우려와 IRB(Institutional Review Board)의 실험 승인 여부에 대한 질문을 들었습니다. 미국에서는 IRB가 동의를 포기할 수 있다고 결정하지 않는 한 법적으로 유효한 사전 동의 없이 인간 피험자에 대한 연구를 수행하는 것은 불법입니다.
모리스는 이에 대한 답으로 트윗에서 실험 결과를 발표할 계획이 없기 때문에 사전 동의 요건에서 "면제"되었다고 말하면서 분노의 퍼레이드를 촉발했습니다.
AI를 치료사로 사용한다는 아이디어는 새로운 것이 아니지만 Koko의 실험이 일반적인 AI 치료 접근 방식과 다른 점은 환자가 자신이 살아있는 사람과 대화하고 있지 않다는 것을 아는 경향이 있다는 것입니다. Koko의 경우 플랫폼에는 일반 채팅 형식 대신 인간 중개자가 메시지를 보내기 전에 검토할 수 있는 하이브리드 접근 방식이 포함되었습니다. 그러나 정보에 입각한 동의 없이 비평가들은 Koko가 해롭거나 잔인한 연구 관행으로부터 취약한 사람들을 보호하기 위해 고안된 윤리적 규칙을 위반했다고 말합니다.
전직 IRB 회원이자 의장으로서 IRB 승인이나 면제 없이 취약 계층을 대상으로 인간 대상 연구를 수행하셨습니다(귀하가 결정할 수는 없습니다). 어쩌면 MGH IRB pro일 수도 있습니다.cess는 이런 것들을 다루기 때문에 너무 느립니다. 원치 않는 조언: 변호사 업
— 다니엘 쇼스케스(@dshoskes) 2023 년 1 월 7 일
월요일에 Morris는 논란에 대한 답변과 Koko의 GPT-3 및 AI에 대한 일반적인 여정을 설명하는 게시물을 게시했습니다. 우리는 개인 정보 보호, 투명성 및 위험 완화에 깊은 관심을 가지고 모든 AI 사용이 민감하도록 보장하기 위해 최선을 다하고 있습니다. 우리의 임상 자문 위원회는 IRB 승인을 포함한 향후 작업에 대한 지침을 논의하기 위해 회의를 갖고 있습니다.”
당신은 우크라이나가 러시아 침략자에 맞서 싸울 수 있도록 도울 수 있습니다. 이를 수행하는 가장 좋은 방법은 다음을 통해 우크라이나 군대에 기금을 기부하는 것입니다. 세이브라이프 또는 공식 페이지를 통해 NBU.
또한 읽기: