روز جمعه، راب موریس، بنیانگذار کوکو، اعلام کرد که در Twitterبه گزارش The Verge، شرکت او آزمایشی را برای ارائه توصیه‌های بهداشت روانی نوشته شده با هوش مصنوعی به 4 نفر بدون اطلاع قبلی انجام داده است. منتقدان این آزمایش را عمیقاً غیراخلاقی خواندند، زیرا کوکو رضایت آگاهانه را از افرادی که به دنبال مشاوره بودند، نگرفت. کوکو یک پلتفرم غیر انتفاعی سلامت روان است که نوجوانان و بزرگسالان نیازمند به مراقبت از سلامت روان را با داوطلبان از طریق برنامه های پیام رسانی مانند Telegram و اختلاف.
در دیسکورد، کاربران وارد سرور Koko Cares می‌شوند و پیام‌های مستقیمی را به ربات Koko ارسال می‌کنند، که یک سری سؤالات چند گزینه‌ای می‌پرسد (مثلاً "تاریک‌ترین فکری که در مورد این دارید چیست؟"). سپس به طور ناشناس نگرانی فرد را که به صورت چند جمله متن ضبط شده است، با شخص دیگری در سرور در میان می گذارد، که می تواند به صورت ناشناس با یک پیام کوتاه از خودش پاسخ دهد.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
موریس گفت، در یک آزمایش هوش مصنوعی (AI) که شامل حدود 30 پیام بود، داوطلبانی که به دیگران کمک می‌کردند، این گزینه را داشتند که به‌جای نوشتن، از پاسخی که به‌طور خودکار توسط مدل زبان بزرگ GPT-3 OpenAI تولید می‌شود، استفاده کنند. چت ربات اخیراً محبوب ChatGPT). موریس در توئیت خود خاطرنشان می کند که افراد پاسخ های ایجاد شده توسط هوش مصنوعی را تا زمانی که متوجه شدند توسط هوش مصنوعی نوشته شده است را تحسین می کردند، که نشان دهنده عدم رضایت آگاهانه در حداقل یک مرحله از آزمایش است:
پیام‌هایی که توسط هوش مصنوعی (و توسط انسان‌ها کنترل می‌شوند) به طور قابل‌توجهی بالاتر از پیام‌هایی که توسط خود انسان‌ها نوشته شده بودند، رتبه‌بندی شدند. زمان پاسخگویی 50 درصد به کمتر از یک دقیقه کاهش یافت. و با این حال… ما این ویژگی را خیلی سریع از پلتفرم خود حذف کردیم. چرا؟ هنگامی که مردم متوجه شدند که این پیام ها توسط ماشین تولید شده اند، دیگر کار نمی کنند. همدردی شبیه سازی شده عجیب و خالی به نظر می رسد."
در مقدمه سرور، مدیران می نویسند: «کوکو شما را با افراد واقعی که واقعاً شما را درک می کنند مرتبط می کند. نه درمانگر، نه مشاور، فقط افرادی مثل شما." بلافاصله پس از ارسال پیام موریس، او پاسخ‌های زیادی دریافت کرد که از این آزمایش به عنوان غیراخلاقی انتقاد می‌کردند، با اشاره به نگرانی‌ها در مورد عدم رضایت آگاهانه و این سؤال که آیا آزمایش توسط هیئت بازبینی سازمانی (IRB) تأیید شده است یا خیر. در ایالات متحده، انجام تحقیق بر روی افراد انسانی بدون رضایت آگاهانه مؤثر قانونی غیرقانونی است، مگر اینکه IRB تشخیص دهد که می توان از رضایت خود صرف نظر کرد.
موریس در پاسخ به توئیتی گفت که این آزمایش از الزامات رضایت آگاهانه «مستثنی» است، زیرا او هیچ برنامه‌ای برای انتشار نتایج نداشت و باعث خشم مردم شد.
ایده استفاده از هوش مصنوعی به عنوان یک درمانگر بسیار جدید نیست، اما چیزی که آزمایش کوکو را از رویکردهای درمانی معمولی هوش مصنوعی متمایز می کند این است که بیماران تمایل دارند بدانند که با یک فرد زنده صحبت نمی کنند. در مورد Koko، این پلتفرم شامل یک رویکرد ترکیبی بود که در آن یک واسطه انسانی می‌توانست یک پیام را قبل از ارسال آن، به جای قالب چت مستقیم، بررسی کند. با این حال، بدون رضایت آگاهانه، منتقدان می گویند که کوکو قوانین اخلاقی طراحی شده برای محافظت از افراد آسیب پذیر را در برابر اقدامات تحقیقاتی مضر یا بی رحمانه نقض کرده است.
به عنوان یک عضو و رئیس سابق IRB، شما تحقیقاتی را در مورد یک جمعیت آسیب پذیر بدون تأیید یا معافیت IRB انجام داده اید (شما نمی توانید تصمیم بگیرید). شاید MGH IRB process بسیار کند است زیرا با چنین مواردی سروکار دارد. توصیه ناخواسته: وکیل بالا
- دانیل شوسکز (@dshoskes) ژانویه 7، 2023
روز دوشنبه، موریس پستی را منتشر کرد که به این جنجال پاسخ داد و درباره سفر کوکو به GPT-3 و به طور کلی هوش مصنوعی توضیح داد: «من انتقادات، نگرانی‌ها و سؤال‌هایی را درباره این کار با همدلی و صراحت دریافت می‌کنم. ما متعهد هستیم که هر گونه استفاده از هوش مصنوعی حساس باشد، با نگرانی عمیق برای حفظ حریم خصوصی، شفافیت و کاهش خطر. هیئت مشاوره بالینی ما برای بحث در مورد دستورالعمل‌های کار آینده، از جمله تأیید IRB، تشکیل جلسه می‌دهد.
شما می توانید به اوکراین در مبارزه با مهاجمان روسی کمک کنید. بهترین راه برای انجام این کار، کمک مالی به نیروهای مسلح اوکراین است Savelife یا از طریق صفحه رسمی NBU.
همچنین بخوانید: