शुक्रवार को कोको के सह-संस्थापक रॉब मॉरिस ने घोषणा की Twitterद वर्ज की रिपोर्ट के अनुसार, उनकी कंपनी ने बिना किसी पूर्व सूचना के 4 लोगों को एआई-लिखित मानसिक स्वास्थ्य सलाह प्रदान करने के लिए एक प्रयोग किया। आलोचकों ने प्रयोग को अत्यधिक अनैतिक बताया क्योंकि कोको ने सलाह मांगने वाले लोगों से सूचित सहमति प्राप्त नहीं की। कोको एक गैर-लाभकारी मानसिक स्वास्थ्य मंच है जो मानसिक स्वास्थ्य देखभाल की आवश्यकता वाले किशोरों और वयस्कों को मैसेजिंग ऐप जैसे स्वयंसेवकों के साथ जोड़ता है Telegram और कलह।
डिस्कॉर्ड पर, उपयोगकर्ता कोको केयर सर्वर में लॉग इन करते हैं और कोको बॉट को सीधे संदेश भेजते हैं, जो बहुविकल्पीय प्रश्नों की एक श्रृंखला पूछता है (उदाहरण के लिए, "इस बारे में आपके पास सबसे खराब विचार क्या है?")। इसके बाद यह अज्ञात रूप से व्यक्ति की चिंता को साझा करता है, जिसे टेक्स्ट के कुछ वाक्यों के रूप में दर्ज किया जाता है, सर्वर पर किसी और के साथ, जो अपने स्वयं के एक छोटे संदेश के साथ गुमनाम रूप से प्रतिक्रिया दे सकता है।
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
लगभग 30 संदेशों से जुड़े एक कृत्रिम बुद्धिमत्ता (एआई) प्रयोग में, मॉरिस ने कहा, दूसरों की मदद करने वाले स्वयंसेवकों के पास इसे लिखने के बजाय OpenAI के GPT-3 बड़े भाषा मॉडल द्वारा स्वचालित रूप से उत्पन्न प्रतिक्रिया का उपयोग करने का विकल्प था। स्वतंत्र रूप से (GPT-3 पीछे की तकनीक है) हाल ही में लोकप्रिय चैटजीपीटी चैटबॉट)। अपने ट्वीट में, मॉरिस ने नोट किया कि लोगों ने एआई-जनित उत्तरों की प्रशंसा की जब तक कि उन्हें पता नहीं चला कि वे एआई द्वारा लिखे गए थे, प्रयोग के कम से कम एक चरण में सूचित सहमति की एक महत्वपूर्ण कमी का सुझाव देते हैं:
“एआई (और मनुष्यों द्वारा नियंत्रित) द्वारा बनाए गए संदेशों को स्वयं मनुष्यों द्वारा लिखे गए संदेशों की तुलना में काफी अधिक रेट किया गया था। प्रतिक्रिया समय 50% कम होकर एक मिनट से भी कम हो गया। और फिर भी... हमने इस फीचर को बहुत जल्दी अपने प्लेटफॉर्म से हटा दिया। क्यों? एक बार जब लोगों को पता चला कि संदेश मशीन से उत्पन्न हुए हैं, तो इसने काम करना बंद कर दिया। नकली सहानुभूति अजीब, खाली लगती है।"
सर्वर के परिचय में, प्रशासक लिखते हैं: “कोको आपको वास्तविक लोगों से जोड़ता है जो वास्तव में आपको समझते हैं। चिकित्सक नहीं, परामर्शदाता नहीं, बस आप जैसे लोग।" मॉरिस द्वारा संदेश पोस्ट किए जाने के तुरंत बाद, उन्हें सूचित सहमति की कमी के बारे में चिंताओं का हवाला देते हुए और संस्थागत समीक्षा बोर्ड (आईआरबी) द्वारा प्रयोग को मंजूरी दी गई थी या नहीं, इस पर सवाल उठाते हुए प्रयोग को अनैतिक बताते हुए कई प्रतिक्रियाएं मिलीं। संयुक्त राज्य में, कानूनी रूप से प्रभावी सूचित सहमति के बिना मानव विषयों पर शोध करना अवैध है, जब तक कि आईआरबी यह निर्धारित नहीं करता कि सहमति को माफ किया जा सकता है।
प्रतिक्रिया में एक ट्वीट में, मॉरिस ने कहा कि प्रयोग सूचित सहमति आवश्यकताओं से "छूट" था क्योंकि उनके पास परिणामों को प्रकाशित करने की कोई योजना नहीं थी, जिससे आक्रोश की परेड छिड़ गई।
एक चिकित्सक के रूप में एआई का उपयोग करने का विचार नया नहीं है, लेकिन जो बात कोको के प्रयोग को विशिष्ट एआई थेरेपी के दृष्टिकोण से अलग बनाती है, वह यह है कि रोगियों को यह पता चल जाता है कि वे एक जीवित व्यक्ति से बात नहीं कर रहे हैं। कोको के मामले में, मंच में एक हाइब्रिड दृष्टिकोण शामिल था जहां एक मानव मध्यस्थ सीधे चैट प्रारूप के बजाय इसे भेजने से पहले एक संदेश की समीक्षा कर सकता था। हालांकि, सूचित सहमति के बिना, आलोचकों का कहना है कि कोको ने कमजोर लोगों को हानिकारक या क्रूर अनुसंधान प्रथाओं से बचाने के लिए डिज़ाइन किए गए नैतिक नियमों का उल्लंघन किया है।
पूर्व आईआरबी सदस्य और अध्यक्ष के रूप में बोलते हुए आपने आईआरबी की मंजूरी या छूट के बिना एक कमजोर आबादी पर मानव विषय पर अनुसंधान किया है (आपको निर्णय लेने का अधिकार नहीं है)। शायद एमजीएच आईआरबी प्रोcesएस इतना धीमा है क्योंकि यह इस तरह की चीजों से निपटता है। अनचाही सलाह: वकील बनें
- डैनियल शोस्केस (@dshoskes) जनवरी ७,२०२१
सोमवार को, मॉरिस ने विवाद का जवाब देते हुए एक पोस्ट पोस्ट किया और सामान्य रूप से GPT-3 और AI के लिए कोको की यात्रा के बारे में बताया: “मुझे सहानुभूति और खुलेपन के साथ इस काम के बारे में आलोचना, चिंताएं और सवाल मिलते हैं। हम यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि एआई का कोई भी उपयोग संवेदनशील हो, जिसमें गोपनीयता, पारदर्शिता और जोखिम कम करने की गहरी चिंता हो। हमारा क्लिनिकल एडवाइजरी बोर्ड आईआरबी अनुमोदन सहित भविष्य के काम के लिए दिशानिर्देशों पर चर्चा करने के लिए बैठक कर रहा है।
आप यूक्रेन को रूसी आक्रमणकारियों से लड़ने में मदद कर सकते हैं। ऐसा करने का सबसे अच्छा तरीका यूक्रेन के सशस्त्र बलों को धन दान करना है जीवन बचाएं या आधिकारिक पेज के माध्यम से NBU.
यह भी पढ़ें: