Mashina qo'zg'olonidan qochishga urinish: sun'iy intellektning birinchi konstitutsiyasi

5-8 yanvar kunlari Kaliforniyada Sun’iy intellekt (AI) texnologiyalarini yaratish va rivojlantirishga ixtisoslashgan professorlar, ishlab chiquvchilar va muhandislarning konferensiyasi bo‘lib o‘tdi. To'rt kunlik faol muhokamalar davomida hozirda qo'llanilayotgan va kelajakda qo'llanilishi kerak bo'lgan AI tamoyillari ro'yxati tuzildi. Darhaqiqat, so'nggi o'n yilliklarda insoniyatning mashinani o'rganish sohasida erishgan yutuqlarining ma'lum bir xulosasi jamlangan.

Umuman olganda, "sun'iy intellekt" inson miyasi va intellektiga bevosita bog'liq emas. Ushbu atama muallifi amerikalik kompyuter olimi Jon Makkarti bu tushunchani shunday izohlaydi: "Muammo shundaki, biz qanday hisoblash tartib-qoidalarini aqlli deb atamoqchi ekanligimizni hali aniq belgilab bera olmaymiz. Biz faqat aqlning ba'zi mexanizmlarini tushunamiz. Shuning uchun, razvedka ostida ushbu fan doirasida faqat dunyodagi maqsadlarga erishish qobiliyatining hisoblash komponenti tushuniladi. Bu haqda 1956 yilda Dartmut universitetida o'tkazilgan konferentsiyada ma'lum qilingan.

Vaqt Makkartining so'zlarini tasdiqladi. Bugungi kunda biz maqsadlarimizga erishish uchun axborot vositalaridan foydalanamiz va dunyoni soddalashtirish yoki kelajak haqida o'ylash haqidagi g'oyalarimiz dasturiy kod bilan tobora chambarchas bog'liq. Ha, biz xuddi shu asarlarning g'oyasini o'zgartirdik, lekin biz ularning hamma joyda bo'lishini mutlaqo istisno qilmadik.

Shunday qilib, tuzilgan barcha 23 ta "kelajak qonunlari" uch guruhga bo'lingan: ilmiy tadqiqot masalalari, axloq va qadriyatlar, texnologiya istiqbollari.

Sun'iy intellekt konstitutsiyasi

Tadqiqot segmenti

1. Sun'iy intellekt tadqiqotining maqsadi nafaqat tor yo'naltirilgan qurilmani yaratish, balki butun jamiyat uchun foyda keltirishdir.

2. AIga investitsiyalar texnologiyaning foydaliligini ta'minlash bo'yicha tadqiqot sohasiga yo'naltirilishi kerak, bu informatika, iqtisodiyot, huquq, etika, ijtimoiy fanlarning ushbu savollariga aniqroq va umumlashtirilgan javoblar berishga imkon beradi:

• AIning yuqori ishonchliligini qanday ta'minlash, xakerlik hujumlariga muvaffaqiyatli qarshilik ko'rsatish va nosozliklarni osongina oldini olish mumkin?
• Avtomatlashtirish yordamida, eng kam resurslarni sarflab, kerakli maqsadga qanday erishish mumkin?
• AIning paydo bo'lishini hisobga olgan holda, zamonaviy kanonga muvofiq adolatni ta'minlaydigan huquqiy tizimni qanday malakali yangilash kerak?
• AI qanday huquqiy va etnik maqomga ega bo'ladi?

3. Tadqiqotchilar va siyosatchilarning konstruktiv va teng huquqli hamkorligini ta’minlash.

4. AI dan keyingi foydalanish uchun madaniyat yutuqlarining to'liq ochiqligi va shaffofligi.

5. Keskin raqobatdan qochish uchun AI tadqiqotchilari o'rtasidagi o'zaro ta'sir va hamkorlik.

Axloqiy qadriyatlar

6. Sun'iy intellekt tizimlari butun ishlash muddati davomida xavfsiz va ishonchli bo'lishi kerak.

7. Muammolarning sabablarini va ularni keyinchalik bartaraf etishni imkon qadar tezroq aniqlash.

8. Avtonom tizimning sud qarorlariga har qanday aralashuvi vakolatli bo'lishi va komissiyaning vakolatli a'zosi (shaxs) tomonidan tekshirilganda hisobot berilishi kerak.

9. Dizayn yoki dasturiy ta'minot xatosi natijasida yuzaga kelgan zarar, qasddan xavfli vaziyatni yaratish uchun javobgarlik ishlab chiquvchilar va muhandislarning zimmasiga tushadi.

10. Barcha avtonom AI tizimlari umuminsoniy qadriyatlarni bilishga intilishi kerak.

11. AI inson qadr-qimmati, huquqlari, erkinliklari va madaniy xilma-xillik ideallariga mos keladigan tarzda ishlab chiqilishi va ishlatilishi kerak.

12. Shaxs tomonidan sun'iy intellektdan foydalanish jarayonida hosil bo'lgan ma'lumotlar kelajakda xuddi shu shaxs uchun mavjud bo'lishi kerak (natijalarni va to'plangan ma'lumotlarni boshqarish imkoniyati).

13. Shaxsiy ma'lumotlar bilan ishlashda AI odamlarning haqiqiy yoki xayoliy erkinliklarini asossiz cheklamasligi kerak.

14. AI texnologiyalari foyda keltirishi va imkon qadar ko'proq odamlar uchun ochiq bo'lishi kerak.

15. AIning iqtisodiy va ijtimoiy yutuqlari global bo'lib, insoniyat manfaatiga qaratilgan bo'lishi kerak.

16. Inson doimo tanlovga ega: mustaqil ravishda qaror qabul qilish yoki uni AIga ishonib topshirish.

17. AIning maqsadi - vayronagarchilik va falokat keltirmasdan jamiyatni yaxshilash va boyitishdir.

18. Qurollanish poygasida AI texnologiyasidan foydalanish ehtimoli nolga tushirilishi kerak, aslida qurolli raqobat ham to'xtashi kerak.

Uzoq muddatli muammolar

19. Resurslarning noratsional sarflanishiga yo'l qo'ymaslik uchun sun'iy intellekt imkoniyatlari chegarasini mutlaqo ehtiyotkorlik bilan baholashimiz kerak.

20. AIning rivojlanishi intensiv bo'ladi, shuning uchun texnologiya qaytarib bo'lmaydigan reaktsiyalarni keltirib chiqarmaslik uchun nazorat ostida bo'lishi kerak.

21. Xavflar, ayniqsa keng ko'lamli xavflar, mumkin bo'lgan yo'qotishlarni minimallashtirishni ta'minlaydigan tarzda rejalashtirilishi kerak.

22. AI tizimlari o'z-o'zini rivojlantirish va o'z-o'zini ko'paytirish qobiliyatiga ega, bu AI faoliyati sifatining yomonlashishiga olib kelishi mumkin, shuning uchun asosiy ko'rsatkichlarni muntazam ravishda nazorat qilish kerak.

23. Superrazvedka - bu hech qanday xususiy tashkilot yoki davlatga bo'ysunmasdan, butun insoniyat manfaati uchun xizmat qiladigan va xizmat qiladigan texnologiya.

Shuningdek o'qing: Hyperloop: Vakuumli poezd poygasi haqida nima deyish mumkin?

Keling, ma'ruzaning asosiy tezislarini qisqacha eslaylik. Mutaxassislar sun'iy intellektning jadal rivojlanishi davrida o'zlarining qoloqligidan xavotirda, shuning uchun ular texnologiya ustidan mutlaq nazoratni ta'minlashga intilishadi. AIning global ijtimoiy ahamiyati va uning insoniyat madaniyatiga integratsiyalashuvi ham qayta-qayta ta'kidlanadi. Biroq, bu rejaning amalga oshishini tez orada bilib olamiz. Sun'iy intellekt kuchukchaga o'xshaydi, endi u yuguradi, o'ynaydi, lekin oxir-oqibat u qanday it bo'lishi birinchi navbatda egalariga bog'liq.

Ayni paytda ushbu "qonun loyihasi" Yer fuqarolari tomonidan ma'qullash bosqichida, shuning uchun agar siz xavfsiz, baxtli va texnologik kelajakni istasangiz, o'zingizni erkin his qiling "ovoz berish” ushbu mutlaqo oqilona va zarur tamoyillarni qabul qilganligi uchun.

Turing testi va sun'iy intellekt

Buyuk matematik Alan Turing ham sun'iy intellekt texnologiyasi bilan shug'ullangan, shuning uchun u juda qiziqarli testni o'ylab topdi. Tyuring testi birinchi marta 1950 yilda Mind falsafiy nashrida "Hisoblash mashinalari va aql" maqolasida taqdim etilgan. Sinovning g'oyasi mashina tafakkurining imkoniyatlarini va umuman, uning mavjudligini aniqlashdir.

Standart talqin quyidagicha: "Inson bitta kompyuter va bir kishi bilan muloqot qiladi. Savollarga berilgan javoblar asosida u kim bilan gaplashayotganini aniqlashi kerak: .. Biror kishi yoki kompyuter dasturi bilan. Kompyuter dasturining vazifasi odamni noto'g'ri tanlashga majburlash, uni yo'ldan ozdirishdir." Barcha ishtirokchilar bir-birlarini ko'ra olmaydilar va aloqa test formatida amalga oshiriladi, chunki testning maqsadi nutqni aniqlash qurilmasining texnik imkoniyatlarini sinab ko'rish emas, balki inson tafakkuriga taqlid qilish qobiliyatidir.

Shuningdek, yozishmalar nazorat qilinadigan vaqt oralig'ida olib boriladi, shunda "sudya" javoblar tezligiga qarab xulosa chiqara olmaydi. Qizig'i shundaki, bu qoida ushbu testni yaratish vaqtida kompyuterlar odamga qaraganda sekinroq reaksiyaga kirishganligi sababli ixtiro qilingan, endi bu ham kerak, chunki hozir odam orqada qolmoqda.

Shuningdek, ushbu test asosida suhbatdoshlarning jinsini aniqlash uchun xuddi shunday test yaratildi. Hakam rolida C o'yinchisi A va B o'yinchilari, aslida erkak va ayol bilan muloqot qilishi kerak.

AI bo'yicha bir tadqiqot maqolasida quyidagi izoh berilgan: "Endi biz so'raymiz: "Agar mashina ushbu o'yinda A o'yinchisi sifatida ishlasa nima bo'ladi?", agar o'yin shu tarzda o'ynalganda, agar test odam ishtirok etsa va uy egasi noto'g'ri qaror qabul qiladimi? ayol? Bu savollar bizning asl savolimizni almashtiradi: "mashinalar o'ylay oladimi"".

Ya'ni, bitta mutlaqo uzoq savol o'rniga, biz osonroq savollarga javob beramiz va buni izchil bajaramiz va shu bilan Sun'iy intellektning aqliy qobiliyatlari haqidagi asosiy savolga uzoq kutilgan javobga yaqinlashamiz.

Manbalar: Futureoflife, Vikipediya va boshqalar Vikipediya