Sirli Q loyihasi* OpenAI dan mutaxassislarni xavotirga solmoqda. U haqiqatan ham insoniyat uchun xavfli bo'lishi mumkinmi? U haqida nima ma'lum? O'tgan hafta Sem Altman ishdan bo'shatilganidan keyin u va jamoa deyarli ko'chib o'tishdi Microsoft, keyin u ish joyiga qaytdi (bu haqda bu yerda yozdik), OpenAI yana yangiliklarda. Bu safar ba'zi tadqiqotchilar insoniyat uchun mumkin bo'lgan tahdid deb atashgan. Ha, siz to'g'ri o'qidingiz, bu insoniyatga tahdid.
Texnologiya olamidagi haqiqiy to'ntarishga Project Q* - umumiy sun'iy intellektning (AGI) noma'lum loyihasi - Q-Star deb talaffuz qilinishi sabab bo'ldi. Ushbu loyiha o'zining dastlabki bosqichida bo'lsa-da, u AGI ishlanmalarida chinakam innovatsion hisoblanadi. Biroq, ba'zilar buni insoniyat uchun xavfli deb bilishadi.
Mashhur sun'iy intellekt laboratoriyasi OpenAI tomonidan ishlab chiqilgan maxfiy sun'iy intellekt loyihasi texnologiya va umuman jamiyatni inqilob qilish imkoniyatiga ega. Ammo bu xavflar haqida ba'zi axloqiy savollarni ham tug'diradi. Project Q* ning hayratlanarli qobiliyatlari haqida tafsilotlar paydo bo'lgach, bu insoniyat kelajagi uchun nimani anglatishi mumkinligi haqida ko'proq taxminlar paydo bo'lmoqda.
Shuningdek, qiziqarli: OpenAI tarixi: bu nima edi va kompaniyani nima kutmoqda
Sun'iy umumiy intellekt (AGI) nima?
Project Q* (Q-Star) atrofidagi shov-shuvlarni tushunish uchun, avvalo, sun’iy umumiy intellekt (AGI) tushunchasi nimani anglatishini tushunishga harakat qilaylik. Hozirgi sun'iy intellekt tizimlari shaxmat o'ynash yoki tasvirlarni yaratish kabi tor, o'ziga xos vazifalarda ustunlik qilsa-da, umumiy sun'iy intellekt ko'plab sohalarda inson darajasida o'rganish va fikr yurita oladigan mashinalarni nazarda tutadi. Ya'ni, ular maktabda kichik bolalar kabi o'qishlari mumkin, masalan, matematika, kimyo, biologiya asoslari va hokazo.
Umumiy sun'iy intellekt (AGI) - bu turli xil muammolarni hal qilish uchun ushbu potentsialni o'rganish va qo'llash qobiliyatiga ega bo'lgan gipotetik ravishda inson aqli yoki xatti-harakatlariga taqlid qila oladigan mashina intellektining bir turi. AGI shuningdek, kuchli sun'iy intellekt, to'liq sun'iy intellekt yoki inson darajasidagi sun'iy intellekt deb ataladi. Umumiy AI zaif yoki tor AIdan farq qiladi, u faqat berilgan parametrlar doirasida maxsus yoki maxsus vazifalarni bajarishga qodir. ZHI turli xil bilim sohalaridan turli xil murakkab muammolarni mustaqil ravishda hal qila oladi.
Sun'iy intellektni yaratish DeepMind va Anthropic kabi kompaniyalarning sun'iy intellekt bo'yicha tadqiqotlarining asosiy yo'nalishi hisoblanadi. CSI ilmiy fantastika adabiyotida juda mashhur mavzu bo'lib, kelajakdagi tadqiqotlarni shakllantirishi mumkin. Ba'zilar UCIni yillar yoki o'n yillar ichida yaratish mumkinligini ta'kidlasa, boshqalari esa bir asr yoki undan ko'proq vaqt talab qilishi mumkinligini ta'kidlaydi. Ammo bunga hech qachon erishib bo'lmaydi, deb hisoblaydiganlar ham bor. Ba'zilar GPT-3 da URI ning boshlanishini ko'rdilar, ammo u hali ham asosiy mezonlarga javob berishdan uzoqroq ko'rinadi.
Sun'iy umumiy intellektni (AGI) yaratish tadqiqotchilar tomonidan sun'iy intellektning muqaddas g'ilofi, nazariy imkoniyat sifatida ko'rib chiqiladi, bu uzoq vaqtdan beri ularning tasavvurini o'ziga jalb qilgan. Shu sababli, OpenAI Project Q* kabi loyihaning paydo bo'lishi sun'iy intellekt algoritmlarini tadqiq qilish dunyosida katta rezonansga sabab bo'ldi. Garchi bular sun'iy intellekt odamlar bilan bir xil yoki undan ham yuqoriroq imkoniyatlarga ega bo'ladigan dunyoga deyarli ko'r-ko'rona qo'yilgan dastlabki qadamlar ekanligini hamma tushunsa ham.
Shuningdek, qiziqarli: Hammasi haqida Microsoft Kopilot: kelajakmi yoki noto'g'ri yo'lmi?
Project Q* nima?
Q* loyihasi odatiy algoritm emas, chunki u sun’iy intellekt modeli bo‘lib, sun’iy umumiy intellekt (AGI) modeliga tobora yaqinlashib bormoqda. Bu shuni anglatadiki, ChatGPT dan farqli o'laroq, Project Q* boshqa algoritmlarga qaraganda yaxshiroq fikrlash va kognitiv qobiliyatlarni namoyish etadi. ChatGPT hozirda juda ko'p faktik materiallarga asoslangan so'rovlarga javob beradi, ammo AGI bilan AI modeli mulohaza yuritish va o'zi uchun fikrlash va tushunish qobiliyatini o'rganadi. Ma'lumki, Q* loyihasi o'zining o'quv materialiga kirmagan oddiy matematik muammolarni hal qilishga qodir. Bunda ba'zi tadqiqotchilar umumiy sun'iy intellektni (AGI) yaratish yo'lidagi muhim qadamni ko'rishmoqda. OpenAI AGI ni odamlardan aqlliroq bo'lgan sun'iy intellekt tizimlari sifatida belgilaydi.
Q* loyihasini ishlab chiqish OpenAI bosh olimi Ilya Sutzkever tomonidan boshqariladi va uning asosi tadqiqotchilar Yakub Paxotskiy va Shimon Sidor tomonidan asoslab berilgan.
Algoritmning matematik muammolarni mustaqil hal qilish qobiliyati, garchi bu muammolar o'quv ma'lumotlari to'plamining bir qismi bo'lmasa ham, sun'iy intellekt sohasidagi yutuq deb hisoblanadi. Ushbu loyiha bo'yicha jamoadagi kelishmovchiliklar OpenAI bosh direktori Sem Altmanning vaqtincha chetlatilgani bilan bog'liq. Ma'lumki, Altman ishdan bo'shatilgunga qadar kompaniya tadqiqotchilari guruhi direktorlar kengashiga maktub yo'llab, insoniyat uchun xavf tug'dirishi mumkin bo'lgan sun'iy intellekt kashfiyoti haqida ogohlantirgan. Xabar qilinishicha, Project Q* algoritmi muhokama qilingan o‘sha xat Altmanning ishdan bo‘shatilishiga sabab bo‘lgan omillardan biri sifatida tilga olingan. Biroq, Q* loyihasining imkoniyatlari va u keltirishi mumkin bo'lgan xavflar to'liq tushunilmagan, chunki tafsilotlar noma'lum. Hech narsa keng jamoatchilikka e'lon qilinmadi.
Asosan, Project Q* atrof-muhit haqida oldindan ma'lumot talab qilmasdan an'anaviy modellardan ajralib turadigan, modelsiz mustahkamlovchi o'rganish usulidir. Buning o'rniga, u tajriba orqali o'rganadi, mukofot va jazolarga asoslangan harakatlarni moslashtiradi. Texnik ekspertlarning fikricha, Q* loyihasi insonning kognitiv qobiliyatlariga o'xshash qobiliyatlarni egallash orqali ajoyib imkoniyatlarga ega bo'ladi.
Biroq, aynan shu xususiyat sun'iy intellektning yangi modelida eng ta'sirli bo'lib, tadqiqotchilar va tanqidchilarni xavotirga soladi va ularning texnologiyaning real dunyoda qo'llanilishi va asosiy xavflar haqida qo'rquvini oshiradi. Olimlar va tadqiqotchilar nimadan qo'rqishadi? Keling, buni aniqlaylik.
Shuningdek, qiziqarli: Wi-Fi 6-ni qo'llab-quvvatlash uchun uy qurilmalarini qanday yangilash kerak
Ular noma'lum narsadan qo'rqishadi
Insoniyat har doim noma'lum narsadan qo'rqqan. Bu insoniy mohiyatimiz, fe’l-atvorimiz va turmush tarzimizga xos xususiyatdir.
Texnologiyalar olami Q* loyihasi haqida 2023-yil noyabr oyida Reuters agentligidan keyin bilib oldi xabar berdi manfaatdor OpenAI tadqiqotchilari tomonidan yozilgan ichki xat haqida. Maktubning mazmuni noaniq edi, ammo xabarlarga ko'ra, u Project Q* imkoniyatlarini jiddiy tahlil qilgan. Yuqorida aytib o'tganimdek, hatto Sem Altmanning iste'foga chiqishiga aynan shu maktub sabab bo'lgan degan taxminlar ham bor.
Ushbu portlovchi kashfiyot Q* loyihasining tabiatiga oid turli farazlarni keltirib chiqardi. Olimlar bu AI uchun inqilobiy tabiiy til modeli bo'lishi mumkinligini taxmin qilishdi. AIning boshqa shakllari uchun ularni yaratadigan yangi algoritmlarning o'ziga xos ixtirochisi yoki bu sohada mutlaqo boshqacha narsa.
Altmanning "o'rtacha xodim" sifatidagi umumiy sun'iy intellekt haqidagi provokatsion mulohazalari allaqachon ish xavfsizligi va sun'iy intellekt ta'sirining to'xtatib bo'lmaydigan kengayishi bilan bog'liq xavotirlarni keltirib chiqardi. Ushbu sirli algoritm sun'iy umumiy intellekt (AGI) rivojlanishidagi muhim bosqich sifatida belgilangan. Biroq, bu muhim bosqich qimmat ekanligini hamma tushunadi. Va endi bu pul haqida emas. Yangi AI modeli va'da qilgan kognitiv ko'nikmalar darajasi noaniqlikni keltirib chiqaradi. OpenAI olimlari AI inson darajasida fikrlashga ega bo'lishini va'da qilmoqda. Va bu shuni anglatadiki, biz ko'p narsalarni bila olmaymiz va oqibatlarini bashorat qila olmaymiz. Va qanchalik noma'lum bo'lsa, uni nazorat qilish yoki tuzatishga tayyorgarlik ko'rish shunchalik qiyin bo'ladi. Ya'ni, yangi algoritm o'z-o'zini takomillashtirish va rivojlantirishga qodir. Biz buni allaqachon bir joyda ko'rganmiz ...
Shuningdek, qiziqarli: Windows 12: yangi operatsion tizim qanday bo'ladi
Project Q imkoniyatlari haqida ajoyib tafsilotlar*
Ko'proq ma'lumotlar paydo bo'la boshlaganida, bu ko'plab tadqiqotchilarni hayratda qoldirdi. Dastlabki ma'lumotlarga ko'ra, Q* loyihasi matematikaga ajoyib qobiliyatga ega edi. Mexanik hisob-kitoblarni amalga oshiradigan kalkulyatordan farqli o'laroq, Project Q* murakkab matematik muammolarni hal qilish uchun mantiq va fikrlashdan foydalanishi mumkin. Umumlashtirish uchun bu matematik qobiliyat keng aqlning rivojlanishiga ishora qiladi.
Oddiy AIlarni o'qitish uchun ishlatiladigan maxsus ma'lumotlar to'plamisiz Q* loyihasini avtonom o'qitish ham oldinga katta qadam bo'ladi. Project Q* boshqa ko'nikmalarni o'zlashtirgani noma'lumligicha qolmoqda. Ammo uning matematik qobiliyatlari shu qadar hayratlanarliki, ular hatto tajribali tadqiqotchilarni ham chalg'itadi.
Shuningdek o'qing: Inson miyasi loyihasi: inson miyasiga taqlid qilishga urinish
Q* loyihasining hukmronlik yo'li?
Bu masalada ham optimistik, ham pessimistik stsenariylar mavjud. Optimistlarning aytishicha, Q* loyihasi texnologik yutuqga olib keladigan uchqun bo'lishi mumkin. Tizim rekursiv ravishda o'zini-o'zi takomillashtirishi bilan uning g'ayritabiiy intellekti insoniyatning iqlim o'zgarishidan tortib kasalliklarni nazorat qilishgacha bo'lgan eng muhim muammolarini hal qilishga yordam berishi mumkin. Q* loyihasi zerikarli ishlarni avtomatlashtirishi va bo‘sh vaqtimizni boshqa ishlarga bo‘shatishi mumkin.
Garchi ko'proq pessimistik variantlar mavjud. Ba'zan ular juda oqilona va ma'lum bir ma'noga ega.
Ishlarni yo'qotish
Texnologiyaning rivojlanishidagi tez siljishlar odamlarning individual moslashuvidan oshib ketishi mumkin. Bu yangi voqelikka moslashish uchun zarur ko'nikma yoki bilimlarni egallamaydigan bir yoki bir necha avlodning yo'qolishiga olib keladi. Ya'ni, bu, o'z navbatida, kamroq odamlar o'z ish joylarini saqlab qolishlari mumkinligini anglatadi. Buning o'rniga mashinalar, avtomatlashtirilgan tizimlar va robotlar tomonidan amalga oshiriladi. Biroq, malakali mutaxassislar haqida gap ketganda, javob unchalik aniq emas. Bundan tashqari, sun'iy intellekt algoritmlarini ishlab chiqish bilan bog'liq yangi kasblar paydo bo'lishi mumkin. Ammo xatarlar hali ham mavjud va insoniyat ularni e'tiborsiz qoldirishga haqqi yo'q.
Nazoratsiz quvvat xavfi
Agar Project Q* kabi kuchli sun’iy intellekt g‘araz niyatlilar qo‘liga tushib qolsa, bu insoniyat uchun halokatli oqibatlarga olib kelishi mumkin. Hatto potentsial zararli niyat bo'lmasa ham, Q* loyihasining qaror qabul qilish darajasi zararli oqibatlarga olib kelishi mumkin, bu uning qo'llanilishini sinchkovlik bilan baholashning muhim ahamiyatini ta'kidlaydi.
Agar Q* loyihasi inson ehtiyojlari uchun yomon optimallashtirilgan bo'lsa, u ba'zi o'zboshimchalik ko'rsatkichlarini maksimal darajada oshirish qobiliyatiga zarar etkazishi mumkin. Yoki u davlat nazorati yoki repressiya uchun ishlatilishi kabi siyosiy jihatga ega bo'lishi mumkin. Q* loyihasining ta'sir tahlili atrofidagi ochiq munozara ZHI rivojlanishining mumkin bo'lgan stsenariylarini aniqlashga yordam beradi.
Bizni “Odam va mashina” jangi kutmoqdami?
Gollivud allaqachon o'z filmlarida bunday qarama-qarshilikning ko'plab stsenariylarini yaratgan. Biz hammamiz mashhur SkyNet va bunday kashfiyotning oqibatlarini eslaymiz. Ehtimol, OpenAI tadqiqotchilari ushbu filmni yana ko'rishlari kerakmi?
Insoniyat signallar va qiyinchiliklarni qabul qilishi va nima bo'lishi mumkinligiga tayyor bo'lishi kerak. Inson kabi fikrlashga qodir bo'lgan sun'iy intellekt modeli bir kun kelib bizning dushmanimizga aylanishi mumkin. Ko'pchilik kelajakda olimlar vaziyatni qanday nazorat ostida ushlab turishni aniq bilishlarini ta'kidlaydilar. Ammo mashinalar haqida gap ketganda, ular odamlarni egallashga harakat qilishlarini butunlay inkor eta olmaysiz.
Shuningdek, qiziqarli: Biz sun'iy intellekt deb ataydigan hamma narsa ham aslida sun'iy intellekt emas. Bu erda siz bilishingiz kerak bo'lgan narsalar
Nima uchun OpenAI jim?
Project Q* ga jamoatchilik qiziqishining g'azabiga qaramay, OpenAI rahbariyati algoritmning o'ziga xos xususiyatlari haqida sukut saqlamoqda. Ammo ichki qochqin laboratoriyada ustuvorliklar va ishlanmalarning ochiqligi bo'yicha keskinlik kuchayib borayotganini ko'rsatadi. Ko'pgina OpenAI insayderlari Project Q* ning yaratilishini qo'llab-quvvatlasa-da, tanqidchilar shaffoflik har qanday narxda ham ilmiy taraqqiyotni tezlashtirish uchun orqa o'rinni egallaganini ta'kidlaydilar. Va ba'zi tadqiqotchilar maqsadlari insoniy qadriyatlar va axloq qoidalariga mutlaqo to'g'ri kelmaydigan tizimlarga aql bovar qilmaydigan kuch berilishidan xavotirda. Bu tadqiqotchilarning fikricha, nazorat va javobgarlik haqidagi munozaralar xavfli darajada sustlashgan. Ular ko'proq reklama va tafsilotlarni talab qiladi.
Project Q* ijodkorlari sifatida OpenAI jamiyat taraqqiyoti imkoniyatlarini sezilarli darajada kengaytira oladigan yoki uni shafqatsizlarcha yo‘q qiladigan texnologiyaga ega ekanligini tushunishi kerak. Bunday muhim innovatsiyalar jamoatchilik ishonchini mustahkamlash uchun yanada oshkoralikka loyiqdir. Mashina yoshidagi har qanday prognostikachilar xavf-xatarni foyda bilan birga sinchkovlik bilan tortishlari kerak. Q* loyihasini ishlab chiquvchilari jamiyatni biz tasavvur qilganimizdan ham tezroq keladigan umumiy sun’iy intellektning yangi davriga xavfsiz olib kirish uchun yetarlicha donolik va g‘amxo‘rlik ko‘rsatishi kerak.
Umumiy sun'iy intellekt insoniyat uchun foydali va xavfsiz bo'lishi uchun uning xavfsiz, axloqiy va insoniyat qadriyatlari va maqsadlariga muvofiq ishlashini ta'minlash kerak. Buning uchun tegishli me'yoriy-huquqiy hujjatlar, standartlar, qoidalar va protokollarni ishlab chiqish va amalga oshirish kerak bo'lib, ular CSIning harakatlari va xatti-harakatlarini nazorat qiladi va cheklaydi. Bundan tashqari, insoniyatni yo'q qilishga olib kelishi mumkin bo'lgan suiiste'molliklar, baxtsiz hodisalar, nomuvofiqliklar, manipulyatsiyalar va mojarolar bilan bog'liq bo'lishi mumkin bo'lgan tahdid va xavflarni bartaraf etish kerak. Ayni paytda investorlar va Microsoft foyda keltirishi mumkin bo'lgan sotiladigan mahsulotni intiqlik bilan kutish, bu shubhasiz mas'uliyat bilan harakat qilish zarurligiga zid keladi. Keling, sog'lom fikr ustun bo'lishiga umid qilaylik.
Shuningdek o'qing: