Машиналардын козголоңунан качууга аракет: Жасалма интеллекттин биринчи Конституциясы

5-8-январь аралыгында Калифорнияда Жасалма интеллект (AI) технологияларын түзүү жана өнүктүрүү боюнча адистешкен профессорлордун, иштеп чыгуучулардын жана инженерлердин конференциясы өттү. Төрт күндүк активдүү талкуулардын жүрүшүндө азыр колдонулуп жаткан жана келечекте колдонулушу керек болгон AI принциптеринин тизмеси түзүлдү. Чындыгында, акыркы ондогон жылдардагы машинаны уйренуу жагынан адамзаттын жетишкендиктеринин белгилуу жы-йынтыктары чыгарылды.

Жалпысынан алганда, "Жасалма интеллект" адамдын мээсине жана интеллектине түздөн-түз байланыштуу эмес. Бул терминдин автору, америкалык компьютер илимпозу Джон МакКарти бул түшүнүктү мындайча чечмелейт: "Маселе мына ушунда, биз жалпысынан кандай эсептөө процедураларын интеллектуалдык деп атагыбыз келерин аныктай албай жатабыз. Биз интеллекттин кээ бир механизмдерин гана түшүнөбүз. Ошондуктан, Бул илимдин чегинде чалгындоо астында дүйнөдө максаттарга жетүү жөндөмдүүлүгүнүн эсептөө компоненти гана түшүнүлөт. Бул тууралуу 1956-жылы Дартмут университетинде өткөн конференцияда айтылган.

Убакыт Маккартинин сөздөрүн тастыктады. Бүгүнкү күндө биз өз максаттарыбызга жетүү үчүн маалыматтык куралдарды колдонобуз жана дүйнөнү жөнөкөйлөтүү же келечек жөнүндө ойлорубуз программалык код менен барган сайын тыгыз байланышта. Ооба, биз ошол эле чыгармалардын идеясын өзгөрттүк, бирок биз алардын бардык жерде болушун жокко чыгарган жокпуз.

Ошентип, бардык 23 түзүлгөн "келечектин мыйзамдары" үч топко бөлүндү: илимий изилдөө маселелери, этика жана баалуулуктар, технологиялык перспективалар.

Жасалма интеллект Конституциясы

Изилдөө сегменти

1. Жасалма интеллект изилдөөлөрүнүн максаты - тар багытталган аппаратты гана эмес, бүткүл коом үчүн пайданы түзүү.

2. Информатика, экономика, укук, этика, социалдык илимдердин бул суроолоруна так жана жалпыланган жооп берүүгө мүмкүндүк берүүчү АИге инвестициялар технологиянын пайдалуулугун камсыздоо боюнча изилдөө чөйрөсүнө жумшалышы керек:

• Кантип AIнын жогорку ишенимдүүлүгүн камсыз кылуу, хакерлердин чабуулдарына ийгиликтүү каршы туруу жана бузулууларды оңой алдын алуу керек?
• Автоматташтыруунун жардамы менен, ресурстарды эң аз сарптоо менен биз каалаган максатка кантип жете алабыз?
• AI пайда болушун эске алуу менен заманбап канонго ылайык сот адилеттигин камсыз кылуучу укуктук системаны кантип сабаттуу жаңыртуу керек?
• AI кандай укуктук жана этникалык статуска ээ болот?

3. Изилдөөчүлөрдүн жана саясатчылардын конструктивдүү жана тең укуктуу өз ара аракеттенүүсүн камсыздоо.

4. АИти андан ары колдонуу үчүн маданияттын жетишкендиктеринин толук ачыктыгы жана айкындыгы.

5. Куралдуу атаандаштыкты болтурбоо үчүн AI изилдөөчүлөрүнүн өз ара аракеттенүүсү жана кызматташуусу.

Моралдык баалуулуктар

6. Жасалма интеллект системалары бүткүл эксплуатациялоо мезгилинде коопсуз жана ишенимдүү болууга тийиш.

7. Мүмкүн болушунча тезирээк көйгөйлөрдүн себептерин аныктоо жана аларды андан ары жоюу.

8. Соттун чечимдерине автономдуу системанын ар кандай кийлигишүүсү ыйгарым укуктуу болууга жана комиссиянын компетенттүү мүчөсү (адам) тарабынан текшерилген учурда отчет берүүгө тийиш.

9. Конструктордук же программалык камсыздоонун катасынан келип чыккан зыян, атайылап кооптуу кырдаалды түзүү үчүн жоопкерчилик иштеп чыгуучулардын жана инженерлердин мойнуна жүктөлөт.

10. Бардык автономдуу AI системалары жалпы адамзаттык баалуулуктарды билүүгө умтулушу керек.

11. Интеллектуалдык интеллект адамдын кадыр-баркынын, укуктарынын, эркиндиктеринин жана маданий көп түрдүүлүктүн идеалдарына шайкеш келүүчү түрдө иштелип чыгышы жана иштетилиши керек.

12. Адамдын AI колдонуу процессинде түзүлгөн маалымат келечекте ошол эле адамга жеткиликтүү болууга тийиш (жыйынтыктарды жана чогултулган маалыматтарды башкаруу мүмкүнчүлүгү).

13. Жеке маалыматтар менен иштөөдө AI адамдардын реалдуу же ойдон чыгарылган эркиндиктерин негизсиз чектебеши керек.

14. AI технологиялары пайда алып, мүмкүн болушунча көп адамдар үчүн жеткиликтүү болушу керек.

15. AIнын экономикалык жана социалдык жетишкендиктери глобалдуу жана адамзаттын жыргалчылыгына багытталышы керек.

16. Адамда ар дайым тандоо бар: өз алдынча чечим кабыл алуу же аны АИге тапшыруу.

17. Интеллектуалдык интеллекттин максаты – кыйроо жана кыйроо алып келбестен коомду жакшыртуу жана байытуу.

18. Жарыша куралданууда AI технологиясын колдонуу ыктымалдыгы нөлгө чейин төмөндөшү керек, чындыгында куралдуу атаандаштык да токтошу керек.

Узак мөөнөттүү маселелер

19. Ресурстарды сарамжалсыз коротпоо үчүн AI мүмкүнчүлүктөрүнүн чегин так баалашыбыз керек.

20. Интенсивдүү интенсивдүү интенсивдүү интенсивдүү интенсивдүү өнүгүү болот, андыктан технология кайтарылгыс реакцияларды жаратпаш үчүн көзөмөлгө алынышы керек.

21. Тобокелдиктер, өзгөчө масштабдуу тобокелдиктер, мүмкүн болуучу жоготууларды минималдаштырууну камсыз кыла тургандай пландаштырылышы керек.

22. АИ системалары өзүн-өзү өнүктүрүүгө жана өзүн-өзү кайра өндүрүүгө жөндөмдүү, бул АИнин ишмердүүлүгүнүн сапатынын начарлашына алып келиши мүмкүн, ошондуктан негизги көрсөткүчтөрдү үзгүлтүксүз контролдоо керек.

23. Суперинтеллект эч кандай конкреттүү жеке уюмга же мамлекетке баш ийбестен, бүт адамзаттын жыргалчылыгы үчүн кызмат кылган жана кызмат кыла турган технология.

Ошондой эле окуңуз: Hyperloop: Вакуумдук поезд жарышы жөнүндө эмне айтууга болот?

Докладдын негизги тезистерин кыскача эске сала кетели. Адистер AI интенсивдүү өнүгүп жаткан учурда өздөрүнүн артта калгандыгына тынчсызданышат, ошондуктан алар технологияны абсолюттук контролдоону камсыз кылууга умтулушат. AIнын глобалдык коомдук баалуулугу жана анын адамзат маданиятына интеграциясы дагы бир нече жолу баса белгиленет. Бирок бул план ишке ашабы же жокпу, жакында билебиз. Жасалма интеллект күчүк сыяктуу, азыр чуркайт, ойнойт, бирок акыры анын кандай ит болору биринчи кезекте ээлеринен көз каранды.

Учурда бул "мыйзам долбоору" жердин жарандары тарабынан жактыруу стадиясында турат, андыктан коопсуз, бактылуу жана технологиялык келечекти кааласаңыз, анда өзүңүздү эркин сезиңиз "добуш берүү” бул таптакыр акылга сыярлык жана зарыл принциптерди кабыл алуу үчүн.

Тьюринг тести жана жасалма интеллект

Улуу математик Алан Тюринг дагы AI технологиясы менен алектенген, ошондуктан ал абдан кызыктуу тестти ойлоп тапкан. Тьюринг тести биринчи жолу 1950-жылы Mind деген философиялык басылмада "Эсептөө машиналары жана акыл" деген макалада берилген. Сынактын идеясы машиналык ой жүгүртүүнүн мүмкүнчүлүктөрүн жана жалпысынан анын бар экендигин аныктоо болуп саналат.

Стандарттык интерпретация төмөнкүчө: "Адам бир компьютер жана бир адам менен өз ара аракеттенет. Суроолорго берилген жооптордун негизинде ал ким менен сүйлөшүп жатканын аныкташы керек: .. Адам же компьютер программасы менен. Компьютердик программанын милдети – адамды туура эмес тандоого мажбурлоо менен адашуу». Бардык катышуучулар бири-бирин көрө алышпайт жана байланыш тест форматында ишке ашат, анткени тесттин максаты кеп таануу түзүлүшүнүн техникалык мүмкүнчүлүктөрүн текшерүү эмес, тескерисинче, адамдын ой жүгүртүүсүн туурай билүү.

Кат жазышуу да көзөмөлдөнгөн интервалдар менен жүргүзүлөт, ошондуктан "сот" жооптордун ылдамдыгына жараша жыйынтык чыгара албайт. Кызыгы, бул эреже бул тестти жаратуу учурунда компьютерлер адамга караганда жайыраак реакция кылгандыктан, азыр да керек, анткени азыр адам артта калып жатат.

Ошондой эле, бул тесттин негизинде маектештердин жынысын аныктоо үчүн ушундай тест түзүлгөн. Калыстын ролунда С оюнчусу А жана В оюнчулары, чынында эркек жана аял менен баарлашуусу керек.

AI боюнча бир илимий эмгекте төмөнкүдөй комментарий берилген: "Эми биз:"Эгерде машина бул оюнда А оюнчусу катары чыкса эмне болот?", деп сурайбыз, оюн мындайча ойнолгондо, эгер тестке адам жана адам катышса, үй ээси туура эмес чечим чыгарабы? аял? Бул суроолор биздин баштапкы сурообузду алмаштырат: "машиналар ойлоно алабы"".

Башкача айтканда, такыр эле алыскы бир суроонун ордуна, биз жөнөкөй суроолорго жооп берип, аны ырааттуу түрдө аткарабыз, ошону менен Жасалма интеллекттин акыл-эс жөндөмү жөнүндөгү негизги суроого көптөн күткөн жоопко жакындайбыз.

Булактары: Futureoflife, Wikipedia жана башкалар Wikipedia