Опит за избягване на машинен бунт: Първата конституция на изкуствения интелект

От 5 до 8 януари в Калифорния се проведе конференция на професори, разработчици и инженери, специализирани в създаването и развитието на технологиите за изкуствен интелект (AI). В хода на четири дни активни дискусии беше съставен списък от принципи на ИИ, които вече се използват и трябва да се прилагат в бъдеще. Всъщност е направено известно обобщение на постиженията на човечеството в областта на машинното обучение през последните десетилетия.

Като цяло „изкуственият интелект“ не е пряко свързан с човешкия мозък и интелекта като такъв. Ето как американският компютърен учен Джон Маккарти, авторът на този термин, тълкува това понятие: „Проблемът е, че все още не можем да дефинираме най-общо какви изчислителни процедури искаме да наречем интелигентни. Ние разбираме само някои механизми на интелигентността. Следователно, под интелигентност в рамките на тази наука се разбира само изчислителният компонент на способността за постигане на цели в света. Това беше обявено през 1956 г. на конференция в Дартмутския университет.

Времето потвърди думите на Маккарти. Днес ние използваме информационни инструменти, за да постигнем целите си, а нашите идеи за опростяване на света или мислене за бъдещето са все по-тясно свързани със софтуерния код. Да, променихме идеята за същите произведения, но абсолютно не изключихме тяхното повсеместно присъствие.

И така, всичките 23 събрани „закона на бъдещето“ бяха разделени на три групи: научни изследвания, етика и ценности, технологични перспективи.

Конституцията на изкуствения интелект

Изследователски сегмент

1. Целта на изследванията в областта на изкуствения интелект е да се създаде не само тясно фокусирано устройство, но и полза за цялото общество.

2. Инвестициите в AI трябва да отидат в областта на изследванията за осигуряване на полезността на технологията, което позволява да се дадат по-точни и обобщени отговори на тези въпроси на информатиката, икономиката, правото, етиката, социалните науки:

• Как да осигурим висока надеждност на AI, да устоим успешно на хакерски атаки и лесно да предотвратим неизправности?
• Как можем да постигнем желаната цел с помощта на автоматизация, изразходвайки най-малко ресурси?
• Как компетентно да актуализираме правната система, осигурявайки справедливост според съвременния канон, като вземем предвид появата на AI?
• Какъв правен и етнически статут ще получи AI?

3. Осигуряване на конструктивно и равнопоставено взаимодействие на изследователи и политици.

4. Пълна откритост и прозрачност на културните постижения за по-нататъшно използване на AI.

5. Взаимодействие и сътрудничество между изследователите на ИИ с цел избягване на остра конкуренция.

Моралните ценности

6. Системите с изкуствен интелект трябва да бъдат безопасни и надеждни през целия период на експлоатация.

7. Възможно най-бързо откриване на причините за проблемите и последващото им отстраняване.

8. Всяка намеса на автономната система в съдебни решения трябва да бъде разрешена и подлежаща на докладване при проверка от компетентен член на комисията (лице).

9. Отговорността за щети, умишлено създаване на опасна ситуация, причинена от грешка в дизайна или софтуера, лежи върху плещите на разработчиците и инженерите.

10. Всички автономни AI системи трябва да се стремят към познаване на универсалните човешки ценности.

11. ИИ трябва да бъде проектиран и управляван по начин, който е съвместим с идеалите за човешко достойнство, права, свободи и културно многообразие.

12. Информацията, генерирана в процеса на използване на AI от дадено лице, трябва да бъде достъпна за същото лице в бъдеще (възможност за управление на резултатите и събраните данни).

13. ИИ при работа с лични данни не трябва неразумно да ограничава реалните или въображаемите свободи на хората.

14. AI технологиите трябва да са от полза и да бъдат достъпни за възможно най-много хора.

15. Икономическите и социалните постижения на ИИ са глобални и трябва да бъдат насочени в полза на човечеството.

16. Човек винаги има избор: да вземе решение самостоятелно или да го повери на AI.

17. Целта на AI е да подобрява и обогатява обществото, без да носи разрушения и катастрофи.

18. Вероятността за използване на AI технология в надпреварата във въоръжаването трябва да бъде намалена до нула, всъщност въоръженото съперничество също трябва да спре.

Дългосрочни проблеми

19. Трябва абсолютно трезво да оценим лимита на възможностите на ИИ, за да избегнем нерационално изразходване на ресурси.

20. Развитието на AI ще бъде интензивно, така че технологията трябва да бъде под контрол, за да не предизвика необратими реакции.

21. Рисковете, особено мащабните, трябва да се планират по такъв начин, че да се осигури минимизиране на възможните загуби.

22. AI системите са способни на саморазвитие и самовъзпроизвеждане, което може да доведе до влошаване на качеството на дейността на AI, така че трябва да се извършва редовен контрол на ключовите показатели.

23. Суперинтелигентността е технология, която служи и ще служи за благото на цялото човечество, без да се подчинява на конкретна частна организация или държава.

Прочетете също: Hyperloop: Какво ще кажете за състезание с вакуумни влакове?

Нека накратко припомним основните тези на доклада. Специалистите се притесняват от собствената си изостаналост в момента на интензивно развитие на AI, затова се стремят да осигурят абсолютен контрол върху технологията. Глобалната обществена стойност на ИИ и интегрирането му в човешката култура също се подчертава многократно. Дали обаче този план ще бъде реализиран, ще разберем съвсем скоро. Изкуственият интелект е като кученце, сега тича, играе, но какво куче ще бъде накрая зависи преди всичко от собствениците.

В момента този "законопроект" е в етап на одобрение от гражданите на Земята, така че ако искате безопасно, щастливо и технологично бъдеще, тогава се чувствайте свободни "гласуване” за възприемането на тези абсолютно разумни и необходими принципи.

Тест на Тюринг и изкуствен интелект

Великият математик Алън Тюринг също се е занимавал с AI технология, така че той излезе с много интересен тест. Тестът на Тюринг е представен за първи път в статията „Изчислителните машини и умът“ във философската публикация Mind през 1950 г. Идеята на теста е да установи възможностите на машинното мислене и като цяло съществуването му като такова.

Стандартното тълкуване е следното: "Човек взаимодейства с един компютър и един човек. Въз основа на отговорите на въпросите той трябва да определи с кого говори: .. С човек или компютърна програма. Задачата на компютърната програма е да заблуди човек, принуждавайки го да направи грешен избор." Всички участници не могат да се виждат, а комуникацията се осъществява в тестов формат, тъй като целта на теста не е да се тестват техническите възможности на устройството за разпознаване на реч, а по-скоро способността да се имитира човешко мислене.

Кореспонденцията също се води на контролирани интервали, така че „съдията“ да не може да направи заключение въз основа на скоростта на отговорите. Интересно е, че това правило е измислено поради факта, че по време на създаването на този тест компютрите реагираха по-бавно от човек, сега също е необходимо, защото сега човек изостава.

Също така въз основа на този тест е създаден подобен тест за определяне на пола на събеседниците. В ролята на съдия, играч C трябва да общува с играчи A и B, всъщност мъж и жена.

Една изследователска статия за AI направи следния коментар: „Сега ние питаме „Какво ще се случи, ако машината действа като играч А в тази игра“, дали домакинът ще вземе грешни решения, когато играта се играе по този начин, ако тестът включва човек и жена? Тези въпроси ще заменят нашия първоначален: "могат ли машините да мислят"".

Тоест, вместо един абсолютно пресилен въпрос, ще отговорим на по-лесни и ще го направим последователно, като по този начин ще се доближим все по-близо до дългоочаквания отговор на основния въпрос за умствените способности на изкуствения интелект.

източници: Бъдещето на живота, Уикипедия и още Уикипедия