У Каліфорнії з 5 по 8 січня відбувся з’їзд професорів, розробників та інженерів, що спеціалізуються на створенні та розвитку технологій Штучного Інтелекта (ШІ). В ході чотириденних активних обговорень було складено список принципів ШІ, які використовуються вже зараз і повинні застосовуватися в майбутньому. Фактично був підведений певний підсумок досягнень людства в області машинного навчання за останні десятиліття.

Илон Маск во время одной из дискуссий
Илон Маск во время одной из дискуссий

Взагалі “Штучний Інтелект” не пов’язаний безпосередньо з людським мозком і інтелектом як таким. Ось, як трактує це поняття американський інформатик Джон Маккарті, автор цього терміна: “Проблема полягає в тому, що поки ми не можемо в цілому визначити, які обчислювальні процедури ми хочемо називати інтелектуальними Ми розуміємо лише деякі механізми інтелекту Тому під інтелектом в межах цієї науки розуміється тільки обчислювальна складова здатності досягати цілей в світі “. Це прозвучало в 1956 році на конференції в Дартмутському університеті.

Конференция в Дартмуте 1956
Весь состав участников конференция в Дартмуте 1956 года

Час підтвердив слова Маккарті. Сьогодні для досягнення цілей ми використовуємо інформаційні засоби, а наші ідеї про спрощення світу або думки про майбутнє все тісніше пов’язані з програмним кодом. Так, ми змінили уявлення про тих же роботах, але абсолютно не виключили їх повсюдність.

Отже, всі 23 складених “законів майбутнього” були поділені на три групи: науково-дослідні питання, етика і цінності, перспективи технології.

Искусственный Интеллект, робот

Конституція Штучного Інтелекта

Науково-дослідний сегмент

  1. Мета дослідження Штучного Інтелекта – створення не тільки узконаправленного пристрою, а вигода для всього суспільства.

2. Інвестиції в ШІ повинні надходити в область досліджень щодо забезпечення корисності технології, дозволяючи давати більш точні та узагальнені відповіді на ці запитання інформатики, економіки, права, етики, суспільствознавства:

  • Як забезпечити високу надійність ШІ, успішно протистояли хакерських зломів і легко запобігати виникаючи несправності?
  • Яким чином за допомогою автоматики ми можемо прийти до необхідної мети, витративши найменшу кількість ресурсів?
  • Як грамотно оновити правову систему, забезпечивши справедливість по сучасним каноном врахувуючи появу ШІ?
  • Який правовий і етнічний статус отримає ШІ?

3. Забезпечення конструктивної і рівної взаємодії дослідників і політиків.

4. Повна відкритість і транспарентність досягнень культури для подальшого використання ШІ.

5. Взаємодія і співробітництво між дослідниками ШІ з метою уникнення різкої конкуренції.

Нравственные ценности

Моральні цінності

6. Системи Штучного Інтелекта повинні бути безпечними і надійними протягом усього експлуатаційного терміну.

7. Максимально швидке з’ясування причин неполадок і подальше їх усунення.

8. Будь-яке втручання автономної системи в судові рішення повинно бути санкціонованим і підлягати звітності в разі перевірки компетентним членом комісії (людиною).

9. Відповідальність за заподіяну шкоду, навмисне створення небезпечної ситуації, викликане помилкою конструкції або програмного забезпечення, ляже на плечі розробників та інженерів.

10. Всі автономні системи ШІ повинні прагнути до пізнання загальнолюдських цінностей.

11. ШІ повинен бути спроектований і експлуатуватися так, щоб мати сумісність з ідеалами людської гідності, прав, свобод і культурного розмаїття.

12. Інформація, що виникла в процесі використання ШІ людиною, повинна бути доступна в подальшому для цієї ж людини (можливість розпоряджатися результатами і зібраними даними).

13. ШІ при роботі з персональними даними не повинен необгрунтовано обмежувати реальні чи уявні свободи людей.

14. Технології ШІ повинні приносити користь і бути доступними якомога більшій кількості людей.

15. Економічні та громадські досягнення ШІ є світовими і повинні бути спрямовані на благо людства.

16. Людина завжди має вибір: прийняти рішення самостійно або доручити це ШІ.

17. Мета ШІ – поліпшити і збагатити суспільство, не принісши собою руйнування і катастрофи.

18. Імовірність використання технології ШІ в гонці озброєнь повинна бути зведена до нуля, власне, також має і припинитися збройне суперництво.

Искусственный Интеллект

Довгострокові питання

19. Ми повинні абсолютно тверезо оцінювати межу можливостей ШІ, для уникнення нераціональних витрат ресурсів.

20. Розвиток ШІ буде інтенсивним, тому технологія повинна бути під контролем, щоб не викликати незворотних реакцій.

21. Ризики, особливо великомасштабні, повинні бути сплановані таким чином, щоб забезпечувати мінімізацію можливих збитків.

22. Системи ШІ здатні до саморозвитку і самовідтворення, що може викликати погіршення якості діяльності ШІ, тому повинен проводитися регулярний контроль основних показників.

23. Суперінтелект – технологія, яка служить і служитиме на благо всього людства, не підкоряючись жодної конкретної приватної організації або державі.

Робот и человек

Читати також: Hyperloop: як щодо перегонів вакуумних поїздів?

Давайте стисло нагадаємо основні тези доповіді. Фахівці стурбовані власною відсталістю в момент інтенсивного розвитку ШІ, тому прагнуть забезпечити абсолютний контроль за технологією. Також неодноразово підкреслюється світова громадська цінність ШІ та його прилучення до людської культури. Однак чи вдасться реалізувати цей план, ми дізнаємося досить скоро. Штучний Інтелект, як щеня, зараз він бігає, грається, але яким в підсумку стане пес, в першу чергу залежить від господарів.

На даний момент цей “законопроект” знаходиться на стадії затвердження громадянами Землі, тому, якщо ви хочете безпечне, щасливе і технологічне майбутнє, то сміливо “голосуйте” за прийняття цих абсолютно розумних і необхідних принципів.

Тест Тьюринга та Штучний Інтелект

Тест Тьюринга

Великий математик Алан Тьюринг також був причетний до технології ШІ, тому придумав дуже цікавий тест. Тест Тьюринга вперше був викладений в статті “Обчислювальні машини й розум” в філософському виданні Mind в 1950 році. Ідея тесту – визначення можливостей машинного мислення і взагалі його існування як такого.

Тест Тьюринга

Стандартна інтерпретація звучить наступним чином: “Людина взаємодіє з одним комп’ютером і однією людиною На підставі відповідей на питання він повинен визначити, з ким він розмовляє: .. З людиною або комп’ютерною програмою. Завдання комп’ютерної програми – ввести людину в оману, змусивши зробити невірний вибір”. Всі учасники не бачать один одного, а спілкування відбувається в тестовому форматі, так як мета тесту перевірити не технічні можливості пристрою з розпізнавання мови, а саме здатність імітувати мислення людини.

Листування також проводиться через контрольовані проміжки часу, щоб “суддя” не міг зробити висновок виходячи з швидкості відповідей. Цікаво, що це правило було придумано через те, що за часів створення цього тесту комп’ютери реагували повільніше людини, зараз воно також необхідно, тому що тепер людина відстає.

Тест Тьюринга Тест Тьюринга

Також на основі цього тесту був створений схожий тест з визначення статі співрозмовників. У ролі судді гравець C повинен спілкуватися з гравцями А і B, власне чоловіком і жінкою.

В одній дослідницькій роботі про ШІ був дан наступний коментар: “Тепер ми запитаємо: «Що станеться, якщо машина виступить в якості гравця А в цій грі», буде ведучий приймати неправильні рішення, коли гра ведеться таким чином, якщо б у тесті брали участь чоловік і жінка? Ці питання замінять наш первісний: «чи можуть машини думати»”.

Тобто замість одного абсолютно далекого донині питання, ми будемо відповідати на більш легкі і робити це послідовно, тим самим все ближче й ближче підбираючись до довгоочікуваного відповіді на головне питання про розумові здібності Штучного Інтелекту.

Джерела: Futureoflife, Wikipedia и ще Wikipedia


  • Вот тут люди реально важным делом заняты. Расписывают права и обязанности ИИ. Земля – планета контрастов. С одной стороны мы живем в век невероятных быстроразвивающихся технологий, а с другой – голод, гуманитарные катастрофы и военная агрессия. Что характерно – прогресс почему-то наступает с запада, а мракобесие ползет с востока. Живя в Украине это замечаешь особенно остро… Вместо того, чтобы объединить усилия и приблизить время, где “космические корабли бороздят просторы вселенной”.

    • +1 Очень точно описал