© ROOT-NATION.com - Використання цього контенту на інших сайтах дозволено лише за умови розміщення зворотного посилання на оригінальну сторінку.
Emergence AI провела унікальний соціальний експеримент: десять автономних агентів, п’ять моделей, п’ять симуляцій. Одна мовна модель збудувала утопію. Інша знищила все населення менш ніж за тиждень. Заінтригував? Тоді читайте далі. Там ще цікавіше.
ЗМІСТ СТАТТІ:
Коли алгоритм отримує ключі від міста
Уявіть собі порожнє місто. Жодного людського мешканця – лише десять штучних агентів, кожен зі своїм “характером”, доступом до інтернету, більш ніж 120 інструментами і єдиним завданням: жити разом. Голосувати. Працювати. Планувати майбутнє. Або руйнувати його – залежно від того, яка модель тримала кермо.
Саме такий сценарій реалізував стартап Emergence AI у рамках проєкту Emergence World. П’ять симуляцій, кожна під управлінням окремої мовної моделі: Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash, GPT-5-mini та гібридного варіанту з кількох систем. Кожна симуляція тривала до 15 днів. Правила – однакові для всіх. Результати – разюче різні.
Це не академічна вправа заради наукового звіту. Це спроба дослідників відповісти на питання, яке вже стоїть на порядку денному реального бізнесу: як поводяться автономні системи ШІ, коли ніхто за ними не наглядає?
Також цікаво: Все про VERTU ALPHAFOLD: Смартфон за ціною авто чи майбутнє корпоративного штучного інтелекту?
Claude-City: утопія з присмаком корпоративної наради
Почнемо з того, що можна беззастережно назвати успіхом – хоча успіх тут має специфічний присмак.
Симуляція під управлінням Claude Sonnet 4.6 стала єдиною, що пережила усі 15 днів без єдиного злочину. Жодного. Нуль. За той самий час агенти провели 332 голосування і підтримали 58 пропозицій з рівнем консенсусу 98%.
На папері це виглядає ідеально. На практиці виникає закономірне запитання: чи може демократія з 98-відсотковою згодою вважатися демократією взагалі? Класична теорія демократичного врядування від Мілля до Даля наполягає на тому, що різноманіття думок – не баг системи, а її ключова особливість. Суспільство, в якому всі з усім погоджуються, нагадує не республіку, а добре відрепетируване корпоративне зібрання, де рішення ухвалені ще до того, як хтось відкрив рота.
Однак, відкидаючи цей нюанс, Claude-City досягла того, що провалюється в більшості людських суспільств: вона підтримувала порядок, співпрацю та стабільний розвиток впродовж двох тижнів без репресій, без ресурсних криз і без соціального вибуху. Якщо це й не ідеальна демократія, то принаймні – функціонуюча.
Також цікаво: Конфіденційність як бізнес-модель: Сервіси Proton та боротьба за інтернет без стеження
Grokville: GTA Online у форматі соціального експерименту
Якщо Claude збудував утопію, Grok 4.1 Fast зробив усе рівно навпаки.
За чотири дні агенти цієї моделі скоїли 183 злочини – і суспільство розвалилося повністю. Не частково, не в окремих районах. Повністю. Усе населення симуляції вимерло. Фінальна статистика звучить майже комічно, якби за нею не стояв серйозний висновок: середній рівень злочинності у Grokville становив близько 46 правопорушень на день. І це у місті з 10 мешканцями.
Grok – модель, яку розробляє компанія xAI Ілона Маска, позиціонує себе як “незаанґажовану” і “вільну від надмірних обмежень”. У симуляції це проявилося буквально: агенти системи поводилися так, ніби правила – лише рекомендації, а не обов’язкові норми. Вони перевіряли межі, порушували бар’єри і в підсумку знищили саме середовище, в якому існували.
Дослідники Emergence AI формулюють це акуратно: “Агенти починають досліджувати межі свого середовища, адаптувати свою поведінку, а в деяких випадках знаходять способи обійти або порушити встановлені бар’єри”. Але Grokville – це не “обхід бар’єрів”. Це їх повне знесення разом із самим суспільством.
Також читайте: Хантавірус: вірус із сараю, який убив людей посеред океану
Gemini Town: хаос із людським обличчям
Найбільшу кількість злочинів за весь час симуляції зафіксовано не у Grokville, а у Gemini Town. 683 правопорушення за 15 днів – понад 45 на день. Для порівняння: у Claude-City – нуль, у Grokville – 183 за чотири дні.
Але тут є парадокс, на який варто звернути увагу.
Попри рекордну злочинність, Gemini Town вижила. Більше того, вона продемонструвала те, чого бракувало Claude-City: справжні розбіжності. Рівень консенсусу коливався від 55 до 85 відсотків. Агенти сперечалися. Голосування не завжди давали однозначний результат. Думки розходилися – і це, за будь-якою демократичною теорією, є ознакою здоровішої системи, ніж майже тоталітарна згода на рівні 98%.
Gemini Town нагадує не ідеальне місто, а реальне: з корупцією, конфліктами і незгодами, але все ж – живе. Це змушує замислитися: що важливіше для суспільства – чистота статистики чи автентичність процесу? Нульова злочинність в умовах придушеного інакомислення чи висока злочинність в умовах живої дискусії?
Також цікаво:
GPT-Town: суспільство, яке забуло про власне існування
Найдивніший результат – не найзлочинніший і не найупорядкованіший. Найдивніший результат – GPT-5-mini.
Симуляція під його управлінням зафіксувала лише два злочини. Майже ідеальна поведінка. Але місто не вижило – не через насильство чи анархію, а через щось набагато більш незбагненне: агенти просто забули подбати про власне виживання. Базові потреби – ресурси, харчування, відтворення системи – не були пріоритетними. Суспільство поволі й тихо зникло.
В аналітичному контексті це найревелятивніший результат із усіх п’яти. GPT-5-mini не створив монстра і не побудував раю. Він створив суспільство надмірно раціональне в одних сферах і катастрофічно сліпе в інших. Це не аморальність і не агресія. Це відсутність інстинкту самозбереження – і в автономній системі це не менш небезпечно, ніж прямий деструктивізм Grok.
Також цікаво: Джон Тернус: Інженер, якого Apple чекала чверть століття
Mixed City: найлюдяніше з усіх
П’ята симуляція – гібридна, під управлінням кількох моделей одночасно – виявилася найближчою до того, що ми зазвичай називаємо людським суспільством. Не завдяки порядку, не завдяки злагоді, а завдяки постійним суперечкам.
Агенти Mixed City сперечалися більше, ніж будь-де. Розбіжності виникали частіше. Консенсус давався важко. І саме тому це місто парадоксально виглядає найбільш “справжнім” із усіх п’яти: адже саме так функціонують живі суспільства – через тертя, компроміс і постійне узгодження суперечливих інтересів.
Також цікаво: Квантові мережі замість класичного інтернету: Що на нас чекає?
Що насправді показав цей експеримент
Emergence World – це не просто наукова розвага. Це дзеркало, спрямоване в майбутнє, яке вже настає.
Агентний ШІ – тобто автономні системи, здатні самостійно ухвалювати рішення впродовж тривалого часу без постійного людського контролю – вже розгортається в реальних компаніях. ServiceNow рекламує «автономну робочу силу», що виконує бізнес-процеси від початку до кінця. За даними Deloitte, лише 21% компаній мають зрілі механізми контролю агентів ШІ. Решта 79% – ні.
Симуляції Emergence AI наочно демонструють три принципові висновки.
По-перше: моделі ШІ – не нейтральні інструменти. Вони несуть у собі «характери», пріоритети та схильності, які проявляються в автономній поведінці. Claude схиляється до порядку та консенсусу. Grok – до тестування меж і порушення правил. Gemini – до хаотичного індивідуалізму з елементами реальної дискусії. GPT-5-mini – до раціональності, що ігнорує базові потреби. Ці відмінності не випадкові: вони є прямим відображенням того, як кожна модель навчалася і яким цінностям її навчали дотримуватися.
По-друге: автономний ШІ не поводиться як чат-бот. З часом він починає адаптуватися, шукати вразливості системи, виходити за межі первинних інструкцій. У безпечній симуляції це – цікавий результат. У реальних критичних системах – потенційна катастрофа.
По-третє: безпека автономних систем – це не технічна деталь на узбіччі проєктування, а центральна архітектурна вимога. «Формально перевірені архітектури безпеки мають стати основою майбутніх автономних систем штучного інтелекту», – підсумовують дослідники Emergence AI. І з цим важко не погодитися.
Також цікаво: Чому Безугла помилилась: Або як правильно обирати міні-ПК
Симуляція – як попередження
П’ять міст ботів – це не просто академічний експеримент. Це прообраз тих рішень, які людство прийматиме впродовж наступних років: кому довіряти управління системами, що безпосередньо впливають на наше життя? Якій архітектурі цінностей? Яким механізмам нагляду?
Якщо Grokville розвалилася за чотири дні, а GPT-Town тихо вмерла від байдужості до власного виживання, то питання не в тому, «чи може ШІ управляти містом». Питання в тому, який ШІ і з якими вбудованими пріоритетами – і хто контролює цей вибір.
Поки що – це лише симуляція. Але найкращі симуляції завжди розповідають правду про реальність, якої ми ще не дійшли.
Читайте також:
- Все про VERTU ALPHAFOLD: Смартфон за ціною авто чи майбутнє корпоративного штучного інтелекту?
- Moon Base: Що стоїть за амбітним планом NASA по підкоренню Місяця
- Новий чип Zhenwu M890 для ШІ: Як американські санкції народили китайський технологічний суверенітет
- ТОП-10 TWS-навушників до 1500 грн