© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
OpenAI заявила, що вже кілька тижнів працює зі своїми конкурентами Anthropic і Google над питаннями управління безпекою та ризиками, пов’язаними з AI. Те, що почалося як публічне попередження дослідника Anthropic, тепер перетворилося, можливо, на найбільшу спільну ініціативу між трьома провідними лабораторіями AI.
Як повідомило Bloomberg, керівник глобальної політики OpenAI Кріс Легейн заявив, що компанії працюють над різними способами спільної роботи та співпраці у сфері безпеки AI. Водночас він додав, що OpenAI не вважає, що така робота потребує винятку з антимонопольного законодавства США.
Усе почалося після того, як колишній співробітник OpenAI та дослідник Anthropic Джейкоб Коксон звільнився з компанії та звинуватив обидві компанії в тому, що вони змагаються у створенні самовдосконалюваного надінтелекту, не діючи відповідально. Він заявив, що люди, які працюють у цих компаніях, також щиро вважають, що AI “може вбити нас усіх до кінця десятиліття”, а також додав, що лабораторії “грають в азартну гру з нашими життями”.
Теж цікаво: Коли гонку зупиняють ті, хто її очолює: Чому керівники найбільших AI-компаній раптом згадали про гальма
Ще гірше те, що це попередження не було відкинуте навіть його колишніми колегами. Керівник напряму Alignment Science в Anthropic Еван Хубінгер публічно підтримав Коксона, заявивши, що особисто оцінює ймовірність того, що AI вб’є всіх людей протягом наступного десятиліття, більш ніж у 10%.
Ця подія переросла у значно ширшу дискусію про те, чи справді потрібно сповільнити розробку передових систем AI. Через кілька днів генеральний директор Anthropic Даріо Амодей опублікував есе під назвою We Must Pace the Frontier та закликав компанії знизити темпи вдосконалення їхніх найпотужніших систем.
Пропозиція Амодея передбачає надання незалежним стороннім оцінювачам безпеки постійного доступу до передових AI-компаній, а також узгодження спільних стандартів безпеки між лабораторіями та подальшу роботу над міжнародною координацією. Anthropic також заявила, що сама почне реалізовувати пропозицію щодо незалежних оцінювачів.
Сем Альтман також висловився на підтримку цієї ідеї на своїй сторінці у Twitter, як і Ілон Маск.
Жодна з цих компаній поки офіційно не оголосила, чи справді вони зупинять або обмежать розробку передових AI-моделей, тож залишається побачити, до яких саме результатів призведуть перемовини провідних лабораторій.
Читайте також: AI-агент без хмари: Perplexity Portable Computer тепер доступний на Windows