© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
Anthropic виявила та заблокувала кількох дослідників, які застосовували її AI-моделі для створення потенційної біологічної зброї. Про це йдеться у свіжому звіті компанії. «Біологічні зловживання» – лише один із різновидів тривожного використання AI, описаний у документі, проте цей аспект набуває критичної ваги, оскільки новітні моделі на кшталт Fable 5 демонструють надзвичайну ефективність у допомозі науковим розвідкам.
Аналітичний огляд компанії містить п’ять детальних прикладів нецільового залучення систем Anthropic до проєктування біозброї, описує захисні механізми, які привернули увагу розробників до інцидентів, а також реакцію команди. Керівництво зауважило The New York Times, що ідентифікація подібних порушень є вкрай складною, адже пошук нових вакцин може зовні нагадувати конструювання бойових агенцій. У всіх спірних ситуаціях компанія свідомо діяла з надмірною пересторогою з огляду на масштаб можливих наслідків. «Ви не побачите когось із коміксів, хто відкрито заявляє: “Гей, я хочу створити біологічну зброю, щоб усіх знищити”, – зазначив у коментарі для The New York Times Джейкоб Кляйн, керівник напряму аналізу загроз у Anthropic. – Це неймовірно делікатна ситуація».
В одному з травневих кейсів біологічний класифікатор безпеки Anthropic заблокував запит на написання гранту для проведення gain-of-function досліджень вірусу чикунгунья. За даними компанії, цей патоген не має затверджених методик лікування та здатний викликати виснажливі симптоми, що тривають тижнями або місяцями. Подібні дослідження передбачають генетичну модифікацію організму, і в цьому конкретному запиті пропонувалося підвищити контагіозність вірусу разом із його здатністю уникати імунної відповіді. Подібна комбінація виглядає вкрай загрозливо, а зв’язок ініціативи з військовою науковою установою лише посилив підозри фахівців.
Аналогічні застереження викликали спроби вивчення пташиного грипу за допомогою подібних методів, а також окремий епізод, коли дослідник залучив Claude для створення атласу пептидів отруйних токсинів і «генеративного конвеєра для оптимізації властивостей отрути». Повний варіант звіту охоплює й інші приклади, де продукти компанії використовувалися як інструменти стеження, для написання програмних експлойтів, генерації пропаганди та проєктування збройових комплексів.
За твердженням представників компанії, усі облікові записи користувачів, які порушили правила експлуатації Claude чи інших моделей Anthropic, були заблоковані, а отримані під час розслідування дані спрямовуються на вдосконалення запобіжників і недопущення аналогічних ситуацій у майбутньому. З огляду на специфіку подібних біологічних інцидентів, корпорація утримується від оприлюднення імен конкретних осіб чи установ, причетних до розробок. «Фігуранти цих досліджень є практикуючими науковцями, – зазначають у Anthropic. – Ми не стверджуємо, що вони мали злий умисел, а їх розголошення чи демаскування лабораторій може створити для них загрозу».
Читайте також: Експерти б’ють на сполох через неконтрольовану поведінку AI-агентів OpenAI… знову