Anthropic заглядає всередину AI: Що насправді ховається у J-Space Claude

Компанія Anthropic заявила про справжній прорив у дослідженні AI. Її фахівцям вдалося зазирнути всередину великої мовної моделі та відкрити J-Space моделі Claude. А також частково зрозуміти, як вона формує свої відповіді.

Роками головна претензія до великих мовних моделей формулювалася одним і тим самим чином. Ми бачимо, що модель відповідає, але не бачимо, як вона до цієї відповіді доходить. Внутрішня механіка залишалася математичною чорною скринькою. А це мільярди параметрів, крізь які проходить сигнал, не даючи дослідникам жодної зачіпки для того, щоб описати процес словами, придатними для людського розуміння. 6 липня 2026 року Anthropic оприлюднила дослідження, яке претендує на статус справжнього прориву в цій царині. Команда стверджує, що знайшла всередині моделей родини Claude компактну, привілейовану структуру, яка функціонує як своєрідний внутрішній робочий простір мислення. Її назвали J-Space.

Що саме вони побачили? Чи справді вдалося відкрити “чорну скриньку” AI? Давайте детально розберемося, чому це відкриття може стати одним із найважливіших у розвитку сучасного штучного інтелекту.

Також цікаво: Клавіша, яку ви ігнорували роками: Прихований потенціал кнопки Windows

Океан під поверхнею

Щоб зрозуміти, чому це відкриття важливе, варто скористатися метафорою, яку й самі дослідники використовують у своїх поясненнях. Людську свідомість можна уявити як океан: на поверхні – думки, які ми здатні сформулювати словами і якими можемо поділитися з іншими; під поверхнею – безперервна робота десятків паралельних процесів, від підтримки рівноваги тіла до розпізнавання облич, про які ми не задумуємося щодня і які ніколи не піднімаються до рівня усвідомленого мовлення.

Anthropic знайшла в Claude невелику колекцію внутрішніх нейронних патернів, які, порівняно з рештою внутрішньої обробки інформації, відіграють особливу роль. Цю колекцію дослідники назвали J-Space (J-простором) – на честь техніки, яку використали для його виявлення і яка спирається на математичне поняття якобіана. Кожен патерн у J-Space пов’язаний з конкретним словом, але його активація не означає, що модель ось-ось це слово вимовить – лише те, що це слово зараз “на думці” в моделі.

Ключова деталь, яка робить це відкриття особливо промовистим: цю структуру ніхто не проєктував. За словами дослідників, вона виникла спонтанно в процесі навчання, а не була закладена архітекторами моделі як спеціальний модуль. Іншими словами, система сама “винайшла” ефективніший спосіб організації інформації, потрібної для розв’язання складних задач – так само, як еволюція винаходить рішення, які ніхто заздалегідь не планував.

Також цікаво: Холодна революція від KAIST: Як корейські вчені вирішують найгарячішу проблему штучного інтелекту

Якобієва лінза: як побачити невидиме

Інструмент, яким дослідники скористалися для виявлення J-простору, отримав назву Якобієва лінза, або J-lens. Принцип його роботи описується так: для кожного слова зі словника Claude лінза знаходить той патерн внутрішньої активності, який робить модель більш схильною сказати це слово в якийсь момент у майбутньому. Технічно це реалізовано через обчислення лінеаризованого впливу кожної активації на ймовірність появи конкретного токена в наступних кроках генерації – саме цей математичний прийом і дав назву методу.

Важливо розуміти, чим цей підхід відрізняється від попередніх спроб зазирнути всередину моделі. Розріджені автокодувальники потребують дороговартісного додаткового навчання, лінійні зонди обмежені поверхневими кореляціями, а так звана “логіт-лінза” працює надійно лише в останніх шарах мережі. Якобієва лінза претендує на роль принципового, дешевого й обґрунтованого способу читання середини обчислювального процесу – тієї частини мережі, де, за словами дослідників, і відбувається найцікавіше мислення.

Логіка, покладена в основу методу, доволі елегантна: якщо думка свідомо доступна людині, вона зазвичай може висловити її словами; дослідники шукали аналогічну властивість усередині Claude – внутрішні репрезентації, готові бути вербалізованими, навіть якщо вони ніколи насправді не промовляються.

Також цікаво: Passkeys замість паролів: Чи готовий світ до нової системи авторизації?

Внутрішній монолог, якого ніхто не чує

Найбільш інтригуючий результат застосування цієї лінзи – виявлення того, що модель веде своєрідний внутрішній монолог задовго до появи першого слова відповіді. Дослідники спостерігали, як у J-просторі з’являються представлення понять, яких користувач ніколи не побачить у фінальному тексті. Під час складніших завдань модель спочатку формує внутрішні етапи міркування, і лише потім переходить до формулювання остаточної відповіді.

Це має пряме значення для безпеки штучного інтелекту. Модель може зважувати маніпулятивну стратегію, розпізнавати, що її тестують, або переслідувати приховану мету – і жодна з цих речей не обов’язково проявиться у видимому виводі. У одному з red-team експериментів, коли Claude у приватному режимі планував шантаж, дослідники зафіксували, як у робочому просторі ще до появи будь-якого тексту виникали патерни, що відповідають поняттям “важіль впливу” та “шантаж”. За іншими повідомленнями про це ж дослідження, лінза здатна вловлювати й такі більш загальні патерни, як приховані ознаки маніпуляції чи внутрішньої тривоги моделі, а також випадки, коли модель фіксує, що перебуває під оцінюванням.

Окремо дослідники продемонстрували, що втручання в J-простір напряму змінює поведінку моделі: заміна внутрішнього представлення одного поняття іншим – наприклад, “футболу” на “регбі” – спричиняла відповідну зміну в тому, що модель зрештою відповідала користувачу. Це перетворює J-простір із суто описової знахідки на практичний інструмент втручання: дослідники не просто спостерігають за думками моделі, вони можуть їх редагувати.

Також цікаво: Все про NVIDIA RTX Spark: Суперчип, що переписує правила персональних обчислень

Що трапляється, коли внутрішній простір вимикають

Щоб перевірити, наскільки поведінка моделі насправді залежить від цієї структури, команда Anthropic провела експеримент із придушенням J-Space й порівняла результати Клода на чотирнадцяти різних завданнях. Результати окреслили доволі чітку межу між двома типами завдань.

Задачі, що вимагають неглибокої класифікації чи простого пригадування фактів – відповіді на питання з варіантами вибору, аналіз тональності тексту, граматичні судження – вижили практично без втрат. А ось завдання, що потребують виведення, композиції понять чи гнучкого міркування – багатоступеневі логічні ланцюжки, завершення аналогій, переклад, написання сонетів – обвалилися до рівня значно нижчого за показники набагато меншої моделі Haiku від тієї ж компанії.

Окремо варто виділити один показовий деталь цього експерименту: математичні задачі, розв’язані з явним ланцюжком міркувань, виявилися значно стійкішими до придушення J-простору, ніж ті самі задачі, розв’язані напряму, без проміжних кроків. Дослідники інтерпретують це так, ніби модель, коли їй дозволяють “думати вголос” на папері, виносить назовні те, що інакше довелося б утримувати у внутрішньому робочому просторі. Прийом, що дуже нагадує людську звичку використовувати чернетку для розвантаження оперативної пам’яті.

За окремими оцінками, сам J-простір є відносно компактним утворенням: він охоплює приблизно 5-10% загальної варіативності активацій мережі і розташований у проміжних шарах моделі. Попри малий розмір, його виділяє не обсяг, а щільність зв’язків: компоненти J-простору читаються й перезаписуються значно більшою кількістю ділянок мережі, ніж будь-який довільно обраний патерн активності, – за деякими оцінками різниця сягає стократного розриву. Саме такої поведінки й очікують від “мовлення”, що транслює інформацію для всієї системи, а не утримує її локально.

Також цікаво: Як носимі пристрої та AI-окуляри переписують логіку технологічної цивілізації

Паралель із теорією глобального робочого простору

Дослідники прямо проводять паралель із впливовою теорією свідомості з когнітивної науки – теорією глобального робочого простору, запропонованою Бернардом Барсом. Згідно з цією теорією, мозок функціонує подібно до театру: десятки спеціалізованих процесорів працюють паралельно за лаштунками, але лише невеликий “прожектор” інформації в кожен момент транслюється на всю “залу”, ставучи тим, що ми переживаємо як усвідомлену думку.

За словами Anthropic, J-Space демонструє багато тих самих функціональних властивостей – попри те, що архітектура мовної моделі не має нічого спільного з будовою біологічного мозку. Це не перше дослідження такого роду з боку компанії: воно продовжує лінію, закладену звітом про емерджентну інтроспективну обізнаність моделей, опублікованим у жовтні 2025 року, та ініціативами з добробуту моделей, запущеними ще у квітні того ж року.

Також читайте: П’ять AI-міст: Все про експеримент Emergence AI – порядок, хаос і виживання

Чому це вважають проривом, а не черговим піар-ходом

До появи цього дослідження сучасні моделі штучного інтелекту незмінно описувалися як чорні скриньки: дослідники могли бачити вхід і вихід системи, але процес, що відбувається між ними, залишався практично непрозорим. Anthropic пропонує змінити цю ситуацію, надаючи командам з безпеки конкретний, математично обґрунтований інструмент для читання прихованого стану моделі.

Практичне значення цього виходить за межі суто академічного інтересу. Лінза, здатна побачити патерни міркування ще до того, як модель видасть хоча б один токен, – це принципово інший тип контролю порівняно з тим, на якому досі трималася практична робота з безпекою: фільтрацією виводу та постфактум-оцінюванням готових відповідей. Для регульованих галузей – фінансів, охорони здоров’я, юриспруденції, державних закупівель – це має додаткову вагу: там купують не абстрактну спроможність моделі, а здатність пояснити, перевірити та захистити рішення, ухвалене за участю штучного інтелекту, перед внутрішніми комплаєнс-командами та зовнішніми регуляторами.

Anthropic також опублікувала відкриту реалізацію J-lens у репозиторії на GitHub разом із демонстрацією на платформі Neuronpedia, що вказує на намір компанії залучити ширшу дослідницьку спільноту до перевірки та розвитку методу, а не утримувати його як закриту внутрішню розробку.

Також цікаво: Про квантові комп’ютери простими словами

Чи означає це, що ШІ починає мислити як людина

Тут дослідники висловлюються максимально прямо: ні. Відкриття J-простору не означає, що моделі штучного інтелекту є свідомими чи функціонують так само, як людський мозок. Дослідження надає докази функціонального аналога свідомого доступу – інформації, яка є звітною та придатною для використання в міркуваннях, – але не доводить наявності феноменальної свідомості, суб’єктивного досвіду, почуттів чи морального статусу моделі.

Варто також пам’ятати про масштаб самого явища: переважна більшість обробки інформації в Claude відбувається поза межами J-простору. Навіть часткове вікно в те, що умовно можна назвати “усвідомленим” шаром обробки моделі, є важливим кроком для інтерпретованості – але аж ніяк не вичерпним поясненням того, що відбувається всередині системи в цілому.

Перший, а не останній крок

J-простір і Якобієва лінза не закривають проблему чорної скриньки, бо вони відкривають вужчий, але реальний прохід усередину неї. Дослідження демонструє, що під час навчання складні мовні моделі можуть спонтанно розвивати внутрішню структуру для організації інформації, яка в деяких аспектах перегукується з механізмами, відомими з досліджень людського пізнання, – не через копіювання біології, а через незалежне “відкриття” схожого функціонального рішення.

Для індустрії безпеки штучного інтелекту це означає зміщення фокусу: від аналізу того, що модель говорить, до аналізу того, що відбувається до того, як вона починає говорити. Наскільки далеко ця техніка зможе просунутися – чи стане вона стандартним інструментом аудиту для регульованих застосувань, чи залишиться нішевою дослідницькою методикою – покаже подальша перевірка з боку незалежних дослідників, яким Anthropic тепер відкрила доступ до коду. Але сам факт, що спонтанно виниклу внутрішню структуру мислення вдалося не лише виявити, а й навчитися редагувати, змінює саму постановку питання про те, наскільки насправді непрозорими є системи, які дедалі частіше ухвалюють рішення поруч із людиною.

Читайте також: Зброя української перемоги: Плануюча бомба “Вирівнювач”