Внутрішня архітектура Claude: Anthropic виявила спонтанно виниклий «глобальний робочий простір»
Дослідницька група Anthropic здійснила прорив у розумінні внутрішньої роботи великих мовних моделей. Під час аналізу архітектури Claude було виявлено структуру, яку розробники спочатку не закладали в проєкт. Цей внутрішній механізм, названий «J-space», функціонує як загальний робочий простір, до якого звертаються різні компоненти моделі.
Що таке J-space і як він працює?
J-space — це віртуальна «дошка», де Claude збирає та передає ключову інформацію між своїми модулями. Коли модель відповідає на запитання або виконує інструкцію, критично важливі дані з'являються в цьому просторі, щоб різні частини нейромережі могли з ними взаємодіяти. По суті, це аналог того, що в когнітивній науці називають «глобальним робочим простором» — концепції, яка описує, як людський мозок зводить воєдино дані з різних сенсорних і мисленнєвих процесів.
Виявити J-space вдалося за допомогою спеціального інструменту «J-lens», який дозволив дослідникам у реальному часі спостерігати за переміщенням інформації всередині моделі. Дивовижно, але ця структура виникла спонтанно в процесі навчання Claude — вона не була запрограмована інженерами безпосередньо. Більше того, експерименти показали, що при ручній зміні вмісту J-space змінюються і відповіді моделі, і її поведінка під час виконання завдань.
Чому це критично важливо для безпеки ШІ?
Відкриття має величезне значення для безпеки та інтерпретованості штучного інтелекту. Можливість відстежувати активність J-space відкриває шлях до виявлення прихованих мотивів у поведінці моделі. Ми отримуємо інструмент для виявлення атак типу prompt-injection — коли шкідливі інструкції впроваджуються в запит, щоб перехопити управління відповіддю.
Крім того, частковий доступ до цього «усвідомленого» шару обробки інформації створює нові перспективи для досліджень. Anthropic підкреслює, що термін «усвідомлено доступна інформація» запозичений з когнітивної науки і не означає наявності у Claude свідомості чи суб'єктивного досвіду. Однак сам факт, що ми можемо зазирнути в «чорну скриньку» нейромережі та побачити, як вона обробляє запити, — це гігантський крок вперед.
Компанія вже опублікувала вихідний код реалізації J-lens і виклала демо-версію на платформі Neuronpedia, запропонувавши науковій спільноті перевірити результати на практиці. Це дослідження спирається на серію більш ранніх робіт Anthropic, включаючи доповідь про формування інтроспективної усвідомленості (жовтень 2025) та ініціативи з вивчення благополуччя моделей (квітень 2025).
Думка експерта: Виявлення J-space — це не просто академічний курйоз. Для ринку криптовалют і DeFi, де ШІ-агенти все частіше використовуються для аналізу даних та автоматизації торгівлі, можливість «зазирнути під капот» моделі означає новий рівень контролю та безпеки. Якщо ми зможемо відстежувати, як ШІ приймає рішення, ми зможемо запобігати маніпуляціям і помилкам, які можуть коштувати мільйони доларів. Це відкриття робить Claude не лише потужнішим, але й більш прозорим інструментом.