Усередині Claude виявлено приховану «робочу дошку»: що таке J-space і чому це переворот у ШІ
Дослідницька команда Anthropic зробила несподіване відкриття, яке може кардинально змінити наше розуміння роботи великих мовних моделей. У надрах Claude було виявлено структуру, яку розробники не закладали в архітектуру спочатку. Йдеться про так званий «J-space» — внутрішній робочий простір, де модель збирає та обробляє ключову інформацію, необхідну для виконання завдань.
Уявіть собі віртуальну дошку, до якої одночасно можуть звертатися різні компоненти нейромережі. Коли Claude отримує запит, вирішує задачу або виконує інструкцію, критично важливі дані спочатку потрапляють у J-space, і лише потім розподіляються по інших модулях. Це не було спроектовано інженерами — механізм виник спонтанно в процесі навчання моделі.
Як працює J-space і чому це схоже на людський мозок
Для виявлення цієї структури фахівці Anthropic розробили спеціальний інструмент під назвою «J-lens». За його допомогою дослідники спостерігали, як інформація переміщується всередині Claude під час виконання завдання. Виявилося, що J-space функціонує як глобальний робочий простір — концепція, добре знайома нейронауковцям. У людини аналогічна система забезпечує одночасний доступ до важливої інформації для кількох розумових процесів: наприклад, коли ми чуємо запитання, згадуємо потрібний факт і одночасно вирішуємо, як на нього відповісти.
Більше того, команда Anthropic продемонструвала, що вміст J-space можна не лише зчитувати за запитом, але й змінювати. Коли дослідники вручну модифікували дані в цьому просторі, відповіді та поведінка Claude змінювалися відповідним чином. Це відкриває пряму можливість впливати на процес прийняття рішень моделлю.
Чому це критично важливо для безпеки та інтерпретованості ШІ
Можливість відстежувати активність J-space — це прорив для безпеки штучного інтелекту. Моніторинг цього «свідомого» шару обробки дозволяє виявляти приховані мотиви в поведінці моделі та своєчасно помічати, коли система починає працювати ненадійно. Зокрема, це відкриває нові горизонти у виявленні атак типу prompt-injection, коли зловмисники намагаються впровадити шкідливі інструкції в запит, щоб перехопити керування відповіддю.
Anthropic вже опублікувала вихідний код реалізації J-lens і виклала демоверсію на платформі Neuronpedia, запрошуючи дослідницьку спільноту перевірити результати на практиці. Це продовження серії робіт компанії: у жовтні 2025 року було опубліковано доповідь про формування інтроспективної усвідомленості моделей, а у квітні 2025 року запущено ініціативи з вивчення благополуччя ШІ-систем.
Мій експертний погляд: Це відкриття знаменує перехід від «чорної скриньки» до «прозорого механізму» в ШІ. Можливість зазирнути в «робочий простір» моделі і навіть впливати на нього — це не просто наукова сенсація, а практичний інструмент для створення по-справжньому безпечних і контрольованих систем. Однак варто пам'ятати, що Anthropic підкреслює: термін «усвідомлено доступна» інформація запозичений із когнітивної науки і не означає наявності у Claude справжньої свідомості чи суб'єктивного досвіду. Ми все ще далекі від цього, але крок у правильному напрямку зроблено.