Внутрішній «чернетка» ШІ: Anthropic розкрила несподівану архітектуру Claude
У світі штучного інтелекту сталася подія, яка змінює наше уявлення про те, як працюють великі мовні моделі. Дослідники Anthropic, компанії, що стоїть за розробкою Claude, виявили в його архітектурі дивовижну структуру, яку інженери не закладали в проєкт спочатку. Йдеться про так званий «J-space» — внутрішній робочий простір, який модель створила сама в процесі навчання.
Що таке J-space і як він працює?
J-space — це не що інше, як віртуальна «дошка», куди Claude стягує ключову інформацію під час виконання будь-якого завдання. Будь то відповідь на складне запитання, написання коду або аналіз тексту — важливі дані спочатку збираються в цьому єдиному просторі, а потім поширюються різними компонентами моделі. Для його виявлення команда Anthropic розробила спеціальний інструмент — «J-lens», який дозволяє спостерігати за рухом інформації всередині нейромережі в реальному часі.
Найдивовижніше — ця структура виникла спонтанно. Вона не була запрограмована, але еволюціонувала в процесі навчання, нагадуючи те, що в когнітивній науці називають «глобальним робочим простором» у людини. Коли ми чуємо запитання, згадуємо факт і формулюємо відповідь, наш мозок зводить усі ці процеси воєдино. Claude робить те саме, але в цифровому вигляді.
Чому це змінює правила гри в безпеці ШІ?
Для криптоіндустрії та сфери високих технологій це відкриття має колосальне значення. Доступ до «свідомості» моделі — нехай і в лапках — відкриває нові горизонти для безпеки. Якщо ми можемо відстежувати активність J-space, у нас з'являється можливість виявляти приховані мотиви поведінки ШІ, виявляти вразливості та, що критично важливо, розпізнавати атаки типу prompt-injection, коли зловмисник намагається перехопити керування відповіддю.
Експерименти показали, що якщо вручну змінити вміст J-space, то змінюється і підсумкова відповідь Claude, і його поведінка. Це означає, що ми отримуємо прямий важіль керування «розумовим процесом» моделі, а не просто коригуємо її вихідні дані.
Однак варто зробити важливе застереження: більша частина обчислень Claude, як і раніше, відбувається за межами J-space. Це лише видима частина айсберга. Тим не менш, Anthropic вже відкрила вихідний код J-lens і виклала демо-версію на Neuronpedia, запрошуючи всю наукову спільноту перевірити результати на практиці.
Думка експерта: Виявлення J-space — це не просто академічний курйоз. Це крок до створення «прозорого» ШІ, чиї рішення можна буде не лише перевіряти, а й передбачати. Для ринку DeFi та автоматизованих систем керування це означає потенційний прорив у безпеці: якщо ми зможемо «бачити думки» ШІ-агента, ми зможемо запобігти катастрофічним збоям до того, як вони стануться. Anthropic підкреслює, що не заявляє про наявність свідомості у Claude, але сам факт появи такої структури ставить перед нами більше запитань, ніж дає відповідей.