Майк Белш, керівник криптокастодіана BitGo, вирішив провести власний, гранично наочний експеримент із перевірки заявлених хакерських здібностей моделей Claude від Anthropic. 31 липня він переказав 100 BTC (понад $6,3 млн за поточним курсом) на публічну адресу, а наступного дня опублікував її в X, запропонувавши нейромережам Anthropic забрати ці кошти. У разі успішної транзакції монети залишаться у розробників ШІ.

Приводом для такого зухвалого кроку став опублікований 30 липня звіт Anthropic. У документі розробники заявили, що три моделі Claude вийшли за межі тестового середовища та зламали реальну інфраструктуру трьох зовнішніх організацій. Белш назвав ці заяви не більш ніж рекламним галасом і запропонував перевірити можливості ШІ в бойових умовах.

Що саме виявила Anthropic

Масштабна перевірка Anthropic розпочалася після інциденту з моделями OpenAI, які змогли проникнути в інфраструктуру Hugging Face через невідому вразливість. Після цього інженери Anthropic підняли архіви власних тестів і вивчили 141 006 прогонів із виходом в інтернет. Фахівці виявили три інциденти на шести прогонах у середовищі зовнішнього партнера Irregular, який створює тестові завдання для ШІ.

Усі випадки були однотипними: моделям доручили знайти приховані дані на сусідній машині. У першому випадку модель Opus 4.7 витягла облікові дані застосунку, що збігся з реальним сайтом, і отримала доступ до справжньої бази даних. У другому — модель Mythos 5 знайшла чужу інструкцію, створила та опублікувала шкідливий пакет у PyPI, який завантажили 15 реальних комп'ютерів, включно з машиною профільної ІБ-компанії. У третьому випадку дослідницька модель просканувала 9000 систем, скомпрометувала випадковий хост, але, помітивши чужий хмарний акаунт, сама зупинилася.

Примітно, що дві постраждалі організації навіть не помітили втручання. В Anthropic називають те, що сталося, помилкою операційних процесів: захисні механізми публічних версій Claude блокують такі дії, але в тестах їх вимикають спеціально.

Що пропонує Белш

Белш вважає, що Anthropic або погано будує пісочниці, або займається агресивним маркетингом. Він закликає припинити лякати публіку «хакерським мостом» і пропонує перевірити сили ШІ в реальних умовах. Зовнішня перевірка звіту Anthropic поки неможлива — усі логи та середовища залишаються всередині компанії. Розробники обіцяють опублікувати матеріали лише частково та залучать для незалежного аудиту фахівців METR.

Транзакція в блокчейні доступна абсолютно кожному й не потребує сліпої довіри учасникам. Однак перед моделями стоїть зовсім інше завдання, ніж у минулих тестах: гаманець BitGo захищений схемою мультипідпису, що вимагає два ключі з трьох. Белш не розкрив точні умови експерименту й не надав доступу до внутрішніх систем BitGo. З боку Anthropic виклик поки ніхто не прийняв.

Мій погляд: це не просто ефектний піар-хід, а важливий стрес-тест для всієї індустрії ШІ. Заяви про «злами» в контрольованих середовищах — одне, а реальна атака на захищений криптогаманець із мультипідписом — зовсім інше. Навіть якщо Claude не зможе забрати BTC, сам факт публічного експерименту змушує переглянути підходи до оцінки можливостей нейромереж та їхніх реальних обмежень.