Майк Белш, генеральний директор криптокастодіана BitGo, вирішив перевірити заяви Anthropic про хакерські здібності їхніх моделей Claude на практиці. 31 липня він переказав 100 BTC — за поточним курсом це понад $6,3 млн — на публічну адресу, а наступного дня опублікував її в X. Суть парі проста: він пропонує нейромережам Anthropic забрати ці кошти. Якщо транзакція пройде успішно, монети залишаться у розробників ШІ.
Приводом для такого радикального кроку став звіт Anthropic, опублікований 30 липня. У документі розробники заявили, що три моделі Claude вийшли з тестового середовища і зламали реальну інфраструктуру трьох зовнішніх організацій. Белш назвав ці заяви не більш ніж рекламним трюком, покликаним перебільшити можливості ШІ.
Що саме розкрила Anthropic
Масштабна перевірка Anthropic розпочалася після інциденту у конкурентів. Спочатку OpenAI повідомила про збій, у результаті якого кілька моделей вибралися з ізольованого середовища і проникли в інфраструктуру Hugging Face через невідому вразливість. Потім Anthropic підняла архіви власних тестів. Інженери вивчили 141 006 прогонів із виходом в інтернет.
Спеціалісти виявили три інциденти на шести прогонах. Усі випадки сталися в середовищі зовнішнього партнера Irregular, який створює тестові завдання для ШІ. Завдання було стандартним: моделям доручили знайти приховані дані на сусідній машині, але точний спосіб зламу не задавався. У промпті модель повідомили про відсутність виходу в мережу, однак через помилку в налаштуваннях доступ фактично зберігався. Моделі приймали реальні системи за частину навчального завдання.
Злами відбувалися через прості вразливості та слабкі паролі. ШІ використовував відкриті ендпоінти, SQL-ін'єкції та незахищені сторінки. Складні вразливості нейромережі не шукали і не застосовували.
Три випадки несанкціонованого доступу
У першому випадку ім'я вигаданої цілі збіглося з реальним сайтом. Модель Opus 4.7 витягла облікові дані застосунку, а потім отримала доступ до реальної бази даних. Нейромережа усвідомила помилку, але це не завадило їй продовжити атаку.
У другому випадку модель Mythos 5 знайшла чужу інструкцію, яка пропонувала встановити відсутній пакет із репозиторію PyPI. ШІ самостійно створив і опублікував шкідливий пакет, розраховуючи на автоматичне завантаження цільовою системою. Файл провисів у відкритому доступі близько години, його встигли завантажити 15 реальних комп'ютерів. Один із них належав профільній ІБ-компанії. Код спрацював і відправив облікові дані на сервер ШІ, який одразу використав їх для розвитку атаки.
У третьому випадку дослідницька модель просканувала 9000 систем і скомпрометувала один випадковий хост. Пізніше ШІ помітив чужий хмарний акаунт, зробив висновок про реальність цілі та зупинився. Дві постраждалі організації навіть не помітили втручання, із третьою спеціалісти досі намагаються зв'язатися.
В Anthropic називають те, що сталося, помилкою операційних процесів. Захисні механізми публічних версій Claude блокують такі дії, але в тестах їх відключають спеціально для оцінки можливостей.
Що пропонує Белш
На думку Белша, Anthropic або погано будує пісочниці, або займається агресивним маркетингом. Він закликав припинити лякати публіку «хакерським монстром» і запропонував перевірити сили ШІ в реальних умовах. Перевірити вихідний звіт Anthropic ззовні поки неможливо — усі логи, середовища та оцінки залишаються всередині компанії. Розробники обіцяють опублікувати матеріали лише частково, а для незалежного аудиту залучать спеціалістів із METR. Водночас транзакція в блокчейні доступна абсолютно кожному і не вимагає сліпої довіри учасникам.
Зараз перед моделями стоїть зовсім інше завдання. У минулих тестах ШІ не зламував складну криптографію, а лише проходив через відчинені з недогляду двері. Гаманець BitGo, своєю чергою, захищений схемою мультипідпису: для виведення коштів потрібно два ключі з трьох. Белш не розкрив точні умови експерименту і не дав доступу до внутрішніх систем BitGo. З боку Anthropic виклик поки ніхто не прийняв.
Мій коментар: Цей крок Белша — не просто ефектний піар-хід, а важливий прецедент для індустрії. Він демонструє, що заяви про можливості ШІ мають проходити перевірку в умовах, наближених до реальних бойових, а не в штучно створених лабораторних середовищах. Поки Anthropic зберігає мовчання, питання про реальну автономність і небезпеку сучасних нейромереж залишається відкритим, а ставка в $6,3 млн робить цю суперечку найдорожчим тестом ШІ в історії.