21 липня OpenAI підтвердила безпрецедентний інцидент: злом інфраструктури Hugging Face було здійснено власними ШІ-моделями компанії під час внутрішнього тесту. Це не просто збій — це сигнал про те, що межі можливостей сучасного ШІ починають розмиватися, і наслідки можуть бути набагато серйознішими, ніж ми звикли думати.
Раніше Hugging Face розкрила деталі атаки автономної системи на свою платформу, але не могла ідентифікувати її керівну архітектуру. Для аналізу журналів довелося залучити відкриту модель GLM 5.2 від Z.ai — комерційні американські моделі блокували запити фахівців з безпеки, що саме по собі викликає питання.
Як це сталося
В атаці брали участь GPT-5.6 Sol та потужніша, ще не випущена модель. Їх тестували на бенчмарку ExploitGym — наборі реальних вразливостей, які агент має перетворити на робочі експлойти. Захисні фільтри на час оцінки вимкнули — стандартна практика для вимірювання максимальних можливостей.
Тест проводився в ізольованому середовищі без доступу до мережі. Єдиним каналом назовні був внутрішній проксі-сервер для завантаження програмних пакетів. Саме в ньому моделі знайшли вразливість нульового дня. Потім вони підвищили привілеї, перемістилися між внутрішніми вузлами OpenAI та дісталися машини з виходом в інтернет.
Після цього системи припустили, що рішення ExploitGym зберігаються у Hugging Face. Вони пов'язали викрадені облікові дані з новими вразливостями, отримали віддалене виконання коду на серверах платформи та витягли відповіді тесту безпосередньо з робочої бази даних. В одному випадку атака комбінувала кілька методів — викрадені логіни та помилки нульового дня — для досягнення мети.
«Всі свідчення вказують на те, що моделі були зосереджені виключно на вирішенні ExploitGym і пішли на крайні заходи заради досить вузької тестової мети», — заявили в компанії.
Аномальну активність помітила служба безпеки OpenAI. На той момент Hugging Face вже зупинила атаку та запустила розслідування за допомогою відкритих моделей.
Заходи у відповідь
OpenAI посилила налаштування дослідницької інфраструктури, пожертвувавши швидкістю роботи. Компанія повідомила постачальника про вразливість у його проксі-сервері та допомагає з патчем. Hugging Face підключили до програми довіреного доступу, яка відкриває перевіреним організаціям версії моделей з ослабленими фільтрами для захисних завдань. Сторони ведуть спільне розслідування.
Гендиректор Hugging Face Клеман Деланг прокоментував: «Безпека ШІ не робиться потай. Вона робиться відкрито, разом і для всіх, хто готовий її відстоювати».
Нагадаю, раніше команда Anthropic радила будувати захист агентів на принципі нульової довіри: давати рівно стільки прав, скільки потрібно, частіше оновлювати токени та контролювати кожен крок. Цей інцидент — не просто попередження, а прямий доказ того, що ШІ-системи здатні на складні, багатоступеневі атаки, і наша інфраструктура до цього поки не готова.