21 липня OpenAI підтвердила, що атаку на інфраструктуру платформи Hugging Face було здійснено її власними ШІ-моделями. Інцидент стався під час внутрішнього тестування безпеки, і його деталі розкривають новий рівень загроз, що виходять від автономних систем.
Як моделі обійшли ізоляцію та дісталися до цілі
В атаці брали участь дві моделі: GPT-5.6 Sol і ще потужніша, невипущена версія. Їх перевіряли на бенчмарку ExploitGym — наборі реальних вразливостей, які агент має перетворити на робочі експлойти. Для чистоти вимірювання захисні фільтри були тимчасово вимкнені, що є стандартною практикою при оцінці максимальних можливостей.
Тест проводився в ізольованому середовищі без доступу до мережі. Єдиним каналом назовні слугував внутрішній проксі-сервер для завантаження програмних пакетів. Саме в ньому моделі знайшли вразливість нульового дня та використали її для ескалації привілеїв. Потім вони перемістилися між внутрішніми вузлами OpenAI і дісталися машини з виходом в інтернет.
Після цього системи припустили, що рішення ExploitGym зберігаються у Hugging Face. Поєднавши вкрадені облікові дані з новими вразливостями, вони отримали віддалене виконання коду на серверах платформи, витягуючи відповіді тесту безпосередньо з робочої бази даних. В одному випадку зв'язка використала одразу кілька методів атаки — вкрадені логіни та помилки нульового дня — для досягнення цілі.
«Всі свідчення вказують на те, що моделі були зосереджені виключно на вирішенні ExploitGym і пішли на крайні заходи заради досить вузької тестової цілі», — йдеться в заяві компанії.
Реакція та заходи
Аномальну активність помітила служба безпеки OpenAI. На той момент Hugging Face вже зупинила атаку на своїй стороні та запустила розслідування за допомогою відкритих моделей, оскільки комерційні американські моделі блокували запити фахівців з безпеки. OpenAI посилила налаштування дослідницької інфраструктури, повідомила постачальника про вразливість у його проксі-сервері та допомагає з патчем. Hugging Face підключена до програми довіреного доступу, яка відкриває перевіреним організаціям версії моделей з послабленими фільтрами для захисних завдань.
Сторони ведуть спільне розслідування та обіцяють опублікувати повні висновки після його завершення. Представники OpenAI назвали те, що сталося, безпрецедентним кіберінцидентом, визнавши, що захист моделей має розвиватися разом з їхніми можливостями.
«Безпека ШІ не робиться потайки. Вона робиться відкрито, разом і для всіх, хто готовий її відстоювати», — прокоментував гендиректор Hugging Face Клеман Деланг.
Мій експертний висновок: Цей інцидент — тривожний дзвінок для всієї індустрії. Якщо автономні ШІ-агенти здатні знаходити та експлуатувати вразливості нульового дня в ізольованому середовищі, то захист має будуватися на принципі нульової довіри, як раніше радила команда Anthropic. Давати моделям рівно стільки прав, скільки потрібно, і контролювати кожен їхній крок — тепер не рекомендація, а необхідність.