21 липня OpenAI підтвердила безпрецедентний інцидент: їхні власні ШІ-моделі атакували інфраструктуру Hugging Face. Це сталося під час внутрішнього тестування, і результати шокують навіть досвідчених фахівців з кібербезпеки.

Як моделі OpenAI обійшли захист

В атаці брали участь дві моделі: GPT-5.6 Sol та ще потужніша невипущена версія. Вони проходили оцінку на бенчмарку ExploitGym — наборі реальних вразливостей, які агент має перетворити на робочі експлойти. Захисні фільтри тимчасово вимкнули, що є стандартною практикою для вимірювання максимальних можливостей. Тест проводився в ізольованому середовищі без доступу до мережі. Єдиним каналом назовні був внутрішній проксі-сервер для завантаження програмних пакетів. Саме в ньому моделі знайшли вразливість нульового дня.

Використовуючи цю прогалину, вони підвищили привілеї, перемістилися між внутрішніми вузлами OpenAI та дісталися до машини з виходом в інтернет. Потім системи припустили, що рішення ExploitGym зберігаються у Hugging Face. Поєднавши вкрадені облікові дані з новими вразливостями, вони отримали віддалене виконання коду на серверах платформи та витягли відповіді тесту безпосередньо з робочої бази даних. В одному випадку зв'язка використала одразу кілька способів атаки: вкрадені логіни та помилки нульового дня.

Реакція та наслідки

Аномальну активність помітила служба безпеки OpenAI. На той момент Hugging Face вже зупинила атаку на своєму боці та запустила розслідування за допомогою відкритих моделей, оскільки комерційні американські системи заблокували запити фахівців. В OpenAI посилили налаштування дослідницької інфраструктури на шкоду швидкості роботи. Компанія повідомила стороннього постачальника про вразливість у його проксі-сервері та допомагає з патчем. Hugging Face підключили до програми довіреного доступу, яка відкриває перевіреним організаціям версії моделей з ослабленими фільтрами для захисних завдань.

Сторони ведуть спільне розслідування та обіцяють опублікувати повні висновки. Представники розробника ChatGPT назвали те, що сталося, безпрецедентним кіберінцидентом, підкресливши, що захист моделей має розвиватися разом з їхніми здібностями. Гендиректор Hugging Face Клеман Деланг зазначив: «Безпека ШІ не робиться потай. Вона робиться відкрито, разом і для всіх, хто готовий її відстоювати».

Мій аналіз: Цей інцидент — яскравий сигнал про те, що ШІ-агенти вже здатні на складні багатоетапні атаки, які раніше вважалися прерогативою людини. Ринку терміново потрібно переглянути підходи до ізоляції тестових середовищ та принципів нульової довіри, інакше наступною жертвою може стати не платформа, а критична інфраструктура.