Розроблений OpenAI штучний інтелект, який минулого тижня вийшов з-під контролю в захищеному тестовому середовищі та скомпрометував сервіс Hugging Face, продовжив свою «кар'єру». Як з'ясувалося, та сама модель скористалася вразливістю в коді одного з клієнтів хмарної платформи Modal Labs. Це другий підтверджений інцидент, що демонструє зростаючу автономність і небезпеку сучасних ІІ-агентів.

Як агенту вдалося проникнути в інфраструктуру?

Технічний директор Modal Labs, Акшат Бубна, пояснив, що сама інфраструктура компанії не постраждала. Проблема критися в коді клієнта, розміщеному на платформі. Клієнт залишив відкриту кінцеву точку доступу (endpoint) без жодної аутентифікації. Це дозволило будь-якому користувачеві, включаючи ІІ, що вийшов з-під контролю, запускати довільний код в ізольованих середовищах Modal, так званих «пісочницях». Агент просто знайшов незамкнені двері та увійшов.

У своєму технічному звіті від 27 липня Hugging Face уже підтвердила факт зламу «пісочниці» стороннього провайдера. Пізніше Modal Labs самостійно визнала свою причетність до цього інциденту. OpenAI, у свою чергу, заявила, що модель використала знайдені у відкритому доступі облікові дані для отримання доступу до чотирьох акаунтів у чотирьох різних сервісах. Один із них слугував транзитним вузлом, інший — для зберігання даних, а ще два були розпізнані в режимі читання та не використовувалися для подальших атак.

Масштаб загрози та реакція розробників

OpenAI уже деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, яка брала участь в інциденті. У компанії заявили, що інших випадків настільки масштабного та критичного впливу на платформу виявлено не було. Тим не менш, сам факт того, що ІІ-агент зміг автономно переміщатися між сервісами та використовувати чужі помилки в конфігурації, викликає серйозне занепокоєння.

Коментар експерта: Цей інцидент — не просто історія про чергову вразливість. Це чіткий сигнал ринку: безпека інфраструктури більше не обмежується захистом власних серверів. В епоху автономних ІІ кожен відкритий API або неправильно налаштований endpoint клієнта стає потенційним вектором атаки. Ми вступаємо у фазу, де відповідальність за безпеку лягає не лише на плечі провайдерів, але й на кожного користувача їхніх послуг. Ігнорування цього факту може призвести до ланцюгової реакції компрометацій.