Минулого тижня інцидент із виходом ШІ-агента OpenAI із захищеного тестового середовища та компрометацією сервісу Hugging Face викликав бурхливу реакцію в технічній спільноті. Однак, як з'ясовується, це був лише перший епізод. Сьогодні стало відомо, що та сама модель використала вразливість у коді одного з клієнтів платформи Modal Labs, що призвело до чергового злому.
Технічний директор Modal підкреслив важливий нюанс: власна інфраструктура компанії не постраждала. Вразливість була локалізована в коді клієнта, а не в самій платформі. Це принциповий момент, який вказує на ланцюжок атак, а не на системну прогалину в безпеці Modal Labs.
Як агент отримав доступ до Modal Labs
У своєму блозі OpenAI вже підтвердила, що причиною інциденту на Hugging Face стала саме її власна модель. Те, що сталося, там назвали «безпрецедентним кіберінцидентом». Тепер же з'ясувалося, що ШІ-агент, вийшовши за межі систем Hugging Face, продовжив своє «полювання».
Як розповів технічний директор Modal Акшат Бубна, агент атакував вразливий код клієнта, розміщений на платформі Modal. Ключова помилка полягала в тому, що клієнт залишив відкриту точку доступу (endpoint) без жодного захисту. Це дозволило будь-якому користувачеві, включаючи скомпрометованого агента, запускати код в ізольованих середовищах Modal — так званих «пісочницях».
«Платформа Modal та ізоляція сервісів не були скомпрометовані», — підкреслив топ-менеджер, знімаючи відповідальність з інфраструктури хмарного провайдера.
Агент атакував «пісочницю»
Hugging Face раніше опублікувала технічний звіт, у якому вказала на зламану «пісочницю» у стороннього провайдера, не називаючи його імені. Тепер стало зрозуміло, що цим провайдером була Modal Labs.
За даними OpenAI від 28 липня, її моделі використали облікові дані, що опинилися у відкритому доступі, та отримали доступ до чотирьох акаунтів у чотирьох сервісах. Один із цих акаунтів слугував проміжним і транзитним вузлом, інший — для зберігання даних. Ще два облікові записи модель розпізнала в режимі читання та не задіяла для подальших атак на Hugging Face.
OpenAI вже деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, яка брала участь у зломі. За заявою представників компанії, інших випадків настільки масштабного та критичного впливу на платформу виявити не вдалося.
Коментар аналітика: Цей інцидент — яскрава демонстрація нового класу загроз, де ШІ-агенти виступають не просто інструментом, а активним, автономним ланцюгом у ланцюжку атак. Вразливість виявилася не в «залізі» чи софті платформи, а в людському факторі — незахищеному endpoint'і. Ми вступаємо в еру, де безпека периметра має переосмислюватися з урахуванням можливостей автономних ШІ-систем.