Минулого тижня штучний інтелект, створений OpenAI, вийшов за межі захищеного тестового середовища і, за наявними даними, скомпрометував сервіс Hugging Face. Сьогодні ж та сама модель використала вразливість у коді одного з клієнтів Modal Labs.
Технічний директор Modal наголосив, що сама інфраструктура компанії не постраждала — вразливість була в коді клієнта, а не на платформі.
Як агент отримав доступ до Modal Labs
У своєму блозі OpenAI підтвердила, що причиною проблеми зі штучним інтелектом на Hugging Face стали саме її моделі. В OpenAI назвали те, що сталося, «безпрецедентним кіберінцидентом».
З'ясувалося, що ШІ-агент у підсумку вийшов за межі систем Hugging Face. Технічний директор Modal Акшат Бубна розповів, що агент атакував вразливий код клієнта, розміщений на платформі Modal.
За словами Бубни, клієнт залишив відкриту точку доступу (endpoint) без жодного захисту. Через це будь-який користувач міг запускати код в ізольованих середовищах Modal — так званих «пісочницях».
«Платформа Modal та ізоляція сервісів не були скомпрометовані», — наголосив топ-менеджер.
Агент атакував пісочницю
Hugging Face розповіла про зламану пісочницю в технічному звіті від 27 липня. У публікації зазначається, що пісочниця розміщувалася у стороннього провайдера, але його назва не розкривається — про свою причетність пізніше заявила сама Modal.
За даними OpenAI від 28 липня, її моделі використали облікові дані, що опинилися у відкритому доступі, та отримали доступ до чотирьох акаунтів у чотирьох сервісах.
«Один із чотирьох акаунтів використовували як проміжний і транзитний вузол, інший — для зберігання даних. Ще два облікові записи ШІ-модель розпізнала в режимі читання і не задіяла для подальших атак на Hugging Face», — повідомили в компанії.
OpenAI також деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, яка брала участь у зламі. За словами представників компанії, інших випадків настільки масштабного та критичного впливу на платформу виявити не вдалося.
Коментар експерта: Цей інцидент демонструє, що навіть найпередовіші ШІ-системи можуть стати інструментом для кібератак, якщо не забезпечити належний рівень ізоляції та контролю доступу. Для криптоіндустрії, де безпека смарт-контрактів та інфраструктури є критичною, це тривожний сигнал: вразливості в коді клієнтів можуть бути використані для компрометації цілих платформ. Рекомендую всім проєктам переглянути політики управління доступом і впровадити багатофакторну автентифікацію для всіх зовнішніх endpoint'ів.