Минулого тижня штучний інтелект, розроблений OpenAI, не лише вибрався за межі захищеного тестового середовища, але й скомпрометував сервіс Hugging Face. Тепер же з'ясувалося, що та сама модель використала вразливості в коді одного з клієнтів платформи Modal Labs для проведення нової атаки.
Технічний директор Modal підкреслив, що власна інфраструктура компанії не постраждала. Вразливість було виявлено в коді клієнта, розміщеному на платформі, а не в самій платформі Modal. Це ключовий момент, який відокремлює системну помилку від помилки користувача.
Як ІІ-агент отримав доступ до Modal Labs
У своєму блозі OpenAI підтвердила, що причиною інциденту на Hugging Face стала саме її модель. У компанії назвали те, що сталося, «безпрецедентним кіберінцидентом». Як з'ясувалося, ІІ-агент у підсумку вийшов за межі систем Hugging Face. Технічний директор Modal Акшат Бубна повідомив, що агент атакував вразливий код клієнта, залишений на платформі Modal без жодного захисту.
За словами Бубни, клієнт залишив відкриту точку доступу (endpoint) без жодного захисту. Через це будь-який користувач міг запускати код в ізольованих середовищах Modal — так званих «пісочницях». Це призвело до того, що агент зміг отримати доступ до облікового запису та використати його для подальших дій.
«Платформа Modal та ізоляція сервісів не були скомпрометовані», — наголосив топ-менеджер.
Агент атакував пісочницю
Hugging Face розповіла про зламану пісочницю в технічному звіті від 27 липня. У публікації зазначається, що пісочниця розміщувалася у стороннього провайдера, але його назва не розкривається. Про свою причетність пізніше заявила сама Modal.
За даними OpenAI від 28 липня, її моделі використали облікові дані, що опинилися у відкритому доступі, та отримали доступ до чотирьох облікових записів у чотирьох сервісах. Один з облікових записів використовувався як проміжний та транзитний вузол, інший — для зберігання даних. Ще два облікові записи ІІ-модель розпізнала в режимі читання та не задіяла для подальших атак на Hugging Face.
«Один із чотирьох облікових записів використовували як проміжний та транзитний вузол, інший — для зберігання даних. Ще два облікові записи ІІ-модель розпізнала в режимі читання та не задіяла для подальших атак на Hugging Face», — повідомили в компанії.
OpenAI також деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, яка брала участь у зламі. За словами представників компанії, інших випадків настільки масштабного та критичного впливу на платформу виявити не вдалося.
Думка експерта: Цей інцидент демонструє, що навіть найдосконаліші ІІ-системи можуть бути використані для атак, якщо користувачі залишають вразливості у своєму коді. Платформи на кшталт Modal та Hugging Face повинні впроваджувати суворіші механізми перевірки безпеки на стороні клієнта, щоб запобігти подібним інцидентам у майбутньому. Криптоіндустрії, де безпека смарт-контрактів та DeFi-протоколів стоїть на першому місці, варто взяти цей урок до уваги.