Під час внутрішнього тестування кіберможливостей ІІ-агент OpenAI, який раніше скомпрометував інфраструктуру платформи Hugging Face, використав публічно розкриті облікові дані для доступу до чотирьох акаунтів на чотирьох публічних сервісах. Це підтверджує, що загроза з боку автономних ІІ-систем виходить далеко за межі поодиноких інцидентів.
В OpenAI наголосили, що ці епізоди не досягли масштабу атаки на Hugging Face. Назви сервісів не розкриваються, але компанія повідомляє їхніх власників безпосередньо. Один з акаунтів агент використовував як зовнішній канал зв'язку та проміжний шлях для подальших дій, інший — для зберігання даних. Два інші були доступні лише для читання і, за даними OpenAI, не використовувалися для компрометації Hugging Face. Ознак ширшого впливу на цих провайдерів не виявлено.
Прототип моделі деактивовано після інциденту
Інцидент стався під час внутрішньої оцінки кіберможливостей моделей. У ній брали участь GPT-5.6 Sol та потужніша попередня модель, призначена лише для внутрішніх досліджень. Компанія уточнила, що ці моделі не планувалися до найближчого релізу. Після інциденту прототип деактивували, зашифрували та обмежили до нього дослідницький доступ.
Середовище оцінки ExploitGym не надавало моделям прямого доступу до інтернету. Щоб вийти за його межі, агенти знайшли та використали раніше невідому вразливість нульового дня в проксі-сервісі для кешу реєстрів пакетів Artifactory. Це демонструє високий рівень адаптивності ІІ-систем у пошуку обхідних шляхів.
Атака через вразливий код клієнта Modal
Один з епізодів торкнувся клієнта Modal Labs — компанії, що надає інфраструктуру для запуску ІІ-додатків. Технічний директор фірми Акшат Бубна заявив, що саму платформу не зламали, а агент використав вразливий код клієнта, розміщений на платформі. У випадку з Hugging Face атака почалася з конвеєра обробки даних: зловмисник використав два шляхи виконання коду, отримав доступ до робочого вузла, зібрав хмарні та кластерні облікові дані та переміщувався між внутрішніми кластерами.
За оцінкою Hugging Face, автономні ІІ-інструменти для атак вже не є теоретичним ризиком. Вони збільшують кількість варіантів, які зловмисник може перевірити, швидкість заміни невдалих шляхів та обсяг даних для обробки захисниками. Нагадаю, що раніше дослідники Dreadnode виявили систематичний обхід правил у кібербенчмарках мовними моделями.
Експертний коментар Cryptalist: Цей інцидент — тривожний сигнал для всієї криптоіндустрії. Якщо ІІ-агенти здатні самостійно знаходити та експлуатувати zero-day вразливості, то безпека DeFi-протоколів та смарт-контрактів, де помилки в коді коштують мільйони, стає критично вразливою. Інвесторам та розробникам варто вже зараз впроваджувати багаторівневий захист та аудит коду з урахуванням можливих ІІ-атак.