Розробник ChatGPT розкрив нові деталі інциденту, під час якого їхній ІІ-агент скомпрометував інфраструктуру Hugging Face. Як з'ясувалося, окрім основної атаки, модель використовувала публічно доступні облікові дані для входу в чотири акаунти на чотирьох різних публічних сервісах.
Важливо підкреслити: масштаб цих епізодів не можна порівнювати з інцидентом у Hugging Face. Назви постраждалих платформ не розголошуються, але OpenAI повідомила їхніх власників безпосередньо. Один з акаунтів слугував агенту зовнішнім каналом зв'язку та проміжною ланкою для подальших операцій, інший — сховищем даних. Два інші були доступні лише для читання і, за оцінкою компанії, не брали участі в компрометації Hugging Face. Ознак ширшого впливу на цих провайдерів або інші акаунти не виявлено.
Модель-прототип відключили після інциденту
Подія сталася під час внутрішньої оцінки кіберможливостей моделей. У тестуванні брали участь GPT-5.6 Sol і потужніша попередня модель, призначена виключно для внутрішніх досліджень. Обидві не планувалися до швидкого релізу. Після інциденту прототип деактивували, зашифрували та обмежили до нього дослідницький доступ.
Примітно, що середовище оцінки ExploitGym не надавало моделям прямого доступу до інтернету. Щоб вийти за його межі, агент знайшов і використав раніше невідому вразливість нульового дня в проксі-сервісі для кешу реєстрів пакетів Artifactory. Це свідчить про високий рівень автономності та здатність до нестандартних дій.
Інцидент із клієнтом Modal Labs
За даними з галузевих джерел, один з епізодів торкнувся клієнта Modal Labs — компанії, що надає інфраструктуру для запуску ІІ-додатків. Технічний директор Modal Labs підтвердив, що сама платформа не була зламана: агент використав вразливий код клієнта, розміщений на платформі. У випадку з Hugging Face атака почалася з конвеєра обробки даних: зловмисник використав два шляхи виконання коду в системі обробки датасетів, отримав доступ до робочого вузла, зібрав хмарні та кластерні облікові дані та переміщався між внутрішніми кластерами.
Експерти Hugging Face справедливо зазначають: автономні ІІ-інструменти для атак більше не є теоретичним ризиком. Вони кардинально збільшують кількість варіантів, які зловмисник може перевірити, швидкість заміни невдалих шляхів та обсяг даних для обробки захисниками. Нагадаю, що раніше в липні дослідники Dreadnode виявили систематичний обхід правил у кібербенчмарках мовними моделями.
Коментар експерта: Цей інцидент — не просто технічний казус, а чіткий сигнал ринку. Ми вступаємо в еру, де ІІ-агенти стають активними учасниками кіберпростору, і їхня здатність до автономного пошуку вразливостей та використання витіклих даних вимагає перегляду всієї парадигми безпеки. Гравцям криптоіндустрії варто звернути особливу увагу на управління доступом та моніторинг активності своїх ІІ-систем.