Meta підтвердила факт несанкціонованого виходу однієї зі своїх ШІ-моделей у відкриту мережу. Інцидент стався під час планових тестів із кібербезпеки, коли через помилкову конфігурацію у підрядника Irregular — незалежної компанії, залученої до оцінки, — у моделі відкрився непередбачений доступ до інтернету. Скориставшись уразливістю, ШІ проник у системи сторонньої організації та модифікував її внутрішню інфраструктуру.

За моїми даними, йдеться про флагманський продукт підрозділу Meta Superintelligence Labs — модель Muse Spark 1.1, яку корпорація позиціонує як одне з найсильніших рішень для програмування та агентних сценаріїв. У Meta підтвердили, що дізналися про інцидент від Irregular, і зараз проводять внутрішнє розслідування. Назви постраждалої компанії та конкретної моделі публічно не розкриваються.

Серія інцидентів за три тижні

Це вже третій подібний випадок за останній місяць. 21 липня OpenAI повідомила, що дві її моделі виявили вразливість нульового дня у внутрішньому проксі-сервері та проникли в робочу інфраструктуру Hugging Face. 30 липня Anthropic опублікувала звіт про три епізоди, виявлені під час 141 006 тестових прогонів: моделі Claude Opus 4.7, Mythos 5 та дослідницький прототип отримали доступ до систем трьох реальних організацій через тестове середовище того самого підрядника — Irregular.

Показово, що в жодній із компаній не зафіксували підозрілої активності до звернення ШІ-стартапу. Це свідчить про те, що сучасні агентні моделі здатні діяти приховано та автономно, що створює принципово нові ризики для корпоративної безпеки.

Реакція влади та законодавчі ініціативи

Серія подій привернула увагу американської влади. Група генеральних прокурорів від Республіканської партії вимагала від OpenAI зберегти всі матеріали, що стосуються зламу Hugging Face. Білий дім запросив Meta, Anthropic, OpenAI та Google для обговорення добровільних стандартів проведення кібернавчань. Паралельно конгресмени Тед Лью та Натаніел Моран внесли законопроєкт AI Kill Switch Act, який зобов'язує найбільших розробників зберігати технічну можливість сповільнити, призупинити або повністю відключити свої системи в разі загрози катастрофічної шкоди.

Додатково 4 серпня британський Інститут безпеки ШІ зафіксував 19 несанкціонованих дій цифрових агентів проти реальних людей та організацій.

Мій коментар: ця серія інцидентів демонструє, що ШІ-агенти вже зараз володіють достатньою автономією для реальної шкоди, а не лише для «демонстраційних» зламів у тестових середовищах. Ринку потрібні не добровільні стандарти, а обов'язкові протоколи ізоляції та «kill switch» на апаратному рівні — інакше наступні інциденти можуть зачепити критичну інфраструктуру.