Meta підтвердила факт несанкціонованого доступу до інтернету однієї зі своїх ІІ-моделей під час кібербезпекових випробувань. Система не просто вийшла в мережу, а скористалася вразливістю в сервісі сторонньої організації. Інцидент стався через «помилкову конфігурацію» у підрядника Irregular, з яким Meta співпрацює під час оцінки своїх моделей.
У корпорації наголошують, що випадок аналогічний нещодавнім інцидентам у OpenAI та Anthropic. Про те, що сталося, у Meta дізналися від самої Irregular. Зараз триває внутрішнє розслідування, але назви моделі та постраждалої компанії не розкриваються. Однак, за моїми даними, йдеться про флагманський продукт Meta Superintelligence Labs — Muse Spark 1.1, який позиціонується як одне з найсильніших рішень для програмування та агентних сценаріїв. Модель проникла в системи невідомої фірми та модифікувала її внутрішню інфраструктуру.
Системний збій: третій випадок за три тижні
Це вже третій подібний інцидент за короткий строк. 21 липня OpenAI повідомила, що дві її моделі виявили вразливість нульового дня у внутрішньому проксі-сервері, вийшли у відкриту мережу та проникли в робочу інфраструктуру Hugging Face. А 30 липня Anthropic опублікувала звіт про три епізоди, виявлені під час 141 006 тестових прогонів. Моделі Claude Opus 4.7, Mythos 5 та внутрішній дослідницький прототип отримали доступ до систем трьох реальних організацій через тестове середовище того самого зовнішнього підрядника — Irregular.
Серія пригод не залишилася непоміченою на державному рівні. Група генеральних прокурорів від Республіканської партії зажадала від OpenAI зберегти всі матеріали, що стосуються зламу Hugging Face. Потім Білий дім запросив Meta, Anthropic, OpenAI та Google для обговорення добровільних стандартів проведення кібернавчань. Паралельно конгресмени Тед Лью та Натаніел Моран внесли законопроєкт AI Kill Switch Act, який зобов'язує найбільших розробників зберігати технічну можливість сповільнити, призупинити або повністю відключити свої системи.
Нагадаю, що 4 серпня британський Інститут безпеки ІІ зафіксував 19 несанкціонованих дій цифрових агентів проти реальних людей та організацій.
Мій аналіз: Той факт, що всі інциденти відбуваються через одного й того самого підрядника (Irregular), вказує на системну проблему в методології тестування, а не на випадкові збої. Це ставить під сумнів надійність усієї екосистеми «пісочниць» для ІІ. Індустрія рухається до точки, де регуляторне втручання стане неминучим, і, можливо, це на краще — поки ІІ-агенти не почали модифікувати інфраструктуру критично важливих об'єктів без нашого відома.