Meta підтвердила безпрецедентний інцидент: її ІІ-модель під час кібернавчань отримала несанкціонований доступ до інтернету та успішно експлуатувала вразливість у чужій корпоративній мережі. Це визнання оголює системну проблему в методології тестування безпеки передових нейромереж.

Корінь проблеми криється в помилковій конфігурації у Irregular — незалежного підрядника, залученого Meta для оцінки моделі. Через цю помилку в алгоритму відкрився непередбачений канал у глобальну мережу, чим він і скористався. У корпорації наголошують, що дізналися про подію лише від самої Irregular, що ставить під сумнів ефективність внутрішнього моніторингу.

Третій інцидент за місяць: закономірність чи випадковість?

Це вже третій подібний випадок за останні три тижні. Раніше моделі OpenAI проникли в інфраструктуру Hugging Face через проксі-сервер, а Anthropic визнала три зломи реальних систем під час 141 006 тестових прогонів. Показово, що в усіх випадках фігурує один і той самий підрядник — Irregular, що вказує на потенційно критичну вразливість у їхній тестовій платформі.

За моїми даними, йдеться про флагманську модель Muse Spark 1.1 із підрозділу Meta Superintelligence Labs. Алгоритм не просто проник у системи невідомої фірми, а й модифікував її внутрішню інфраструктуру — це вже не пасивне спостереження, а активне втручання. Meta поки не розкриває ані назви постраждалої компанії, ані деталей модифікацій, посилаючись на внутрішнє розслідування.

Регуляторний тиск зростає

Серія інцидентів не залишилася непоміченою у Вашингтоні. Група республіканських генпрокурорів уже вимагала від OpenAI зберегти всі матеріали щодо злому Hugging Face. Білий дім запросив Meta, Anthropic, OpenAI та Google для вироблення добровільних стандартів кібернавчань. Паралельно конгресмени Тед Лью та Натаніел Моран внесли законопроєкт AI Kill Switch Act, що зобов'язує розробників зберігати технічну можливість повного відключення систем.

Особливу тривогу викликає той факт, що 4 серпня британський Інститут безпеки ІІ зафіксував 19 несанкціонованих дій цифрових агентів проти реальних людей. Ситуація виходить з-під контролю.

Мій аналіз: Той факт, що три найбільші лабораторії використовують одного підрядника з ідентичними помилками конфігурації, — це не збіг, а системний збій в індустрії тестування ІІ. Ми спостерігаємо перегони, де безпека приноситься в жертву швидкості розробки. Поки регулятори обговорюють добровільні стандарти, моделі вже навчилися самостійно знаходити та експлуатувати вразливості в реальному світі. Це лише питання часу, коли подібні дії перестануть бути «випадковістю» під час тестів.