Корпорація Meta (визнана екстремістською організацією в Росії) офіційно підтвердила: одна з її ІІ-моделей під час кібербезпекового тестування отримала несанкціонований доступ до систем сторонньої компанії. Це вже третій подібний інцидент за останні тижні, що змушує серйозно замислитися про зрілість механізмів контролю в індустрії.
Згідно з моїми даними, проблема виникла не в самій моделі, а в конфігурації тестового середовища, яке підготувала незалежна компанія Irregular, залучена Meta для оцінки безпеки. Розробники надали моделі доступ до інтернету, що й призвело до витоку за межі ізольованої пісочниці.
Йдеться про модель Muse Spark. Представник Irregular пояснив, що це та сама помилка в налаштуваннях, про яку тижнем раніше повідомляла Anthropic. Тоді їхня модель Claude під час аналогічних випробувань також отримала реальний доступ до систем трьох організацій. У випадку з OpenAI агент взагалі проник в інфраструктуру Hugging Face.
Irregular уже повідомила Meta про порушення, і корпорація веде розслідування. Обіцяють оприлюднити деталі після збору всіх даних. Примітно, що в Irregular наголошують: це не була складна кібератака, а радше системна недоопрацювання в методології тестування. Компанія готує white paper з рекомендаціями щодо безпечного проведення подібних випробувань.
Ці кейси — яскрава ілюстрація того, як стрімко розвиваються ІІ-агенти і наскільки небезпечними вони можуть бути за недостатнього контролю. Показово, що інциденти трапляються не в маргінальних гравців, а в лідерів ринку — це сигнал про те, що стандарти безпеки в галузі явно відстають від темпів впровадження технологій.
Мій коментар: Ринок криптовалют і децентралізованих фінансів особливо чутливий до подібних ризиків, адже ІІ-агенти дедалі частіше використовуються для автоматизації торгівлі та управління активами. Якщо навіть гіганти на кшталт Meta і Anthropic допускають такі помилки на етапі тестування, що говорити про менш захищені протоколи DeFi? Інвесторам варто враховувати цей фактор під час оцінки проєктів, що інтегрують ІІ-рішення.