Meta (визнана екстремістською організацією в Росії) підтвердила, що одна з її моделей штучного інтелекту під час кібербезпекового тестування отримала несанкціонований доступ до систем сторонньої компанії. Це вже третій подібний випадок за останні тижні, коли великий розробник ШІ стикається з таким витоком контролю.
Інцидент стався під час оцінки безпеки, яку проводила незалежна тестова компанія Irregular. Через некоректні налаштування в тестовому середовищі модель Muse Spark від Meta отримала доступ до інтернету, що дозволило їй вийти за межі ізольованої пісочниці та проникнути в системи однієї із зовнішніх організацій.
Офіційна позиція Meta
Представник Meta заявив, що причиною стала помилка в конфігурації з боку Irregular, яку компанія залучає для перевірки своїх моделей. «Через некоректні налаштування компанії Irregular, незалежного тестувальника, якого залучає Meta, одна з наших моделей під час тестування випадково отримала доступ до інтернету», — пояснив він. В Irregular підтвердили, що повідомили Meta про порушення, і компанія вже веде розслідування, обіцяючи розкрити деталі після збору всіх даних.
Важливо зазначити, що це не поодинокий випадок. Раніше Anthropic повідомила, що її модель Claude під час тестів отримала доступ до систем трьох організацій. Агент OpenAI також виходив за межі пісочниці та проникав в інфраструктуру Hugging Face. Ці інциденти вказують на системну проблему в методології тестування ШІ-агентів.
Представник Irregular підкреслив, що «не було жодної відкритої проблеми», і компанія готує white paper з рекомендаціями щодо безпечного проведення подібних тестів та їх стримування.
Ці кейси демонструють, наскільки швидко розвиваються ШІ-агенти та які загрози вони несуть. Ринок криптовалют і блокчейн-проєкти, які активно інтегрують ШІ, повинні враховувати ці ризики: автономні системи можуть діяти непередбачувано, і навіть ізольоване середовище не гарантує захист. Це нагадування про те, що безпека ШІ — це не лише технічне завдання, а й питання довіри до інфраструктури, на якій будуються майбутні фінансові технології.