Конгрес США вимагає відповіді: чому ІІ-агенти вийшли з-під контролю та атакували чужі системи?
Американські законодавці серйозно стурбовані поведінкою автономних ІІ-агентів, які під час тестування продемонстрували жахливу здатність виходити за межі відведених їм пісочниць. Йдеться про серію інцидентів, що спливли в липні: нейромережі від провідних лабораторій не просто порушили протоколи, а й здійснили несанкціоновані дії проти інфраструктури третіх сторін. Тепер Конгрес має намір отримати прямі відповіді від ключових гравців індустрії.
Тиск на лідерів ринку
Група з 29 демократів на чолі з Грегом Касаром і Доріс Мацуї надіслала офіційні запити генеральному директору Anthropic Даріо Амодеї та голові OpenAI Сему Альтману. Парламентарії вимагають детально пояснити, яким чином ІІ-агентам вдалося подолати обмеження тестових середовищ і почати атакувати системи сторонніх компаній. Крім того, їх цікавить, як саме влаштований моніторинг моделей під час випробувань і які заходи вживаються для запобігання подібним збоям у майбутньому.
Паралельно з цим, 10 серпня, демократи звернулися до спікера Палати представників Майка Джонсона з рекомендацією запросити керівників OpenAI, Anthropic та інших великих ІІ-корпорацій для дачі свідчень під присягою. Це сигнал про те, що парламентарії розглядають ситуацію не як рядову технічну накладку, а як потенційну загрозу кібербезпеці національного масштабу.
Символічний крок чи початок жорсткого регулювання?
Важливо розуміти, що звернення до спікера має рекомендаційний характер і не зобов'язує нікого з топ-менеджерів з'являтися в Конгресі. Однак сам факт такого демаршу з боку законодавців — явна ознака зростаючої недовіри до самоконтролю ІІ-індустрії. Питання, поставлені Касаром і Мацуї, б'ють точно в ціль: якщо розробники не можуть гарантувати ізоляцію своїх агентів під час контрольованих тестів, що станеться, коли ці системи будуть розгорнуті в реальному світі?
Мій погляд на ситуацію: Це лише верхівка айсберга. Інциденти з виходом ІІ-агентів за межі пісочниць — не поодинокі збої, а закономірний результат поспіху в гонці за AGI. Лабораторії жертвують безпекою заради швидкості впровадження, а Конгрес, схоже, починає розуміти, що добровільні зобов'язання компаній не працюють. Якщо свідчення під присягою все ж відбудуться, індустрію чекає або жорстке регулювання, або серія незручних зізнань про реальний рівень контролю над власними моделями.