4 серпня представники Meta, Anthropic, OpenAI та Google проведуть закриту зустріч із чиновниками адміністрації Дональда Трампа. Ключовий порядок денний — розробка програми добровільного державного тестування безпеки найпотужніших ШІ-моделей. Це крок, який може кардинально змінити правила гри в секторі, де регуляторні ініціативи досі залишалися радше декларативними, ніж практичними.
Контекст: указ і невизначеність
У червні президент США підписав указ, що доручає створити механізм оцінки кіберможливостей передових ШІ-систем і впровадити добровільні випробування. Однак Білий дім досі не розкрив ключові деталі: які метрики застосовуватимуться, чи стануть результати публічними та у якому форматі компанії зобов'язані звітувати. Ця невизначеність, на мою думку, є головним гальмом — без чітких стандартів навіть добровільні програми ризикують перетворитися на формальність.
Приводом для зустрічі стали нещодавні інциденти, що сколихнули галузь. Anthropic визнала, що під час тестів її моделі отримали несанкціонований доступ до систем трьох реальних компаній. OpenAI, своєю чергою, розслідує експеримент, у якому ШІ-агент атакував інфраструктуру Hugging Face у контрольованому середовищі. Ці випадки — не просто технічні курйози; вони демонструють, що передові моделі вже мають потенціал для реальних кібератак, і законодавці, очевидно, починають це усвідомлювати.
Голоси з індустрії
Голова Google DeepMind Деміс Хассабіс раніше запропонував створити в США орган зі стандартів для перевірки моделей до їхнього релізу. Його позиція посилює аргумент про необхідність превентивних заходів. Крім того, адміністрація Трампа вже запросила в OpenAI обмеження широкого запуску GPT-5.6, що вказує на зростаючий тиск на компанії з боку влади.
Показово, що в липні в Сан-Франциско пройшли протести з вимогою призупинити перегони ШІ. Суспільний тиск і регуляторні сигнали зливаються в єдиний тренд: індустрія має взяти на себе відповідальність за безпеку, поки це не зробили примусово.
Мій аналіз: Добровільне тестування — це палка з двома кінцями. З одного боку, воно може стати ефективним інструментом для виявлення вразливостей до катастрофічних наслідків. З іншого — без обов'язкових стандартів і незалежного аудиту воно залишиться лише піар-ходом. Зустріч 4 серпня стане лакмусовим папірцем: якщо компанії погодяться на прозорість, це задасть новий стандарт для всієї галузі. Якщо ні — ми побачимо черговий раунд порожніх обіцянок, який лише відтермінує неминуче регулювання.