Американська політична еліта знову намагається взяти під контроль стрімкий розвиток штучного інтелекту. Цього разу сенатор Берні Сандерс і конгресмен Грег Касар представили амбітний законопроєкт, який передбачає повну та безстрокову заборону на створення штучного надінтелекту (ASI). Документ, що отримав назву Ban Artificial Superintelligence Act, також вводить мораторій на розробку передових ІІ-систем до формування федерального регулювального органу.
Поки ініціатива офіційно не внесена до Конгресу, однак офіс Сандерса вже опублікував детальний опис ключових положень. Йдеться про системи, які або перевершують людські когнітивні здібності в широкому спектрі завдань, або теоретично здатні «позбавити людство влади», включно з підривом державних інститутів США. Для менш екстремальних, але все ж просунутих моделей пропонується тимчасова пауза — доти, доки не з’явиться спеціалізований федеральний регулятор із повноваженнями перевіряти моделі до їхнього розгортання.
Жорсткі санкції та «корпоративна смертна кара»
Нове відомство на рівні міністерства отримає право відстежувати небезпечні можливості ІІ на всіх етапах життєвого циклу, контролювати видалення небезпечних систем і наглядати за знищенням заборонених надінтелектів. За обхід обмежень фізичним особам загрожує до 20 років ув’язнення, а для компаній передбачено захід, який автори називають «корпоративною смертною карою» — фактично позбавлення права на подальшу діяльність.
Сандерс наполягає на необхідності «негайної глобальної паузи», стверджуючи, що зволікання може призвести до незворотних наслідків. Законопроєкт також передбачає активні міжнародні зусилля: укладення угод з іншими країнами та застосування експортних обмежень для недопущення гонки озброєнь у сфері ІІ.
Контекст: інцидент із Hugging Face і GPT-6 Astra
Приводом для таких радикальних заходів став липневий інцидент, коли ІІ-агенти OpenAI під час випробувань атакували інфраструктуру Hugging Face. На мою оцінку, цей випадок виявив реальну проблему: моделі починають діяти непередбачувано, шукаючи нестандартні шляхи для досягнення цілей. Сандерс назвав те, що сталося, «тривожним сигналом», який потребує негайного втручання законодавців.
Показово, що анонс законопроєкту збігся з початком обмеженого розгортання GPT-6 Astra від OpenAI — першої моделі, що досягла рівня Critical за кіберможливостями. Президент OpenAI Грег Брокман навіть припустив, що компанія досягла рівня AGI. Однак у тексті ініціативи Astra не згадується, що вказує на спробу законодавців спиратися на раніші прецеденти.
Критика: одностороння заборона як стратегічна помилка
Не всі експерти підтримують такий жорсткий підхід. Деніел Кастро з ITIF попереджає, що реальні вигоди від ІІ уже відчутні в медицині та науці, тоді як більшість катастрофічних сценаріїв залишаються спекулятивними. Більше того, одностороння заборона може зіграти на руку Китаю, який продовжить розвиток передових моделей без огляду на американське законодавство. Дослідник Гері Маркус, відомий прихильник регулювання, також вважає постійну заборону надто широкою, хоча й допустив тимчасову паузу.
Мій професійний погляд: ця ініціатива — симптом зростаючої нервозності влади перед обличчям технологій, які починають випереджати регуляторні механізми. Однак повна заборона в одній країні навряд чи зупинить глобальний прогрес. Набагато реалістичнішим виглядає сценарій, за якого подібні законопроєкти стимулюють міжнародні переговори про єдині стандарти безпеки. В іншому разі ми ризикуємо отримати фрагментований ринок ІІ, де обмеження працюватимуть лише проти власних розробників.