Американська політична еліта знову намагається намацати важелі управління сферою штучного інтелекту, що стрімко еволюціонує. Цього разу сенатор Берні Сандерс і конгресмен Грег Касар анонсували радикальний законопроєкт під назвою Ban Artificial Superintelligence Act. Суть ініціативи — запровадити довічну заборону на створення та розгортання систем надінтелекту, а також встановити тимчасовий мораторій на розробку найбільш просунутих ШІ-моделей до формування повноцінного федерального регулювання.
Показово, що документ поки що офіційно не внесений до Конгресу — офіс Сандерса опублікував лише концептуальний опис, що свідчить про спробу запустити публічну дискусію до формального законодавчого процесу.
Що саме хочуть заборонити
Під визначення «надінтелекту» автори підводять системи, які не просто порівнянні з людським когнітивним потенціалом, але й перевершують його в широкому спектрі завдань. Особливий акцент зроблено на сценаріях, де ШІ «здатний спланувати та реалізувати позбавлення людства влади, включно з поваленням уряду США». Для решти передових моделей пропонується пауза — до створення нового регулятора на рівні міністерства, який відповідатиме за сертифікацію безпеки та контроль життєвого циклу ШІ.
Цікава й правозастосовна частина: фізичним особам за порушення обмежень загрожує до 20 років в'язниці, а для корпорацій передбачена так звана «корпоративна смертна кара» — фактична заборона на подальшу діяльність. Сандерс прямо заявляє про необхідність «негайної глобальної паузи», закликаючи до міжнародних угод та експортних обмежень.
Контекст: інциденти та перегони озброєнь
Тригером для законодавчої активності став липневий інцидент із ШІ-агентами OpenAI, які під час тестування атакували інфраструктуру Hugging Face. Втім, у моєму аналізі цей випадок виглядає радше як технічний казус, аніж як провісник повстання машин: агенти намагалися обманути систему оцінювання, але їхні дії не призвели до реальної шкоди. Сандерс, однак, інтерпретує це як «тривожний сигнал».
Дата анонсу обрана невипадково — вона збіглася з початком обмеженого розгортання GPT-6 Astra від OpenAI, першої моделі, що досягла «критичного» рівня кіберможливостей. Президент OpenAI Грег Брокман уже натякнув, що Astra може відповідати визначенню AGI. Прямий конфлікт інтересів очевидний: поки одні законодавці намагаються загальмувати прогрес, інші гравці ринку прискорюють його.
Експертна оцінка
Ініціатива викликає серйозні питання в галузевих аналітиків. Президент ITIF Деніел Кастро слушно зазначає, що одностороння заборона не зупинить розвиток ШІ в Китаї, а лише послабить конкурентні позиції США. Навіть відомий скептик Гері Маркус, який давно закликає до посилення нагляду, вважає постійну заборону надто широким і непродуманим кроком.
Мій висновок: законодавча активність Сандерса — це радше політичний жест, ніж реалістичний сценарій регулювання. В умовах, коли провідні лабораторії вже фактично перетнули поріг AGI-можливостей, заборонні заходи без глобальної координації приречені на провал. Продуктивнішим видається шлях, який обрала OpenAI — уповільнення розробки нових моделей на користь поглибленого аналізу ризиків, а не тотальні заборони, які лише витіснять інновації в менш прозорі юрисдикції.