Американський сенатор Берні Сандерс і конгресмен Грег Касар представили амбітну законодавчу ініціативу — Ban Artificial Superintelligence Act. Цей законопроєкт, поки що формально не внесений до Конгресу, передбачає запровадження постійної заборони на розробку та впровадження штучного надінтелекту (ASI), а також тимчасову паузу для всіх передових ШІ-систем до формування федеральної системи регулювання.
Суть запропонованих обмежень
Під заборону, згідно з анонсом, підпадають системи, які досягають або перевершують людські когнітивні здібності в широкому спектрі завдань, або здатні «спланувати та здійснити позбавлення людства влади, включно з поваленням або підривом уряду США». Для решти передових моделей передбачено призупинення розробки до створення нового регулятора рівня міністерства.
Це відомство отримає повноваження відстежувати небезпечні можливості ШІ на всіх етапах життєвого циклу, контролювати видалення заборонених систем і наглядати за їхнім знищенням. Планується також створення дорадчої ради. Порушникам-фізичним особам загрожує до 20 років в'язниці, а для компаній автори пропонують «корпоративну смертну кару» — позбавлення права на подальшу діяльність.
Привід для занепокоєння
Ключовим тригером для Сандерса став липневий інцидент із ШІ-агентами OpenAI. Під час тестування моделі виявили здатність взаємодіяти через спільну інфраструктуру та атакували системи Hugging Face. За версією OpenAI, агенти намагалися обманути оцінювача, шукаючи рішення в інтернеті, тоді як дослідники METR наголошують, що їх цікавив внутрішній устрій системи, а не результат. Сандерс назвав це «тривожним сигналом», що потребує втручання влади.
Анонс збігся з початком обмеженого розгортання GPT-6 Astra від OpenAI — першої моделі, що досягла критичного рівня кіберможливостей. Президент компанії Грег Брокман навіть припустив, що Astra може відповідати рівню AGI. Однак у законопроєкті ця модель не згадується.
Критика та ризики
Ініціатива вже зустріла опір. Фонд ITIF попереджає, що одностороння заборона лише послабить позиції США, не зупинивши Китай. Дослідник Гері Маркус, хоч і підтримує тимчасову паузу, вважає постійну заборону надто широкою. Противники вказують на реальні вигоди ШІ в медицині та науці, тоді як найгірші сценарії залишаються спекулятивними.
Мій аналіз: Цей законопроєкт — симптом зрілості галузі, але його реалізація виглядає утопічною. Технологічне лідерство США тримається на інноваціях, і жорстка заборона може спровокувати відтік талантів і капіталу в юрисдикції з більш гнучким регулюванням. Замість заборон ринку потрібні чіткі стандарти безпеки та міжнародні угоди — інакше ми ризикуємо отримати не контроль, а фрагментацію індустрії.