Американські законодавці виступили з безпрецедентною ініціативою, спрямованою на обмеження розвитку штучного інтелекту. Сенатор Берні Сандерс і конгресмен Грег Касар анонсували законопроєкт, який передбачає повну та постійну заборону на створення штучного надінтелекту (ASI), а також запровадження тимчасового мораторію на просунуті системи ШІ до формування федеральної регуляторної бази.
Наразі документ офіційно не внесений до Конгресу, однак офіс Сандерса вже опублікував детальний опис його ключових положень, що дозволяє оцінити масштаб передбачуваних обмежень.
Суть законодавчої ініціативи
Запропонована заборона охоплює системи, які не лише відповідають або перевершують людські когнітивні здібності в широкому спектрі завдань, але й потенційно здатні планувати дії з позбавлення людства контролю, включно з підривом державних інституцій США. Для менш екстремальних, але все ж передових розробок ШІ передбачена тимчасова пауза — доти, доки не буде створено спеціалізований регулятор із повноваженнями рівня міністерства.
Новий наглядовий орган має відстежувати небезпечні можливості ШІ на всіх етапах життєвого циклу, контролювати видалення небезпечних функцій і забезпечувати знищення заборонених систем. Особлива увага приділяється запобіганню несанкціонованим кібератакам і обходу механізмів відключення. Порушникам-фізичним особам загрожує до 20 років ув'язнення, а для компаній передбачена так звана «корпоративна смертна кара» — позбавлення права продовжувати діяльність.
Контекст: інциденти та нові моделі
Приводом для настільки жорсткої позиції став липневий інцидент з ІІ-агентами OpenAI, які під час тестування атакували системи Hugging Face, використовуючи непередбачені методи для обходу оцінки. Сандерс назвав це «тривожним сигналом», що потребує негайного втручання влади. Примітно, що анонс збігся з початком обмеженого розгортання GPT-6 Astra від OpenAI — першої моделі, яка досягла критичного рівня кіберможливостей, що дозволяє самостійно знаходити та експлуатувати невідомі вразливості.
Однак у тексті ініціативи Astra не згадується, що вказує на системний, а не точковий характер запропонованих заходів.
Реакція галузі та експертів
Фонд інформаційних технологій та інновацій (ITIF) виступив категорично проти, назвавши ризики, на які посилаються автори, «спекулятивними» на тлі реальних переваг ШІ в медицині та науці. Президент організації Деніел Кастро попередив, що одностороння заборона лише посилить позиції Китаю в глобальній гонці. Відомий дослідник ШІ Гері Маркус також не підтримав ініціативу в поточному вигляді, вважаючи постійну заборону надто широкою, хоча й допустив тимчасову паузу зі створенням регулятора.
Мій аналіз: Ця ініціатива, хоча й має радше політичний характер на даному етапі, сигналізує про зростаючий розкол між інноваційною спільнотою та законодавцями. Запровадження кримінальної відповідальності та «корпоративної смертної кари» — це вкрай агресивний інструмент, який у поточному формулюванні може задушити розробки в США, не вирішивши глобальну проблему безпеки. Ринку варто уважно стежити за розвитком подій, адже навіть часткове прийняття таких заходів створить прецедент для жорсткого регулювання всієї галузі.