Глава Google DeepMind Деміс Хассабіс виступив з ініціативою створення у США спеціалізованого органу зі стандартів, який перевірятиме найпотужніші ШІ-моделі до їхнього публічного релізу. За його оцінками, поява загального штучного інтелекту (AGI) — системи, порівнянної за когнітивними можливостями з людським мозком, — може відбутися вже «за кілька років». Хассабіс підкреслює, що вплив AGI буде співставним із відкриттям електрики чи вогню, а не з інтернетом або мобільним зв'язком.
Хассабіс пропонує заснувати Frontier AI Standards Body за зразком FINRA (регулятора фінансового ринку США). Нова структура може працювати як державно-приватне партнерство або саморегулівна організація під федеральним наглядом, що фінансується переважно за рахунок ШІ-індустрії. До керівництва мають увійти незалежні технічні експерти та представники спільноти відкритого коду. Орган розроблятиме протоколи оцінювання спільно з федеральними відомствами та національними лабораторіями.
Спеціальні тести визначатимуть, чи належить модель до «передового» класу. Перевірки охоплять кібербезпеку, біологічні загрози та інші сфери підвищеного ризику. Окремі випробування спрямовані на виявлення спроб моделей обходити захисні обмеження, вводити користувачів в оману або приховувати свої дії.
Добровільний старт із перспективою обов'язковості
На першому етапі Хассабіс пропонує добровільну передачу моделей на перевірку за 30 днів до релізу. Після підтвердження ефективності системи процедуру можна закріпити законодавчо — тоді успішне проходження оцінки стане обов'язковою умовою для виходу на американський ринок. Також пропонується створити ринок незалежних аудиторів і використовувати американську систему як основу для міжнародних стандартів.
Ця пропозиція звучить на тлі зростаючих побоювань щодо безпеки ШІ. Раніше адміністрація Трампа просила OpenAI не випускати GPT-5.6 у широкий доступ, а в ООН закликали до глобального регулювання. Хассабіс визнає, що майбутнє технології залишається невизначеним, і навіть фахівці розходяться в думках. Однак він впевнений: ми стоїмо «біля підніжжя сингулярності», і для збереження контролю над автономними системами, здатними до рекурсивного вдосконалення, знадобляться безпрецедентні заходи захисту.
Думка експерта: Ініціатива Хассабіса — своєчасний і прагматичний крок. Створення незалежного органу стандартизації, подібного до FINRA, може стати ефективним компромісом між надмірним регулюванням і повною відсутністю контролю. Однак ключове питання — чи зможе такий орган встигати за темпами розвитку технологій і чи не перетвориться він на бюрократичне гальмо для інновацій. Ринок незалежних аудиторів виглядає багатообіцяючою ідеєю, але потребуватиме найвищого рівня експертизи та довіри.