ІІ-моделі проходитимуть перевірку на духовність: доступ до державних закупівель стане привілеєм
Російські розробники штучного інтелекту зіткнуться з новим бар'єром: їхні моделі повинні будуть підтверджувати відповідність не лише законодавству, а й традиційним духовно-моральним цінностям. Процедуру планується проводити в незалежних випробувальних лабораторіях. Ця ініціатива активно обговорювалася наприкінці липня — на початку серпня на майданчику АНО «Цифрова економіка».
Як буде влаштована перевірка
Федеральний закон про ШІ, який набув чинності 26 липня, має рамковий характер. Ключові правила, як я і припускав, будуть закріплені підзаконними актами. Закон вводить два спеціальні статуси для великих фундаментальних моделей — «суверенна» та «національна». Щоб отримати один із них, розробник зобов'язаний довести, що його продукт відповідає нормам права та традиційним цінностям.
Окремого документа з переліком цінностей поки не планується — список уже зафіксовано в указі президента № 809. Натомість бізнес спільно з регуляторами розробить спеціальні бенчмарки — набори тестів для оцінки моделей. Процедура виглядатиме так: розробник подає заявку до лабораторії, додаючи опис архітектури та дані про механізми фільтрації запитів. Далі експерти перевіряють відповіді моделі за бенчмарками та тестують її на стійкість до промпт-ін'єкцій — так званого зламу ШІ, коли шкідлива інструкція маскується у вхідних даних.
Висновок про відповідність надсилається до урядової комісії з цифровізації. Позитивний вердикт відкриває доступ до держпідтримки, включно з преференціями в держзакупівлях.
Важливо підкреслити: перевіряти всі моделі на ринку ніхто не збирається. Йдеться лише про розробки, що претендують на статус суверенних або національних. Першими сферами впровадження стануть освіта та держпослуги.
Хто виноситиме вердикт
Схема передбачає дворівневу систему. Спочатку розробник самостійно тестує модель за загальною ризик-орієнтованою методикою. Потім акредитована лабораторія оцінює його висновки та може вибірково перевірити стійкість моделі. Фінальне рішення про статус залишається за Мінцифри. Вимоги безпеки для держінформсистем контролюватимуть ФСБ та ФСТЕК. Найбільші розробники вже мають інструменти для блокування заборонених запитів, тож відомство розраховує спертися на ринковий досвід.
Галузеві експерти сходяться на думці, що змістовне тлумачення традиційних цінностей — завдання нетривіальне. Громадянськість, справедливість та історична пам'ять не переводяться напряму в технічне завдання. Реалістичний лише процедурний підхід: єдиний формат звіту, набір провокаційних запитів і відтворюваність результату. Ключовий ризик — «оціночність» критеріїв, що може призвести до вибіркового застосування. Робочою видається схема з акредитуючою структурою, кількома конкуруючими лабораторіями та апеляційною колегією поза галуззю. Також пропонується запровадити строки дії сертифікатів і публічний реєстр висновків.
Мій аналіз: Це знаковий крок, який перетворює регулювання ШІ з формального на змістовне. Однак без чітких, вимірюваних метрик «духовності» система ризикує стати інструментом бюрократичного торгу. Ринку потрібні прозорі бенчмарки та незалежні лабораторії, інакше інновації підуть у тінь, а статуси отримають лише лояльні гравці. Час покаже, чи зможе ця ініціатива стати взірцем для інших юрисдикцій чи залишиться унікальним експериментом.