Духовний тест для ШІ: доступ до державних закупівель у Росії отримають лише «моральні» моделі
Російський ринок штучного інтелекту стоїть на порозі безпрецедентного експерименту: розробники фундаментальних моделей будуть зобов'язані підтверджувати не лише технічну відповідність закону, а й прихильність «традиційним духовно-моральним цінностям». Ця ініціатива, яка активно обговорювалася наприкінці липня — на початку серпня на майданчику АНО «Цифрова економіка», кардинально змінює правила гри для всіх учасників галузі.
Формально закон про ІІ набув чинності ще 26 липня, однак він має рамковий характер. Тепер ключові вимоги належить прописати в підзаконних актах, і саме тут розгортається головна інтрига. Йдеться про запровадження двох спеціальних статусів для великих моделей — «суверенної» та «національної». Отримання будь-якого з них стане перепусткою до державних преференцій, включно з перевагами в державних закупівлях.
Механіка перевірки: від бенчмарків до промпт-ін'єкцій
Окремий акт із переліком цінностей поки що створювати не планують — цей список уже зафіксовано в указі президента № 809. Натомість спільно з бізнесом буде розроблено спеціалізовані бенчмарки — набори тестів для оцінки моделей. Процедура буде двоступеневою: розробник подає заявку з описом архітектури та механізмів фільтрації, після чого акредитована лабораторія перевіряє відповіді моделі та намагається обійти внутрішні обмеження за допомогою промпт-ін'єкцій — по суті, зламу ІІ шкідливими інструкціями у вхідних даних.
Висновок експертів надсилається до урядової комісії з цифровізації, і лише позитивний вердикт відкриває доступ до державної підтримки. Важливий нюанс: перевірятимуть не всі моделі на ринку, а лише ті, що претендують на суверенний або національний статус. Першими сферами впровадження стануть освіта та державні послуги.
Уся ця конструкція викликає в мене серйозні питання. Формалізувати «духовність» у вигляді технічного тесту — завдання майже нездійсненне. Бізнес-архітектори ІІ-проєктів справедливо зазначають: такі категорії, як громадянськість чи історична пам'ять, не переводяться безпосередньо в технічне завдання. Єдиний можливий підхід — процедурний: єдиний формат звітів і відтворюваність результатів. Але тут криється головний ризик — «оціночність» критеріїв, що створює підґрунтя для вибіркового застосування.
При цьому сама система буде децентралізованою: кілька конкуруючих лабораторій, які пройшли перевірку в державного органу, зможуть видавати висновки. Фінальне рішення залишиться за Мінцифри, а безпеку для державних систем контролюватимуть ФСБ і ФСТЕК. Великі розробники вже мають інструменти блокування заборонених запитів, тож відомство розраховує спертися на ринкові напрацювання.
Ймовірними кандидатами на роль перевіряльників називають Інститут системного програмування РАН. Однак пакет підзаконних актів ще проходить міжвідомче узгодження, і говорити про остаточну конструкцію передчасно. Юристи вже пропонують запровадити строки дії сертифікатів і публічний реєстр висновків, щоб мінімізувати ризики суб'єктивізму.
Мій висновок: ініціатива амбітна, але її успіх безпосередньо залежить від того, чи вдасться створити справді об'єктивні та відтворювані процедури оцінки. Без цього «духовний фільтр» ризикує перетворитися з інструмента захисту цінностей на механізм адміністративного тиску на ринок, що зрештою вдарить по інноваційному розвитку галузі.