Духовний контроль для ШІ: у Росії вводять обов'язкову перевірку моделей на «традиційні цінності»
Російський ринок штучного інтелекту стоїть на порозі тектонічних змін. Розробники, які претендують на статус «суверенної» або «національної» моделі, незабаром будуть зобов'язані підтверджувати не лише технічну відповідність законодавству, а й прихильність традиційним духовно-моральним цінностям. Ця процедура відбуватиметься в акредитованих випробувальних лабораторіях, а дискусії про її параметри велися на майданчику АНО «Цифрова економіка» наприкінці липня — на початку серпня.
Як влаштована нова система перевірки
З 26 липня набув чинності рамковий закон про ШІ, але ключові правила гри ще належить прописати в підзаконних актах. Зараз обговорюється запровадження двох офіційних статусів для великих фундаментальних моделей — суверенної та національної. Щоб отримати один із них, розробник зобов'язаний пройти експертизу на відповідність законодавству та ціннісним орієнтирам.
Показово, що окремий акт із чітким переліком цінностей поки створювати не планують — список уже закріплений в указі президента № 809. Натомість спільно з бізнесом будуть розроблені спеціальні бенчмарки: набори тестів для перевірки моделей. Процедура виглядатиме так: розробник подає заявку з описом архітектури та механізмів фільтрації запитів, після чого лабораторія перевіряє відповіді моделі за бенчмарками та тестує її на стійкість до промпт-ін'єкцій — так званого «зламу ШІ», коли шкідливі інструкції ховаються у вхідних даних.
Позитивний висновок надсилається до комісії з цифровізації, і саме він відкриває доступ до державної підтримки та преференцій у держзакупівлях. При цьому перевіряти всі моделі ринку ніхто не збирається — йдеться лише про тих, хто претендує на високий статус. Першими сферами впровадження стануть освіта та держпослуги.
Хто виноситиме вердикт
Замість однієї уповноваженої організації вирішено створити мережу з кількох акредитованих лабораторій. Схема вибудовується у два етапи: спочатку розробник самостійно тестує модель за загальною ризик-орієнтованою методикою, а потім акредитована лабораторія оцінює висновки та може вибірково перевірити стійкість системи. Останнє слово залишиться за Мінцифрою, а вимоги безпеки для держсистем узгоджуватимуться з ФСБ та ФСТЕК.
Однак експерти вже вказують на серйозні ризики. Бізнес-архітектор ШІ-екосистеми «Авандо» Олексій Борщов слушно зазначає: такі категорії, як громадянськість, справедливість та історична пам'ять, неможливо безпосередньо транслювати в технічне завдання. Єдиний робочий варіант — процедурний підхід: єдиний формат звіту, набір провокаційних запитів і відтворюваність результатів. Керуючий партнер бюро «Пропозитум» Дмитро Галанцев попереджає про «оціночність» критеріїв, яка може призвести до вибіркового застосування, і пропонує запровадити строки дії сертифікатів та публічний реєстр висновків.
Мій погляд: це знаковий прецедент для всієї індустрії. Формалізація «духовності» у вигляді бенчмарків — надзвичайно складне завдання, і ринок чекає не стільки на сам закон, скільки на його правозастосовну практику. Якщо критерії будуть розмитими, ми ризикуємо отримати інструмент не стільки регулювання, скільки адміністративного тиску. Прозорість процедури та чітка методологія — єдиний спосіб уникнути хаосу в цій новій реальності.