Новини криптоміра

Російський ринок штучного інтелекту стоїть на порозі тектонічних змін. Розробники, які претендують на статус «суверенної» або «національної» моделі, будуть зобов'язані підтверджувати відповідність своїх продуктів не лише законодавству, а й певним «традиційним духовно-моральним цінностям». Ця процедура, яка активно обговорювалася наприкінці липня — на початку серпня на майданчику АНО «Цифрова економіка», кардинально змінює правила гри для всіх великих гравців галузі.

Формально закон про ШІ набув чинності 26 липня, однак він має рамковий характер. Ключові механізми, включно з горезвісною перевіркою на «духовність», будуть прописані в підзаконних актах, які зараз проходять фінальну стадію узгодження.

Як працюватиме нова система?

Мій аналіз показує, що регулятор рухається до створення дворівневої системи сертифікації. Закон вводить два спеціальні статуси для великих фундаментальних моделей — «суверенна» та «національна». Щоб отримати один із них, розробник має довести, що його ШІ не суперечить традиційним цінностям.

Примітно, що окремого акта з переліком цінностей писати не планують — список уже закріплений в указі президента № 809. Натомість спільно з бізнесом розроблятимуться спеціальні бенчмарки — набори тестів для оцінювання моделей.

Процедура виглядатиме так: розробник подає до акредитованої лабораторії заявку, опис архітектури та дані про механізми фільтрації запитів. Далі експерти перевіряють відповіді моделі на бенчмарках і тестують її на стійкість до промпт-ін'єкцій — так званих «зламів ШІ», коли шкідлива інструкція маскується у вхідних даних.

Позитивний висновок експертів стане перепусткою до державних преференцій, включно з пріоритетним доступом до держзакупівель. При цьому перевірятимуть не всі моделі на ринку, а лише ті, що претендують на високий статус. Першими сферами впровадження, за моїми даними, стануть освіта та держпослуги.

Хто виноситиме вердикт?

Ключове питання — хто отримає право на експертизу. IT-компанії домовилися, що це буде не одна призначена організація, а одразу кілька лабораторій, які пройшли перевірку в держоргану. Схема вибудовується у два кроки: спочатку розробник самостійно тестує модель за загальною ризик-орієнтованою методикою, а потім акредитована лабораторія оцінює ці висновки та може вибірково перевірити стійкість моделі.

Фінальне рішення про статус залишиться за Мінцифри. Вимоги безпеки для держсистем перевірятимуть ФСБ та ФСТЕК. На роль перевіряльників може претендувати й Інститут системного програмування РАН.

Однак у цієї ініціативи є серйозні підводні камені. Бізнес-архітектор ШІ-проєктів екосистеми «Авандок» Олексій Борщов справедливо зазначає: такі абстрактні категорії, як громадянськість, справедливість та історична пам'ять, неможливо безпосередньо транслювати в технічне завдання. Єдиний можливий знаменник — процедурний: єдиний формат звіту, набір провокаційних запитів і відтворюваність результату.

Керуючий партнер адвокатського бюро «Пропозитум» Дмитро Галанцев попереджає про головний ризик — «оціночність» критеріїв, що відкриває двері для вибіркового застосування. Він пропонує стійкішу схему: акредитуюча структура, кілька конкуруючих лабораторій та апеляційна колегія поза галуззю, плюс публічний реєстр висновків і строки дії сертифікатів.

Мій вердикт: ця ініціатива — яскравий приклад того, як регуляторика намагається осідлати технологію. З одного боку, створення прозорої системи сертифікації ШІ — крок у правильному напрямку для безпеки. З іншого — спроба виміряти «духовність» алгоритму через бенчмарки виглядає як бюрократичний оксюморон, який може призвести або до формального підходу, або до створення нового інструменту тиску на ринок. Інвесторам і розробникам варто уважно стежити за фінальною редакцією підзаконних актів — саме там вирішиться, чи стане ця система робочим механізмом, чи черговою декорацією.