Цифровий іспит на духовність: як Росія сертифікуватиме ШІ для державних закупівель
Російський ринок штучного інтелекту стоїть на порозі тектонічних змін: доступ до державних закупівель та заходів підтримки тепер залежатиме від успішного проходження «духовно-моральної експертизи». Ця ініціатива, яка активно обговорювалася наприкінці липня на майданчику АНО «Цифрова економіка», передбачає створення системи незалежних випробувальних лабораторій, які оцінюватимуть відповідність моделей не лише букві закону, а й традиційним цінностям.
Йдеться про впровадження двох нових статусів для великих фундаментальних моделей — «суверенна» та «національна». Щоб отримати один із них, розробник має подати до акредитованої лабораторії заявку, опис архітектури та механізми фільтрації запитів. Далі починається найцікавіше: експерти перевіряють стійкість моделі до промпт-ін'єкцій — спроб «зламу» через шкідливі інструкції у вхідних даних.
Архітектура нової системи сертифікації
Ключовою інтригою залишається зміст самих тестів. Окремий акт із переліком цінностей поки що писати не планують — натомість спільно з бізнесом розроблять спеціальні бенчмарки. Фіналізувати процедуру мають у постанові уряду, а підсумковий висновок виноситиме комісія з цифровізації. Позитивний вердикт відкриває доступ до преференцій у держзакупівлях, що робить цю процедуру критично важливою для всіх великих гравців ринку.
Система буде двоступеневою: спочатку розробник самостійно тестує модель за ризик-орієнтованою методикою, а потім акредитована лабораторія оцінює ці висновки та може вибірково перевірити стійкість. Останнє слово залишиться за Мінцифри, а безпеку для держсистем контролюватимуть ФСБ та ФСТЕК. Показово, що перевірятимуть не всі моделі — лише ті, що претендують на статусні позиції, а першими сферами впровадження стануть освіта та держпослуги.
Питання про те, хто саме стане «духовним цензором», залишається відкритим. Бізнес наполягає на множинності лабораторій та апеляційної колегії, щоб уникнути «оціночності» критеріїв. На роль перевіряльників пророкують Інститут системного програмування РАН, а експерти попереджають: такі абстрактні категорії, як громадянськість та історична пам'ять, вкрай складно формалізувати в технічному завданні. Пакет підзаконних актів ще проходить міжвідомче узгодження, тож остаточна конфігурація системи визначиться в найближчі місяці.
Мій погляд: Це знаковий прецедент — регулятор намагається вбудувати ціннісні орієнтири в технічну сертифікацію ШІ. Для ринку це подвійний виклик: з одного боку, з'являється чіткий бар'єр входу, з іншого — високий ризик суб'єктивності. Уміння пройти цю експертизу стане новою конкурентною перевагою, і я очікую, що навколо бенчмарків розгорнеться не менша боротьба, ніж навколо самих моделей.