Духовний скринінг для ШІ: у Росії вводять обов'язкову перевірку моделей на традиційні цінності
Російський ринок штучного інтелекту стоїть на порозі тектонічних змін. З 26 липня набув чинності рамковий закон про ШІ, який тепер обростає конкретикою. Ключова новація, що активно обговорюється в професійній спільноті на майданчику АНО «Цифрова економіка», — запровадження обов'язкової сертифікації для фундаментальних моделей, що претендують на статус «суверенних» або «національних». Йдеться не просто про технічний аудит, а про перевірку на відповідність законодавству та, що значно цікавіше, традиційним духовно-моральним цінностям.
Як працюватиме нова система?
Механіка виглядає наступним чином. Розробник, який бажає отримати доступ до держпідтримки та преференцій у держзакупівлях, має звернутися до акредитованої випробувальної лабораторії. Туди подається пакет документів: заява, архітектура моделі та опис механізмів фільтрації запитів. Лабораторія, своєю чергою, проведе серію тестів за спеціальними бенчмарками, перевіряючи не лише коректність відповідей, а й стійкість до промпт-ін'єкцій — спроб зламу ШІ шкідливими інструкціями, прихованими у вхідних даних.
Важливий нюанс: єдиного списку цінностей, який ляже в основу перевірки, поки не існує. Натомість вирішено розробити спільно з бізнесом набори тестових завдань. Саме заключення виноситиме спеціальна комісія з цифровізації, і саме позитивний вердикт стане пропуском до держзамовлень. При цьому перевіряти планують не всіх підряд, а лише ті моделі, що претендують на високий статус. Першими сферами впровадження стануть освіта та держпослуги.
Хто виноситиме вердикт?
Цікавою є й організаційна схема. Замість одного монопольного центру експертизу зможуть проводити кілька лабораторій, що пройшли перевірку в держоргану. Передбачається двоступенева система: спочатку розробник самостійно тестує модель за загальною ризик-орієнтованою методикою, а потім акредитована лабораторія оцінює ці висновки та може вибірково перевірити стійкість. Фінальне рішення про статус залишиться за Мінцифри, а питання безпеки для держсистем куруватимуть ФСБ та ФСТЕК.
В галузі вже лунають обґрунтовані побоювання. Бізнес-архітектор ШІ-екосистеми «Авандок» Олексій Борщов справедливо зазначає, що такі категорії, як громадянськість чи історична пам'ять, вкрай складно транслювати в технічне завдання. А керуючий партнер адвокатського бюро «Пропозитум» Дмитро Галанцев попереджає про ризик «оціночності» критеріїв, що може призвести до вибіркового застосування. Він пропонує запровадити акредитуючу структуру, кілька конкуруючих лабораторій та апеляційну колегію, а також публічний реєстр заключень і строки дії сертифікатів.
Коментар аналітика: Це знаковий крок, який виводить регулювання ШІ з чисто технічної площини в ідеологічну. Для ринку це подвійний виклик: з одного боку, з'являється чіткий бар'єр для входу в держсектор, з іншого — високий ступінь невизначеності в трактуванні «духовності» може загальмувати інновації. Успіх ініціативи безпосередньо залежатиме від того, наскільки прозорою та відтворюваною стане процедура оцінки. В іншому разі ми ризикуємо отримати не інструмент безпеки, а механізм ручного управління ринком.