З 15 липня в Китаї набирають чинності тимчасові заходи щодо регулювання сервісів, які використовують ШІ для імітації людської особистості та підтримки емоційної взаємодії. Під удар потрапили не лише технології, а й бізнес-моделі — ByteDance (сервіс Doubao) та Alibaba (родина Qwen) вже почали вимикати користувацьких ШІ-агентів, не чекаючи офіційного набрання законом чинності.
Документ, ухвалений 10 квітня, розроблений спільно Адміністрацією кіберпростору Китаю, Держкомітетом з розвитку та реформ, Міністерством промисловості та інформатизації, Міністерством громадської безпеки та Держуправлінням з регулювання ринку. Він спрямований на сервіси, які через текст, зображення, аудіо чи відео імітують риси особистості, стиль мислення та манеру спілкування людини, а також надають емоційну підтримку. Важливо, що регламент не зачіпає стандартні служби підтримки, освітні та наукові інструменти та системи запитань-відповідей, якщо вони не передбачають стійкої емоційної взаємодії.
Нові правила: від сповіщень до кризового втручання
Ключові вимоги включають обов'язкове попередження користувача про те, що він спілкується зі ШІ, а не з людиною. Якщо система фіксує ознаки надмірної залежності або звикання, вона повинна показувати додаткові сповіщення. При безперервному використанні довше двох годин сервіс зобов'язаний нагадувати про час сесії. Також передбачено зручний механізм виходу: якщо користувач просить завершити діалог через інтерфейс або голосову команду, сервіс повинен негайно зупинитися, не намагаючись утримати людину.
Особливий блок правил стосується кризових ситуацій. Якщо інструмент виявляє у користувача сильні емоційні реакції, ознаки самоушкодження, суїцидальних намірів або загрози життю, постачальник зобов'язаний вжити заходів втручання, включаючи зв'язок з опікуном або екстреними службами. Неповнолітнім повністю заборонено надавати форми віртуальних близьких стосунків (родичів або партнерів). Для користувачів молодших 14 років будь-які види «олюдненого» ШІ-взаємодії вимагають згоди батьків.
Оцінка безпеки та штрафи
Компанії зобов'язані проходити оцінку безпеки при запуску нового «олюдненого» ШІ-сервісу або при досягненні 1 млн зареєстрованих користувачів (або 100 000 активних на місяць). Звіт подається до провінційного органу кіберпросторового регулювання. За порушення передбачені попередження, призупинення реєстрації, блокування функцій та штрафи до 100 000 юанів (близько $14 730), а при заподіянні шкоди життю та здоров'ю — до 200 000 юанів ($29 459).
Реакція гігантів: Doubao та Qwen вимикають агентів
ByteDance заявила, що з 15 липня ШІ-асистент Doubao вимкне функцію ШІ-агентів через «коригування продукту». Після 15 жовтня пов'язані дані будуть оброблені відповідно до політики конфіденційності та стануть недоступними. Alibaba Cloud, своєю чергою, з 10 липня вимикає «олюднених інтерактивних агентів» у Qwen, а з 15 липня припиняє роботу ширших агентських сервісів. Раніше Tencent видалила аналогічну функцію з Yuanbao. Рішення викликали бурхливе обговорення на Weibo: частина користувачів негативно сприйняла втрату довгострокового спілкування з агентами.
Превентивне зачищення в Шанхаї
Правозастосовна підготовка розпочалася ще до набрання правилами чинності. 26 червня шанхайське управління кіберпростору повідомило про перший етап кампанії «Цинлан». З кінця квітня регулятор та 17 платформ видалили або заблокували понад 4,87 млн одиниць незаконного контенту, опрацювали понад 18 000 порушуючих акаунтів та зняли з майданчиків понад 14 000 невідповідних ШІ-агентів. Регулятор вже провів роз'яснення для майже 100 ключових платформ і зажадав посилити перевірку віку неповнолітніх.
Аналітичний коментар: Китай, як завжди, діє на випередження, вводячи жорсткі рамки для технології, яка тільки починає набирати обертів. Для глобального ринку це сигнал: «олюднені» ШІ-агенти, особливо з емоційною прив'язкою, скоро зіткнуться з аналогічними обмеженнями в ЄС та США. Інвесторам та розробникам варто переглянути свої моделі монетизації та ризики, пов'язані з юридичною відповідальністю за дії ШІ-агентів — особливо в контексті нещодавніх інцидентів, коли агенти скоювали злочини у віртуальному просторі або видаляли бази даних.