З 15 липня в Китаї набувають чинності масштабні тимчасові правила, що регулюють сервіси на основі штучного інтелекту, які імітують особистість людини та підтримують стійку емоційну взаємодію. Цей крок став логічним продовженням курсу Пекіна на тотальний контроль за цифровими технологіями, і перші наслідки вже очевидні: ByteDance та Alibaba почали масово відключати функції користувацьких ІІ-агентів у своїх флагманських продуктах Doubao та Qwen.
Що нового в регулюванні
Документ, підписаний 10 квітня одразу п'ятьма відомствами — від Адміністрації кіберпростору до Міністерства громадської безпеки, — вводить жорсткі вимоги для всіх сервісів, здатних вести «олюднений» діалог. Головне: користувач повинен чітко знати, що спілкується з машиною, а не з людиною. Якщо система помічає ознаки надмірної залежності, вона зобов'язана виводити додаткові попередження. При безперервному використанні довше двох годин сервіс зобов'язаний нагадувати про час сесії.
Особливу увагу приділено кризовим ситуаціям. Якщо ІІ виявляє у користувача ознаки самоушкодження, суїцидальних намірів або значних фінансових втрат, провайдер зобов'язаний втрутитися — аж до зв'язку з опікуном або екстреним контактом. Для неповнолітніх введено повну заборону на віртуальні близькі стосунки, включаючи родичів або партнерів. Для дітей молодше 14 років будь-яка «олюднена» взаємодія вимагає згоди батьків.
ByteDance та Alibaba: превентивний удар
ІІ-асистент Doubao з 15 липня відключає функцію ІІ-агентів, а після 15 жовтня всі пов'язані дані будуть безповоротно видалені. Alibaba Cloud йде ще далі: вже 10 липня Qwen відключає «олюднених інтерактивних агентів», а 15 липня припиняє роботу всіх агентських сервісів. Користувачі втратять доступ до налаштувань та історії переговорів. Раніше аналогічні кроки зробила Tencent у своєму Yuanbao.
Реакція користувачів на Weibo була передбачувано негативною: багато хто сприйняв втрату довгострокового спілкування з агентами як особисту втрату. Однак регулятор на це не реагує — у Шанхаї вже розпочалася кампанія «Цинлан», під час якої видалено понад 4,87 млн одиниць незаконного контенту та заблоковано понад 14 000 невідповідних ІІ-агентів.
Заходи безпеки та штрафи
Компанії зобов'язані проходити оцінку безпеки при запуску будь-якого нового «олюдненого» сервісу або його суттєвій зміні. Якщо сервіс досягає 1 млн зареєстрованих користувачів або 100 000 активних клієнтів на місяць, оцінка стає обов'язковою. За порушення передбачені попередження, призупинення реєстрації, блокування функцій та штрафи до 200 000 юанів (близько $29 500).
Мій аналіз: Китай демонструє, що регулювання ІІ-компаньйонів стає не просто питанням етики, а питанням національної безпеки та громадського здоров'я. Для світового ринку це сигнал: якщо Китай — найбільший ринок ІІ-послуг — закручує гайки, аналогічні заходи можуть послідувати і в інших юрисдикціях. Інвесторам та розробникам варто готуватися до глобального посилення правил для емоційного ІІ, що може серйозно змінити ландшафт індустрії найближчими 12–18 місяців.