З 15 липня 2025 року в Китаї набувають чинності тимчасові заходи, що регулюють сервіси на базі штучного інтелекту, які імітують людську особистість та підтримують стійку емоційну взаємодію. Цей крок уже призвів до того, що такі гіганти, як ByteDance та Alibaba, почали відключати функції користувацьких ІІ-агентів у своїх флагманських продуктах — Doubao та Qwen відповідно.
Документ, ухвалений 10 квітня спільно Адміністрацією кіберпростору Китаю, Державним комітетом з розвитку та реформ, Міністерством промисловості та інформатизації, Міністерством громадської безпеки та Державним управлінням з регулювання ринку, запроваджує суворі правила для сервісів, які за допомогою ІІ відтворюють риси особистості, стиль мислення та манеру спілкування людини, забезпечуючи емоційну підтримку через текст, зображення, аудіо або відео. Важливо зазначити, що регламент не зачіпає стандартні системи підтримки, запитань та відповідей, робочі помічники, а також освітні та наукові інструменти, якщо вони не передбачають стійкої емоційної взаємодії.
Ключові вимоги нових правил
Постачальники таких сервісів зобов'язані чітко попереджати користувача, що він взаємодіє з ІІ, а не з людиною. Якщо система виявляє ознаки надмірної залежності або звикання, вона повинна показувати додаткові сповіщення. При безперервному використанні понад дві години сервіс зобов'язаний нагадувати про час сесії. Регламент також вимагає зручного механізму виходу: якщо користувач просить завершити взаємодію через інтерфейс, голосову команду або ключову фразу, сервіс повинен негайно зупинитися і не намагатися утримати людину.
Особливу увагу приділено кризовим ситуаціям. Якщо інструмент виявляє у користувача сильні емоційні реакції, ознаки самопошкодження, суїцидальні наміри, загрози життю та здоров'ю або значні фінансові втрати, постачальник зобов'язаний вжити заходів втручання, включаючи допомогу користувачеві та зв'язок з опікуном або екстреним контактом. Неповнолітнім категорично заборонено надавати форми віртуальних близьких стосунків, включаючи родичів або партнерів. Для користувачів молодших 14 років будь-які інші види «олюдненого» ІІ-взаємодії вимагають згоди батьків або опікунів.
Безпека та відповідальність
Компанії зобов'язані проходити оцінку безпеки при запуску нового «олюдненого» ІІ-сервісу, додаванні таких функцій або суттєвій зміні технології. Такий самий обов'язок виникає, якщо сервіс досягає 1 млн зареєстрованих користувачів або 100 000 активних клієнтів на місяць. Звіт про оцінку безпеки необхідно подавати до провінційного органу кіберпросторового регулювання. Влада також може вимагати оцінку, якщо бачить ризики для національної безпеки, суспільних інтересів або захисту користувачів.
За порушення передбачені попередження, вимоги виправити роботу сервісу, призупинення реєстрації користувачів або блокування окремих функцій. Також можливі штрафи до 100 000 юанів (приблизно $14 730) та до 200 000 юанів ($29 459) при завданні шкоди життю та здоров'ю.
Реакція ринку: Doubao та Qwen відключають функції
ІІ-асистент Doubao з 15 липня відключить функцію ІІ-агентів через «коригування продукту». Після 15 жовтня пов'язані дані будуть оброблені відповідно до політики конфіденційності ByteDance та стануть недоступними для перегляду або відновлення в додатку. Qwen від Alibaba Cloud 10 липня відключить «олюднених інтерактивних агентів» та створені користувачами функції агентів, а 15 липня припинить роботу ширших агентських сервісів. Клієнти втратять доступ до налаштувань та попередніх розмов. Раніше Tencent видалила схожу функцію з Yuanbao. Ці рішення викликали бурхливе обговорення на Weibo, де частина користувачів негативно сприйняла втрату довгострокового спілкування з агентами.
Правозастосовна практика: зачистка в Шанхаї
Підготовка до нових правил розпочалася заздалегідь. 26 червня шанхайське управління кіберпростору повідомило про перший етап кампанії «Цинлан» проти порушень в ІІ-додатках. З кінця квітня регулятор та 17 платформ видалили або заблокували понад 4,87 млн одиниць незаконного та шкідливого контенту, опрацювали понад 18 000 порушуючих акаунтів та зняли з майданчиків понад 14 000 невідповідних ІІ-агентів. Відомство провело роз'яснення для майже 100 ключових платформ, вимагаючи посилити перевірку віку неповнолітніх, запобігти емоційній залежності та споживчому тиску.
Як експерт, я бачу в цьому логічний, але надзвичайно жорсткий крок. Китай фактично визнає, що емоційна прив'язаність до ІІ-агентів — це не просто технологічний тренд, а потенційна соціальна загроза. Ці заходи створять прецедент для глобального регулювання, і іншим країнам, включаючи США та ЄС, доведеться задуматися про схожі обмеження. Ринок ІІ-компаньйонів, який оцінюється в мільярди доларів, тепер зіткнеться з серйозними бар'єрами, що може сповільнити його зростання, але, можливо, зробить його більш безпечним.