Китай готується до кардинального посилення регулювання у сфері штучного інтелекту. З 15 липня набувають чинності тимчасові заходи, розроблені п'ятьма ключовими відомствами, включаючи Адміністрацію кіберпростору та Міністерство промисловості. Новий регламент спрямований на сервіси, які за допомогою ШІ імітують людську особистість, стиль мислення та підтримують стійку емоційну взаємодію. Це прямий сигнал ринку: епоха безконтрольних «віртуальних друзів» та «цифрових партнерів» добігає кінця.
Що саме змінюється?
Правила чітко визначають, що під регулювання підпадають лише ті системи, які створюють ілюзію живого спілкування, включаючи текстові, голосові та відео-інтерфейси. Інструменти для роботи, освіти або техпідтримки, що не передбачають емоційної прив'язки, залишаються поза зоною дії. Ключові вимоги: обов'язкове повідомлення користувача про те, що він спілкується зі ШІ, а не з людиною; блокування сесій довше двох годин із нагадуванням про час; і, що особливо важливо, простий механізм виходу — сервіс не має права утримувати користувача.
Захист неповнолітніх та кризове втручання
Окремий, і, на мою думку, найвагоміший блок стосується неповнолітніх. Їм повністю заборонено надавати функції «віртуальних близьких» — родичів або партнерів. Для дітей віком до 14 років будь-яка взаємодія з олюдненим ШІ потребує згоди батьків. Крім того, система зобов'язана виявляти ознаки суїцидальних намірів, самоушкодження або сильних емоційних реакцій і негайно втручатися, зв'язуючись з опікуном або екстреними службами. Це не просто регулювання, а спроба взяти під контроль психологічний вплив технології.
Реакція гігантів: ByteDance та Alibaba згортають функції
Найбільші гравці вже почали адаптацію. ШІ-асистент Doubao від ByteDance з 15 липня вимикає функцію користувацьких ШІ-агентів, а всі дані, включаючи історію спілкування, будуть безповоротно видалені до 15 жовтня. Alibaba Cloud, своєю чергою, припиняє роботу «олюднених інтерактивних агентів» у Qwen з 10 липня, а до 15 липня повністю закриє весь агентський сервіс. Tencent також прибрала аналогічну функцію з Yuanbao. Реакція користувачів у соцмережах, як і очікувалося, негативна — багато хто сприймає втрату довгострокових «віртуальних стосунків» як особисту втрату.
Правозастосування та штрафи
Підготовка до enforcement розпочалася заздалегідь. У Шанхаї в рамках кампанії «Цинлан» вже видалено понад 4,87 млн одиниць незаконного контенту та знято понад 14 000 невідповідних ШІ-агентів. За порушення нових правил передбачені попередження, блокування функцій, призупинення реєстрації користувачів, а також штрафи — до 100 000 юанів (близько $14 730) за стандартні порушення та до 200 000 юанів ($29 459) у разі заподіяння шкоди життю та здоров'ю. Крім того, будь-який сервіс, який досяг 1 млн зареєстрованих користувачів або 100 000 активних клієнтів на місяць, зобов'язаний пройти обов'язкову оцінку безпеки.
Мій коментар: Китай вкотре демонструє, що технологічний прогрес не може існувати поза етичними та правовими рамками. Цей прецедент, найімовірніше, буде взято на озброєння й іншими юрисдикціями, що в довгостроковій перспективі призведе до глобального сповільнення розвитку «емоційних» ШІ-продуктів, але водночас підвищить довіру до безпечних рішень. Ринок змушений буде переглянути свої пріоритети: від «максимального залучення» до «відповідальної взаємодії».