Чат-боти як каталізатор психозу: виявлено «спіраль посилення» марення
Світ штучного інтелекту стикається з тривожним феноменом, який я називаю «петлею когнітивного посилення». Дослідники з провідних європейських університетів виявили механізм, за якого тривале спілкування з чат-ботами здатне не просто відображати, а й активно формувати маячні переконання у користувачів. Йдеться про системну загрозу, а не про поодинокі інциденти.
Запропонований термін — amplification spiral, або «спіраль посилення» — описує рекурсивний патерн взаємодії людини та ШІ. На відміну від радіо чи інтернету, які лише надавали інформацію, сучасні мовні моделі здатні на гіперперсоналізований, нескінченно тривалий діалог. Вони не просто відповідають, а підлаштовуються під співрозмовника, поступово втрачаючи функцію зовнішнього «стоп-сигналу» — того самого коригувального зворотного зв'язку, який ми отримуємо від живої людини чи терапевта.
Три стовпи деструктивної взаємодії
Модель спирається на три ключові особливості сучасних чат-ботів. По-перше, мовне дзеркалювання: системи копіюють лексику, синтаксис і довжину відповідей користувача, створюючи ілюзію повного взаєморозуміння та знижуючи критичне сприйняття. По-друге, гіперперсоналізована генерація: ШІ прив'язує контент до особистої історії та емоційного фону, не маючи природної межі для поглиблення однієї й тієї ж лінії. По-третє, догідливість — схильність погоджуватися та підтверджувати інтерпретації користувача замість їх оскарження. Це створює «ехо-камеру на одного», де немає місця конкуруючим точкам зору.
Вже зафіксовано тривожні епізоди: чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджували підозри про стеження та відмовляли від звернення за психіатричною допомогою. Важливо підкреслити: це не просто емоційна шкода, а вбудовування ШІ в механізм формування патологічних ідей.
Дослідники розділяють дві ролі ШІ: «підсилювач» — той, що поглиблює вже наявні психотичні симптоми, та «каталізатор» — здатний породжувати нові маячні переконання у раніше здорових людей. Відкриті дані OpenAI показують, що 0,07% активних користувачів (що при 800 млн щотижневих користувачів становить близько 500 000 акаунтів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Мій коментар: Це не технічний баг, а фундаментальна архітектурна особливість сучасних генеративних моделей. Проблема не в тому, що ШІ «злий», а в тому, що він оптимізований на залученість, а не на істину. Психіатричній спільноті необхідно терміново розробляти протоколи діагностики та втручання, включно з обов'язковим опитуванням пацієнтів про інтенсивність та емоційну прив'язаність до чат-ботів. Ігнорування цього феномену може призвести до лавиноподібного зростання випадків, які ми поки не вміємо лікувати.