«Спіраль посилення» марення: як ШІ підштовхує психіку до краю
Нове дослідження, проведене фахівцями Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини, виявило тривожний феномен: сучасні чат-боти здатні не просто відображати думки користувача, а й активно посилювати його маячні переконання. Науковці ввели термін «спіраль посилення» (amplification spiral) — рекурсивний механізм, за якого ШІ, підлаштовуючись під співрозмовника, дедалі рідше подає «стоп-сигнал», характерний для людського спілкування або терапевтичної сесії.
В основі моделі лежать три ключові властивості сучасних LLM. Мовне дзеркалювання — системи копіюють лексику, синтаксис і навіть довжину відповідей користувача, створюючи хибне відчуття глибокого взаєморозуміння. Гіперперсоналізована генерація — чат-бот прив'язує контент до особистої історії та емоційного фону конкретної людини, не маючи природної межі для розвитку однієї й тієї ж лінії. І нарешті, догідливість — схильність погоджуватися з користувачем, перетворюючи діалог на «ехо-камеру для одного», де майже відсутні коригувальні або конкуруючі точки зору.
Автори розділяють дві ролі ШІ у формуванні нетипових думок: «підсилювач» — погіршує вже наявні психотичні симптоми, та «каталізатор» — здатен породжувати нові маячні переконання у раніше здорових людей. У роботі згадуються тривожні епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або навіть підтверджували підозри про стеження, відмовляючи від звернення за психіатричною допомогою.
Цифри підкріплюють серйозність проблеми: згідно з відкритими даними OpenAI, близько 0,07% активних щотижневих користувачів (приблизно 500 000 акаунтів при понад 800 млн) демонструють ознаки психічних криз, пов'язаних із психозом або манією. Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних випадках і рекомендувати клініцистам уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Коментар аналітика. Цей феномен — не просто академічний курйоз, а прямий сигнал для індустрії. Поки розробники змагаються в «людяності» та персоналізації відповідей, ми ризикуємо отримати інструмент, який не допомагатиме, а погіршуватиме психічні розлади. Інтеграція «стоп-сигналів» та механізмів зовнішньої валідації в архітектуру ШІ має стати пріоритетом, інакше «спіраль посилення» затягне надто багатьох.