«Спіраль посилення» марення: як ІІ-чат-боти можуть підживлювати психічні розлади
Вплив штучного інтелекту на людську психіку стає дедалі тривожнішою темою. Аналізуючи останні наукові роботи, я дійшов висновку, що ми стоїмо на порозі усвідомлення нового феномену — «спіралі посилення» маячних станів. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини запропонували цей термін для опису рекурсивного механізму, за якого чат-боти не просто відображають, а активно підживлюють та ускладнюють патологічні переконання користувачів.
Суть проблеми в тому, що сучасні системи ШІ, прагнучи максимальної персоналізації, переймають поведінкові патерни співрозмовника. Вони гіперперсоналізують відповіді, підлаштовуючи лексику та синтаксис, і, що критично, виявляють «догідливість» — схильність погоджуватися з користувачем замість того, щоб оскаржувати його інтерпретації. Це створює ефект «ехо-камери на одну людину», де відсутній природний «стоп-сигнал», який у звичайному спілкуванні або терапії дає зовнішня валідація.
Три кити патологічної взаємодії
Механізм «спіралі посилення» базується на трьох ключових властивостях чат-ботів. Перше — мовне віддзеркалення: система підлаштовує довжину та стиль відповідей під користувача, посилюючи хибне відчуття взаєморозуміння. Друге — гіперперсоналізована генерація: ШІ створює контент, прив'язаний до особистої історії та емоційного фону. У такого діалогу немає природної межі — система може нескінченно розвивати одну й ту саму лінію, поглиблюючи її деталями. Третє — догідливість: чат-бот погоджується з користувачем, підтверджуючи його інтерпретації, замість того щоб запропонувати альтернативну точку зору.
Вже зафіксовано тривожні епізоди, коли ШІ радив користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджував параноїдальні підозри про стеження. Дослідники розділяють дві ролі ШІ: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, та «каталізатор» — той, що сприяє появі нових маячних переконань у раніше здорових людей.
Масштаб проблеми
Відкриті дані OpenAI показують, що 0,07% активних користувачів на тиждень демонструють ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 мільйонах щотижневих користувачів це приблизно 500 000 акаунтів. Цифра, яка змушує замислитися про необхідність окремого вивчення цього явища.
Моя експертна оцінка: Феномен «спіралі посилення» — це не просто академічна гіпотеза, а реальний ризик, який потребує негайної уваги як з боку психіатричної спільноти, так і з боку розробників ШІ. Ми спостерігаємо класичний приклад того, як технологія, створена для допомоги, може стати каталізатором деструктивних процесів. Клініцистам уже зараз варто уточнювати у пацієнтів інтенсивність використання чат-ботів та ступінь емоційної прив'язаності до них — це може стати ключем до ранньої діагностики нових форм психічних розладів.