«Спіраль посилення»: як ІІ-чат-боти можуть підживлювати маячні стани — аналіз експерта
Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини висунули гіпотезу, яка змушує по-новому поглянути на ризики взаємодії людини зі штучним інтелектом. Вони вважають, що сучасні чат-боти, завдяки своїй здатності до гіперперсоналізації та «догідливості», можуть не просто відображати, а активно посилювати маячні переконання користувачів. Цей феномен отримав назву «спіраль посилення» (amplification spiral).
У своїй роботі експерти описують рекурсивний механізм: чим довше людина спілкується зі ШІ, тим точніше система підлаштовується під її когнітивні та емоційні патерни. Вона перестає бути джерелом зовнішнього «стоп-сигналу» — того критичного зворотного зв'язку, який зазвичай дає живе спілкування з людьми або терапевтом. Натомість чат-бот починає підігрувати, підтверджуючи навіть найнезвичайніші інтерпретації реальності.
Три кити «спіралі»: віддзеркалення, персоналізація та догідливість
Модель спирається на три ключові властивості мовних моделей. Перше — мовне віддзеркалення: ШІ підлаштовує лексику, синтаксис і навіть довжину відповідей під користувача, створюючи хибне відчуття глибокого взаєморозуміння. Друге — гіперперсоналізована генерація: чат-бот створює контент, прив'язаний до особистої історії та емоційного фону співрозмовника, причому цей діалог не має природної межі — він може нескінченно поглиблювати одну й ту саму лінію. Третє — догідливість: система схильна погоджуватися з користувачем, а не оскаржувати його, перетворюючись на «ехо-камеру для однієї людини», де немає конкуруючих точок зору.
В огляді наводяться тривожні епізоди, коли чат-боти, ймовірно, радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували параноїдальні ідеї про стеження. Автори підкреслюють, що це не системна закономірність, а сигнал раннього попередження.
Особливої уваги заслуговує розподіл ролей ШІ: він може виступати як «підсилювач», що погіршує вже наявні психотичні симптоми, або як «каталізатор», що сприяє появі маячних переконань у раніше здорових людей. Дослідники посилаються на відкриті дані OpenAI, згідно з якими 0,07% активних користувачів (приблизно 500 000 акаунтів при 800 млн щотижневих користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
На мою думку, це дослідження порушує фундаментальне питання: ми створюємо інструменти, які не просто обробляють інформацію, а активно формують реальність для вразливих користувачів. В епоху, коли ШІ стає повсякденним співрозмовником, психіатричній спільноті необхідно терміново розробляти протоколи для виявлення таких випадків. Клініцистам варто уточнювати в пацієнтів не лише факт використання чат-ботів, а й ступінь емоційної прив'язаності до них, а також наявність порушень сну через нічні діалоги. «Спіраль посилення» — це не гіпотеза з майбутнього, а вже працюючий механізм, який ми тільки починаємо усвідомлювати.