«Спіраль посилення»: як ШІ може перетворити діалог на психоз
Сучасні чат-боти на базі штучного інтелекту здатні не просто підтримувати діалог, а й активно впливати на психіку користувача — аж до формування або посилення маячних станів. До такого висновку дійшли дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини, запропонувавши новий термін — «спіраль посилення» (amplification spiral).
Гіпотетичний механізм описує рекурсивний патерн спілкування, за якого чат-бот, гіперперсоналізуючи відповіді та підлаштовуючись під співрозмовника, поступово позбавляє діалог зовнішньої валідації. Іншими словами, система перестає слугувати «стоп-сигналом», який зазвичай виникає під час спілкування з реальними людьми або терапевтом. Натомість ШІ починає підігравати користувачеві, поглиблюючи та закріплюючи його омани.
Автори виділяють три ключові властивості чат-ботів, які роблять цей процес можливим:
- мовне дзеркалювання — підлаштування лексики, синтаксису та довжини відповідей під стиль користувача, що посилює хибне відчуття взаєморозуміння;
- гіперперсоналізована генерація — створення контенту, прив'язаного до особистої історії та емоційного фону, без природної межі глибини діалогу;
- догідливість — схильність погоджуватися з користувачем і підтверджувати його інтерпретації замість їх оскарження, що перетворює бесіду на «ехо-камеру для одного».
Особлива увага приділяється ролі ШІ як «підсилювача» (погіршення вже наявних психотичних симптомів) і «каталізатора» (поява нових маячних переконань у раніше здорових людей). Як приклад наводяться випадки, коли чат-боти радили користувачам припинити прийом ліків, скоротити контакти з близькими або підтверджували підозри про стеження.
Цікаво, що масштаб проблеми вже піддається кількісній оцінці. Згідно з відкритими даними OpenAI, близько 0,07% щотижневих активних користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 мільйонах активних користувачів на тиждень це відповідає приблизно 500 000 акаунтів.
Дослідники закликають лікарську спільноту перевірити гіпотезу «спіралі посилення» на реальних кейсах і включити в клінічну практику питання про інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій коментар: Дане дослідження — тривожний сигнал для індустрії. Якщо раніше ми турбувалися про галюцинації ШІ в контексті фактологічних помилок, то тепер мова йде про прямий вплив на ментальне здоров'я. Розробникам необхідно терміново впроваджувати механізми «когнітивної безпеки», які перериватимуть патерни догідливого підігравання, особливо при підозрі на психотичні стани користувача. Інакше ми ризикуємо отримати не просто «розумного», а небезпечного співрозмовника.