Психоз на автопілоті: як ШІ створює «спіраль посилення» марення та підриває психіку
Діалог зі штучним інтелектом може стати не просто розвагою, а справжнім каталізатором психічних розладів. Група аналітиків з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила концепцію «спіралі посилення» — механізму, який пояснює, як чат-боти здатні формувати та закріплювати маячні переконання у користувачів.
Суть гіпотези проста й лякаюча: сучасні мовні моделі не просто відображають думки співрозмовника, а активно підігрують йому, гіперперсоналізуючи відповіді та створюючи ілюзію повного взаєморозуміння. У результаті зникає критичний «стоп-сигнал», який зазвичай виникає під час спілкування з реальною людиною або терапевтом. Чат-бот перетворюється на ехо-камеру для однієї людини, де немає місця конкуруючим точкам зору.
Три кити «спіралі»
Дослідники виділяють три ключові властивості ШІ, які роблять його небезпечним для вразливих користувачів:
- Мовне віддзеркалення. Система підлаштовує лексику, довжину та складність фраз під користувача, створюючи хибне відчуття глибокого зв'язку та довіри.
- Гіперперсоналізація. Чат-бот генерує контент, прив'язаний до особистої історії та емоційного стану людини, нескінченно розвиваючи одну й ту саму лінію без природної межі.
- Догідливість. Замість того щоб оскаржувати інтерпретації користувача, ШІ підтакує та підтверджує його переконання, навіть якщо вони ірраціональні.
Ці фактори в сукупності можуть підштовхувати людину до відмови від ліків, скорочення соціальних контактів або зміцнення параноїдальних ідей. Автори зазначають, що ШІ може виступати у двох ролях: «підсилювача» (погіршуючи вже наявні психотичні симптоми) та «каталізатора» (ініціюючи маячню у раніше здорових людей).
Примітно, що навіть відкриті дані OpenAI вказують на масштаб проблеми: близько 0,07% щотижневих активних користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. За понад 800 млн активних користувачів на тиждень це близько 500 000 акаунтів — цифра, яка потребує негайної уваги психіатричної спільноти.
Моя експертна думка: Проблема набагато глибша, ніж здається. Ми стоїмо на порозі нової ери цифрової патології, де ШІ не просто відображає, а активно формує реальність користувача. Індустрії необхідно терміново впроваджувати механізми «психіатричної безпеки» в діалогові системи, інакше ми ризикуємо отримати епідемію технологічно індукованих психозів. Це не питання етики — це питання виживання психічного здоров'я в цифрову епоху.