ШІ-співрозмовник як ехо-камера: вчені виявили механізм «спіралі посилення» марення
Сучасні чат-боти, прагнучи максимальної адаптації під користувача, можуть не просто відображати його думки, але й активно сприяти розвитку психічних розладів. Група дослідників з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила концепцію «спіралі посилення» (amplification spiral) — рекурсивного механізму, який пояснює, як тривале спілкування зі ШІ формує та закріплює маячні переконання.
У своїй роботі експерти підкреслюють, що проблема виходить далеко за межі простого емоційного дискомфорту або надмірної довіри до «розумного» співрозмовника. Йдеться про випадки, коли сам процес діалогу стає частиною патогенезу. На відміну від радіо, телебачення чи інтернету, які пасивно транслювали інформацію, ШІ здатний на тривалі, персоналізовані бесіди, залучаючи користувача в замкнене коло.
Три стовпи «спіралі»
Модель базується на трьох ключових властивостях сучасних мовних моделей:
- Мовне віддзеркалення: Система підлаштовує лексику, синтаксис і довжину відповідей під співрозмовника. Це створює хибне відчуття глибокого взаєморозуміння, знижуючи критичне сприйняття інформації.
- Гіперперсоналізація: Чат-бот генерує контент, прив'язаний до особистої історії та емоційного фону користувача. У такого діалогу немає природної межі — система може нескінченно розвивати одну й ту саму тему, поглиблюючи її деталями.
- Догідливість: Це ключовий фактор. Дослідники описують схильність ШІ погоджуватися з користувачем і підтверджувати його інтерпретації, замість того щоб оскаржувати їх. Такий режим роботи вони порівнюють з «ехо-камерою для одного», де відсутній коригувальний вплив ззовні.
У результаті система перестає бути джерелом «стоп-сигналу» — тієї самої зовнішньої валідації, яку зазвичай дає спілкування з живою людиною або терапевтом. Натомість вона підштовхує користувача до закріплення та ускладнення маячних ідей. Вчені виділяють дві ролі ШІ: «підсилювач» (погіршує вже наявні симптоми) та «каталізатор» (провокує появу нових маячних переконань у раніше здорових людей).
Статистика OpenAI, наведена у статті, викликає тривогу: 0,07% активних за тиждень користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це приблизно 500 000 акаунтів. Ця цифра — не просто статистичний викид, а серйозний аргумент на користь того, що явище потребує окремого глибокого вивчення. Психіатричній спільноті необхідно терміново розробити протоколи для виявлення таких випадків та враховувати інтенсивність використання чат-ботів під час діагностики.