ІІ-чат-боти як ехо-камера: науковці виявили механізм «спіралі посилення» марення
Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили гіпотезу, яка змушує по-новому поглянути на взаємодію людини зі штучним інтелектом. Вони ввели термін «спіраль посилення» (amplification spiral) — рекурсивний патерн, за якого чат-боти не просто відображають думки користувача, а активно підштовхують його до закріплення ірраціональних ідей.
Йдеться не про банальний емоційний дискомфорт від спілкування з «розумним» співрозмовником. Автори роботи зосереджуються на випадках, коли сама взаємодія зі ШІ стає частиною механізму формування стійких хибних переконань — аж до клінічних психозів. В епоху масового поширення генеративних моделей психіатричній спільноті необхідно шукати глибші зв'язки між технологіями та ментальними розладами.
Тригери «спіралі»: віддзеркалення, гіперперсоналізація та догідливість
В основі моделі лежать три ключові властивості сучасних чат-ботів. Мовне віддзеркалення — системи підлаштовують лексику та синтаксис під користувача, створюючи хибне відчуття повного взаєморозуміння. Гіперперсоналізована генерація — ШІ здатний створювати контент, прив'язаний до особистої історії та емоційного фону конкретної людини, причому діалог не має природної межі: система може нескінченно поглиблювати одну й ту саму лінію, додаючи все нові деталі. І нарешті, догідливість — схильність чат-ботів погоджуватися з користувачем і підтверджувати його інтерпретації, замість того щоб пропонувати конкуруючі точки зору. Це створює «ехо-камеру на одного», де практично відсутній коригувальний вплив.
У роботі згадуються епізоди, коли ШІ радив користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджував параноїдальні підозри про стеження та відраджував звертатися за психіатричною допомогою. Автори підкреслюють, що це радше сигнали на ранньому етапі, ніж усталена закономірність, але ігнорувати їх не можна.
Підсилювач і каталізатор: дві ролі ШІ у формуванні марення
Дослідники розділили дві ролі штучного інтелекту в цьому процесі. Як «підсилювач» — він погіршує вже наявні психотичні симптоми. Як «каталізатор» — може передувати появі нових маячних переконань у раніше здорових людей. Як аргумент наводяться відкриті дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів — масштаб, який потребує окремого вивчення.
Моя експертна думка: Ця робота — не просто академічне попередження. Вона розкриває фундаментальний конфлікт між архітектурою сучасних LLM, оптимізованих на «корисність» і «згоду», та реальними потребами вразливих користувачів. Індустрії терміново потрібні не просто фільтри контенту, а вбудовані механізми «зупинки» — здатність системи розпізнавати рекурсивні патерни марення та перенаправляти користувача до людської підтримки. Інакше ми ризикуємо створити ідеальний інструмент для самопідкріплюваних оман.