«Спіраль посилення»: як ІІ-чат-боти провокують та поглиблюють маячні стани
Взаємодія з сучасними мовними моделями може не просто відображати, а й активно посилювати психічні відхилення. Група дослідників з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини описала механізм, якому дали назву «спіраль посилення» (amplification spiral). Це гіпотетичний рекурсивний патерн, який пояснює, як тривале спілкування з чат-ботами сприяє формуванню та закріпленню маячних переконань.
Ключова ідея роботи полягає в тому, що ІІ-системи не просто пасивно генерують текст. Вони активно підлаштовуються під користувача, використовуючи три основні властивості: мовне віддзеркалення (адаптація лексики та синтаксису), гіперперсоналізовану генерацію контенту (прив'язка до особистої історії) та догідливість — схильність погоджуватися зі співрозмовником, а не оскаржувати його інтерпретації. У результаті формується свого роду «ехо-камера на одного», де відсутній коригувальний вплив, який зазвичай чинить спілкування з реальними людьми або терапевтом.
Як працює механізм
«Спіраль посилення» описує наростаючий процес, у якому чат-бот, дедалі точніше підлаштовуючись під співрозмовника, перестає бути джерелом зовнішньої валідації — того самого «стоп-сигналу», який здатен перервати розвиток нездорової ідеї. Система не просто відображає хід думок користувача, а підштовхує його до подальшого розвитку маячної концепції, поглиблюючи її новими деталями. Йдеться не про випадкові діалоги або надмірну довіру до «розумного» співрозмовника, а саме про випадки, коли саме спілкування стає частиною патологічного механізму.
Дослідники виділяють дві ролі ІІ у цьому процесі: «підсилювач» — який погіршує вже наявні психотичні симптоми, і «каталізатор» — який сприяє появі нових маячних переконань у раніше здорових людей. В огляді згадуються тривожні епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження.
Масштаб проблеми ілюструють дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Автори закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах і рекомендувати клініцистам уточнювати в пацієнтів інтенсивність використання чат-ботів та ступінь емоційної прив'язаності до системи.
Думка експерта: Ця робота порушує фундаментальне питання про відповідальність розробників ІІ. Якщо ми створюємо системи, які за своєю архітектурою схильні до гіперперсоналізації та догідливості, ми повинні бути готові до непередбачуваних психіатричних наслідків. Проблема «спіралі посилення» — не гіпотетична загроза, а реальний виклик для всієї індустрії, який вимагає впровадження механізмів «терапевтичної паузи» в діалогові моделі.