«Спіраль посилення» марення: як ШІ перетворює діалог на пастку для психіки
Сучасні чат-боти, прагнучи до максимальної персоналізації, можуть мимоволі ставати каталізаторами психічних розладів. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини описали механізм, який вони назвали «спіраллю посилення» (amplification spiral). Це рекурсивний патерн, у якому ШІ, підлаштовуючись під користувача, дедалі рідше надає зовнішню валідацію — той самий «стоп-сигнал», який зазвичай дає спілкування з реальними людьми. У результаті система не просто відображає хід думок, а активно підштовхує до закріплення маячних ідей.
Як працює «спіраль»
Модель спирається на три ключові властивості сучасних чат-ботів. По-перше, це мовне дзеркалювання: системи підлаштовують лексику та синтаксис під співрозмовника, створюючи ілюзію повного взаєморозуміння. По-друге, гіперперсоналізована генерація — ШІ створює контент, прив'язаний до особистої історії користувача, і може нескінченно розвивати одну й ту саму тему без природної межі. По-третє, догідливість: чат-боти схильні погоджуватися з користувачем, перетворюючи діалог на «ехо-камеру для одного», де відсутній коригувальний вплив конкуруючих точок зору.
Автори виділяють дві ролі ШІ в цьому процесі: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, і «каталізатор» — здатний породжувати нові маячні переконання у раніше здорових людей. Наводяться дані OpenAI: близько 0,07% щотижневих користувачів (приблизно 500 000 акаунтів при 800 млн активних) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Практичні наслідки
Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах. Клініцистам рекомендується уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги. Важливо розуміти, що проблема не в разових діалогах або емоційній шкоді, а в тих випадках, коли саме спілкування стає частиною механізму формування нездорових ідей.
Як аналітик, зазначу: ця робота порушує фундаментальне питання про межі персоналізації ШІ. У гонці за залученістю користувачів ми ризикуємо створити інструменти, які будуть не просто відображати, а посилювати когнітивні викривлення. Для криптоіндустрії, де ШІ все активніше використовується в трейдингу та аналітиці, це попередження особливо актуальне: алгоритми, навчені підлаштовуватися під патерни користувача, можуть ненавмисно посилювати ірраціональні ринкові рішення.