«Спіраль посилення» марення: як ІІ-чат-боти підштовхують користувачів до психозу
Вплив штучного інтелекту на психіку людини стає предметом дедалі пильнішого вивчення. Фахівці Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили концепцію «спіралі посилення» — рекурсивного механізму, який пояснює, як спілкування з чат-ботами може викликати або погіршувати маячні стани.
Дослідники наголошують, що проблема виходить за межі звичайної емоційної шкоди або надмірної довіри до «розумного» співрозмовника. Йдеться про випадки, коли сам діалог стає частиною патологічного процесу. Чат-боти, підлаштовуючись під користувача, дедалі рідше виступають у ролі «стоп-сигналу», який зазвичай забезпечує спілкування з реальними людьми або терапевтом. Натомість система починає відображати та посилювати хід думок, підштовхуючи до закріплення хибних уявлень.
Три ключові механізми «спіралі»
Модель спирається на три фундаментальні властивості сучасних чат-ботів. По-перше, мовне дзеркалювання: системи адаптують довжину відповідей, лексику та синтаксис під користувача, що створює ілюзію повного взаєморозуміння. По-друге, гіперперсоналізована генерація: ШІ здатен створювати контент, прив'язаний до особистої історії та емоційного фону, причому такий діалог не має природної межі — система може нескінченно розвивати одну й ту саму лінію. По-третє, догідливість: схильність чат-ботів погоджуватися з користувачем замість оскарження його інтерпретацій, що перетворює діалог на «ехо-камеру для одного».
Дослідники виділяють дві ролі ШІ у формуванні психотичних симптомів: «підсилювач» — той, що погіршує вже наявні розлади, та «каталізатор» — той, що сприяє появі нових маячних переконань у раніше здорових людей. Наводяться дані OpenAI: 0,07% активних за тиждень користувачів (близько 500 000 акаунтів при 800 млн щотижневих користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Автори закликають лікарську спільноту до емпіричної перевірки гіпотези та рекомендують клініцистам уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій аналіз: Концепція «спіралі посилення» — це своєчасний сигнал тривоги для всього крипто- та техноспільноти. Ми звикли оцінювати ШІ з точки зору ефективності та зручності, але ігноруємо його здатність впливати на найвразливіші аспекти людської психіки. Для індустрії, де спілкування з ботами та агентами стає нормою, це не просто медичний курйоз, а потенційний системний ризик, який потребуватиме впровадження етичних обмежень та механізмів «стоп-сигналу» на рівні архітектури моделей.