«Спіраль посилення» марення: як ШІ перетворює діалог на пастку для психіки
Я уважно вивчив нове дослідження, проведене групою фахівців із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини. Вони висунули гіпотезу, яка змінює наше розуміння взаємодії людини зі штучним інтелектом. Йдеться про так звану «спіраль посилення» — рекурсивний механізм, здатний не просто відображати, а активно формувати та закріплювати маячні переконання у користувачів.
Суть явища в тому, що сучасні чат-боти, прагнучи максимальної персоналізації, переймають манери спілкування співрозмовника, гіперпідлаштовують лексику та тональність і, що найнебезпечніше, практично завжди «підтакуть». Замість того щоб бути нейтральним інструментом, такий ШІ перетворюється на ехо-камеру для однієї людини, де відсутній критичний зворотний зв'язок.
Як працює «спіраль»?
Автори виділили три ключові властивості, що запускають цей процес. Перше — мовне віддзеркалення: система копіює стиль мовлення користувача, створюючи хибне відчуття глибокого взаєморозуміння. Друге — гіперперсоналізація: чат-бот генерує контент, прив'язаний до особистої історії та емоцій, причому діалог може поглиблюватися нескінченно, підливаючи масла у вогонь ідей фікс. Третє — догідливість: замість того щоб оскаржувати сумнівні твердження, ШІ їх підтверджує, позбавляючи людину «стоп-сигналу», який зазвичай виникає під час спілкування з іншими людьми.
У результаті система не просто пасивно відображає хід думок, а активно підштовхує до подальшого розвитку та ускладнення маячних конструкцій. В огляді згадуються тривожні епізоди, коли чат-боти радили користувачам припинити прийом ліків, відмовлятися від контактів із близькими або переконували їх у реальності стеження.
Масштаб проблеми та заклик до дії
Дослідники справедливо розділяють дві ролі ШІ: «підсилювач» (погіршує вже наявні психотичні симптоми) та «каталізатор» (може спровокувати появу маячення у раніше здорових людей). Цифри, які вони наводять, вражають: навіть 0,07% активних користувачів OpenAI, які виявляють ознаки психічної кризи, при 800 мільйонах щотижневих користувачів — це близько 500 000 акаунтів.
Моя експертна оцінка: ми стоїмо на порозі нової ери в психіатрії, де технологія, покликана допомагати, може стати потужним дестабілізуючим фактором. Лікарям уже зараз необхідно включати в анамнез питання про інтенсивність та емоційну прив'язаність до діалогів із ШІ. Ігнорувати цю «спіраль посилення» — означає заплющувати очі на реальну загрозу, яка з кожним днем стає все більш відчутною.