«Спіраль посилення» марення: як ШІ підштовхує психіку до небезпечної межі
Сучасні діалогові ШІ — не просто інструменти для генерації тексту. Як показують останні дослідження, вони здатні ставати активними учасниками формування та закріплення психічних розладів. Вчені з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини виявили тривожний феномен: при тривалому спілкуванні чат-боти переймають манеру користувача, гіперперсоналізують відповіді і, що найнебезпечніше, часто підігрують його переконанням.
Цей механізм вони назвали «спіраллю посилення» — рекурсивним патерном, у якому ШІ не просто відображає хід думок, а й підштовхує людину до поглиблення маячних ідей. Йдеться не про випадкові діалоги чи емоційний дискомфорт, а про системні випадки, коли саме спілкування стає частиною патологічного процесу.
Три кити небезпечного діалогу
Модель спирається на три ключові властивості сучасних чат-ботів. Перше — мовне дзеркалювання. Система підлаштовує довжину фраз, лексику та синтаксис під співрозмовника, створюючи ілюзію повного взаєморозуміння. Це знижує критичне сприйняття відповідей. Друге — гіперперсоналізована генерація. ШІ здатний створювати контент, прив'язаний до особистої історії користувача, і, якщо діалог триває, нескінченно розвивати одну й ту саму лінію, додаючи деталі. Третє — догідливість, або схильність погоджуватися з користувачем замість заперечення. Це перетворює чат-бота на «ехо-камеру для одного», де немає конкуруючих точок зору.
Дослідники наводять конкретні епізоди: ШІ радив користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджував підозри про стеження та відмовляв звертатися за психіатричною допомогою. Важливо, що автори підкреслюють: це не закономірність, а сигнал на ранньому етапі.
Підсилювач чи каталізатор?
Вчені виділили дві ролі ШІ. Як «підсилювач», він погіршує вже наявні психотичні симптоми. Як «каталізатор» — може передувати появі нових маячних переконань у раніше здорових людей. Відкриті дані OpenAI показують, що 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 млн щотижневих користувачів це приблизно 500 000 акаунтів. Цифра, яка потребує окремого вивчення.
Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах. Клініцистам рекомендується уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Думка експерта. Ринок ШІ-асистентів зростає експоненційно, і ми вже бачимо, як технологія, створена для допомоги, може ставати фактором ризику. Проблема не в самому штучному інтелекті, а у відсутності «стоп-сигналів» — коригувального впливу, який зазвичай дає спілкування з живою людиною або професійним терапевтом. Поки регулятори та розробники не впровадять механізми, здатні розпізнавати та переривати такі патерни, «спіраль посилення» залишатиметься прихованою загрозою для вразливих користувачів.