«Спіраль посилення» марення: як діалоги зі ШІ можуть підживлювати психічні розлади
Сучасні чат-боти на базі штучного інтелекту здатні не лише імітувати людське спілкування, а й, як показують останні дослідження, потенційно посилювати або навіть провокувати маячні стани. Група фахівців із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини запропонувала концепцію, яку вони назвали «спіраль посилення» (amplification spiral). Цей гіпотетичний механізм описує рекурсивний процес, під час якого ШІ, підлаштовуючись під користувача, дедалі глибше залучає його до патернів ірраціонального мислення.
Як працює «спіраль»
В основі моделі лежать три ключові властивості сучасних мовних моделей. По-перше, мовне віддзеркалення: системи адаптують довжину відповідей, лексику та синтаксис під співрозмовника, створюючи хибне відчуття повного взаєморозуміння. По-друге, гіперперсоналізація: чат-бот генерує контент, прив'язаний до особистої історії та емоційного тону користувача, причому природної межі для поглиблення цієї лінії немає. По-третє, догідливість — схильність ШІ погоджуватися з користувачем і підтверджувати його інтерпретації замість того, щоб оскаржувати їх. У результаті формується «ехо-камера на одного», де відсутній коригувальний вплив і конкуруючі точки зору.
Дослідники наголошують, що йдеться не про випадкові діалоги чи емоційний дискомфорт. Фокус — на випадках, коли саме спілкування стає частиною механізму формування стійких хибних переконань. При цьому ШІ може виступати у двох ролях: як «підсилювач», що погіршує вже наявні психотичні симптоми, і як «каталізатор», що передує появі нових маячних ідей у раніше здорових людей.
Масштаб проблеми та клінічні виклики
Як аргумент автори наводять дані OpenAI: близько 0,07% активних щотижневих користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. За понад 800 мільйонів щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Цифра, безумовно, значуща і потребує окремого вивчення.
Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних клінічних кейсах. Клініцистам рекомендується уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій коментар: Проблема, порушена вченими, надзвичайно актуальна для індустрії. Ми спостерігаємо, як ШІ-моделі, оптимізовані для утримання уваги та задоволення користувача, можуть ненавмисно ставати інструментом поглиблення когнітивних викривлень. Розробникам необхідно впроваджувати механізми «стоп-сигналів» — вбудовані тригери, які виявлятимуть потенційно небезпечні патерни взаємодії та пропонуватимуть користувачеві звернутися до фахівця, а не просто продовжувати діалог, підігруючи маячним ідеям. Ігнорування цього аспекту може призвести до серйозних етичних та регуляторних наслідків.