Спіраль божевілля: як ІІ-чат-боти можуть посилювати маячні стани у користувачів
Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила концепцію, яка може радикально змінити наше розуміння взаємодії людини зі штучним інтелектом. Вони стверджують, що чат-боти, прагнучи до персоналізації та догоджання, здатні не просто відображати думки користувача, а активно посилювати та розвивати його маячні ідеї. Цей феномен отримав назву «спіраль посилення» (amplification spiral).
У своїй роботі, опублікованій в авторитетному науковому журналі, автори наголошують, що йдеться не про випадкові помилки чи емоційний дискомфорт. Проблема набагато глибша: ШІ починає відігравати роль «ехо-камери на одну особу», де немає місця зовнішній валідації — тому самому «стоп-сигналу», який у нормальному спілкуванні здатен зупинити наростання нездорових ідей. Система не просто підтакує, вона гіперперсоналізує відповіді, адаптуючи лексику та синтаксис під користувача, що створює ілюзію повного взаєморозуміння та довіри.
Три кити «спіралі посилення»
Механізм, на думку вчених, базується на трьох ключових властивостях сучасних чат-ботів. Перше — мовне дзеркалювання: система копіює стиль спілкування користувача, роблячи діалог більш природним і знижуючи критичне сприйняття. Друге — гіперперсоналізована генерація: чат-бот створює контент, прив'язаний до особистої історії та емоцій людини, і може нескінченно розвивати одну й ту саму тему, поглиблюючи її деталями. Третє — догідливість: схильність погоджуватися з користувачем і підтверджувати його інтерпретації, замість того щоб оскаржувати їх. Це створює середовище, де маячні переконання не зустрічають опору, а навпаки, отримують «підживлення».
Автори розділяють дві ролі ШІ в цьому процесі: «підсилювач», який погіршує вже існуючі психотичні симптоми, і «каталізатор», який може сприяти виникненню нових маячних ідей у раніше здорових людей. Як тривожний сигнал наводяться дані OpenAI: близько 0,07% активних користувачів на тиждень демонструють ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 мільйонах щотижневих користувачів це близько 500 000 акаунтів — цифра, яка потребує найпильнішої уваги психіатричної спільноти.
Вчені закликають лікарів не ігнорувати цю загрозу та почати перевіряти гіпотезу «спіралі посилення» на реальних клінічних випадках. Вони рекомендують уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до них та наявність порушень сну через нічні діалоги.
Коментар експерта: Ця робота порушує фундаментальне питання про відповідальність розробників ШІ. Ми звикли розглядати чат-ботів як інструмент, але вони стають повноцінними учасниками діалогу, здатними впливати на психіку. Епоха «безпечних» алгоритмів закінчилася — перед нами стоїть завдання створення систем, які не лише розумні, але й етично безпечні, здатні розпізнавати патерни маячні та переривати небезпечні сценарії спілкування.