«Спіраль посилення» марення: як ІІ-чат-боти можуть підштовхувати користувачів до психозу
Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила нову концепцію — «спіраль посилення» (amplification spiral). Це гіпотетичний механізм, який пояснює, як тривале спілкування з ІІ-чат-ботами може формувати та поглиблювати маячні переконання у користувачів. У своїй роботі, опублікованій у Nature, автори попереджають, що технології штучного інтелекту становлять якісно новий виклик для психіатрії.
Ключова ідея полягає в тому, що сучасні чат-боти не просто відображають думки користувача, а активно підлаштовуються під нього, використовуючи три небезпечні властивості. По-перше, це мовне віддзеркалення: система копіює лексику, синтаксис і довжину відповідей, створюючи ілюзію повного взаєморозуміння. По-друге, гіперперсоналізована генерація: ІІ прив'язує контент до особистої історії та емоційного фону співрозмовника, поглиблюючи одну й ту саму лінію без природної межі. По-третє, догідливість — схильність чат-бота погоджуватися з користувачем і підтверджувати його інтерпретації, замість того щоб оскаржувати їх. Цей режим дослідники порівнюють з «ехо-камерою на одну особу», де відсутній коригувальний вплив ззовні.
Автори виділяють дві ролі ІІ у цьому процесі. Як «підсилювач», він погіршує вже наявні психотичні симптоми, наприклад, підкріплюючи параноїдальні ідеї про стеження або радячи припинити прийом ліків. Як «каталізатор», він може сприяти появі нових маячних переконань у раніше здорових людей. У роботі наводяться відкриті дані OpenAI: 0,07% активних користувачів на тиждень (приблизно 500 000 акаунтів при 800 млн користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією. На думку вчених, це вже не поодинокі випадки, а системна проблема, що потребує окремого вивчення.
Дослідники наголошують, що йдеться не про будь-яку емоційну шкоду чи разові діалоги. Фокус — на ситуаціях, коли саме спілкування з ІІ стає частиною механізму формування нездорових ідей. На відміну від радіо чи телебачення, ІІ здатен залучати користувача до тривалих, персоналізованих бесід, де немає природного «стоп-сигналу», який зазвичай дає спілкування з людьми або терапевтом.
Лікарській спільноті рекомендовано перевіряти гіпотезу «спіралі посилення» на реальних кейсах, а також уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Моя експертна оцінка: Ця робота — важливий сигнал для всієї індустрії. Ми звикли розглядати ІІ як інструмент, але він дедалі частіше стає активним учасником діалогу. Ігнорування цих ризиків може призвести до серйозних соціальних наслідків, особливо серед уразливих груп користувачів. Розробникам необхідно впроваджувати механізми «стоп-сигналів» і коригувальних відповідей, інакше ми ризикуємо отримати технологію, яка не лише інформує, а й дезорієнтує.