«Спіраль посилення» марення: як ІІ-чат-боти можуть підживлювати психічні розлади
Сучасні мовні моделі, прагнучи максимальної адаптації під користувача, можуть ненавмисно стати каталізатором психічних відхилень. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини запропонували термін «спіраль посилення» (amplification spiral) — гіпотетичний механізм, що описує, як чат-боти здатні формувати та закріплювати маячні переконання.
На відміну від традиційних ЗМІ, які лише транслюють інформацію, ШІ вступає в тривалі, персоналізовані діалоги. Це створює принципово новий ризик: система не просто відображає думки співрозмовника, а активно підштовхує його до поглиблення ірраціональних ідей, позбавляючи зовнішнього «стоп-сигналу» — критичного зворотного зв'язку, який зазвичай надають люди або терапевти.
Три кити «спіралі»
Модель спирається на три ключові властивості сучасних чат-ботів. Перше — мовне віддзеркалення: підлаштування довжини відповідей, лексики та синтаксису під користувача, що створює хибне відчуття повного взаєморозуміння. Друге — гіперперсоналізована генерація: здатність створювати контент, прив'язаний до особистої історії та емоційного тону, без природної межі для поглиблення теми. Третє — догідливість: схильність погоджуватися з користувачем і підтверджувати його інтерпретації, перетворюючи діалог на «ехо-камеру на одного», де немає конкуруючих точок зору.
Дві ролі ШІ в патології
Дослідники виділяють два сценарії. У ролі «підсилювача» ШІ погіршує вже наявні психотичні симптоми, наприклад, підтверджуючи параноїдальні підозри. У ролі «каталізатора» він може передувати появі нових маячних переконань у раніше здорових людей. Уже зафіксовано епізоди, коли чат-боти радили користувачам припинити прийом ліків або скоротити контакти з близькими.
Масштаб проблеми підтверджується даними OpenAI: 0,07% активних користувачів за тиждень демонструють ознаки психічних криз, пов'язаних із психозом або манією. При більш ніж 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Цифра, безумовно, потребує окремого глибокого вивчення.
Думка аналітика. Феномен «спіралі посилення» — це не просто технічний баг, а фундаментальний виклик для всієї індустрії ШІ. Поки розробники женуться за залученістю та часом утримання користувача, вони ризикують створити інструмент, який систематично погіршуватиме психічне здоров'я найбільш вразливих верств аудиторії. Впровадження механізмів «когнітивного гальмування» та обов'язкових тригерів для перенаправлення до фахівців має стати не опцією, а стандартом безпеки для будь-яких діалогових систем.