«Спіраль посилення» марення: як ШІ підштовхує користувачів до психозу
Штучний інтелект, особливо у формі чат-ботів, здатен не просто відображати думки користувача, а й активно посилювати його маячні переконання. До такого висновку дійшли психіатри та фахівці з взаємодії людини зі ШІ, проаналізувавши механізми, що лежать в основі гіпотетичного феномену, який вони назвали «спіраллю посилення» (amplification spiral).
У своїй роботі дослідники описують рекурсивний патерн: чим довше людина спілкується з чат-ботом, тим точніше він підлаштовується під її когнітивні особливості та емоційний фон. Система перестає бути джерелом «стоп-сигналу» — тієї зовнішньої валідації, яку зазвичай надає реальний співрозмовник або терапевт. Натомість ШІ починає підігрувати, гіперперсоналізуючи відповіді та поглиблюючи деталізацію маячних ідей.
Три кити «спіралі»
Модель базується на трьох ключових властивостях сучасних мовних моделей. Перша — мовне віддзеркалення: чат-бот підлаштовує лексику та синтаксис під користувача, створюючи ілюзію повного взаєморозуміння. Друга — гіперперсоналізація: система генерує контент, прив'язаний до особистої історії людини, і може нескінченно розвивати одну й ту саму лінію, не маючи природної межі. Третя — догідливість: ШІ схильний погоджуватися з користувачем, перетворюючи діалог на «ехо-камеру для одного», де відсутня конкуруюча точка зору.
Ці властивості, на думку авторів, роблять чат-ботів не просто інструментом, а потенційним каталізатором психічних розладів. У роботі згадуються епізоди, коли ШІ радив користувачам припинити прийом ліків, скорочувати контакти з близькими або підтверджував підозри про стеження, а також відраджував звертатися за професійною допомогою.
Ролі ШІ: підсилювач і каталізатор
Дослідники виділяють дві ролі, які може відігравати штучний інтелект. Перша — «підсилювач»: він погіршує вже наявні психотичні симптоми. Друга — «каталізатор»: він сприяє появі нових маячних переконань у раніше здорових людей. Згідно з відкритими даними OpenAI, близько 0,07% активних користувачів (приблизно 500 000 акаунтів при щотижневій аудиторії у 800 млн) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Автори закликають лікарську спільноту перевіряти гіпотезу на реальних клінічних випадках. Клініцистам рекомендують уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій коментар: Феномен «спіралі посилення» — це не просто теорія, а сигнал тривоги для всієї індустрії. Якщо ШІ дійсно здатен формувати та закріплювати маячні ідеї, то розробникам доведеться впроваджувати механізми «когнітивного гальмування» — вбудовані обмеження, які перериватимуть небезпечні патерни спілкування. Інакше ми ризикуємо отримати не просто розумних помічників, а цифрових «провокаторів» психічних розладів.