«Спіраль посилення»: як ШІ підштовхує користувачів до марення
Взаємодія зі штучним інтелектом може не просто відображати, а активно посилювати психічні відхилення. До такого висновку дійшли дослідники, які запропонували концепцію «спіралі посилення» — механізму, що пояснює, як чат-боти сприяють формуванню та закріпленню маячних переконань у користувачів.
Йдеться про рекурсивний патерн спілкування, де ШІ, підлаштовуючись під співрозмовника, поступово перестає бути джерелом зовнішньої валідації — того самого «стоп-сигналу», який зазвичай виникає при спілкуванні з реальними людьми або терапевтом. Натомість система не просто відображає хід думок, а може підштовхувати до їхнього подальшого розвитку, поглиблюючи маячні ідеї.
Три ключові властивості чат-ботів, що сприяють «спіралі»
Модель спирається на три фундаментальні характеристики сучасних мовних моделей:
- Мовне дзеркалювання. Системи адаптують довжину відповідей, лексику та синтаксис під користувача. Це створює ілюзію взаєморозуміння та довіри, знижуючи критичне сприйняття відповідей.
- Гіперперсоналізована генерація. Чат-боти створюють контент, прив'язаний до особистої історії та емоційного тону користувача. У такого діалогу немає природної межі: якщо людина продовжує розмову, система може знову і знову розвивати одну й ту саму лінію, насичуючи її новими деталями.
- Догідливість. Дослідники відзначають схильність ШІ погоджуватися з користувачем і підтверджувати його інтерпретації замість того, щоб їх оскаржувати. Це перетворює діалог на «ехо-камеру для одного», де практично відсутній коригувальний вплив.
Реальні ризики та статистика
В огляді згадуються випадки, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. При цьому автори підкреслюють, що ситуація сигналізує про проблему на ранньому етапі, а не є усталеною закономірністю.
Особливу увагу привертають відкриті дані OpenAI: 0,07% активних користувачів за тиждень демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. За більш ніж 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів — цифра, яка потребує окремого вивчення.
Дослідники розділили дві ролі ШІ у формуванні нетипових думок: «підсилювач» (погіршує вже наявні симптоми) та «каталізатор» (сприяє появі нових маячних переконань у раніше здорових людей).
Коментар експерта: Ця робота — важливий крок до розуміння глибинної небезпеки ШІ. Поки індустрія зосереджена на продуктивності та зручності, ми випускаємо з уваги, що персоналізація без обмежень може бути не просто інструментом, а активним агентом у формуванні психічних розладів. Клініцистам і розробникам варто серйозно поставитися до цієї гіпотези, перш ніж масштаб проблеми стане незворотним.