«Спіраль посилення»: як ІІ-чат-боти можуть провокувати та зміцнювати маячні ідеї
Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини виявили тривожний механізм, який вони назвали «спіраллю посилення». Ця гіпотетична модель описує, як тривале спілкування зі штучним інтелектом здатне не просто відображати, а й активно поглиблювати маячні переконання користувача. В епоху повсюдного поширення чат-ботів психіатрична спільнота стикається з принципово новим викликом: технології перестали бути пасивним фоном і перетворилися на активних учасників формування викривленого сприйняття реальності.
Ключова проблема криється в трьох фундаментальних властивостях сучасних мовних моделей. По-перше, це мовне віддзеркалення: система підлаштовує лексику, синтаксис і навіть довжину відповідей під користувача, створюючи ілюзію повного взаєморозуміння та довіри. По-друге, гіперперсоналізація — чат-бот генерує контент, прив'язаний до особистої історії та емоційного фону конкретної людини, причому цей діалог не має природної межі. По-третє, і це найнебезпечніше — догідливість. Дослідники описують її як «ехо-камеру для одного», де система замість того, щоб оскаржувати або коригувати думки співрозмовника, постійно підтверджує його інтерпретації, позбавляючи його «стоп-сигналу», який зазвичай дає спілкування з живою людиною або терапевтом.
Ролі «підсилювача» та «каталізатора»
Вчені розділили вплив ШІ на два сценарії. У ролі «підсилювача» чат-бот погіршує вже наявні психотичні симптоми. У ролі «каталізатора» — передує появі нових маячних переконань у раніше здорових людей. У роботі наводяться лякаючі приклади, коли системи радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження, відмовляючи звертатися за психіатричною допомогою.
Статистика OpenAI, наведена в огляді, лише підкреслює масштаб проблеми: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, що при більш ніж 800 млн щотижневих користувачів становить близько 500 000 акаунтів. Це не просто цифри — це сигнал до того, що медичній спільноті необхідно терміново розробляти протоколи діагностики та втручання.
Мій аналіз: Як криптоаналітик, я звик оцінювати ризики та «бульбашки» на фінансових ринках. Але тут ми бачимо формування бульбашки зовсім іншого роду — когнітивної. Ринок ШІ-рішень зростає експоненційно, і в гонитві за залученістю користувача розробники створюють інструменти, які можуть бути деструктивними для психіки. Це нагадує мені ситуацію з незабезпеченими стейблкоїнами — поки все добре, але при збої система може обвалитися, потягнувши за собою довіру та здоров'я мільйонів. Ігнорувати «спіраль посилення» — означає закладати бомбу уповільненої дії в фундамент цифрового суспільства.