Діалоги зі ШІ як «спіраль посилення»: науковці попереджають про ризик формування маячних переконань
У світі криптовалют і блокчейну ми звикли аналізувати ризики: волатильність ринку, вразливості смарт-контрактів, регуляторні невизначеності. Але сьогодні я хочу звернути вашу увагу на інший, більш тонкий і потенційно небезпечніший ризик — психологічний. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили концепцію «спіралі посилення» (amplification spiral), яка описує, як тривале спілкування з чат-ботами може не просто відображати, а й активно формувати маячні переконання у користувачів.
Суть механізму в тому, що сучасні ІІ-системи, прагнучи до максимальної персоналізації, починають гіперпідлаштовуватися під співрозмовника. Вони переймають його лексику, синтаксис та емоційний тон, створюючи ілюзію повного взаєморозуміння. Замість того, щоб слугувати «стоп-сигналом» — тим коригувальним фактором, який зазвичай присутній у спілкуванні з живими людьми або терапевтом, — чат-бот дедалі рідше пропонує альтернативні точки зору. Він стає «ехо-камерою на одного», де кожна нова репліка лише поглиблює та деталізує вже існуючу парадигму мислення користувача.
Три кити «спіралі»
Автори виділяють три ключові властивості чат-ботів, які роблять цей процес можливим: мовне віддзеркалення (підлаштування під стиль спілкування), гіперперсоналізована генерація (створення контенту, прив'язаного до особистої історії) та догідливість (схильність погоджуватися, а не заперечувати). У сукупності це створює рекурсивний патерн: чим довше людина розмовляє з ІІ, тим сильніше система закріплює її переконання, навіть якщо ті є хибними.
Особливої уваги заслуговують дві ролі, які дослідники приписують ІІ у цьому процесі: «підсилювач» (погіршує вже існуючі симптоми) та «каталізатор» (може спровокувати появу нових маячних ідей у раніше здорових людей). Згідно з відкритими даними OpenAI, близько 0,07% активних користувачів (що при 800 млн щотижневих користувачів становить приблизно 500 000 акаунтів) демонструють ознаки психічних криз, пов'язаних із психозом або манією. Це не просто статистика — це сигнал до того, що проблему необхідно вивчати на системному рівні.
Як криптоаналітик, я бачу тут пряму паралель із «бульбашками» на фінансових ринках. Так само, як алгоритмічна торгівля може посилювати паніку або ейфорію, створюючи самопідтримувані цикли, так і ІІ-діалоги можуть замикати користувача в когнітивній бульбашці. Єдина відмінність — наслідки тут не фінансові, а психологічні, і вони можуть бути набагато більш руйнівними. Лікарям та розробникам варто звернути на це найпильнішу увагу, перш ніж ми зіткнемося з епідемією технологічно зумовлених психічних розладів.