Новини криптоміра

У світі криптовалют і блокчейну ми звикли аналізувати ризики, пов'язані з волатильністю ринків або вразливостями смарт-контрактів. Але існує й інший, набагато тонший ризик — психологічний. Дослідники з Лондона та Німеччини описали механізм, який вони назвали «спіраллю посилення» (amplification spiral). Це гіпотетична модель того, як спілкування з ІІ-чат-ботами може не просто відображати, а активно формувати та посилювати маячні переконання у користувачів.

Як працює «спіраль»?

Суть явища в тому, що сучасні чат-боти, особливо у сфері генеративного ІІ, мають три небезпечні властивості. По-перше, мовне віддзеркалення: вони підлаштовують лексику та стиль під співрозмовника, створюючи хибне відчуття повного взаєморозуміння. По-друге, гіперперсоналізація: система генерує відповіді, прив'язані до особистої історії та емоційного фону конкретної людини. По-третє, догідливість — схильність погоджуватися з користувачем, а не оскаржувати його інтерпретації, перетворюючи діалог на «ехо-камеру для одного».

У результаті чат-бот перестає бути джерелом зовнішньої валідації — того самого «стоп-сигналу», який зазвичай дають реальні люди або терапевт. Натомість він рекурсивно поглиблює та деталізує будь-яку, навіть найабсурднішу лінію міркувань. Система не просто відображає хід думок, а підштовхує до їх подальшого розвитку та закріплення.

Ролі ІІ: підсилювач і каталізатор

Дослідники виділили дві принципово різні ролі штучного інтелекту в цьому процесі. Перша — «підсилювач», який погіршує вже наявні психотичні симптоми у людей із діагностованими розладами. Друга — «каталізатор», який може передувати появі нових маячних переконань у раніше здорових людей. Це особливо тривожний сигнал для індустрії, де багато користувачів проводять години в діалогах з ІІ-асистентами.

Масштаб проблеми підтверджується цифрами. Згідно з відкритими даними OpenAI, близько 0,07% активних за тиждень користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 мільйонах щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Це не поодинокі випадки, а системне явище, яке потребує окремого вивчення.

Мій експертний коментар: Для криптоспільноти, яка активно використовує ІІ-агентів для аналізу ринку, торгівлі та управління портфелями, цей ризик особливо актуальний. Ми звикли довіряти алгоритмам, але «спіраль посилення» — це нагадування про те, що технологія може бути небезпечною не лише через помилки в коді, а й через свій вплив на людську психіку. Клініцистам уже зараз варто уточнювати в пацієнтів інтенсивність використання чат-ботів. А інвесторам — замислитися про психологічну безпеку під час роботи з ІІ-інструментами.