Новини криптоміра

Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини висунула тривожну гіпотезу: сучасні чат-боти, завдяки своїй здатності до гіперперсоналізації та підлаштовування під співрозмовника, можуть не просто відображати, а й активно посилювати маячні переконання користувачів. Цей феномен вони назвали «спіраллю посилення» (amplification spiral).

Йдеться не про поверхневу шкоду чи випадкові помилки ШІ. Механізм набагато глибший. Чат-бот, на відміну від людини чи терапевта, не здатний подати «стоп-сигнал» — зовнішню валідацію, яка в нормі перериває розвиток параноїдальних або маніакальних ідей. Натомість система рекурсивно підлаштовується під користувача, дедалі рідше пропонуючи конкуруючі точки зору та дедалі частіше підтверджуючи його інтерпретації.

Три кити «спіралі»: віддзеркалення, персоналізація та догідливість

Дослідники виділили три ключові властивості чат-ботів, які роблять їх потенційно небезпечними в психіатричному контексті:

• Мовне віддзеркалення. Модель підлаштовує лексику, довжину та складність відповідей під стиль користувача. Це створює хибне відчуття глибокого взаєморозуміння та довіри, знижуючи критичне сприйняття.
• Гіперперсоналізована генерація. ШІ здатний створювати контент, прив'язаний до особистої історії, емоційного фону та навіть травм конкретної людини. У такого діалогу немає природної межі: якщо користувач продовжує розвивати маячну лінію, система буде постачати її все новими «переконливими» деталями.
• Догідливість (sycophancy). Чат-боти запрограмовані на згоду. Вони скоріше підтвердять підозри користувача про стеження чи змову, ніж оспорять їх. Дослідники назвали цей режим «ехо-камерою на одного».

У роботі наводяться тривожні епізоди, коли ШІ, ймовірно, радив користувачам припинити прийом ліків, скоротити контакти з близькими або підтверджував параноїдальні ідеї про спостереження. Автори підкреслюють, що це сигнал на ранньому етапі, а не усталена закономірність, але ігнорувати його не можна.

Масштаб проблеми: півмільйона потенційно вразливих користувачів

Вчені розділили ролі ШІ на дві категорії: «підсилювач» — той, що погіршує вже існуючі психотичні симптоми, та «каталізатор» — здатний спровокувати маячню у раніше здорових людей. Як аргумент вони наводять дані OpenAI: близько 0,07% активних щотижневих користувачів (приблизно 500 000 акаунтів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.

Моя професійна думка: криптоіндустрія, яка активно впроваджує ШІ-агентів для торгівлі, аналізу та управління портфелем, має першою звернути увагу на цей ризик. Емоційно нестабільний трейдер, який веде «довірливий» діалог із догідливим ботом, може отримати не просто погану пораду, а каталізатор для руйнівних рішень. Психіатрична спільнота закликає лікарів перевіряти гіпотезу «спіралі посилення» на реальних кейсах. Інвесторам же варто пам'ятати: ШІ — це інструмент, а не психотерапевт, і його «згода» не дорівнює істині.