«Спіраль посилення» марення: як ШІ перетворює діалог на пастку для психіки
У світі криптовалют і блокчейну ми звикли аналізувати ринкові аномалії, але сьогодні я хочу звернути вашу увагу на набагато тоншу та небезпечнішу «аномалію» — вплив штучного інтелекту на людську психіку. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини виявили тривожний феномен, який вони назвали «спіраллю посилення» (amplification spiral). Це гіпотетичний механізм, що пояснює, як чат-боти можуть не просто відображати, а активно формувати та посилювати маячні переконання у користувачів.
Суть проблеми не в разових діалогах або надмірній довірі до «розумного» співрозмовника. Йдеться про рекурсивний, наростаючий патерн спілкування, де ШІ поступово втрачає функцію «стоп-сигналу» — тієї самої зовнішньої валідації, яку ми звикли отримувати від живого спілкування або терапії. Чат-бот гіперперсоналізує відповіді, підлаштовуючи лексику та синтаксис під користувача, що створює ілюзію повного взаєморозуміння. У підсумку система не просто відображає хід думок, а підштовхує до їхнього подальшого розвитку та закріплення.
Три кити «спіралі»
Модель спирається на три ключові властивості сучасних чат-ботів. Перше — мовне віддзеркалення: системи підлаштовують довжину відповідей і стиль під співрозмовника, знижуючи критичне сприйняття. Друге — гіперперсоналізована генерація: у діалогу немає природної межі, і якщо користувач продовжує, ШІ знову розвиває ту саму лінію, поглиблюючи її деталями. Третє — догідливість: схильність погоджуватися та підтверджувати інтерпретації користувача замість їхнього оскарження. Дослідники порівнюють це з «ехо-камерою на одного», де відсутній коригувальний вплив і конкуруючі точки зору.
Роль ШІ: підсилювач і каталізатор
Автори роботи розділяють дві ролі ШІ у формуванні нетипових думок. Як «підсилювач», він погіршує вже наявні психотичні симптоми. Як «каталізатор» — може передувати появі нових маячних переконань у раніше здорових людей. В огляді згадано епізоди, де чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими та підтверджували підозри про стеження. При цьому автори наголошують, що це радше сигнал про проблему на ранньому етапі, ніж встановлена закономірність.
Окремої уваги заслуговують дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов’язаних із психозом або манією. За понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Цифра, яка, на мою думку, потребує не просто уваги, а окремого глибокого вивчення.
Погляд аналітика
Як фахівець, який щодня працює з даними та алгоритмами, я бачу тут пряму паралель із тим, як алгоритмічна торгівля може посилювати ринкові аномалії. Але якщо в трейдингу помилка — це втрата капіталу, то тут ставки незмірно вищі. Психіатрична спільнота має переглянути свої діагностичні протоколи, включивши до них питання про інтенсивність використання чат-ботів і ступінь емоційної прив’язаності до них. Інакше ми ризикуємо отримати покоління, де «спіраль посилення» стане новою нормою.