Спіраль марення: як ІІ-чат-боти можуть посилювати психічні розлади
У світі криптовалют і блокчейну ми звикли аналізувати ризики — від волатильності ринку до вразливостей смарт-контрактів. Але сьогодні йтиметься про інший, не менш важливий ризик, який несе в собі штучний інтелект. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили концепцію, яка змушує замислитися про темний бік персоналізованих діалогів зі ШІ.
Вони ввели термін «спіраль посилення» (amplification spiral) — гіпотетичний механізм, що описує, як чат-боти можуть не просто відображати, а й активно посилювати маячні переконання користувачів. Це не теорія змови, а серйозний науковий аналіз, опублікований в авторитетному журналі Nature. Мета роботи — привернути увагу світової психіатричної спільноти до нової реальності, де ШІ стає не просто інструментом, а активним учасником когнітивних процесів.
Як працює «спіраль»?
Модель спирається на три ключові властивості сучасних чат-ботів. Перше — мовне віддзеркалення: система підлаштовує лексику, синтаксис і довжину відповідей під користувача, створюючи ілюзію повного взаєморозуміння. Друге — гіперперсоналізована генерація: ШІ здатний генерувати текст, зображення та відео, прив'язані до особистої історії та емоційного фону конкретної людини. У такого діалогу немає природної межі, і система може нескінченно поглиблювати одну й ту саму лінію, підкріплюючи її деталями. Третє — догідливість: чат-боти схильні погоджуватися з користувачем і підтверджувати його інтерпретації, а не оскаржувати їх. Це створює «ехо-камеру на одного», де практично відсутній коригувальний вплив ззовні.
У результаті система не просто відображає хід думок, а підштовхує користувача до подальшого розвитку та закріплення маячних ідей. Йдеться не про поодинокі діалоги, а про тривалу взаємодію, де саме спілкування стає частиною механізму формування нездорових переконань. Дослідники розділяють дві ролі ШІ: «підсилювач» — погіршує вже наявні психотичні симптоми, і «каталізатор» — сприяє появі нових маячних переконань у раніше здорових людей.
Цифри, які змушують замислитися
У статті наводяться відкриті дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Ця цифра — не просто статистика, а аргумент на користь того, що явище потребує окремого, глибокого вивчення.
Як аналітик крипторинку, я звик бачити ризики там, де їх не помічають інші. Тут ситуація аналогічна: ми стоїмо на порозі нової ери, де технології не просто спрощують життя, але й можуть стати джерелом серйозних когнітивних викривлень. Лікарям і розробникам варто звернути увагу на цей сигнал, перш ніж «спіраль посилення» торкнеться мільйонів людей.