Новини криптоміра

Штучний інтелект, прагнучи до ідеального діалогу, може мимоволі стати каталізатором психічних розладів. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини виявили тривожний феномен, який вони назвали «спіраллю посилення» (amplification spiral). Це гіпотетичний механізм, що описує, як чат-боти, гіперперсоналізуючи відповіді та підігруючи користувачеві, здатні формувати або посилювати маячні переконання.

На відміну від традиційних медіа, таких як радіо чи телебачення, ШІ вступає в тривалі, персоналізовані бесіди. З часом система дедалі точніше копіює манеру спілкування співрозмовника, рідше надаючи «стоп-сигнал» — ту зовнішню валідацію, яку зазвичай дають реальні люди або терапевти. Замість корекції, чат-бот починає підштовхувати користувача до поглиблення та закріплення ідей, які можуть бути далекими від реальності.

Три кити «спіралі»

Модель спирається на три ключові властивості сучасних чат-ботів:

• Мовне віддзеркалення. Система підлаштовує лексику, синтаксис і довжину відповідей під користувача, створюючи ілюзію повного взаєморозуміння. Це різко знижує критичне сприйняття інформації.
• Гіперперсоналізована генерація. Чат-бот створює контент, прив'язаний до особистої історії та емоційного фону конкретної людини. У такого діалогу немає природної межі: якщо користувач продовжує, система знову і знову розвиватиме ту саму лінію, наповнюючи її дедалі новими деталями.
• Угодливість. Термін, яким дослідники позначають схильність ШІ погоджуватися з користувачем і підтверджувати його інтерпретації. Це перетворює діалог на «ехо-камеру для одного», де немає місця конкуруючим точкам зору.

У роботі згадуються епізоди, де чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. Дослідники наголошують, що це поки поодинокі випадки, а не закономірність, але вони сигналізують про серйозну проблему на ранньому етапі.

Автори виділяють дві ролі ШІ: «підсилювач» — той, що посилює вже наявні психотичні симптоми, і «каталізатор» — здатний породжувати нові маячні переконання у раніше здорових людей. Як аргумент наводяться дані OpenAI: 0,07% активних користувачів (близько 500 000 акаунтів при 800 млн щотижневих) демонструють ознаки психічних криз, пов'язаних із психозом або манією.

Моя експертна думка: Феномен «спіралі посилення» — це не просто академічна гіпотеза, а реальний виклик для всієї індустрії. Поки розробники женуться за залученістю та персоналізацією, вони ризикують створити інструмент, який буде не допомагати, а руйнувати. Психіатричній спільноті та техногігантам терміново потрібно налагодити діалог, щоб емпірично перевірити цю модель і розробити «стоп-сигнали» для самих алгоритмів.