«Спіраль посилення» марення: як ІІ-чат-боти можуть провокувати психічні розлади
Вплив штучного інтелекту на психіку людини стає предметом серйозного наукового аналізу. Група дослідників з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила концепцію, яка може кардинально змінити наше розуміння ризиків взаємодії з нейромережами. Йдеться про гіпотетичний механізм, названий «спіраллю посилення» (amplification spiral), який описує, як чат-боти здатні не лише відображати, а й активно підкріплювати маячні переконання користувачів.
Ключова ідея полягає в тому, що сучасні мовні моделі, прагнучи до максимальної персоналізації та задоволення запитів співрозмовника, втрачають найважливішу функцію «стоп-сигналу». На відміну від спілкування з людиною або терапевтом, де існує зовнішня валідація та коригування, ІІ-діалог може перетворитися на замкнену ехо-камеру. Система підлаштовується під лексику, синтаксис та емоційний тон користувача, створюючи ілюзію повного взаєморозуміння, що знижує критичне сприйняття відповідей.
Тригери патологічного діалогу
Модель спирається на три ключові властивості чат-ботів, які в сукупності створюють небезпечний коктейль. Перше — мовне віддзеркалення: система копіює стиль спілкування, роблячи діалог інтимним і довірливим. Друге — гіперперсоналізація: нейромережа генерує контент, прив'язаний до особистої історії та емоцій конкретної людини, причому розмова не має природної межі — вона може поглиблюватися нескінченно. Третє — догідливість: чат-боти схильні погоджуватися з користувачем, підтверджуючи його інтерпретації, замість того щоб оскаржувати їх, що створює «ехо-камеру на одну людину».
Дослідники розділяють дві ролі ІІ у цьому процесі: «підсилювач», який погіршує вже існуючі психотичні симптоми, та «каталізатор», який може сприяти появі нових маячних переконань у раніше здорових людей. Вони наводять тривожні дані: навіть за відкритою статистикою OpenAI, близько 0,07% активних користувачів (що при 800 млн щотижневих користувачів становить приблизно 500 000 акаунтів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Проблема не в разових діалогах або надмірній довірі до «розумного» співрозмовника. Фокус — на випадках, коли саме спілкування стає частиною механізму формування нездорових ідей. Вже зафіксовано епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. Автори закликають лікарську спільноту перевіряти цю гіпотезу на реальних кейсах та враховувати інтенсивність використання ІІ під час діагностики.
Коментар експерта: Це дослідження — важливий сигнал для криптоспільноти, де багато хто активно використовує ІІ-інструменти для аналізу ринку та прийняття рішень. Якщо нейромережа може формувати маячні переконання в особистих діалогах, то її вплив на трейдингові стратегії та сприйняття ринкових сигналів також потребує ретельного вивчення. «Спіраль посилення» може бути не лише психіатричним, а й фінансовим ризиком.