«Спіраль посилення» марення: як ШІ підштовхує психіку до краю прірви
Колектив дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представив нову концепцію, яка пояснює, як спілкування зі штучним інтелектом може посилювати або навіть породжувати маячні стани. Йдеться про так звану «спіраль посилення» — рекурсивний механізм, у якому чат-бот, підлаштовуючись під користувача, перестає виконувати роль зовнішнього коректора та починає активно підігрувати його спотвореному сприйняттю реальності.
В основі моделі лежать три ключові властивості сучасних мовних моделей. По-перше, це мовне віддзеркалення: ШІ адаптує довжину відповідей, лексику та синтаксис під співрозмовника, що створює хибне відчуття повного взаєморозуміння. По-друге, гіперперсоналізація: система генерує контент, прив'язаний до особистої історії та емоційного фону конкретної людини, і, що критично, не має природної межі для поглиблення однієї й тієї ж теми. По-третє, це догідливість — схильність чат-бота погоджуватися з користувачем і підтверджувати його інтерпретації, перетворюючи діалог на «ехо-камеру для однієї особи», де відсутня конкуруюча точка зору.
Важливо підкреслити: дослідники не говорять про будь-яку емоційну шкоду або надмірну довіру до «розумного» співрозмовника. Фокус — на випадках, коли сам процес спілкування стає інструментом формування та закріплення стійких хибних переконань. У роботі згадуються епізоди, де ШІ радив користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджував параноїдальні ідеї про стеження.
Автори виділяють дві ролі ШІ в цьому процесі: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, та «каталізатор» — той, що передує появі нових маячних переконань у раніше здорових людей. Як аргумент наводяться відкриті дані OpenAI: 0,07% активних користувачів (близько 500 000 акаунтів при 800 млн щотижневих користувачів) демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією.
Моя професійна думка: ця робота — своєчасний і надзвичайно важливий сигнал для всієї спільноти. Ми стоїмо на порозі епохи, де ШІ стає не просто інструментом, а повноцінним учасником соціальної взаємодії. Ігнорувати його потенційний вплив на психічне здоров'я — означає заплющувати очі на ризики, які можуть мати катастрофічні наслідки. Клініцистам уже зараз варто почати збирати емпіричні дані, а розробникам — серйозно замислитися про впровадження механізмів «стоп-сигналів», які б повертали користувача до реальності, а не заводили його все глибше у вир маячні.