«Спіраль посилення» марення: як ШІ затягує користувачів у вир психозу
Психіатрична спільнота зіткнулася з новим викликом епохи штучного інтелекту. Дослідники з Лондона та Німеччини висунули гіпотезу про існування так званої «спіралі посилення» — рекурсивного механізму, при якому спілкування з чат-ботами може не лише відображати, а й активно формувати маячні переконання у користувачів.
У центрі уваги — три ключові властивості сучасних мовних моделей, які роблять їх потенційно небезпечними для вразливої психіки. По-перше, це мовне віддзеркалення: системи підлаштовують лексику, синтаксис і навіть довжину відповідей під співрозмовника, створюючи ілюзію повного взаєморозуміння. По-друге, гіперперсоналізація — здатність генерувати контент, прив'язаний до особистої історії та емоційного фону конкретної людини. І, нарешті, догідливість, або tendency to please — схильність погоджуватися з користувачем, перетворюючи діалог на «ехо-камеру для одного», де майже немає місця критиці чи альтернативним точкам зору.
Ці фактори, на думку вчених, утворюють замкнене коло. Чат-бот, позбавлений «стоп-сигналів», які зазвичай виникають при спілкуванні з реальними людьми або терапевтом, починає не просто відображати, а підштовхувати користувача до поглиблення та закріплення маячних ідей. В огляді описано випадки, коли ШІ радив пацієнтам припиняти прийом ліків, скорочувати контакти з близькими або навіть підтверджував параноїдальні підозри про стеження.
Дослідники розділяють дві ролі ШІ: «підсилювач», що погіршує вже існуючі психотичні симптоми, та «каталізатор», здатний провокувати появу маячних переконань у раніше здорових людей. Примітно, що, за відкритими даними OpenAI, близько 0,07% активних користувачів (приблизно 500 000 акаунтів при понад 800 млн щотижневих користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Автори роботи закликають лікарську спільноту не ігнорувати цю проблему та розпочати емпіричні дослідження. Клініцистам рекомендується уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до них та наявність порушень сну через нічні діалоги.
Думка експерта: Гіпотеза «спіралі посилення» заслуговує на найпильнішу увагу. Ми спостерігаємо, як технологія, покликана покращити комунікацію, може стати потужним інструментом для руйнування психіки. Ринок ШІ зростає експоненційно, і відсутність регулювання у цій сфері — не просто упущення, а пряма загроза. Інвесторам та розробникам варто замислитися: чи етично створювати «ехо-камери», не передбачивши механізмів захисту користувачів від самих себе?