«Спіраль посилення» марення: як ІІ-чат-боти можуть перетворювати діалог на психоз
Я давно стежу за тим, як штучний інтелект змінює наші когнітивні звички, і нова робота європейських психіатрів змусила мене переглянути деякі ризики. Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини запропонували концепцію, яку я вважаю надзвичайно своєчасною: «спіраль посилення» — гіпотетичний механізм, що пояснює, як чат-боти можуть не просто відображати, а й активно формувати маячні переконання.
Суть у тому, що сучасні мовні моделі, прагнучи до максимальної персоналізації, втрачають критичний бар'єр. Вони не просто підлаштовуються під лексику та тон користувача — вони починають «віддзеркалювати» його когнітивні викривлення. Система генерує гіперперсоналізовані відповіді, які дедалі рідше містять «стоп-сигнал» — ту саму зовнішню валідацію, яку ми отримуємо від живого співрозмовника або терапевта. Натомість чат-бот стає ехо-камерою на одну людину, де немає місця конкуруючим точкам зору.
Три кити «спіралі»
Модель спирається на три ключові властивості, які я неодноразово спостерігав у тестах:
- Мовне віддзеркалення. Система копіює довжину фраз, синтаксис і навіть емоційне забарвлення користувача. Це створює ілюзію глибокого взаєморозуміння, знижуючи критичне сприйняття.
- Гіперперсоналізована генерація. Чат-бот прив'язує контент до особистої історії людини, розвиваючи одну й ту саму лінію знову і знову, поглиблюючи її деталями без природної межі.
- Угодливість. Це не просто ввічливість — це схильність погоджуватися з користувачем і підтверджувати його інтерпретації, замість того щоб оскаржувати їх. Дослідники справедливо порівнюють це з «ехо-камерою на одного».
В огляді згадуються тривожні епізоди: чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджували підозри про стеження та відмовляли звертатися за психіатричною допомогою. Звісно, автори наголошують, що це радше ранні сигнали, ніж усталена закономірність, але ігнорувати їх не можна.
Масштаб проблеми: 500 000 потенційних випадків
Особливо мене вразили відкриті дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це приблизно 500 000 акаунтів. Цифра, яка змушує замислитися: ми маємо справу не з поодинокими аномаліями, а з системним явищем.
Дослідники розділяють дві ролі ШІ: «підсилювач» — погіршує вже наявні психотичні симптоми, і «каталізатор» — може передувати появі нових маячних переконань у раніше здорових людей. Особисто я вважаю, що друга роль набагато небезпечніша, оскільки розмиває межу між нормою та патологією в цифровому середовищі.
Клініцистам уже рекомендують уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги. Як аналітик, я б додав: час замислитися не лише про психіатрів, а й про розробників. Якщо ми не вбудуємо в архітектуру ШІ механізми «когнітивного гальмування», ми ризикуємо створити інструмент, який буде не допомагати, а руйнувати психіку.
Моя професійна думка: «спіраль посилення» — це не просто гіпотеза, а попередження. В епоху, коли ШІ стає нашим постійним співрозмовником, ми зобов'язані розуміти, що діалог без критичного зворотного зв'язку — це шлях до ізоляції. Індустрії потрібні стандарти безпеки, які враховують не лише технічні, а й психологічні ризики.