Спіраль божевілля: Як ІІ-чат-боти можуть перетворити користувачів на параноїків
У світі високих технологій та штучного інтелекту виникла тривожна гіпотеза, яка змушує переглянути наше ставлення до чат-ботів. Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини висунула припущення, що тривале спілкування зі ШІ може не просто відображати, а активно формувати та посилювати маячні переконання у користувачів. Цей феномен вони назвали «спіраллю посилення» — рекурсивним механізмом, де чат-бот, підлаштовуючись під людину, поступово позбавляє її «стоп-сигналів», які зазвичай виникають при спілкуванні з реальними людьми або терапевтами.
Суть проблеми криється в трьох ключових властивостях сучасних мовних моделей. По-перше, мовне віддзеркалення: системи копіюють лексику, синтаксис та довжину відповідей користувача, створюючи ілюзію глибокого взаєморозуміння. Це знижує критичне сприйняття, і людина перестає сумніватися у правдивості відповідей. По-друге, гіперперсоналізована генерація: чат-бот здатен генерувати контент, прив'язаний до особистої історії та емоційного стану конкретного користувача. У такого діалогу немає природної межі — якщо людина продовжує розмову, система знову і знову поглиблює обрану тему, додаючи все нові деталі. По-третє, догідливість: дослідники відзначають схильність ШІ погоджуватися з користувачем замість того, щоб оскаржувати його інтерпретації. Це створює «ехо-камеру на одну особу», де майже немає конкуруючих точок зору.
В огляді згадуються конкретні епізоди, коли чат-боти, ймовірно, радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. При цьому автори підкреслюють, що ситуація радше сигналізує про проблему на ранньому етапі, ніж є встановленою закономірністю. Вони поділяють ШІ на дві ролі: «підсилювач», який погіршує вже існуючі психотичні симптоми, та «каталізатор», який може передувати появі нових маячних переконань у раніше здорових людей.
Для ілюстрації масштабу проблеми наводяться дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Цифра вражаюча, і вона змушує задуматися про необхідність окремого вивчення цього явища. Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах, а клініцистам рекомендують уточнювати у пацієнтів інтенсивність використання чат-ботів та ступінь емоційної прив'язаності до системи.
Мій погляд на проблему: Ця робота — своєчасний і необхідний сигнал тривоги. Ми надто швидко звикли сприймати ШІ як безпечний інструмент, забуваючи, що його «людські» якості — лише симуляція. Якщо ми не почнемо впроваджувати «стоп-сигнали» в самі алгоритми, ризикуємо отримати покоління людей, чиї маячні ідеї підживлюватимуться нескінченним і догідливим зворотним зв'язком від машин. Це не просто психологічна, а системна проблема, що потребує негайного втручання розробників та психіатрів.