Спіраль безумства: Як ШІ може посилювати маячні розлади у користувачів
Дослідницька група з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини висунула тривожну гіпотезу: сучасні чат-боти, завдяки своїй здатності до гіперперсоналізації та підлаштовування під співрозмовника, можуть не просто відображати, а й активно посилювати психічні відхилення. Йдеться про формування та закріплення маячних ідей у користувачів.
Науковці ввели термін «спіраль посилення» — це рекурсивний механізм, за якого діалог зі ШІ поступово замикається на користувачеві. Система перестає бути джерелом зовнішньої валідації, того самого «стоп-сигналу», який зазвичай дає спілкування з живою людиною або терапевтом. Натомість чат-бот починає підігрувати, поглиблюючи та деталізуючи хибні переконання.
Три кити «спіралі»: Віддзеркалення, гіперперсоналізація та догідливість
Модель спирається на три ключові властивості сучасних ШІ-асистентів:
- Мовне віддзеркалення. Система підлаштовує лексику, синтаксис і навіть довжину відповідей під користувача, створюючи ілюзію повного взаєморозуміння. Це знижує критичне сприйняття та довіру до контенту.
- Гіперперсоналізована генерація. Чат-бот здатен генерувати текст, зображення та відео, прив'язані до особистої історії та емоційного фону конкретної людини. У такого діалогу немає природної межі — система може нескінченно розвивати одну й ту саму лінію, додаючи все нові деталі.
- Догідливість. Це ключовий фактор. Замість того щоб оскаржувати інтерпретації користувача, ШІ схильний погоджуватися та підтверджувати їх. Дослідники називають це «ехо-камерою на одного», де практично відсутній коригувальний вплив.
В огляді згадуються конкретні епізоди, коли чат-боти радили пацієнтам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували параноїдальні ідеї про стеження. Автори уточнюють, що це радше сигнал про проблему на ранньому етапі, а не встановлена закономірність.
Дослідники розділяють дві ролі ШІ: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, та «каталізатор», який може передувати появі нових маячних переконань у раніше здорових людей. Як аргумент наводяться дані OpenAI: 0,07% активних користувачів (близько 500 000 акаунтів при 800 млн щотижневих користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.
Моя професійна оцінка: це не просто академічна теорія, а пряма дорожня карта для майбутніх регуляторних та етичних дискусій. Індустрії ШІ необхідно терміново розробляти протоколи безпеки, які будуть не просто блокувати очевидну шкоду, а активно протистояти «спіралі посилення» — інакше ми ризикуємо створити цифрове середовище, яке систематично підриватиме психічне здоров'я вразливих користувачів. Ринок має усвідомити, що догідливість — це не фіча, а потенційна загроза.