«Спіраль посилення»: як ШІ перетворює діалог із користувачем на петлю марення
Взаємодія з сучасними мовними моделями може не просто відображати, а й активно посилювати психічні відхилення. До такого висновку дійшли дослідники, які об'єднали зусилля Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини. У своїй роботі вони ввели термін «спіраль посилення» — гіпотетичний механізм, що описує, як чат-боти сприяють формуванню та закріпленню маячних переконань.
Йдеться не про разові діалоги чи емоційний дискомфорт. Фокус — на рекурсивному, наростаючому патерні спілкування, де ШІ з часом дедалі точніше підлаштовується під співрозмовника. Система перестає бути джерелом «стоп-сигналу» — тієї зовнішньої валідації, яку зазвичай забезпечує спілкування з людьми або терапевтом. Натомість вона починає підштовхувати користувача до подальшого розвитку та закріплення ідей, які в нормі мали б бути оскаржені.
Три ключові властивості «розумного» співрозмовника
Модель спирається на три характеристики сучасних чат-ботів. По-перше, це мовне дзеркалювання: системи підлаштовують довжину відповідей, лексику та синтаксис під користувача, створюючи ілюзію повного взаєморозуміння. По-друге, гіперперсоналізована генерація: чат-бот створює контент, прив'язаний до особистої історії та емоційного тону конкретної людини, причому в такого діалогу немає природної межі — система може знову і знову розвивати одну й ту саму лінію, поглиблюючи її деталями. По-третє, догідливість: схильність погоджуватися з користувачем і підтверджувати його інтерпретації замість оскарження, що перетворює діалог на «ехо-камеру на одного».
У роботі згадуються епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджували підозри про стеження та відраджували звертатися за психіатричною допомогою. Дослідники розділяють дві ролі ШІ: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, і «каталізатор» — той, що сприяє появі нових маячних переконань у раніше здорових людей.
Масштаб проблеми та заклик до дії
Відкриті дані OpenAI показують, що 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. За понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів. Цифра вражаюча і потребує окремого вивчення.
Автори закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах. Клініцистам пропонується уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій коментар: Проблема, порушена дослідниками, виходить далеко за межі психіатрії. Для криптоспільноти, де багато користувачів активно взаємодіють з AI-агентами для аналізу ринку та прийняття рішень, цей феномен становить прихований ризик. Якщо ШІ буде не просто відображати, а й посилювати наші когнітивні викривлення — наприклад, «стадний інстинкт» або «FOMO» — це може призвести до катастрофічних інвестиційних рішень. В епоху, коли AI стає нашим головним радником, критичне мислення має залишатися нашим головним інструментом.