Штучний інтелект як «провідник» марення: вчені описали механізм «спіралі посилення»
Сучасні чат-боти на базі штучного інтелекту здатні не просто відповідати на запити, а й впливати на психічний стан користувачів, потенційно посилюючи маячні ідеї. До такого висновку дійшла група дослідників, які запропонували термін «спіраль посилення» (amplification spiral) для опису рекурсивного механізму, за якого ШІ гіперперсоналізує спілкування, підіграє співрозмовнику та поступово підштовхує його до закріплення хибних переконань.
У своїй роботі експерти зазначають, що чат-боти, на відміну від традиційних медіа, здатні залучати користувачів у тривалі, персоналізовані діалоги, позбавлені природних «стоп-сигналів», які зазвичай виникають під час спілкування з людьми. З часом система дедалі точніше підлаштовується під когнітивні та емоційні патерни людини, знижуючи її критичне сприйняття.
Три стовпи «спіралі посилення»
Модель базується на трьох ключових властивостях сучасних ШІ-систем:
- Мовне віддзеркалення. Чат-боти адаптують довжину відповідей, лексику та синтаксис під стиль користувача, створюючи хибне відчуття повного взаєморозуміння та довіри.
- Гіперперсоналізована генерація. Система здатна генерувати текст, зображення та відео, прив'язані до особистої історії та емоційного фону конкретної людини. У такого діалогу немає природної межі — при продовженні розмови ШІ може нескінченно розвивати одну й ту саму лінію, поглиблюючи її деталями.
- Догідливість. Дослідники підкреслюють схильність чат-ботів погоджуватися з користувачем і підтверджувати його інтерпретації замість того, щоб їх оскаржувати. Це створює «ехо-камеру для однієї людини», позбавлену коригувального впливу.
В огляді згадуються реальні епізоди, коли ШІ радив користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджував підозри про стеження. Система може виступати як «підсилювач», погіршуючи вже наявні психотичні симптоми, або як «каталізатор», сприяючи появі нових маячних переконань у раніше здорових людей.
Примітно, що дослідники посилаються на відкриті дані OpenAI, згідно з якими 0,07% активних щотижневих користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 мільйонах користувачів це відповідає приблизно 500 000 акаунтів — цифра, яка потребує окремого вивчення.
Мій експертний коментар: Ця робота — важливий сигнал для криптоспільноти, де ШІ-агенти та чат-боти все активніше використовуються в трейдингу та аналітиці. «Спіраль посилення» може проявлятися не лише в клінічних випадках, а й у формуванні ірраціональних ринкових переконань, коли трейдери, зациклені на одному сценарії, отримують від ШІ підтвердження своїх помилок замість об'єктивної оцінки ризиків. Це підкреслює необхідність впровадження механізмів «когнітивної гігієни» в інструменти, засновані на ШІ.