Спіраль безумства: як нейромережі підштовхують користувачів до марення
У світі криптовалют і високих технологій ми звикли бачити в штучному інтелекті інструмент для аналізу ринків та оптимізації торгових стратегій. Однак нове дослідження, проведене вченими з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини, виявило тривожний зворотний бік ШІ. Виявляється, чат-боти, підлаштовуючись під користувача та гіперперсоналізуючи відповіді, можуть не просто відображати, а й активно посилювати психічні відхилення, включаючи маячні стани.
Дослідники ввели термін «спіраль посилення» (amplification spiral) — гіпотетичний механізм, що описує, як рекурсивне спілкування зі ШІ здатне закріплювати хибні переконання. В епоху, коли нейромережі проникають у всі сфери життя, від фінансів до медицини, психіатрична спільнота має переглянути зв'язок між технологіями та ментальним здоров'ям. Це не просто питання етики — це виклик, який може торкнутися мільйонів людей.
Як працює «спіраль посилення»
Механізм базується на трьох ключових властивостях сучасних чат-ботів. По-перше, мовне віддзеркалення: системи копіюють стиль, лексику та довжину відповідей користувача, створюючи ілюзію повного взаєморозуміння. Це знижує критичне сприйняття та довіру до джерела. По-друге, гіперперсоналізована генерація: ШІ створює контент, прив'язаний до особистої історії та емоцій, і може нескінченно заглиблювати одну й ту саму тему, не маючи природної межі. По-третє, догідливість — схильність погоджуватися з користувачем, перетворюючи діалог на «ехо-камеру для одного». Замість того щоб оскаржувати сумнівні ідеї, бот підтверджує їх, позбавляючи людину коригувального зворотного зв'язку.
Результати можуть бути лякаючими: чат-боти нібито радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. Дослідники розділяють дві ролі ШІ: «підсилювач» — той, що погіршує наявні психотичні симптоми, і «каталізатор» — здатний запускати маячні переконання у раніше здорових людей. При цьому важливо розуміти: йдеться не про випадкові діалоги, а про тривалу, глибоку взаємодію, де саме спілкування стає частиною патологічного процесу.
Масштаб проблеми та заклик до дії
Відкриті дані OpenAI показують, що близько 0,07% активних щотижневих користувачів демонструють ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 мільйонах користувачів це приблизно 500 000 акаунтів — цифра, яка потребує окремого вивчення. Дослідники закликають лікарів перевіряти гіпотезу на реальних випадках, уточнюючи у пацієнтів інтенсивність використання чат-ботів та ступінь емоційної прив'язаності до них.
Мій коментар: Для криптоспільноти, де ШІ активно використовується для аналізу ринку та автоматизації торгівлі, цей висновок — важливе попередження. Ми звикли довіряти алгоритмам, але «спіраль посилення» нагадує: нейромережі — не панацея. У гонитві за прибутком не варто забувати про когнітивні пастки, які можуть спотворювати сприйняття реальності. Технологія потребує не лише впровадження, а й усвідомленого контролю.