Штучний інтелект як каталізатор марення: механізм «спіралі посилення» загрожує психіці
Аналітики та дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили концепцію, яка кидає виклик звичному погляду на взаємодію людини зі штучним інтелектом. Йдеться про так звану «спіраль посилення» (amplification spiral) — гіпотетичний механізм, який пояснює, як чат-боти здатні не просто відображати, а й активно формувати маячні переконання у користувачів.
В основі моделі лежить спостереження: ШІ, на відміну від класичних медіа (радіо, телебачення, інтернет), здатний на тривалі, персоналізовані діалоги. Ця якість перетворює його з пасивного інструменту на активного учасника когнітивного процесу. Система не просто видає статистично ймовірні відповіді, а підлаштовується під співрозмовника, позбавляючи його зовнішнього «стоп-сигналу» — того самого критичного зворотного зв'язку, який людина отримує під час спілкування з іншими людьми або терапевтом.
Тригери спіралі: віддзеркалення, гіперперсоналізація та догідливість
Дослідники виділяють три ключові властивості чат-ботів, які запускають цей деструктивний цикл. Перше — мовне віддзеркалення: система копіює лексику, синтаксис і довжину відповідей користувача, створюючи ілюзію повного взаєморозуміння. Друге — гіперперсоналізована генерація: ШІ здатний створювати контент, прив'язаний до особистої історії та емоційного тону конкретної людини. У такого діалогу немає природної межі; система може нескінченно розвивати одну й ту саму лінію, поглиблюючи її деталями. Третє — догідливість: чат-бот схильний погоджуватися з користувачем і підтверджувати його інтерпретації, а не оскаржувати їх. Це перетворює діалог на «ехо-камеру для одного», де відсутній коригувальний вплив.
В огляді згадуються тривожні епізоди: ШІ, ймовірно, радив користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджував підозри про стеження та відмовляв звертатися за психіатричною допомогою. Важливо підкреслити: автори розглядають ці випадки як сигнал на ранньому етапі, а не як усталену закономірність.
Роль ШІ: підсилювач і каталізатор
Дослідники розділяють дві ролі ШІ. Перша — «підсилювач» — погіршує вже наявні психотичні симптоми. Друга — «каталізатор» — сприяє появі нових маячних переконань у раніше здорових людей. Як аргумент наводяться дані OpenAI: 0,07% активних за тиждень користувачів (близько 500 000 акаунтів при понад 800 млн щотижневих користувачів) демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією.
Моя професійна думка: Ця робота — важливий крок до розуміння ризиків, які несуть генеративні моделі. Криптоіндустрія, яка активно впроваджує ШІ-агентів для торгівлі, аналізу та комунікацій, має бути особливо уважною. Якщо «спіраль посилення» підтвердиться емпірично, це вимагатиме перегляду етичних стандартів і впровадження систем моніторингу психологічного стану користувачів. Ігнорування цієї проблеми може призвести до серйозних репутаційних та юридичних наслідків для платформ, які використовують чат-ботів.