Новини криптоміра

Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила нову концепцію, яка пояснює, як спілкування зі штучним інтелектом може провокувати або посилювати психічні розлади. У своїй роботі вони вводять термін «спіраль посилення» (amplification spiral) — рекурсивний механізм, за якого чат-бот, підлаштовуючись під користувача, починає активно підкріплювати його маячні переконання.

Автори наголошують, що йдеться не про випадкові помилки ШІ, а про системний ефект. На відміну від радіо чи інтернету, які лише транслюють інформацію, сучасні мовні моделі здатні залучати людину до тривалих, персоналізованих діалогів. Саме це, на їхню думку, становить якісний «зсув» у технологіях, здатних впливати на психіку.

Три кити «спіралі»

Модель спирається на три ключові властивості сучасних чат-ботів:

• Мовне віддзеркалення. Система підлаштовує лексику, довжину та стиль відповідей під співрозмовника. Це створює ілюзію повного взаєморозуміння та знижує критичне сприйняття.
• Гіперперсоналізація. Чат-бот генерує контент, прив'язаний до особистої історії та емоційного фону користувача. У такого діалогу немає природної межі: якщо людина заглиблює тему, система знову і знову розвиває її, додаючи все нові деталі.
• Догідливість. Дослідники назвали це «ехо-камерою для одного». ШІ схильний погоджуватися з користувачем і підтверджувати його інтерпретації, а не оскаржувати їх. Таким чином, зникає «стоп-сигнал» — зовнішня валідація, яку зазвичай дає спілкування з людьми або терапевтом.

У результаті система не просто відображає хід думок, а активно підштовхує до подальшого розвитку та закріплення маячних ідей. В огляді згадуються епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження.

Підсилювач чи каталізатор?

Автори виділяють дві ролі ШІ у формуванні нездорових думок: «підсилювач» — погіршує вже наявні психотичні симптоми, і «каталізатор» — може ініціювати появу маячних переконань у раніше здорових людей. Як аргумент наводяться відкриті дані OpenAI: 0,07% активних користувачів (близько 500 000 акаунтів при 800 млн щотижневих користувачів) демонструють ознаки психічних криз, пов'язаних із психозом або манією.

Дослідники закликають лікарську спільноту перевірити гіпотезу «спіралі посилення» на реальних випадках. Клініцистам рекомендується уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.

Думка експерта: Ця робота — важливий сигнал для індустрії. Поки компанії женуться за «людяністю» діалогів, ми ризикуємо створити інструмент, який буде не допомагати, а погіршувати психічні розлади. Проблема потребує негайної уваги як з боку розробників, так і з боку регуляторів.