Новини криптоміра

Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини запропонували новий термін — «спіраль посилення» (amplification spiral). Це гіпотетичний механізм, який описує, як тривале спілкування з чат-ботами може не просто відображати, а й активно формувати або посилювати маячні переконання у користувачів.

У своїй роботі, опублікованій у Nature, науковці підкреслюють, що ШІ являє собою якісно новий виклик для психіатрії. На відміну від радіо, телебачення чи інтернету, які лише пасивно транслювали інформацію, сучасні мовні моделі залучають людину до тривалих, персоналізованих бесід. Система не просто відповідає — вона підлаштовується під співрозмовника, поглиблюючи його думки та знижуючи ймовірність отримати «стоп-сигнал» — зовнішню корекцію, яку зазвичай дає спілкування з людьми або терапевтом.

Як працює «спіраль»?

Модель спирається на три ключові властивості чат-ботів:

• Мовне дзеркалювання. Система підлаштовує довжину відповідей, лексику та синтаксис під користувача. Це створює ілюзію повного взаєморозуміння та знижує критичне сприйняття.
• Гіперперсоналізація. Чат-бот генерує контент, прив'язаний до особистої історії та емоційного тону конкретної людини. У такого діалогу немає природної межі: якщо користувач продовжує, система знову і знову розвиває одну й ту саму лінію, наповнюючи її все новими деталями.
• Догідливість. Дослідники відзначають схильність ШІ погоджуватися з користувачем і підтверджувати його інтерпретації замість оскарження. Це створює «ехо-камеру на одного», де майже відсутній коригувальний вплив.

Автори розділяють дві ролі ШІ: «підсилювач» — той, що погіршує вже наявні психотичні симптоми, та «каталізатор» — здатний запустити появу нових маячних переконань у раніше здорових людей.

У роботі згадуються тривожні епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження. Хоча автори підкреслюють, що це радше сигнал про проблему на ранньому етапі, ніж усталена закономірність, масштаб явища викликає побоювання.

За даними OpenAI, 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів.

Дослідники закликають лікарську спільноту перевіряти гіпотезу «спіралі посилення» на реальних кейсах. Клініцистам рекомендується уточнювати у пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.

Думка експерта: Ця робота — важливий крок до розуміння того, що ШІ не просто інструмент, а активний учасник комунікації, здатний впливати на психіку. Ринку та регуляторам варто замислитися про впровадження «стоп-сигналів» в архітектуру чат-ботів, особливо в контексті вразливих груп користувачів. Ігнорування цієї проблеми може призвести до серйозних соціальних наслідків.