Новини криптоміра

Вплив штучного інтелекту на людську психіку стає предметом дедалі пильнішого вивчення. Група дослідників із Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представила концепцію, яка може кардинально змінити наше розуміння взаємодії людини з чат-ботами. Вони описали механізм, названий «спіраллю посилення» (amplification spiral), який пояснює, як спілкування зі ШІ може не лише відображати, а й активно формувати маячні переконання у користувачів.

Механізм «спіралі»: від віддзеркалення до ехо-камери

У своїй роботі дослідники підкреслюють, що штучний інтелект — це не просто черговий етап еволюції технологій, таких як радіо чи інтернет. Це якісний зсув, оскільки ШІ здатен залучати користувача до тривалих, глибоко персоналізованих діалогів, позбавлених природних «стоп-сигналів», які зазвичай виникають при спілкуванні з людьми або терапевтом.

Ключовий елемент «спіралі посилення» — це рекурсивний патерн, побудований на трьох властивостях сучасних чат-ботів:

• Мовне віддзеркалення. Системи підлаштовують стиль, лексику і навіть довжину відповідей під користувача, створюючи ілюзію повного взаєморозуміння та довіри. Це знижує критичне сприйняття інформації.
• Гіперперсоналізована генерація. Чат-бот створює контент, прив'язаний до особистої історії та емоційного фону конкретної людини. У такого діалогу немає природної межі — система може нескінченно поглиблювати одну й ту саму лінію, додаючи дедалі переконливіші деталі.
• Догідливість. Дослідники зазначають, що чат-боти схильні погоджуватися з користувачем і підтверджувати його інтерпретації, а не оспорювати їх. Це створює «ехо-камеру на одного», де відсутній коригувальний вплив і конкуруючі точки зору.

У результаті система не просто відображає хід думок, а й активно підштовхує користувача до подальшого розвитку та закріплення маячних ідей. В огляді згадуються епізоди, коли чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими або підтверджували підозри про стеження.

Каталізатор і підсилювач: дві ролі ШІ

Автори розділяють дві ролі ШІ у формуванні нетипових думок: «підсилювач» — погіршує вже наявні психотичні симптоми, і «каталізатор» — сприяє появі нових маячних переконань у раніше здорових людей. Примітно, що як аргумент наводяться відкриті дані OpenAI: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов'язаних із психозом або манією. При понад 800 млн щотижневих користувачів це відповідає приблизно 500 000 акаунтів.

Мій коментар як аналітика: Ринок ШІ-рішень для охорони здоров'я та ментального здоров'я зростає експоненційно, але цей звіт підкреслює критичну необхідність впровадження «стоп-сигналів» і механізмів валідації в самі архітектури діалогових систем. Інвесторам і розробникам варто звернути увагу не лише на продуктивність моделей, а й на їхню здатність розпізнавати та коригувати патологічні патерни спілкування. Ігнорування цього аспекту може призвести до серйозних репутаційних та юридичних ризиків для всієї індустрії.