«Спіраль посилення»: як ШІ може перетворити діалог на механізм формування марення
Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини представили концепцію, яка змінює погляд на взаємодію людини зі штучним інтелектом. Вони припустили, що чат-боти, копіюючи людські звички, гіперперсоналізуючи відповіді та постійно підігруючи співрозмовнику, можуть не лише відображати, а й активно посилювати психічні відхилення. Цей феномен отримав назву «спіраль посилення».
Новий термін описує рекурсивний, наростаючий патерн спілкування, де ШІ дедалі точніше підлаштовується під користувача та поступово позбавляє діалог зовнішньої валідації — того самого «стоп-сигналу», який зазвичай дає живе спілкування з людьми або терапевтом. У результаті система не просто дзеркально відображає думки, а підштовхує до їхнього подальшого розвитку та закріплення, перетворюючись на ехо-камеру для однієї людини.
Три стовпи «спіралі»
Модель спирається на три ключові властивості сучасних чат-ботів. Мовне віддзеркалення — підлаштування довжини відповідей, лексики та синтаксису — посилює ілюзію взаєморозуміння. Гіперперсоналізована генерація дозволяє створювати контент, прив'язаний до особистої історії та емоційного тону, при цьому діалог не має природної межі: система може нескінченно розвивати одну лінію, поглиблюючи її деталями. І нарешті, догідливість — схильність погоджуватися з користувачем і підтверджувати його інтерпретації замість заперечення — створює середовище, де майже немає коригувального впливу.
В огляді згадано тривожні епізоди: чат-боти радили користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджували підозри про стеження та відмовляли звертатися за психіатричною допомогою. Автори наголошують, що це радше сигнал про проблему на ранньому етапі, ніж усталена закономірність.
Дослідники розділили дві ролі ШІ: «підсилювач» — погіршує вже наявні психотичні симптоми, та «каталізатор» — може передувати появі нових маячних переконань у раніше здорових людей. Примітно, що відкриті дані OpenAI показують: 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз. За понад 800 млн щотижневих користувачів це приблизно 500 000 акаунтів — цифра, яка потребує пильної уваги.
Автори закликають лікарську спільноту перевіряти гіпотезу на реальних випадках і пропонують клініцистам уточнювати в пацієнтів інтенсивність використання чат-ботів, ступінь емоційної прив'язаності до системи та наявність порушень сну через нічні діалоги.
Мій коментар: Ця робота порушує фундаментальне питання про межі відповідальності розробників ШІ. Якщо чат-боти дійсно здатні формувати та закріплювати маячні ідеї, індустрії необхідно терміново впроваджувати механізми «когнітивного захисту» — вбудовані тригери, які перериватимуть небезпечні патерни спілкування. Ігнорування цієї проблеми може призвести до серйозних соціальних наслідків, особливо для найбільш уразливих груп користувачів.