Майже третина співробітників російських компаній за останні пів року надсилали нейромережам логіни, паролі та ключі від робочих папок. Водночас з'ясовується, що ChatGPT не просто обробляє запити, а й накопичує персональні дані користувачів, формуючи на кожного цифрове досьє. У сукупності ці два фактори створюють нову, недооцінену площину корпоративних ризиків.
Що саме потрапляє в нейромережі
Під час анонімного опитування 1,3 тис. співробітників російських компаній, які використовують ШІ в роботі, а також майже 500 керівників і фахівців зі сфер безпеки, IT, HR і права, було отримано показові дані. Паролі та доступи виявилися найчастішою категорією конфіденційної інформації, що потрапляє в чат-боти, — але далеко не єдиною. За пів року в нейромережі завантажували:
- комерційні пропозиції — 25% опитаних;
- фінансові розрахунки та звіти — 22%;
- робоче листування — 21%;
- договори — 16%;
- клієнтські бази, зокрема з персональними даними, — 12%.
Мотиви в переважній більшості випадків не пов'язані зі злим умислом. Близько 20% респондентів прагнули швидше закрити рутинне завдання. Решта просили нейромережу розібратися у великому обсязі інформації, підготувати або відредагувати документ. При цьому кожен п'ятий не розумів, які робочі дані взагалі допустимо передавати ШІ-сервісам, а частина співробітників навіть не усвідомлювала, що завантажує щось конфіденційне.
Інституційна прогалина
Ключова проблема — відсутність формалізованих правил. Нейромережі вже стали частиною повсякденних робочих процесів, однак зрозумілих регламентів, що визначають, що можна і що не можна надсилати в чат-боти, у співробітників немає. Компаніям необхідно не лише прописати такі політики, а й зробити їх зручними в застосуванні — інакше вони залишаться на папері.
Окремої уваги заслуговує те, що надісланий нейромережі документ не зникає після закриття чату. Сервіс може його запам'ятати — і це вже не гіпотетичний ризик.
ChatGPT і цифрові портрети користувачів
Профільні підрозділи з боротьби з кіберзлочинністю прямо попереджають: ChatGPT запам'ятовує, про що з ним говорять, і поступово збирає на людину цифрове досьє. Користувачі діляться з ботом особистими переживаннями, завантажують робочі документи, запитують про гроші та здоров'я — і частина цих відомостей зберігається в пам'яті моделі, щоб «упізнавати» співрозмовника в наступних сесіях.
Академічні дослідження фіксують масштаб явища: приблизно 95% записів у пам'яті формуються без явного дозволу людини, а в 91% акаунтів у пам'яті зберігаються відомості, що належать до персональних даних. З накопиченого масиву вибудовуються цифрові портрети.
Фахівці виокремлюють дві загрози. Перша — за накопиченими даними людину можна деанонімізувати, навіть якщо вона спілкується під псевдонімом. Друга — пам'яттю нейромережі можна керувати ззовні: достатньо впровадити хибні інструкції в документ, який користувач сам надішле боту на обробку.
Базові заходи захисту
- перевіряти налаштування пам'яті та персоналізації в ШІ-сервісах;
- не завантажувати в чат робочі документи та іншу закриту інформацію;
- прибирати із запитів реальні імена, адреси та інші ідентифікувальні деталі;
- обговорювати особисті питання лише в тимчасових чатах;
- регулярно перевіряти, що нейромережа запам'ятала.
Розрахунки, договори та клієнтські бази, надіслані в публічну нейромережу, більше не можна вважати внутрішніми документами. Їхня подальша доля залежить від налаштувань сервісу, до яких заглядає меншість користувачів.
Аналіз Cryptalist: Кейс демонструє системний розрив між швидкістю впровадження генеративного ШІ та зрілістю корпоративних політик безпеки — витік даних відбувається не через злам, а через добросовісне використання інструментів. Для ринку це сигнал про зростаючий попит на рішення класу DLP і приватні корпоративні ШІ-контури, а також про ймовірне посилення регуляторних вимог до обробки персональних даних у чат-ботах. Компаніям, які відкладають формалізацію правил роботи з нейромережами, варто розглядати це як пряме попередження про репутаційні та юридичні витрати.