TikTok тестує детектор діпфейків: як платформа захищатиме блогерів від ІІ-копій
Соціальна платформа TikTok запускає тестування нового інструменту безпеки — Likeness Detection. Цей опціональний механізм призначений для виявлення контенту, згенерованого штучним інтелектом, який використовує обличчя творця без його згоди. Наразі функція доступна обмеженій групі авторів зі США.
Інструмент працює наступним чином: система автоматично сканує платформу на предмет відео та зображень, створених за допомогою ШІ, де присутнє обличчя конкретного блогера. При виявленні такого контенту автор отримує сповіщення та може подати скаргу на діпфейк або підроблений акаунт.
Процедура верифікації
Для активації функції необхідно пройти сувору перевірку особи через сервіс Jumio. Процес включає два етапи: селфі в реальному часі та сканування документа, що посвідчує особу. Це необхідно для того, щоб система могла точно зіставити біометричні дані творця з контентом, що поширюється в мережі.
Важливо відзначити політику конфіденційності: компанія заявляє, що не зберігає копії документів користувачів. Біометричні дані використовуються виключно для пошуку збігів і не передаються третім особам. Це знижує ризики витоку чутливої інформації, хоча й викликає питання щодо довгострокового зберігання біометричних шаблонів.
Експертна думка: Цей крок TikTok — своєчасна реакція на лавиноподібне зростання діпфейків у соціальних мережах. Однак ефективність інструменту залежатиме від швидкості обробки скарг та точності алгоритмів розпізнавання. В умовах, коли ШІ-генерація стає все більш реалістичною, пасивне виявлення може не встигати за активністю зловмисників. Платформі знадобиться впроваджувати проактивні заходи, включаючи маркування всього синтетичного контенту на етапі завантаження.