Платформа коротких відео TikTok робить важливий крок у боротьбі з діпфейками. Наразі компанія тестує новий інструмент під назвою Likeness Detection — він доступний обмеженій групі авторів із США. Цей опціональний сервіс призначений для автоматичного виявлення контенту, створеного штучним інтелектом, у якому використовується обличчя конкретного творця.
Механізм роботи виглядає наступним чином. Якщо алгоритм знаходить відео або зображення, згенероване ШІ та що містить риси обличчя автора, платформа пропонує йому можливість подати скаргу на діпфейк або фальшивий акаунт. Однак для активації цієї функції потрібно пройти сувору верифікацію особи через сторонній сервіс Jumio. Процедура включає селфі в реальному часі та скан документа, що посвідчує особу.
Важливо відзначити політику конфіденційності, заявлену компанією. TikTok стверджує, що не зберігає копії завантажених документів, а біометричні дані використовуються виключно для пошуку збігів із контентом на платформі. Це критично важливо в контексті зростаючих побоювань щодо витоків персональних даних.
Аналітичний погляд експерта
Цей крок — логічний розвиток політики модерації в епоху генеративного ШІ. Однак, на мою думку, ефективність Likeness Detection безпосередньо залежатиме від якості роботи алгоритмів розпізнавання та готовності авторів проходити складну процедуру верифікації. Поки що це лише точковий тест, і масштабування рішення на мільйони користувачів потребуватиме колосальних обчислювальних ресурсів. Тим не менш, це перший значущий прецедент, коли платформа соціальних медіа впроваджує інструмент, спрямований саме на захист від крадіжок облич, а не просто на маркування ШІ-контенту.