Платформа для коротких відео TikTok запускає тестування нового інструменту під назвою Likeness Detection серед обмеженої групи американських авторів. Ця функція призначена для виявлення контенту, згенерованого штучним інтелектом, який використовує обличчя конкретного творця. Система дозволяє користувачам знаходити діпфейки або підроблені акаунти та подавати скарги безпосередньо через інтерфейс платформи.
Для активації інструменту авторам необхідно пройти обов'язкову верифікацію особи через сторонній сервіс Jumio. Процес включає створення селфі в реальному часі та сканування посвідчувального документа. Важливо зазначити, що TikTok заявляє про політику незберігання копій документів — біометричні дані використовуються виключно для пошуку збігів із потенційними діпфейками, а не для довгострокового зберігання в базі платформи.
Як це працює?
Механізм Likeness Detection аналізує візуальні та поведінкові характеристики обличчя автора, порівнюючи їх із контентом, завантаженим на платформу. При виявленні збігів із матеріалами, згенерованими ШІ, система автоматично маркує такі відео та надає творцю можливість подати скаргу. Це особливо актуально в умовах зростання кількості діпфейків, які можуть завдавати репутаційної шкоди або використовуватися для шахрайства.
З моєї точки зору, цей крок TikTok є своєчасним, але викликає питання щодо масштабів впровадження. Тестування на невеликій групі авторів із США — лише перший етап. Проблема діпфейків стає критичною для індустрії, де візуальний контент є основним активом. Однак ефективність системи залежатиме від точності алгоритмів та швидкості реагування на скарги. Крім того, використання стороннього верифікатора Jumio може стати точкою вразливості для конфіденційності даних, незважаючи на обіцянки платформи.
Аналітичний коментар: Впровадження Likeness Detection — це не лише інструмент захисту авторів, але й прецедент для всієї індустрії соцмереж. У найближчі роки ми побачимо аналогічні рішення від інших платформ, оскільки регулювання ШІ-контенту стає неминучим. Однак головний виклик — баланс між захистом конфіденційності та ефективністю боротьби з діпфейками.