Соціальна платформа для коротких відео TikTok запустила пілотне тестування нового інструменту під назвою Likeness Detection. Наразі функція доступна обмеженій групі авторів із США. Як показує мій аналіз ринку, це крок у правильному напрямку для платформи, яка тривалий час залишалася вразливою до атак із використанням синтезованих облич.

Як працює захист від діпфейків?

Інструмент призначений для автоматичного виявлення контенту, створеного за допомогою штучного інтелекту, у якому використовується обличчя конкретного блогера. Система сканує платформу на предмет підозрілих діпфейків і фейкових акаунтів. При виявленні збігу автор отримує можливість подати скаргу на порушення.

Ключовий етап активації — обов'язкова верифікація особи через сторонній сервіс Jumio. Процедура включає два кроки: селфі в реальному часі та сканування посвідчувального документа. Компанія гарантує, що не зберігає копії документів, а біометричні дані використовуються виключно для пошуку збігів на платформі.

Експертна оцінка

З технічної точки зору, реалізація через Jumio — це розумний компроміс між безпекою та конфіденційністю. Однак варто зазначити, що ефективність Likeness Detection безпосередньо залежатиме від якості навчальних даних і здатності алгоритму відрізняти легітимний контент від шкідливих діпфейків. У поточній конфігурації інструмент працює лише на основі заявок авторів, що залишає лазівки для професійних творців підробок. На мою думку, це лише перший крок у довгій гонці озброєнь між платформами та генераторами ІІ-контенту.