TikTok тестирует инструмент против дипфейков с лицом авторов
TikTok начал тестировать опциональный (по желанию автора) инструмент, который сканирует платформу на предмет ИИ-подделок (дипфейков) чужой внешности и позволяет авторам сообщать о найденных случаях компании. О тесте первым сообщил консультант по соцсетям Мэтт Наварра. Пока функция доступна лишь «некоторым» авторам в США, это подтвердил The Verge представитель TikTok в США Закари Кизер (Zachary Kizer). Похожий инструмент ранее разрабатывал YouTube и уже открыл его всем взрослым пользователям.
Авторы, участвующие в тесте и желающие включить функцию, сначала должны подтвердить личность через компанию-подрядчика Jumio: пройти сканирование лица в реальном времени (селфи) и проверку удостоверения личности. По словам Кизера, TikTok не хранит сами документы, а данные о лице используются исключительно для сопоставления образа и помощи в выявлении потенциальных случаев неавторизованного использования внешности автора.
После верификации система TikTok сканирует платформу на предмет контента, созданного ИИ, который потенциально использует внешность автора. Дальше автор может просмотреть найденные совпадения и при желании пожаловаться на конкретные посты и аккаунты.
Ключевые факты
- TikTok тестирует опциональный инструмент обнаружения ИИ-дипфейков с лицом авторов; пока, с «некоторыми» авторами в США.
- Для включения функции нужно пройти верификацию личности через компанию Jumio: селфи в реальном времени плюс проверка документа.
- TikTok заявляет, что не хранит сами документы, а лицевые данные использует только для сопоставления образа.
- После верификации система сама сканирует платформу и показывает автору найденные потенциально неавторизованные ИИ-совпадения, которые можно обжаловать.
- YouTube уже развернул похожий инструмент для всех взрослых пользователей.
Почему это важно
TikTok, платформа с огромным объёмом короткого видео, где ИИ-дипфейки с лицами инфлюенсеров и обычных пользователей стали заметной проблемой: мошенническая реклама, компрометирующий контент, подделки без согласия. Запуск встроенного детектора, признание того, что ручная модерация не справляется с масштабом. Шаг follow-up за похожим инструментом YouTube: крупные видеоплатформы синхронно достраивают защитный слой против неавторизованных ИИ-подделок внешности.
Кому это важно
Авторам и публичным личностям, чья внешность и голос, рабочий инструмент и репутационный актив; брендам, которые рискуют случайно оказаться связанными с поддельной рекламой на чужом лице; зрителям, которым всё сложнее отличить настоящее видео от дипфейка.
Как это применить
Функция пока доступна не всем, а только некоторым авторам в США в рамках теста. Чтобы её включить, нужно пройти верификацию через Jumio: реальное селфи-сканирование и проверку удостоверения личности. После этого TikTok сам сканирует платформу и присылает автору отчёт о найденных совпадениях, которые можно обжаловать напрямую в приложении.
Можно ли доверять
Заявление о том, что документы не сохраняются, а лицевые данные используются только для сопоставления образа, исходит от самой TikTok через официального представителя Закари Кизера, независимой проверки этого утверждения в материале нет. Технические детали работы алгоритма сопоставления и метрики точности компания не раскрыла, сообщён лишь сам факт теста.
Риски и подводные камни
Инструмент требует передачи биометрических данных (селфи, скан документа) стороннему подрядчику Jumio, это дополнительная точка сбора чувствительной информации. Тест ограничен США и «некоторыми» авторами, сроки расширения не названы. Сам факт сканирования не гарантирует удаления дипфейков, решение о жалобе и последующая модерация остаются ручным шагом со стороны автора.
«TikTok не хранит ID-документы, а данные о лице используются только для сопоставления образа и помощи в выявлении потенциальных случаев неавторизованного использования внешности автора.»
— Закари Кизер (Zachary Kizer), представитель TikTok в США