Meta выпустила Content Seal, аналог SynthID от Google, но послабее

В марте наблюдательный совет Meta (Oversight Board) потребовал от компании выполнить публичные обещания и задействовать собственные инструменты для борьбы с распространением обманного генеративного ИИ-контента. В июле Meta ответила запуском Content Seal, технологии невидимой водяной метки, которая маркирует изображения, созданные новой моделью компании. Однако это было представлено мимоходом, как сноска в анонсе инструментов Muse для генерации изображений и видео.

По описанию Meta, Content Seal работает похоже на SynthID: невидимая для глаза метка встраивает «скрытый сигнал происхождения» в ИИ-изображение, который можно отсканировать и распознать специальным инструментом, помогая отличать дипфейки от подлинного контента. Как и у SynthID, метка Content Seal должна сохраняться даже после обрезки, сжатия, изменения размера или скриншота.

Главный вопрос автора: если Content Seal функционально делает то же самое, почему Meta не подключилась к SynthID? Компания уже входит в руководящий комитет Коалиции по происхождению и подлинности контента (C2PA) вместе с Google и продвигает альтернативный стандарт Content Credentials, то есть готовность сотрудничать с другими Meta уже демонстрировала. SynthID к тому же уже использует OpenAI, значит и Google открыт к тому, чтобы делиться технологией с конкурентами.

У Content Seal при этом заметные ограничения. Сейчас проверить метку можно только через отдельный веб-инструмент, который Meta пока тестирует, детектор не встроен в чат-бот Meta AI, в отличие от того, как Google интегрировала проверку в Gemini. Представитель Meta Фейт Айшен (Faith Eischen) сказала The Verge, что компания «изучает способы приблизить детекцию к тому месту, где люди сталкиваются с ИИ-контентом», то есть на момент запуска этой возможности просто нет. Метка ставится только на изображения, созданные моделью Muse в приложении Meta AI и на сайте Meta.ai: контент более старых моделей компании она не покрывает, а поддержка видео, по словам Meta, появится «скоро», но пока недоступна.

Meta также ввела дневной лимит на число проверок изображений через свой детектор, по словам Айшен, это нужно для «нормального использования» и защиты системы от злоупотреблений (в чём именно они заключаются, компания не уточнила). У Google и OpenAI похожие лимиты есть, но единственная система без каких-либо ограничений на проверку, это C2PA. На платформах Facebook и Instagram, которые уже маркируют ИИ-контент, вместе с Content Seal используются неназванные метаданные. На вопрос, инструктирует ли Meta другие платформы вроде TikTok и LinkedIn, как распознавать Content Seal, Айшен ответила обтекаемо, компания «настроена работать с индустриальными партнёрами», чтобы обеспечить пользователям лучший опыт. Это звучит как «пока не решено».

Автор материала провёл собственный тест: загрузил изображение, сделанное моделью Muse, в Gemini и на официальный портал проверки C2PA, ни один из инструментов не подтвердил, что картинка сгенерирована ИИ. Остаётся открытым и вопрос, может ли метка Content Seal сосуществовать на одном файле с SynthID и Content Credentials, не мешая друг другу, Meta это не прокомментировала.

Meta предлагает инструменты генерации изображений с 2023 года, то есть накопила огромный массив контента, который новая проприетарная система распознавания не покрывает. В том же 2023 году компания ввела ИИ-метки на Facebook и Instagram, которые по ошибке маркировали настоящие фотографии как «сделанные ИИ», что возмутило фотографов.

Противоречия видны и на уровне руководства: глава Instagram Адам Моссери в подкасте Ленни Рачицки сначала одобрил идею, что пользователи, которым не нравится ИИ-контент, должны иметь возможность убирать его из ленты, по сути, речь о функции фильтрации, для которой нужна надёжная система маркировки. Он также предположил, что в мире изобилия синтетического контента подлинность станет ещё более ценной. Но в том же интервью Моссери сказал: «Я не думаю, что нам стоит фильтровать ИИ-контент», хотя и подтвердил, что пользователей нужно информировать, ИИ это или нет. Ранее он же говорил, что практичнее «отпечатывать» настоящие медиа, а не подделки, то есть у Meta нет единой позиции даже внутри компании.

По данным Reuters, Content Seal не смог распознать больше половины протестированных изображений Muse после того, как их обрезали. Автор заключает: Content Seal не даёт пользователям никаких преимуществ перед уже существующим SynthID, а лишь добавляет ещё один обруч, через который приходится прыгать для проверки подлинности контента. Если Meta намерена и дальше идти своим путём, ей нужна система заметно надёжнее нынешней недоделанной копии SynthID.

Ключевые факты

Meta запустила Content Seal, невидимую водяную метку для изображений, созданных её моделью Muse, вместо того чтобы подключиться к уже существующему SynthID от Google или стандарту C2PA, в комитет которого сама входит.
Метка работает похоже на SynthID и должна переживать обрезку, сжатие, изменение размера и скриншоты, но проверить её пока можно только через отдельный тестовый веб-инструмент, в чат-бот Meta AI детектор не встроен, в отличие от Gemini у Google.
Content Seal покрывает только изображения из Muse в приложении Meta AI и на сайте Meta.ai; контент более старых моделей и видео пока не поддерживаются, а на проверки в день установлен лимит, в отличие от C2PA, где ограничений нет вовсе.
По данным Reuters, Content Seal не распознал больше половины изображений Muse после обрезки; собственный тест The Verge через Gemini и портал C2PA тоже не подтвердил, что тестовая картинка сделана ИИ.
Глава Instagram Адам Моссери в подкасте признал, что не считает нужным фильтровать ИИ-контент, хотя пользователей нужно о нём информировать, позиция, которая, по мнению автора, показывает отсутствие у Meta единой стратегии маркировки.

Почему это важно

Растущее распространение дипфейков и ИИ-контента подтолкнуло индустрию к общим стандартам маркировки, SynthID от Google и C2PA Content Credentials. Meta, будучи участником руководящего комитета C2PA и имея перед глазами пример OpenAI, которая просто подключила SynthID, вместо этого построила отдельную закрытую систему Content Seal. Это решение поднимает вопрос о том, движется ли индустрия к единому рабочему стандарту распознавания ИИ-контента или к набору несовместимых друг с другом систем.

Кому это важно

В первую очередь это касается пользователей соцсетей Meta, Facebook и Instagram, которым обещали помочь отличать подлинный контент от сгенерированного. Важно это и другим платформам вроде TikTok и LinkedIn, которым для распознавания Content Seal нужна кооперация с Meta, пока не гарантированная. Затронуты и фотографы, которых уже задевала ошибочная маркировка настоящих снимков как ИИ-сгенерированных в 2023 году.

Как это применить

Проверить метку Content Seal сейчас можно только через отдельный тестовый веб-инструмент Meta, детектор не встроен в чат-бота Meta AI. Метка ставится исключительно на изображения, созданные моделью Muse в приложении Meta AI и на сайте Meta.ai; контент старых моделей и видео пока не покрываются, поддержка видео обещана «скоро». На число проверок в день действует лимит, обоснованный защитой от злоупотреблений.

Можно ли доверять

Доверие к системе подорвано собственным тестом Reuters: Content Seal не распознал больше половины изображений Muse после обрезки. Тест автора статьи тоже показал сбой, ни Gemini, ни официальный портал C2PA не подтвердили, что тестовое изображение сделано ИИ. Meta не прояснила, совместим ли Content Seal с SynthID и Content Credentials на одном файле, и ограничилась общими формулировками о том, что «изучает» и «скоро расскажет больше».

Риски и подводные камни

Content Seal не покрывает контент, созданный старыми моделями Meta с 2023 года, то есть огромный массив ранее сгенерированных изображений остаётся непроверяемым. У компании уже был опыт ошибочной маркировки настоящих фото как ИИ-контента, вызвавший недовольство фотографов. Внутри самой Meta нет единой позиции: глава Instagram Адам Моссери публично сомневается, стоит ли вообще фильтровать ИИ-контент, что подрывает уверенность в связной стратегии маркировки на годы вперёд.

«Как и другие, мы создали Content Seal, ориентируясь на собственные технические спецификации и продукты. Решение этой проблемы в масштабах всей отрасли требует разных подходов, работающих сообща, и мы рады вносить в это свой вклад.»

— Фейт Айшен, представитель Meta

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.