Instagram путает метки ИИ: помечает обычные фото, пропускает настоящий ИИ-контент

Последние несколько недель пользователи Instagram сообщают, что система видимых ИИ-меток у Meta работает со сбоями. Ярлык «AI Content» автоматически появляется на фотографиях, которые люди не создавали и не редактировали с помощью генеративного ИИ, а настоящие синтетические изображения при этом нередко проходят без пометки, из-за чего у части аудитории складывается впечатление, что меткам вообще нельзя доверять.

Точная причина срабатывания метки от случая к случаю разная. Многие пользователи связывают появление ярлыка с инструментами вроде «Удаления фона» в Canva или с минимальной ретушью пятен на коже. Один пользователь Threads написал, что метка ставится «каждый раз, когда задействован удалитель фона», другой, что ярлык появился после того, как в Canva убрали «одну крапинку» с фотографии, а в итоге ИИ-меткой пометили всё изображение целиком. В части случаев причина вообще не поддаётся объяснению.

Подобное уже происходило: в 2024 году похожая история случилась с ярлыком «Made by AI», введённым за несколько месяцев до этого. В феврале 2024-го Meta заявила, что будет сканировать изображения на метаданные IPTC и C2PA, которые с достаточной точностью показывают, применялся ли генеративный ИИ. При этом компания всегда избегала подробностей о методах: тогда система, по имеющимся сведениям, помечала фотографии с метаданными Adobe о ретуши генеративными инструментами, даже если правки были крайне незначительными и итоговое фото по сути не менялось. После этого Meta обещала скорректировать подход к маркировке так, чтобы он отражал «объём использованного в изображении ИИ», и заявляла, что использует «отраслевые стандартные индикаторы, которые другие компании включают в контент своих инструментов», но актуальных данных о том, что это за индикаторы и как именно идёт сканирование, по-прежнему нет. На запрос о комментарии Meta не ответила.

По крайней мере часть нынешних ошибочных меток, судя по всему, связана с Canva. После того как контент-стратег Джесс Бруно (Jess Bruno) подняла тему неправильной маркировки через «Удаление фона», Canva объяснила ей, что часть вспомогательных ИИ-инструментов платформы «ошибочно помечалась как генеративная». В Canva также сказали Бруно, что теперь инструменты помечаются корректно, а на справочной странице по удалению фона появилось сообщение, что использование этого инструмента «не добавляет в дизайн метаданные ИИ-контента Canva», правда, неясно, новая это формулировка или нет; сама Canva на запрос о комментарии не ответила. При этом часть пользователей Threads продолжает сообщать, что «Удаление фона» по-прежнему приводит к появлению метки, несмотря на заявленное исправление, а другие утверждают, что снимки, отредактированные этим инструментом ещё до исправления, вообще не получали метку и не содержали C2PA-метаданных, которые, как утверждает Meta, используются для детекции.

Есть случаи, где Canva вовсе не при чём. Один пользователь обнаружил, что Meta пометила изображение, которое было «отравлено», то есть незаметно изменено системой, созданной, чтобы сделать снимок бесполезным для обучения ИИ или ухудшить работу моделей, на которых он используется, а неотравленную версию того же снимка не пометила. Ярлык «AI Content» также автоматически появился на недавних фотографиях, опубликованных в Instagram компанией About Face, косметическим брендом, основанным певицей Холзи (Halsey). Когда один из комментаторов спросил о причине метки, неназванный менеджер бренда по соцсетям ответил: «Это фото снято на мой iPhone и затем слегка отредактировано мной самой в приложении «Фото». Наш бренд использует настоящих художников и настоящих людей для создания всего, что вы видите на всех наших площадках».

Автор материала обратился к About Face с просьбой уточнить, какие именно инструменты приложения «Фото» использовались, но компания на момент публикации не ответила. Между тем добавлять генеративные метаданные к фотографиям способна лишь небольшая часть инструментов iPhone: Spatial Reframing, Extend и обновлённый Clean Up, добавленный в iOS 27. Они используют Apple Intelligence и получают невидимый водяной знак SynthID от Google; первые два добавляют новые сгенерированные элементы, третий позволяет убирать посторонние объекты или людей со снимка. По проверке через модель Gemini от Google, в помеченных изображениях знака SynthID не оказалось, и даже если предположить, что эти инструменты Apple Intelligence всё же применялись, остаётся неясным, почему в описании метки говорится, что она «обычно определяет контент, полностью сгенерированный ИИ, а не контент, лишь модифицированный с его помощью».

Автор материала провёл собственную серию тестов, загружая фотографии, отредактированные «Удалением фона» Canva, инструментом удаления фона в Photoshop, генеративными функциями Firefly от Adobe, моделью Nano Banana в Gemini от Google и функциями Apple Intelligence на iOS; часть изображений была полностью сгенерирована, и в нескольких случаях автор подтвердил наличие меток C2PA и SynthID. Из всех протестированных инструментов ярлык «AI Content» на Instagram сработал только на изображениях, отредактированных или полностью созданных через собственное приложение Meta AI. Автор также опубликовал эти снимки на новом аккаунте Instagram с минимумом заполненных данных и выложил их одной серией, намеренно имитируя поведение бота или ИИ-фермы. Даже после того как на прошлой неделе Meta объявила о зачистке ИИ-аккаунтов, ни сам профиль не был помечен как ИИ-сгенерированный, ни фотографии не получили метку, они остаются опубликованными и полностью доступными уже почти две недели.

Ключевые факты

Последние несколько недель пользователи Instagram сообщают, что ярлык «AI Content» ставится на обычные фото, которые не создавались и не редактировались генеративным ИИ, а настоящий ИИ-контент нередко проходит без метки.
Часть ошибок связана с инструментами Canva («Удаление фона»): Canva объяснила контент-стратегу Джесс Бруно, что часть её вспомогательных ИИ-инструментов ошибочно помечалась как генеративная, и заявила об исправлении, но часть пользователей Threads по-прежнему видит ложные метки.
Косметический бренд About Face, основанный певицей Холзи, получил метку на обычные фото с iPhone; его представитель заявил, что ИИ не использовался, а About Face работает только с настоящими художниками и людьми.
Автор материала протестировал Canva, Photoshop, Adobe Firefly, Nano Banana от Google и Apple Intelligence, метка сработала только на изображениях, созданных или отредактированных собственным приложением Meta AI, хотя часть других тестовых снимков содержала C2PA- и SynthID-метаданные.
Тестовый аккаунт автора, специально имитировавший поведение бота (минимум данных, серия публикаций подряд), не был помечен как ИИ-профиль даже после объявленной Meta на прошлой неделе зачистки ИИ-аккаунтов и остаётся опубликованным почти две недели.

Почему это важно

ИИ-метки на Instagram должны были дать пользователям простой способ отличить синтетический контент от настоящего, но система вновь работает ненадёжно: помечает обычные фотографии и пропускает изображения, сделанные генеративным ИИ. Это повторение истории 2024 года с ярлыком «Made by AI», когда система тоже помечала минимально отретушированные снимки, то есть проблема не разовый баг, а системная слабость подхода Meta к детекции.

Кому это важно

Обычным пользователям и авторам контента, чьи оригинальные фото получают ложную метку и репутационный вред от подозрения в обмане; брендам вроде About Face, вынужденным публично оправдываться за то, чего не делали; разработчикам инструментов вроде Canva, чьи вспомогательные функции по ошибке распознаются как генеративные; и самой Meta, чья система модерации контента теряет доверие пользователей.

Как это применить

Из тестов автора следует, что явную ИИ-метку на Instagram сейчас гарантированно вызывает только использование собственного приложения Meta AI, сторонние инструменты (Canva, Photoshop, Adobe Firefly, Nano Banana, Apple Intelligence) в его тестах метку не вызывали, даже при наличии C2PA- или SynthID-меток. Тем, кто использует вспомогательные инструменты вроде удаления фона или ретуши мелких дефектов, стоит быть готовым к тому, что Instagram всё равно может ошибочно пометить фото как ИИ-сгенерированное, и иметь под рукой объяснение происхождения снимка.

Можно ли доверять

Материал The Verge построен на собственных тестах автора и на прямых цитатах пострадавших пользователей, Canva и About Face. При этом ключевые стороны не подтвердили детали: Meta не ответила на запрос о разъяснении принципа работы детекции, Canva не прокомментировала, полностью ли решена проблема (часть пользователей Threads сообщает, что метка всё ещё появляется), а About Face не уточнила, какие именно инструменты приложения «Фото» использовались на помеченных снимках. Число затронутых пользователей или изображений в источнике не приводится.

Риски и подводные камни

Ложные метки размывают доверие к системе маркировки в целом: если ярлык может появиться на обычном отретушированном фото, пользователи перестают полагаться на него и в случаях, где он действительно указывает на синтетический контент. Одновременно тестовый аккаунт, намеренно имитировавший поведение ИИ-фермы, остался незамеченным даже после объявленной Meta зачистки таких аккаунтов, а значит, реальный вредоносный ИИ-контент и подставные профили вполне могут проходить незамеченными тем же путём.

«Это фото снято на мой iPhone и затем слегка отредактировано мной самой в приложении «Фото». Наш бренд использует настоящих художников и настоящих людей для создания всего, что вы видите на всех наших площадках»

— неназванный менеджер по соцсетям About Face

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.