Meta отключила функцию Instagram, позволявшую создавать ИИ-дипфейки публичных аккаунтов
Meta отключила функцию платформы Instagram/Meta AI, которая позволяла генерировать ИИ-изображения на основе контента любого публичного аккаунта, достаточно было упомянуть аккаунт через @-тег. Функцию анонсировали во вторник вместе с новой ИИ-моделью генерации изображений Muse Image, но уже в пятницу той же недели, после мощной волны критики, Meta полностью её отключила.
Проблема была в том, как функция работала по умолчанию: контент любого публичного аккаунта Instagram изначально мог использоваться в ИИ-генерациях без явного согласия владельца, отказаться можно было, только вручную найдя нужную настройку. Meta признала промах: в обновлении к своему блог-посту о модели Muse Image компания написала, что хотела «дать людям полезный инструмент для творчества и контроль над тем, может ли их публичный контент так использоваться», но услышала обратную связь, что функция «не оправдала ожиданий», и убрала её полностью.
Критики указывали на риски серьёзнее неудобного интерфейса отказа. Хейли Макнамара, исполнительный директор и директор по стратегии Национального центра по борьбе с сексуальной эксплуатацией (National Center on Sexual Exploitation), заявила ещё в пятницу: «Это не только явно подрывает наши права на собственный образ... но и является очевидным инструментом для секс-вымогательства (#sextortion) и прочих мошенников!» Она также раскритиковала сам подход, при котором компания сначала выпускает потенциально опасную функцию, а затем перекладывает на людей обязанность самим искать способ из неё выйти.
Гильдия киноактёров США (Screen Actors Guild) со своей стороны рекомендовала членам гильдии отключить функцию и разослала инструкции, как это сделать, то есть проблема была ощутима не только для рядовых пользователей, но и для публичных фигур, чей образ систематически используется в медиа.
Ключевые факты
- Meta отключила функцию Instagram/Meta AI, которая позволяла генерировать ИИ-изображения на основе контента любого публичного аккаунта, достаточно было упомянуть его через @-тег.
- Функцию анонсировали во вторник вместе с новой ИИ-моделью генерации изображений Muse Image, но уже в пятницу той же недели Meta полностью её отключила из-за мощной критики.
- Изначально контент всех публичных аккаунтов участвовал по умолчанию, отказаться можно было, только вручную найдя нужную настройку, без запроса явного согласия.
- Хейли Макнамара из Национального центра по борьбе с сексуальной эксплуатацией заявила, что функция подрывает право людей на собственный образ и является готовым инструментом для секс-вымогательства (шантажа интимными изображениями) и мошенничества.
- Гильдия киноактёров США (Screen Actors Guild) рекомендовала членам отключить функцию и разослала инструкции, как это сделать.
Почему это важно
Meta запустила функцию, при которой контент любого публичного аккаунта Instagram по умолчанию мог быть использован для ИИ-генерации изображений, просто через @-упоминание, без прямого запроса согласия владельца (отказаться можно было, только вручную найдя нужную настройку). После лавины критики компания отключила функцию целиком уже через несколько дней после анонса. Случай показывает, как быстро репутационные и юридические риски, нарушение прав на собственный образ, потенциал для дипфейков, заставляют крупные платформы откатывать поспешно выпущенные ИИ-функции.
Кому это важно
Пользователям Instagram с публичными аккаунтами, чей контент мог использоваться без ведома владельца; актёрам и другим членам Гильдии киноактёров США (Screen Actors Guild), которым рекомендовали отключить функцию; правозащитным организациям вроде Национального центра по борьбе с сексуальной эксплуатацией, предупреждавшим о риске использования инструмента для секс-вымогательства; и самой Meta, которой пришлось экстренно реагировать на скандал вокруг новой модели Muse Image.
Как это применить
На момент публикации функция полностью отключена, поэтому никаких действий от пользователей не требуется. До отключения отказаться можно было только вручную, отыскав нужный пункт в настройках, участие было включено по умолчанию для всех публичных аккаунтов. Практический вывод для пользователей соцсетей: при появлении новых ИИ-функций стоит сразу проверять настройки приватности, а не рассчитывать, что платформа сама выберет безопасный вариант по умолчанию.
Можно ли доверять
Материал The Verge опирается на официальное обновление в блоге Meta о модели Muse Image и на именную цитату представителя профильной организации, Национального центра по борьбе с сексуальной эксплуатацией. Факт отключения функции подтверждён самой компанией. Это прямая новостная заметка, а не мнение или сатира, поэтому оснований сомневаться в достоверности изложенных фактов нет.
Риски и подводные камни
Главный риск уже реализовался ещё до отключения функции: включённое по умолчанию участие всех публичных аккаунтов превращало чужие фотографии в сырьё для ИИ-генераций без ведома владельцев, что критики напрямую связывали с инструментами для дипфейков и секс-вымогательства. Отдельная проблема, сама практика «сначала выпустить рискованную функцию, потом переложить бремя отказа на пользователя», которую эксперты назвали неприемлемой.
«Это не только явно подрывает наши права на собственный образ... но и является очевидным инструментом для секс-вымогательства (#sextortion) и прочих мошенников!»
— Хейли Макнамара, исполнительный директор и директор по стратегии Национального центра по борьбе с сексуальной эксплуатацией