Meta включила ИИ-теги по умолчанию в Instagram, и отменила через три дня
В начале июля Meta включила в своём ИИ-приложении функцию, которая позволяла любому пользователю отмечать публичные аккаунты Instagram и генерировать изображения с их лицами. Функция была включена по умолчанию (opt-out), чтобы отказаться от неё, пользователям и владельцам отмеченных аккаунтов нужно было самим лезть в настройки. Это вызвало волну критики: авторы Instagram записали ролики с инструкциями, как отключить функцию. Видео создательницы Сэм Су Ин Ян с объяснением, почему компании должны спрашивать согласие, а не заставлять от него отказываться, набрало свыше 3 млн просмотров. Спустя три дня публичного возмущения Meta признала: «функция не удалась», и откатила возможность отмечать аккаунты в своём ИИ-чат-боте.
Старший активист по приватности Фонда электронных рубежей (EFF) Торин Клосовски называет это редким по скорости примером: реакция пользователей была настолько быстрой и однозначной, что заставила крупную компанию отменить ИИ-функцию за считаные дни. Автор материала (обозреватель Wired) описывает похожий личный опыт: недавно ей пришлось вручную отключить всплывшую в Google Docs панель «Ask Gemini», предлагавшую использовать чат-бот Google как часть рабочего процесса написания текста, и это далеко не первый раз, когда приходилось отключать похожие функции у Dropbox и LinkedIn. У самой Meta есть и другие настройки по умолчанию, вызывающие вопросы: например, «Enhanced Browsing» в Facebook, функция, которая по умолчанию отслеживает посещённые внутри приложения сайты на мобильных устройствах.
Представитель Meta Дэниел Робертс в официальном комментарии Wired заявил, что компания создала «широкий набор настроек и инструментов», чтобы люди могли выбирать удобный для себя уровень приватности, и финансирует исследования (в том числе через отраслевые организации вроде TTC Labs), чтобы сделать эти настройки понятнее.
Директор по ИИ и приватности Федерации потребителей США Бен Уинтерс говорит, что подобное поведение свойственно не только Meta: компании, «хранители статус-кво опт-аута» в условиях, когда в США нет адекватного регулирования приватности. Профессор права Бостонского университета Вудро Хартзог поясняет: люди склонны придерживаться того варианта, который стоит по умолчанию, значит, если человек по умолчанию подписан на функцию, скорее всего, он так и останется подписан. В качестве образца он приводит статью 25 Общего регламента по защите данных ЕС (GDPR): она обязывает компании собирать только необходимый минимум данных и по умолчанию выбирать более приватный из доступных вариантов настроек. Несмотря на то что некоторые эксперты критикуют GDPR за недостатки на практике, автор находит саму идею приватного варианта по умолчанию убедительной.
В США же, по словам Уинтерса, есть лишь разрозненные законы отдельных штатов (например, Калифорнии и Мэриленда), а не единый федеральный стандарт, из-за этого пользователи оказываются перегружены количеством настроек, влияющих на приватность, в которые их включают автоматически. Уинтерс называет это «идеальным рецептом» ситуации, требующей вмешательства федерального правительства, именно для того, по его словам, и существуют законодатели: защищать людей там, где они не могут защитить себя сами, и сдерживать компании от особенно агрессивных и вводящих в заблуждение практик в массовом масштабе. Он считает, что, хотя прежние попытки принять такое регулирование на национальном уровне проваливались, общественные настроения сейчас ближе к этому, чем десять лет назад. Хартзог добавляет: рассуждения о технологии как о «нейтральном инструменте» скрывают то, как именно дизайн продукта делает одни последствия более вероятными, а другие, менее; проектируя инструмент определённым образом, компания создаёт предсказуемые сценарии его использования.
Вывод автора: если крупная платформа по умолчанию открывает миллионам пользователей доступ к инструменту генерации изображений с чужими лицами, мир получает больше таких (по сути, дипфейк-) изображений, а не меньше, и от этой реальности она бы предпочла отказаться.
Ключевые факты
- Meta включила в ИИ-приложении функцию отметки публичных аккаунтов Instagram и генерации изображений с их лицами по умолчанию (opt-out), без явного согласия пользователей
- После трёх дней публичного возмущения (видео создательницы Сэм Су Ин Ян набрало свыше 3 млн просмотров) Meta признала, что «функция не удалась», и откатила её для своего ИИ-чат-бота
- Практика включать ИИ-функции по умолчанию распространена шире индустрии: панель «Ask Gemini» в Google Docs, трекер посещённых сайтов «Enhanced Browsing» в Facebook, похожие настройки у Dropbox и LinkedIn
- Эксперты (EFF, Федерация потребителей США, профессор права Вудро Хартзог) ссылаются на статью 25 GDPR как модель приватности по умолчанию и призывают к единому федеральному регулированию в США вместо разрозненных законов штатов вроде Калифорнии и Мэриленда
- Материал, авторская колонка Wired: конкретный кейс Meta служит иллюстрацией более широкого тезиса о переходе индустрии с opt-out на opt-in
Почему это важно
В начале июля Meta включила в своём ИИ-приложении функцию, которая позволяла любому пользователю отмечать публичные аккаунты Instagram и генерировать изображения с их лицами, причём по умолчанию, без явного согласия. Instagram-авторы записали ролики с инструкциями, как отключить функцию; видео создательницы Сэм Су Ин Ян собрало свыше 3 млн просмотров. Спустя всего три дня Meta признала: «функция не удалась», и откатила возможность отмечать аккаунты в ИИ-чат-боте. Это редкий по скорости пример, когда публичное давление заставило крупную компанию отменить ИИ-функцию за считаные дни, отмечает старший активист по приватности Фонда электронных рубежей (EFF) Торин Клосовски.
Кому это важно
Пользователям приложений Meta, Google Docs, Dropbox и LinkedIn, где ИИ-функции и связанные с ними настройки конфиденциальности регулярно включаются по умолчанию, автор материала описывает похожий опыт с панелью «Ask Gemini» в Google Docs и настройками Dropbox и LinkedIn. Важно это и авторам контента в Instagram, чьи публичные фото и видео могли использоваться для генерации изображений без их согласия. А также юристам и активистам по приватности, Фонду электронных рубежей, Федерации потребителей США, профессору права Бостонского университета Вудро Хартзогу, которые видят в этом кейсе аргумент за федеральное регулирование ИИ и данных в США.
Как это применить
Практический вывод колонки: пользователям стоит проверять настройки приложений вручную, Meta, например, по умолчанию включает и другой инструмент отслеживания, «Enhanced Browsing» в Facebook, который фиксирует посещённые в приложении сайты на мобильных устройствах. Автор ссылается на статью 25 Общего регламента по защите данных ЕС (GDPR), которая обязывает компании по умолчанию выбирать более приватный вариант настроек и собирать только необходимый минимум данных, и предлагает воспринимать этот принцип как модель для будущего регулирования в США, где сейчас действует лишь разрозненный набор законов отдельных штатов (Калифорния, Мэриленд).
Можно ли доверять
Материал, авторская колонка обозревателя Wired, а не расследование: конкретный эпизод с Meta использован как иллюстрация более широкого тезиса о практике опт-аут по умолчанию в ИИ-индустрии. Ключевые утверждения подкреплены именными цитатами: представитель Meta Дэниел Робертс дал официальный комментарий изданию, приведены слова активиста EFF Торина Клосовски, директора по ИИ и приватности Федерации потребителей США Бена Уинтерса и профессора права Вудро Хартзога. Признание самой Meta о том, что «функция не удалась», фактическое подтверждение сюжета от первоисточника.
Риски и подводные камни
Главный риск, на который указывает автор: если крупная платформа по умолчанию включает миллионам пользователей инструмент для генерации изображений с чужими лицами (по сути, дипфейков), мир получает больше таких изображений, а не меньше, ещё до того, как кто-то успеет разобраться в настройках. Некоторые эксперты по приватности, упомянутые в тексте, отмечают, что и GDPR на практике работает не идеально. А в США, по словам директора Федерации потребителей США Бена Уинтерса, пока нет комплексного федерального регулирования, прежние попытки принять его на национальном уровне проваливались, хотя, по его оценке, общественные настроения сейчас ближе к такому регулированию, чем десять лет назад.
«Они должны были дать возможность самим подключить функцию, а не заставлять её отключать. Но я правда устала от того, как эти компании навязывают нам ИИ, хотя мы не хотим им пользоваться.»
— Сэм Су Ин Ян, автор Instagram (видео с более чем 3 млн просмотров)
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.