Meta AI задавал личные вопросы о детях, компания меняет подсказки

Ключевые факты

• Инстаграм-пользовательница Кейли Робинс (Kalie Robins) показала на видео, как под её роликом с ребёнком в машине ИИ-ассистент Meta AI показал подсказку «Кто этот ребёнок-пассажир?».
• По словам Робинс, после того как она нажала на подсказку, Meta AI собрал сведения о её дочерях из её собственных постов и постов родственников и предложил дополнительные вопросы, о возрасте детей и месте жительства семьи.
• Робинс утверждает, что ИИ также показал фотографии её дочерей, включая одну, которую она, по её словам, удалила несколько лет назад.
• Представитель Meta Дина Эль-Кассаби (Dina El-Kassaby) признала в комментарии The Verge, что компания «промахнулась»: такие вопросы вообще не должны были появляться.
• Эль-Кассаби заявила, что Meta уже устранила проблему с подсказками на личные темы; по её словам, ИИ показывает только контент, доступный самому пользователю, и в этом случае мог опираться на видео, где Робинс сама называла имена детей.

Почему это важно

История показывает, как быстро ИИ-функция, которая просто агрегирует уже доступный пользователю контент, может восприниматься как слежка: Meta AI не получил новых данных, но сложил разрозненные посты самой Робинс и её родственников в подсказки о возрасте и месте жительства её детей, и этого оказалось достаточно, чтобы видео стало вирусным, а компания публично признала, что «промахнулась». Для крупных платформ, которые встраивают ИИ-ассистентов в личную переписку и ленты (Facebook, Instagram, WhatsApp, Messenger), это конкретный пример того, что агрегация давно опубликованных данных, самостоятельный источник риска, даже без утечки или взлома.

Кому это важно

В первую очередь, родителям и родственникам, которые публикуют фото и видео детей в Facebook и Instagram: именно их посты, а не действия постороннего, стали материалом для инвазивных подсказок. Во вторую, пользователям и разработчикам сервисов, встраивающих ИИ-ассистентов с доступом к истории публикаций: Meta AI работает внутри Facebook, Instagram, WhatsApp и Messenger, и похожая логика агрегации в принципе может сработать в любом из них.

Как это применить

Прямых настроек, которые Meta предложила бы включить или выключить, в статье не названо, компания говорит только, что уже устранила саму причину, из-за которой ассистент предлагал вопросы на личные темы, но не раскрывает, что именно изменила и когда изменение станет заметно всем пользователям. Практический вывод для тех, кто ведёт аккаунт с детьми: ИИ-ассистент по конструкции ограничен контентом, к которому у самого пользователя и так есть доступ (свои посты и посты, которые показывают родственники), то есть всё, что уже опубликовано о ребёнке в сети, потенциально может быть собрано в одну подсказку, даже если каждый отдельный пост казался безобидным.

Можно ли доверять

Ключевые факты подтверждены источником, для которого это профильная тема: The Verge получил прямой комментарий и цитаты от официального представителя Meta Дины Эль-Кассаби, а не пересказывает слухи. Первым о случае написал Futurism, The Verge ссылается на эту публикацию как на источник и добавляет к ней комментарий Meta, а не подтверждает историю независимо. Слабое место, то, что именно увидела и сделала Робинс, известно только с её слов («по её словам», «утверждает»), а объяснение Meta о механизме («мог опираться на видео, где Робинс называла имена детей»), предположение самой компании, а не результат независимого технического разбора.

Риски и подводные камни

Meta не назвала ни сроков, в которые исправление дойдёт до всех пользователей, ни того, что именно изменилось в логике подсказок, заявление «уже устранили» проверить со стороны нечем. Это не первый случай с ИИ-функциями Meta для Instagram: в июле компания уже отключала другую функцию, создание ИИ-дипфейков других пользователей, после резкой критики, хотя источник не связывает два случая между собой напрямую. Собственное объяснение Meta построено на оговорке «мог», а не на точном техническом разборе, так что нельзя исключить, что похожая логика агрегации сработает и в других частях ИИ-ассистента, которые пока не привлекли внимания.

«Эта функция вообще не должна была предлагать пользователю подобные вопросы.»

— Дина Эль-Кассаби, представитель Meta

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.