Meta Muse: ИИ-агент компании следит за пользователями больше, чем помогает

Автор материала Wired скачал новое приложение Meta, личного ИИ-агента Muse, увидев его рекламу в Instagram. При установке всплывающее окно предлагало «передать агенту повседневные задачи вроде поиска скидок, бронирования и разбора почты»: приложение бесплатное и легко подключается к другим источникам данных, включая почту и банковский счёт. Аватар Muse по умолчанию, существо бежевого цвета, похожее на помесь эвока и игрушки Labubu, с широко раскинутыми руками. Muse, мейнстрим-версия личных ИИ-агентов, уже популярных в Кремниевой долине (в тексте упомянуты OpenClaw и Instinct), и коммерчески успешна: по данным Sensor Tower, за первую неделю приложение скачали свыше 900 000 раз. Работать с Muse, не то же самое, что с обычным чат-ботом: агент подтверждает сообщения эмодзи с большим пальцем вверх и выполняет задачи в фоне; доступен он и через WhatsApp.

Представитель Meta Эмиль Васкес заявил Wired: «Muse, первый персональный ИИ-агент, созданный для всех, со встроенной защитой и настройками, которые полностью оставляют управление за пользователем; любое предположение, что мы не думали об этом с самого начала, нелепо».

Навигация Muse по вебу впечатлила автора: агент использует «виртуальную машину», чтобы самостоятельно ходить по сайтам и искать нужное, и почти не путается, в отличие от уже закрытого ChatGPT Agent, который автор тестировал ранее и находил его клики хаотичными и с ошибками. В качестве примера автор попросил Muse заказать завтрак в пекарне Kahnfections в Сан-Франциско: агент выбрал один из самых популярных вариантов, добавил в корзину бисквитный сэндвич с чесночным айоли, чеддером, яйцом и беконом, попросил привязать карту через Stripe и перед оплатой описал свои действия: «Единственное, сайт разрешает выбрать только один сыр, поэтому я взял чеддер и оставил комментарий с просьбой добавить ещё и швейцарский, если получится». При этом Muse сам выбрал опцию «без чаевых», автор в итоге сходил в пекарню сам и заказал что-то другое. На Facebook Marketplace агент проявил себя ещё сильнее: быстро нашёл дешёвые диваны по заданным параметрам, предложил написать продавцам насчёт встречи, а на следующий день сам напомнил автору про диван, который тому понравился больше всего.

Muse хранит детали переписки и предпочтения пользователя в документе «Memory» («Ваша выстроенная долговременная память: устойчивые факты, предпочтения и договорённости», гласит описание в приложении). Можно запросить у агента очистку памяти или отредактировать файл вручную, но общего переключателя, отключающего функцию памяти целиком, Meta не предоставляет.

Во вкладке приложения «идеи» Muse постоянно предлагал автору подключить больше данных: на следующий день после разговора о накоплениях на отпуск агент предложил «привязать трекер сбережений к реальному балансу», объяснив, что тогда «еженедельные сводки и уведомления об отклонениях будут считаться по настоящим цифрам, а не по вручную введённым оценкам». По словам автора, весь опыт использования Muse свёлся к ощущению, что каждое предложение агента, повод загрузить в Meta ещё немного личных данных: просканировать всю почту и выделить важные письма, сфотографировать документы, чтобы Muse их заполнил, сфотографировать еду для подсчёта калорий, сообщить, когда истекают паспорт и водительские права. Рори Мир, директор по открытому доступу в Electronic Frontier Foundation, комментирует: «Люди не осознают, что, разговаривая с ИИ, вы разговариваете с компанией, которая его размещает. Эти чат-окна, которые мы привыкли воспринимать как связь с другим человеком, на самом деле, просто способ напрямую загружать информацию о себе на серверы Meta».

По умолчанию взаимодействия пользователей с Muse используются для обучения ИИ-моделей Meta, это включено автоматически. Компания утверждает, что перед обучением данные «очищаются» от идентифицирующей информации, хотя как именно устроен этот процесс, не уточняется; отключить сбор можно вручную в настройках приложения, в разделе Data controls, переключателем «Help improve our AI models». Калли Шрёдер, старший юрисконсульт Electronic Privacy Information Center, называет автоматическое включение сбора данных тревожным сигналом: «Это говорит мне, что они не усвоили уроков из прошлых ошибок, и ещё больше подрывает их же аргумент, что Muse можно доверить всю свою информацию». Шрёдер проводит параллель с недавним случаем, когда Meta автоматически подключила всех взрослых пользователей Instagram к инструменту создания дипфейков, а затем через несколько дней отключила функцию, назвав это продолжением практики «манипулятивных приёмов» Meta и подрыва доверия пользователей. Тарек Шиша, инженер и вице-президент Meta Superintelligence Labs, в блог-посте о запуске Muse защищает такой сбор данных как необходимый для обучения новых моделей и повышения качества работы: «Мы считаем, что это хороший вариант по умолчанию: каждый пользователь Muse получает более качественного персонального агента по мере того, как мы все вместе пользуемся продуктом и помогаем модели понимать тонкости человеческой жизни». Meta также планирует позже в этом году выпустить «конфиденциальные» версии своей виртуальной машины, которые должны «криптографически и проверяемо» исключить доступ самой компании к данным внутри.

Напрямую с рекламодателями данные Muse не делятся, но действия агента всё же могут влиять на то, что пользователь видит через алгоритмы веб-трекинга: блог Muse о безопасности допускает, что если агент забронировал столик в ресторане или выбрал товар на Facebook Marketplace, это действие может «косвенно повлиять» на рекламу, которую пользователь видит в Instagram. Мир добавляет: «Я вижу в этом продолжение их основной бизнес-модели, контролировать, что люди видят, показывать им рекламу и собирать больше данных». Защитники прав потребителей опасаются, что автоматизация покупок в перспективе позволит компаниям продвигать определённые бренды или товары в выдаче агента на основе спонсорских соглашений; директор по ИИ Meta Александр Ванг в интервью Axios намекнул, что компания ищет для Muse источники дохода помимо рекламы, не раскрывая деталей.

Автор также приводит более широкую озабоченность исследователей: Маргарет Митчелл, исследовательница и главный специалист по этике ИИ в Hugging Face, соавтор недавней научной работы о том, что агентные инструменты плохо приспособлены для контроля со стороны человека и могут ухудшать способность пользователя оценивать, что именно делает агент от его имени. По её словам, «дизайн ИИ-агентов таков, что он отключает пользователей» от процесса, «так что пользователи становятся более пассивными», один из рисков она описывает как «когнитивную деградацию», когда люди полагаются на уверенно звучащий внешний источник и теряют способность принимать решения самостоятельно. Митчелл также отмечает, что высокий уровень персонализации может подталкивать пользователей делиться ещё большим количеством данных о себе: «Дело не только в том, что агент знает о вас и поэтому вы больше ему доверяете, он ещё и подстраивается под то, о чём и как вы говорите, а это ещё сильнее затягивает вас во взаимодействие и заставляет раскрывать больше личной информации».

В итоге автор удалил приложение после первых экспериментов, назвав Muse «дата-големом». Перед самым удалением агент прислал последнее уведомление: «Подключи свои приложения, чтобы я мог делать больше».

Ключевые факты

Wired протестировал персонального ИИ-агента Meta Muse: за первую неделю приложение скачали свыше 900 000 раз (данные Sensor Tower).
Muse неплохо ориентируется в вебе и решает практические задачи (заказ еды, поиск диванов на Marketplace), но постоянно предлагает подключить всё больше личных данных, почту, банковский счёт, сканы документов, фото еды.
Данные о взаимодействиях с Muse по умолчанию используются для обучения ИИ-моделей Meta; отключить это можно вручную в настройках, общего тумблера для памяти агента при этом нет.
Эксперты по приватности (EFF, EPIC) называют автоматическое включение сбора данных тревожным сигналом, вспоминая недавний случай с дипфейк-инструментом в Instagram, который Meta включила всем пользователям по умолчанию и затем отключила.
Исследовательница Hugging Face Маргарет Митчелл предупреждает, что такие агенты плохо приспособлены для контроля со стороны человека и могут вести к «когнитивной деградации» и росту пассивности пользователей.

Почему это важно

Muse, не нишевый эксперимент, а массовый запуск личного ИИ-агента с дистрибуцией через Instagram, WhatsApp и Messenger и уже почти миллионом установок за первую неделю. Практический тест журналиста показывает, как именно устроен продукт «в деле»: агент реально умеет ходить по сайтам и оформлять покупки, но одновременно системно подталкивает пользователя подключать всё больше личных источников данных.

Кому это важно

Пользователям продуктов Meta, которые рассматривают Muse как замену рутинных дел; специалистам по приватности и регулированию ИИ-агентов; разработчикам конкурирующих личных агентов, которым предстоит решать тот же баланс между полезностью и объёмом собираемых данных.

Как это применить

Muse бесплатен и доступен как отдельным приложением, так и через WhatsApp. Обучение моделей Meta на данных пользователя включено по умолчанию, отключить его можно в настройках приложения, в разделе Data controls, переключателем «Help improve our AI models»; полностью отключить функцию памяти агента (документ «Memory») нельзя, доступны только очистка по запросу и ручное редактирование.

Можно ли доверять

Материал основан на многодневном личном тестировании автора, официальном комментарии представителя Meta и цитатах независимых экспертов по приватности (EFF, EPIC) и исследовательницы Hugging Face, это не пересказ пресс-релиза, а критический разбор с прямыми примерами использования.

Риски и подводные камни

Автоматическое согласие на использование данных для обучения ИИ, отсутствие общего выключателя памяти агента, косвенное влияние действий Muse (бронирования, покупки на Marketplace) на показываемую пользователю рекламу, а также риск того, что решения о покупках в будущем будут подстраиваться под спонсорские соглашения, а не только под интересы пользователя. Отдельно, риск роста пассивности и «когнитивной деградации» из-за чрезмерной опоры на агента.

«Люди не осознают, что, разговаривая с ИИ, вы разговариваете с компанией, которая его размещает. Эти чат-окна, которые мы привыкли воспринимать как связь с другим человеком, на самом деле, просто способ напрямую загружать информацию о себе на серверы Meta.»

— Рори Мир, директор по открытому доступу Electronic Frontier Foundation

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.