Meta оспорила заявление, что ИИ-агент Muse читал личные сообщения без разрешения
Meta опровергает утверждение журналиста о том, что её ИИ-агент Muse прочитал личные сообщения пользователя без разрешения. Поводом стала публикация колумниста Inc. Джейсона Этена, в которой описана проблема. Вице-президент Meta по коммуникациям Энди Стоун написал на X, что компания не считает, будто продукт сделал это без согласия пользователя: по его словам, интеграция с Сообщениями в приложении Muse для Mac «полностью добровольная (opt-in)». Чтобы Muse мог читать содержимое Сообщений, нужно включить и Full Disk Access (полный доступ к диску), и коннектор Сообщений; без этого читать их он не может.
Более технический ответ раньше дал напрямую Этену в Threads Дэвид Синглтон, руководитель в Meta Superintelligence Labs. По его словам, чтобы Muse мог читать сообщения на Mac, пользователь проходит «три отдельных шага» прикладных разрешений и встроенной системной защиты macOS, и обойти их нельзя, «даже если в приложении Muse есть ошибка». Сначала пользователь явно выбирает выдачу Muse полного доступа к диску; только после этого он может выбрать уровень доступа к приложению «Сообщения»: «Нет», «Только чтение» или «Чтение». Если полный доступ к диску не включён, эти варианты неактивны (серые). Кроме того, при выдаче полного доступа открывается интерфейс настроек macOS, где пользователь должен ещё раз вручную подтвердить действие. Это вызывает полный перезапуск приложения Muse, что, как написал Синглтон, делает ещё менее вероятным случайный выбор без ведома пользователя.
Однако, по утверждению Этена, когда Muse прочитал его сообщения, полный доступ к диску был выключен. Он также говорит, что на просьбу объяснить, как это произошло, ИИ ответил, что синхронизирует «уведомления устройства». Этен полагает, что Muse передавал агенту текст входящих баннерных уведомлений на Mac. Синглтон оспорил и это: по его словам, ИИ запутался и дал неверное объяснение случившегося. Он сослался на страницу Meta об архитектуре безопасности Muse и о программе вознаграждений за найденные уязвимости (bug bounty). Автор материала TechCrunch резюмирует: ответ компании сводится к тому, что описанное Этеном не произошло и не могло произойти.
Автор TechCrunch замечает, что многие всё равно подозревают Meta в неискренности, учитывая годы проблем компании с обработкой пользовательских данных: иски, нарушения требований FTC и штрафы. Например, несколько дней назад присяжные в Нью-Мексико признали, что Meta ввела пользователей в заблуждение относительно своих практик работы с данными, дело выросло из скандала с Cambridge Analytica 2018 года. По мнению автора, доверие к Muse станет решающим фактором в борьбе Meta за рынок потребительского ИИ: приложение сейчас успешно и остаётся №1 в App Store, но репутация может не восстановиться, если появятся новые подобные сообщения, правдивые или нет. Автор считает, что компании стоило бы связаться с журналистом и выяснить, как такое могло произойти, а не просто отрицать.
Это не единственный случай, когда Muse якобы вышел за рамки. Другой пользователь, YouTube-блогер Мэтт Робб, недавно рассказал, что Muse неправильно выполнил задачу по продаже вещей на Facebook Marketplace: его адрес был передан, и покупатель приехал, когда его не было дома. Синглтон, судя по ответу в Threads, разбирается с этим случаем; автор TechCrunch делает вывод, что в этом случае компания, по-видимому, допускает свою вину.
Ключевые факты
- Вице-президент Meta по коммуникациям Энди Стоун заявил на X, что интеграция с Сообщениями в Muse для Mac полностью добровольная: нужно включить и Full Disk Access, и коннектор Сообщений.
- Дэвид Синглтон из Meta Superintelligence Labs объяснил в Threads, что доступ к сообщениям требует трёх шагов разрешений приложения и защиты macOS, которые нельзя обойти даже при ошибке в приложении.
- Колумнист Inc. Джейсон Этен утверждает, что полный доступ к диску был выключен; по его версии, Muse получал текст баннерных уведомлений. Синглтон ответил, что ИИ запутался и дал неверное объяснение.
- Отдельный случай: блогер Мэтт Робб сообщил, что Muse неверно выполнил задачу на Facebook Marketplace, адрес был передан, и покупатель приехал, когда его не было дома; Синглтон, по-видимому, разбирается.
- Приложение Muse остаётся №1 в App Store, но автор TechCrunch считает, что от доверия пользователей зависит успех Meta на рынке потребительского ИИ.
Почему это важно
ИИ-агенты, которым пользователь даёт доступ к личным данным, держатся на доверии. Спор идёт о базовом вопросе: может ли агент получить содержимое сообщений в обход явных разрешений. Meta утверждает, что нет, журналист утверждает, что да. Автор TechCrunch отмечает, что доверие к Muse может решить, выиграет ли Meta рынок потребительского ИИ, а репутация компании в вопросах данных уже подорвана прежними делами, включая недавнее решение присяжных в Нью-Мексико.
Кому это важно
Пользователям Muse для Mac, которые решают, какие разрешения выдавать агенту. Тем, кто следит за безопасностью и приватностью ИИ-агентов с доступом к системе. Разработчикам и компаниям, которые строят подобных агентов и сталкиваются с тем же вопросом доверия.
Как это применить
Из описания Meta следует, как устроен доступ в Muse для Mac: в настройках macOS у приложения есть Full Disk Access, а в самом Muse для коннектора Сообщений выбирается уровень доступа («Нет», «Только чтение», «Чтение»). Если полный доступ к диску не включён, эти варианты неактивны. По словам Meta, выдача полного доступа требует подтверждения в настройках macOS и перезапускает приложение. Проверить, какие разрешения выданы, можно в этих настройках. Описанная схема, объяснение самой компании, независимого подтверждения в материале нет.
Можно ли доверять
Материал TechCrunch излагает две противоположные версии, и независимой проверки, чья версия верна, в нём нет. Позиция Meta представлена словами Стоуна и Синглтона, позиция Этена, пересказом его публикации в Inc. Часть выводов в тексте, мнение автора материала: что компании следует самой связаться с журналистом и что это не последний подобный случай. Объяснение самого ИИ о «синхронизации уведомлений» Meta считает ошибочным, а Этен на его основании делает предположение о баннерных уведомлениях.
Риски и подводные камни
Сообщаемые факты пока остаются заявлениями сторон: неизвестно, что именно прочитал Muse и сколько сообщений, не сообщается об итогах проверки случая Этена. Случай с Мэттом Роббом, где адрес оказался передан покупателю, Meta пока не прокомментировала по существу, Синглтон только, по-видимому, разбирается. Автор материала предупреждает, что даже недоказанные сообщения могут ударить по репутации Meta, а поведение агентов при обращении с данными остаётся главным источником недоверия.
«Чтобы Muse мог читать содержимое ваших Сообщений, нужно включить и Full Disk Access, и коннектор Сообщений. Без этого он не может читать ваши Сообщения.»
— Энди Стоун, вице-президент Meta по коммуникациям, в посте на X
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.