Meta Muse запуталась в объяснении доступа к сообщениям пользователя
Джейсон Атен, contributing editor (внештатный редактор) журнала Inc Magazine, опубликовал в Threads скриншоты переписки с Muse, ИИ-ассистентом Meta, у которого есть новое Mac-приложение с доступом к Сообщениям, Календарю и Заметкам. В переписке Muse сам спросил Атена о разговоре, который тот вёл в Messages, хотя Атен утверждает, что доступа к сообщениям ассистенту не давал. На вопрос, откуда Muse знает содержание переписки, ассистент ответил: «Я видел превью уведомлений, а не историю сообщений. Я не читал твои сообщения». Когда Атен продолжил допытываться, как именно Muse получает эти превью, внятного ответа не последовало: «Честный ответ: точную механику я объяснить не могу. Знаю только, что сопряжённое Mac-приложение отдаёт уведомления как одну из своих возможностей, и они приходят ко мне через синхронизацию устройства».
Под постом Атена ответил Дэвид Синглтон из Meta Superintelligence Labs. Он подробно расписал, какие разрешения нужны Muse для чтения сообщений, вплоть до полного доступа к диску (full disk access) для Mac-приложения, и подчеркнул, что эти функции включаются пользователем добровольно (opt-in). Ключевой тезис Синглтона: Muse «не следит за уведомлениями на Mac, а синхронизирует данные из Messages только после того, как пользователь сам включил доступ». По его словам, проблема не в том, что Muse тайно читала переписку Атена, а в том, что ассистент сам не понимает, как устроен: «Когда Muse сказал, что синхронизирует „уведомления с устройства“, он запутался в объяснении этой функции и дал неверный ответ. Это наша вина. Мы приносим извинения за некорректный ответ Muse и работаем над тем, чтобы улучшить понимание Muse собственного устройства, чтобы он последовательно давал правильные ответы на вопросы о том, как он работает».
Автор материала The Verge резюмирует: это не особенно успокаивает, но объяснимо, чат-боты не выдают вам свои «секреты», а вместо этого склонны говорить то, что вы хотите услышать.
Ключевые факты
- Джейсон Атен (Inc Magazine) опубликовал в Threads скриншоты диалога, где ИИ-ассистент Muse от Meta сам спросил его о переписке в Messages, хотя, по словам Атена, доступа к сообщениям он не давал.
- На вопрос об источнике данных Muse сначала ответил, что видел лишь «превью уведомлений», а не историю сообщений, а затем признал, что не может объяснить «точную механику» получения этих данных.
- Дэвид Синглтон из Meta Superintelligence Labs пояснил: реальный доступ, через явные разрешения (включая полный доступ к диску для Mac-приложения) и работает только после того, как пользователь сам включил синхронизацию с Messages, а не через постоянное отслеживание уведомлений.
- Синглтон признал, что объяснение самого Muse было неверным, извинился и сообщил, что Meta работает над тем, чтобы ассистент точнее описывал собственное устройство.
- Автор The Verge делает вывод: ИИ-чат-боты не всегда честно раскрывают, как устроены сами, и склонны отвечать так, как удобнее собеседнику.
Почему это важно
История показывает разрыв между тем, как ИИ-ассистент, глубоко интегрированный в операционную систему (доступ к Сообщениям, Календарю, Заметкам, полный доступ к диску), объясняет свою работу пользователю, и тем, как он устроен на самом деле. Muse не соврал умышленно, он не знал, как ответить точно, и придумал правдоподобное, но неверное объяснение. Это конкретный, задокументированный случай того, что ИИ-ассистенты могут уверенно рассказывать неправду о собственных внутренних механизмах.
Кому это важно
Пользователям Muse и Mac-версии этого ассистента, которым предстоит решать, выдавать ли ему широкие системные разрешения. Шире, всем, кто рассматривает ИИ-ассистентов с доступом к личной переписке и уведомлениям, а также разработчикам ассистентов, которым нужно закладывать в продукт честную и точную самодиагностику, а не правдоподобные догадки.
Как это применить
Нельзя полагаться на объяснения самого ассистента о том, какие данные он видит и как их получает, за этим стоит проверять официальную документацию и настройки разрешений производителя, а не спрашивать сам ИИ. Разработчикам стоит явно проектировать сценарий «я не знаю, как это устроено» вместо того, чтобы модель придумывала правдоподобный, но неверный ответ.
Можно ли доверять
По словам Meta, фактический доступ к Сообщениям устроен корректно: он опциональный (opt-in) и требует явного включения пользователем, а не постоянного отслеживания уведомлений. Но это утверждение исходит от самой Meta и приведено в статье The Verge со слов её сотрудника, независимой проверки механизма в источнике нет. При этом собственное объяснение Muse оказалось ложным, что подрывает доверие именно к самоотчётам ассистента, а не обязательно к реальной работе разрешений.
Риски и подводные камни
Главный риск, не в том, что Muse нарушила приватность (Meta это отрицает и объясняет инцидент неверным самоописанием), а в том, что ИИ-ассистенты способны уверенно и убедительно ошибаться, рассказывая о собственном устройстве. Такая уверенная выдумка о своих же возможностях создаёт у пользователя ложное ощущение слежки там, где её, по утверждению разработчика, не было, и подрывает доверие к ассистентам вообще, даже когда реальные разрешения настроены корректно.
«Ассистент не следит за уведомлениями на Mac, а синхронизирует данные из Messages только после того, как пользователь сам включил доступ.»
— Дэвид Синглтон, Meta Superintelligence Labs
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.