ИИтог

Meta приостановила обмен чатами в Muse: исследователи нашли переписки в сети

безопасностьРедакция ИИтогThe Verge🔥64Рейтинг ИИтог64Влияние55Новизна45Релевантность95Неожиданность50Участники80Достоверность80
Meta приостановила обмен чатами в Muse: исследователи нашли переписки в сети

Meta приостановила в ИИ-ассистенте Muse функцию, которая позволяет делиться беседами с ним. Поводом стал отчёт охранной фирмы Claroc, опубликованный на этой неделе: её исследователи сообщили, что нашли более 6800 ссылок на беседы Muse через публичные записи DNS. Первым об этом написал Ars Technica, The Verge получил от Meta письменное заявление.

Представитель Muse Трейси Клэйтон в заявлении The Verge сказал, что пользователи могут делиться отдельными материалами Muse, при этом создаётся страница, доступная тем, у кого есть ссылка. Однако, по его словам, компания приостановила эту функцию, пока изучает отчёт и обдумывает изменения в том, как такие ссылки можно обнаружить.

Суть проблемы, по описанию Claroc, в устройстве самих ссылок. Muse строит веб-адрес каждой расшаренной беседы из её названия (короткой фразы, описывающей разговор) и случайного идентификатора. Имя хоста, как пишут в Claroc, обычно выдавало содержимое страницы ещё до её открытия, а поскольку ссылка содержит те же название и идентификатор, имя хоста, извлечённое из DNS, позволяет восстановить ссылку целиком.

Искав в публичных записях DNS (они служат своего рода справочником для веб-трафика), Claroc смогла просмотреть сотни бесед Muse. Среди них были обзор выручки маркетинговой компании, заявка на кредит владельца малого бизнеса, календарь сотрудников организации на весь год и заметки кандидата на работу к разговору с ИИ-лабораторией.

The Verge напоминает, что это не первый случай, когда функции обмена в ИИ-сервисах делали чаты более публичными, чем задумывалось: беседы с ChatGPT от OpenAI, Claude от Anthropic и Grok от xAI уже попадали в поиск Google.

Ключевые факты

  • Meta приостановила функцию обмена беседами в ИИ-ассистенте Muse, пока изучает отчёт и обдумывает изменения в том, как ссылки можно обнаружить.
  • Охранная фирма Claroc сообщила, что нашла более 6800 ссылок Muse через публичные записи DNS и смогла просмотреть сотни бесед.
  • Адрес ссылки строится из названия беседы и случайного идентификатора, поэтому имя хоста из DNS выдаёт содержимое и позволяет восстановить ссылку.
  • Среди найденных бесед: обзор выручки маркетинговой компании, заявка на кредит, годовой календарь сотрудников, заметки кандидата к разговору с ИИ-лабораторией.
  • Ранее беседы с ChatGPT, Claude и Grok тоже попадали в поиск Google из-за функций обмена.

Почему это важно

Пользователи делятся беседами с ИИ-ассистентом, не ожидая, что они окажутся в открытом доступе. Здесь ссылка была «доступна тем, у кого она есть», но из-за способа построения адреса её можно было вычислить по публичным записям DNS. В найденных беседах были финансовые и рабочие данные: выручка компании, заявка на кредит, кадровый календарь. Это уже не первый подобный случай в отрасли: чаты ChatGPT, Claude и Grok ранее оказывались в поиске Google.

Кому это важно

Прежде всего пользователям Muse, которые делились беседами по ссылке, особенно если в них были деловые или личные данные. Также командам безопасности и разработчикам ИИ-сервисов с функциями обмена: пример показывает, что осмысленные слова в адресе могут раскрывать содержимое страницы.

Как это применить

Из источника следует практический вывод для разработчиков: не строить публичный адрес из названия или описания содержимого, поскольку имя хоста попадает в публичные записи DNS. Пользователям разумно не делиться через ссылки беседами с конфиденциальными данными. Сроки возобновления функции в источнике не названы.

Можно ли доверять

Историю первым опубликовал Ars Technica, The Verge пересказывает её и приводит письменное заявление представителя Muse. Цифры (более 6800 ссылок, сотни просмотренных бесед) и описание механизма принадлежат Claroc, независимо в тексте не проверены. Заявление Meta не признаёт ошибку и не содержит извинений: компания говорит лишь, что изучает отчёт и обдумывает изменения.

Риски и подводные камни

Цифра 6800 относится к найденным ссылкам, а не к беседам: просмотрены были сотни бесед. Неизвестно, как долго продлится пауза, вернётся ли функция, деактивированы ли уже открытые ссылки и обращался ли к чатам кто-то кроме Claroc. Также не названо, сколько пользователей затронуто. Эти вопросы источник оставляет без ответа.

«Однако мы приостановили эту функцию, пока изучаем этот отчёт и обдумываем изменения в том, как такие ссылки можно обнаружить.»

— Трейси Клэйтон, представитель Muse, в письменном заявлении The Verge

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.