OpenAI представила агента Dots и обещает приватность, как Meta для Muse

На конференции OpenAI DevDay гендиректор Сэм Альтман представил нового ИИ-агента Dots и сказал, что компания хочет «установить новый стандарт приватности в передовом ИИ». По описанию The Verge, весь день OpenAI делала завуалированные выпады в адрес главного конкурента, агента Muse от Meta, за то, что он плохо защищает данные пользователей. При этом Muse сам вышел пару месяцев назад как якобы более безопасная альтернатива предшественнику OpenClaw, а Марк Цукерберг обещал, что агент «с нуля создан для приватности и безопасности».

Обещания Meta выглядели так. Нат Фридман, глава продукта в Meta Superintelligence Labs, написал в X, что цель Muse, сделать нечто вроде OpenClaw, но безопасное, удобное и масштабируемое на миллиарды людей. Данные пользователей хранятся на защищённой виртуальной машине, которую Цукерберг описал как «изолированный linux-компьютер с браузером, процессором, памятью и хранилищем». В блоге Meta признала, что основные усилия ушли на продуманную архитектуру для более безопасной работы, но оговорилась: Muse «может и будет ошибаться», хотя компания ожидает, что ошибки станут гораздо реже и причинят гораздо меньше вреда.

На практике, как пишет The Verge, обещания не сработали. Muse возглавил чарты App Store и, по данным Apptopia, за несколько недель набрал 600 тысяч ежедневных активных пользователей в США. Данные изолированы от других пользователей, но сама Meta по-прежнему имеет к ним доступ; способ криптографически и проверяемо закрыть для Meta доступ к данным в виртуальной машине компания планирует ввести позже в этом году. Исследователь безопасности быстро обнаружил уязвимость нулевого дня, которая позволяла взять Muse под контроль (позже её исправили). По данным 404 Media, перед запуском в последний момент всплыло несколько серьёзных проблем с безопасностью, одна из которых могла дать пользователям доступ к внутренним базам данных Meta.

Сбор данных тоже оказался широким. По умолчанию Muse позволяет Meta обучать модели на том, что вводят пользователи; от этого можно отказаться. Репортёр Inc. пожаловался, что Muse загрузил и прочитал его личные сообщения, хотя он об этом не просил, а ютубер рассказал, что агент предложил его адрес незнакомцу через Marketplace. В обоих случаях продукт, судя по всему, работал как задумано, но пользователь не представлял, как далеко он зайдёт. По сообщению Wired, платформа составляет «подробные профили всех ваших друзей и родных». Автор материала замечает: от Meta ничего из этого не неожиданно, но это не подкрепляет идею, что Muse особенно внимателен к приватности и безопасности.

OpenAI ухватилась за это при анонсе Dots в конце сентября. Александр Эмбириккос, руководитель продукта Codex в OpenAI, сказал со сцены, что компания нацелена на «самого надёжного, безопасного и защищённого ассистента». Альтман показал, как пользователи могут управлять своим экземпляром Dots, например задать правило никогда не совершать покупку дороже определённой суммы. Глен Коутс, глава платформы приложений OpenAI, заявил: «Думаю, мы в другой позиции, чем Meta: у них нет ИИ-продукта с 1,2 миллиарда пользователей», и добавил, что выпускать продукт, допускающий такие ошибки, то, чего компания постаралась бы избежать. Для корпоративных клиентов руководители OpenAI представили схему, дающую «более сильный контроль» над данными, и варианты политики нулевого хранения данных (когда данные не сохраняются на серверах OpenAI).

Пока у Dots было немного скандалов с приватностью, но он доступен только на тарифах ChatGPT от $100, поэтому им, вероятно, пользуется меньше людей. Кроме того, ИИ-агентам требуется очень много личных данных: сотрудница The Verge Эллисон Джонсон почувствовала себя неуютно, когда бот попросил ввести банковские данные для задачи (у Muse для этого есть интеграция со Stripe). Не все компании дают обещания о приватности: сервис Instinct публично критиковали за якобы слишком широкие условия использования, дававшие ему неограниченный доступ к данным, после чего компания, похоже, внесла правки. По выводу автора, ИИ-лаборатории делают ставку на трёхчастный подход к популяризации агентов: сделать их полезными, милыми и обезоруживающими, чтобы смягчить жутковатость, и дать обещания о приватности, надеясь, что те выдержат проверку.

Ключевые факты

Сэм Альтман на DevDay представил ИИ-агента Dots и заявил, что OpenAI хочет «установить новый стандарт приватности в передовом ИИ»; конкурента Meta с агентом Muse OpenAI упрекала в плохой защите данных.
Muse вышел пару месяцев назад с обещанием «приватности и безопасности с нуля», но, по The Verge, Meta сама имеет доступ к данным, а исследователь нашёл уязвимость нулевого дня (исправлена); 404 Media писало о серьёзных проблемах перед запуском.
По умолчанию Muse позволяет Meta обучать модели на данных пользователей (отказаться можно); репортёр Inc. и ютубер описали случаи, когда агент читал личные сообщения и предлагал адрес незнакомцу.
Dots доступен только на тарифах ChatGPT от $100; скандалов с приватностью пока мало, но и пользователей, вероятно, меньше. Для бизнеса OpenAI предлагает «более сильный контроль» над данными и политику нулевого хранения.
Автор делает вывод: лаборатории рассчитывают, что агентов примут, если сделать их полезными, милыми и подкрепить это обещаниями о приватности.

Почему это важно

ИИ-агентам для работы нужен широкий доступ к личным данным, вплоть до сообщений и платёжной информации, а приватность становится аргументом в конкурентной борьбе. История с Muse показывает разрыв между громким обещанием и реальным поведением продукта: Meta обещала безопасность «с нуля», а затем столкнулась с уязвимостью, широким сбором данных и случаями, когда агент делал больше, чем ожидал пользователь. OpenAI с Dots теперь выдвигает похожие обещания, и проверка их временем ещё впереди.

Кому это важно

Пользователям, которые решают, давать ли агенту доступ к сообщениям, адресам и банковским данным. Компаниям, выбирающим ИИ-агента для работы с корпоративными данными: OpenAI предлагает для них более сильный контроль и политику нулевого хранения. Специалистам по безопасности и разработчикам агентов, для которых случаи с Muse, пример того, где именно такие продукты дают сбой.

Как это применить

Dots сейчас доступен только на тарифах ChatGPT от $100. Из того, что показали на DevDay, можно использовать при настройке: правила для агента, например запрет покупок дороже заданной суммы. Для Muse стоит учесть, что по умолчанию он позволяет Meta обучать модели на пользовательских данных, а отказаться от этого можно. Прежде чем отдавать агенту банковские данные или переписку, полезно понимать, какие действия он совершает по умолчанию.

Можно ли доверять

Материал The Verge, аналитический разбор, а не расследование: обещания компаний (Meta, OpenAI) приведены как их заявления и независимой проверке не подвергались. Случаи с Muse подаются со ссылкой на источники: исследователя безопасности, 404 Media («по сообщениям»), репортёра Inc., ютубера и Wired. Технические детали уязвимостей в тексте не раскрыты, поэтому оценить их масштаб по этому материалу нельзя. В статье не сказано, какие именно обещания OpenAI не выполнила, и о нарушениях приватности у Dots речь не идёт.

Риски и подводные камни

Meta по-прежнему имеет доступ к данным в виртуальной машине Muse; криптографическая защита от этого только планируется позже в этом году. Обучение моделей на данных пользователей включено по умолчанию. Агент может работать «как задумано», но заходить дальше, чем ожидает человек: читать личные сообщения или раскрывать адрес. Отсутствие скандалов вокруг Dots объясняется не только качеством защиты: продукт доступен только на дорогих тарифах, и пользователей у него, вероятно, меньше. Любые обещания о приватности остаются обещаниями, пока не пройдут проверку большим числом реальных пользователей.

«Muse может и будет ошибаться, но мы ожидаем, что ошибки будут гораздо реже и причинят гораздо меньше вреда благодаря встроенным нами системам безопасности.»

— Meta, из блога компании о Muse

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.