Nvidia и Palantir ограничили Fable от Anthropic из-за хранения логов
По данным издания The Information, несколько крупных клиентов Anthropic ограничили или полностью запретили использование её новой флагманской модели Fable для чувствительной работы. Поводом стала политика, которую Anthropic ввела в июне: компания начала хранить логи использования Fable 30 дней, объяснив это защитой от «сложных и новых атак». Nvidia, которая одновременно инвестирует в Anthropic и поставляет ей оборудование для разработки моделей, теперь использует Fable только для менее чувствительных задач вроде open-source проектов, а для внутренней работы, например, мониторинга цепочек поставок с помощью ИИ, применяет собственные модели Nemotron. «Мы как компания считаем, что нулевое хранение данных (Zero Data Retention, ZDR) должно быть включено по умолчанию», сказал изданию вице-президент Nvidia по корпоративному ИИ Джастин Бойтано.
Booz Allen Hamilton, оборонный подрядчик и один из первых клиентов более ранней модели Anthropic, Mythos, запретил сотрудникам использовать Fable в работе над собственным программным обеспечением для кибербезопасности. «Нас немного беспокоит, что [Fable], возможно, обучается на части нашего кода», объяснил технический директор компании Билл Васс.
Palantir блокирует развёртывание Fable через собственное программное обеспечение для клиентов, пока Anthropic не предоставит безотзывные гарантии нулевого хранения данных. На встрече с клиентами гендиректор Palantir Алекс Карп заявил, что компании устали от того, что ИИ-лаборатории их «эксплуатируют». При этом собственная позиция Palantir не бескорыстна: компании выгодно, чтобы клиенты работали с ИИ-моделями через её якобы защищённую платформу, а не напрямую через провайдеров.
После давления со стороны клиентов и после того как в августе OpenAI разрешила клиентам GPT-5.6 Cyber хранить журналы безопасности на собственных серверах, Anthropic последовала этому примеру: этой осенью компания запускает похожую программу для избранных клиентов.
Но даже нулевое хранение данных не закрывает проблему полностью: по данным The Information, и OpenAI, и Anthropic по-прежнему собирают у корпоративных клиентов метаданные и техническую информацию об использовании сервисов. OpenAI называет эти данные «обезличенными», то есть очищенными от сведений, по которым можно установить конкретного клиента. На своём сайте OpenAI сообщает, что прогоняет данные бизнес-клиентов через автоматические классификаторы и инструменты безопасности, «чтобы лучше понимать, как используются наши сервисы»; полученные классификации, по словам компании, это метаданные о данных бизнеса, которые «не содержат самих данных бизнеса». Часть клиентов не уверена, что именно охватывают эти метаданные, и считает нынешнюю прозрачность недостаточной.
Джон Шульман, сооснователь OpenAI, недолго проработавший в Anthropic, а сейчас работающий в Thinking Machines, недавно описал, какими способами ИИ-компании вообще могут обучаться на пользовательских данных. Спектр идёт от прямого предобучения на пользовательских данных (высокий риск, что модель дословно воспроизведёт контент) через дистилляцию больших моделей в меньшие, до построения задач обучения с подкреплением на основе «пользовательских следов». Последний вариант, по словам Шульмана, несёт низкий риск дословного воспроизведения, но всё равно может извлекать интеллектуальную собственность клиента: диапазон, от безобидного использования явной обратной связи пользователей при обучении модели вознаграждения до инвазивного, «загрузить рабочее окружение пользователя и историю коммитов и превратить их в среды для обучения с подкреплением». «Обезличивание, слабая защита, добавил Шульман, пользователя можно деанонимизировать всего по небольшому числу бит, и от утечки интеллектуальной собственности оно не защищает».
Похожую лазейку описывает исследовательница ИИ Сара Хукер, ранее работавшая в Cohere и Google DeepMind: существуют «хитрые техники синтетических данных, которые порождают статистически эквивалентные по распределению данные, сохраняя приватность». Иными словами, даже если лаборатория не использует исходные данные клиента напрямую, она может извлечь из них статистические закономерности и получить тот же результат. Хукер предупреждает: «Если у вас как у компании есть интеллектуальная собственность, у вас есть лишь ограниченное окно, чтобы построить собственный ИИ, который её использует. Иначе вы просто подпитываете одну из передовых ИИ-лабораторий, которая рано или поздно вторгнется в вашу нишу».
В более позднем посте Шульман частично смягчил свою позицию: обучение на пользовательских данных, по его словам, «крайне маловероятно» вносит существенный вклад в рост возможностей передовых моделей, такой прирост даёт в первую очередь масштабирование предобучения и обучения с подкреплением. Пользовательские данные полезнее для поиска сбоев и ситуаций, которые трудно воспроизвести силами платных разметчиков. При этом Шульман добавил, что «компании, разработчики моделей сильно отличаются по тому, насколько агрессивно они обучаются на пользовательских данных (и загрузка репозиториев, не гипотетический сценарий)», по всей видимости, намёк на такие ИИ-инструменты для кода, как Codex или Cursor, где пользователи напрямую подключают свои репозитории к сервису. Он призвал к более строгим нормам раскрытия того, как компании обучаются на пользовательских данных.
Поводом для высказываний Шульмана стали серьёзные обвинения, которые математик Тристан Бакмастер выдвинул против OpenAI. Бакмастер и его соавтор Левент Алпёге с помощью ИИ-моделей продвинулись в работе над уравнениями Навье, Стокса, загружая черновики через OpenAI Codex. Вскоре после этого OpenAI представила собственный прорыв, использующий тот же нестандартный путь решения. Сначала OpenAI признала, что не может исключить, что обезличенные данные, полученные из использования её продуктов, повлияли на улучшение её моделей. После внутреннего расследования компания обновила свой пост, заявив, что запросы Бакмастера в Codex за два месяца до публикации 8 сентября 2026 года «никак не могли повлиять на систему, в том числе через обучение». Тем не менее сам этот случай показал, насколько хрупко доверие между бизнесом, наукой и ИИ-лабораториями.
Ключевые факты
- Nvidia использует Fable только для менее чувствительных задач (например, open-source-проектов), а для внутренней работы, скажем, мониторинга цепочек поставок, переходит на собственные модели Nemotron; поводом стала июньская политика Anthropic хранить логи использования Fable 30 дней.
- Booz Allen Hamilton, ранее один из первых клиентов более ранней модели Anthropic Mythos, запретил сотрудникам использовать Fable в разработке собственного ПО для кибербезопасности, опасаясь, что модель «учится» на их коде.
- Palantir блокирует развёртывание Fable через своё ПО для клиентов, пока Anthropic не даст безотзывные гарантии нулевого хранения данных (zero data retention); гендиректор Palantir Алекс Карп заявил, что компании устали от того, что их «эксплуатируют» ИИ-лаборатории.
- Anthropic готовит на осень программу хранения логов на серверах клиента, по примеру OpenAI, которая с августа разрешила это клиентам GPT-5.6 Cyber; но даже при нулевом хранении данных OpenAI и Anthropic продолжают собирать метаданные об использовании, и часть клиентов считает нынешнюю прозрачность недостаточной.
- OpenAI провела внутреннее расследование по жалобе математика Тристана Бакмастера, заподозрившего компанию в обучении на его черновиках в Codex по уравнениям Навье, Стокса, и заявила, что его запросы за два месяца до публикации 8 сентября 2026 года «никак не могли повлиять на систему, в том числе через обучение».
Почему это важно
История показывает: декларации о защите данных, которые дают ИИ-лаборатории, разошлись с тем, чему на самом деле доверяют их крупнейшие клиенты. Nvidia, Booz Allen Hamilton и Palantir, не мелкие пользователи, а институциональные клиенты с серьёзными требованиями к защите интеллектуальной собственности, и все трое на практике ограничили доступ к флагманской модели Anthropic Fable после того, как компания начала хранить логи использования. Материал показывает и вторую, более глубокую проблему: даже там, где лаборатория формально не хранит сырые данные (нулевое хранение данных, ZDR), она может продолжать собирать метаданные об использовании или, по словам Джона Шульмана и Сары Хукер, извлекать статистические закономерности из пользовательских данных без прямого их хранения. А случай математика Тристана Бакмастера, с обвинением, что OpenAI могла обучаться на его рабочих черновиках в Codex, переводит проблему из теории в конкретный, потенциально повторяемый прецедент.
Кому это важно
В первую очередь, компаниям, которые заводят в ИИ-инструменты чувствительный код и интеллектуальную собственность: оборонным подрядчикам вроде Booz Allen Hamilton, компаниям вроде Palantir и Nvidia, работающим с закрытыми технологиями, и в целом любому корпоративному клиенту, который подключает свою кодовую базу или внутренние данные к сервисам вроде Fable, Codex или Cursor. Также это касается исследователей, как показывает случай Тристана Бакмастера и Левента Алпёге, которые загружают черновики оригинальных научных результатов в ИИ-инструменты до публикации. И наконец, это вопрос для самих ИИ-лабораторий: OpenAI и Anthropic формируют политику удержания и обучения на данных клиентов в условиях, когда крупные клиенты уже не готовы просто верить публичным заявлениям на слово.
Как это применить
Перед тем как отправлять в ИИ-инструмент чувствительный код или закрытые данные, стоит по примеру Nvidia и Palantir спросить у поставщика не про общие формулировки о приватности, а про конкретные условия: включено ли нулевое хранение данных (zero data retention) по умолчанию и распространяется ли эта гарантия на используемый тариф; что именно считается «метаданными» и собираются ли они даже при включённом ZDR, по данным статьи, прозрачности OpenAI и Anthropic на этот счёт пока недостаточно. Компаниям с особо чувствительной кодовой базой стоит рассмотреть путь Nvidia: для внутренней, некритичной для конфиденциальности работы использовать сторонние модели, а для чувствительных задач, собственные модели или модели, развёрнутые в своём периметре. У OpenAI и Anthropic уже есть отдельные программы для таких клиентов: у OpenAI, хранение логов безопасности GPT-5.6 Cyber на клиентских серверах с августа, у Anthropic, похожая программа для избранных клиентов, которая должна заработать этой осенью.
Можно ли доверять
Издание The Decoder само не проводило это расследование: почти все факты про ограничения Nvidia, Booz Allen Hamilton и Palantir, а также про сбор метаданных OpenAI и Anthropic, взяты из отчёта другого издания, The Information, со ссылкой на него. При этом в материале приведены именные, атрибутированные цитаты, вице-президент Nvidia по корпоративному ИИ Джастин Бойтано, технический директор Booz Allen Hamilton Билл Васс, гендиректор Palantir Алекс Карп, что повышает доверие к пересказу. Слабое место, в тексте нет ни одной реплики представителя самой Anthropic в ответ на претензии трёх клиентов: её сторона вопроса не звучит вовсе. Не названы ни точная дата июньского изменения политики (только месяц), ни детали осенней программы Anthropic, ни исход спора между Бакмастером и OpenAI после публикации её ответа.
Риски и подводные камни
Главный риск для корпоративного клиента, считать нулевое хранение данных достаточной гарантией. Материал прямо показывает, что это не так: и OpenAI, и Anthropic продолжают собирать метаданные об использовании даже при ZDR, а Джон Шульман предупреждает, что обезличивание, слабая защита и что пользователя можно деанонимизировать по небольшому числу бит. Сара Хукер описывает ещё один путь утечки, синтетические данные, статистически эквивалентные исходным, которые лаборатория может научиться генерировать, не сохраняя данные клиента напрямую: формальное соответствие политике ZDR не исключает фактического извлечения ценности из чужой интеллектуальной собственности. Отдельный риск, отсутствие единых отраслевых норм раскрытия: сам Шульман признаёт, что компании сильно отличаются по агрессивности обучения на пользовательских данных, и именно поэтому призывает к более строгим правилам. Наконец, случай Бакмастера показывает репутационный риск и для самих лабораторий: даже когда внутреннее расследование снимает обвинение, доверие клиента или исследователя восстановить непросто.
«Мы немного обеспокоены тем, что [Fable], возможно, обучается на части нашего кода.»
— Билл Васс, технический директор Booz Allen Hamilton