ИИтог

Anthropic заявила, что сократила кражу рассуждений Claude на 90, 99%

безопасностьРедакция ИИтогThe Decoder🔥66Рейтинг ИИтог66Влияние60Новизна55Релевантность90Неожиданность45Участники88Достоверность70
Anthropic заявила, что сократила кражу рассуждений Claude на 90, 99%

Anthropic заявляет, что ведёт борьбу с масштабными атаками дистилляции на свои модели Claude. В таких атаках компании систематически копируют возможности нейросети, чтобы обучить на них собственные, более маленькие модели. По словам Anthropic, новые меры защиты сократили объём извлечённых токенов рассуждений (внутренних шагов цепочки рассуждений модели) на 90-99%. Для этого, как утверждается, атакующие используют сети из сотен тысяч фальшивых аккаунтов.

Среди участников таких атак Anthropic называет китайские компании Zhipu и Moonshot. По версии Anthropic, Zhipu якобы выкачивала возможности в области кибербезопасности из ведущих американских моделей для своей модели GLM-5.3, а Moonshot тайно пропускала запросы через Claude. В источнике отмечается, что украденные возможности могут оказаться в иностранных военных системах и системах слежки.

В ответ Anthropic ограничила доступ к внутренним шагам рассуждений Claude, запустила классификатор, который выявляет попытки извлечения, и автоматически блокирует помеченные им аккаунты. Уже заблокированы десятки тысяч аккаунтов. Anthropic призывает других разработчиков ИИ принять похожие меры защиты, но признаёт, что в процессе страдают и добросовестные пользователи.

Ключевые факты

  • Anthropic заявляет, что новые защитные меры сократили объём извлечённых токенов рассуждений Claude на 90, 99%; период и базовый уровень для сравнения не указаны.
  • Атаки дистилляции, по описанию, ведутся через сети из сотен тысяч фальшивых аккаунтов; уже заблокированы десятки тысяч аккаунтов.
  • Среди участников Anthropic называет китайские Zhipu (якобы для модели GLM-5.3) и Moonshot (тайно пропускала запросы через Claude).
  • Меры: ограничен доступ к внутренним шагам рассуждений, работает классификатор попыток извлечения, помеченные аккаунты банятся автоматически.
  • Anthropic призывает других разработчиков принять похожую защиту и признаёт, что под блокировки попадают и добросовестные пользователи.

Почему это важно

Дистилляция, способ дёшево перенять возможности сильной модели, и Anthropic называет её масштабной угрозой для Claude. Защита касается в том числе внутренних шагов рассуждений: именно их объём, по заявлению компании, удалось сократить на 90-99%. Ещё один аспект, о котором говорится в материале: украденные возможности могут оказаться в иностранных военных системах и системах слежки. Сам факт, что разработчик публично называет конкретные компании и призывает отрасль к общим мерам, показывает, как защита моделей становится отдельным направлением работы.

Кому это важно

Разработчикам передовых моделей, которые сталкиваются с массовым извлечением своих возможностей. Компаниям, которые строят продукты поверх API Claude: ограничения доступа к рассуждениям и автоматические блокировки могут задевать и добросовестных пользователей. Тем, кто следит за конкуренцией американских и китайских лабораторий и за тем, как её участники обвиняют друг друга.

Как это применить

Прямых инструкций для пользователей в материале нет. Практический вывод для команд, работающих с Claude через API: Anthropic ограничивает доступ к внутренним шагам рассуждений и автоматически банит аккаунты, которые классификатор пометил как извлекающие данные, при этом компания признаёт ложные срабатывания. Разработчикам других моделей Anthropic предлагает перенять сходный набор мер: ограничение доступа к рассуждениям, классификатор попыток извлечения и автоматические блокировки. Какие именно разработчики имеются в виду, в источнике не сказано.

Можно ли доверять

Все цифры и обвинения исходят от самой Anthropic в пересказе издания The Decoder; независимой проверки в материале нет. Не указано, за какой период и относительно какого уровня считается снижение на 90-99%. Не приведено доказательств против Zhipu и Moonshot, и не сообщается об их ответе. Число заблокированных аккаунтов дано лишь порядком величины, десятки тысяч. Следует различать: в заголовке источника стоит «до 99%», в тексте, «на 90-99%».

Риски и подводные камни

Anthropic прямо признаёт, что под действие защитных мер попадают добросовестные пользователи; сколько их, не сообщается. Автоматические блокировки по классификатору означают риск ошибочных банов. Обвинения против конкретных компаний выдвинуты как заявления Anthropic без подтверждающих деталей, поэтому воспринимать их стоит как позицию одной стороны. Как работает классификатор и какие модели Claude были мишенью, в источнике не раскрывается.