NVIDIA Nemotron: данные для ИИ-агентов важнее весов модели

NVIDIA в блоге проекта Nemotron на Hugging Face объясняет, почему для создания настоящих ИИ-агентов одних весов модели недостаточно. Агент, который не может восстановиться после сбоя API-вызова или незнакомого сценария, по сути «автодополнение с инструментами», а не агент. Переход от одного к другому авторы называют проблемой данных: нужны трассы работы с ПО, примеры неудачных вызовов инструментов, многошаговые рассуждения, данные для поиска информации, данные по безопасности, симуляции пользователей, выполнение рабочих процессов и в перспективе, данные о взаимодействии с физическим миром. Именно этим занимаются открытые датасеты Nemotron.

NVIDIA отмечает, что открытые модели заметно влияют на исследования: почти 145 докладов на конференции ICML (International Conference on Machine Learning) ссылаются на модели и датасеты Nemotron. Синтетические данные, важная часть экосистемы: датасет Nemotron-CC использует синтетику для улучшения корпуса Common Crawl при предобучении моделей; Nemotron-CC-MATH применяет синтетические математические задачи для улучшения способности к рассуждению; Nemotron Pretraining, широкая коллекция данных общего назначения, кода, математики и синтетики общим объёмом в триллионы токенов. По словам авторов, NVIDIA публикует открытые датасеты в том числе для того, чтобы учиться вместе с сообществом. Веса моделей важны, но для агентов это лишь часть картины: воспроизводимость результатов зависит ещё и от датасетов, решений по курированию данных, рецептов обучения и методов оценки.

Вице-президент NVIDIA по прикладным исследованиям глубокого обучения Брайан Катандзаро (Bryan Catanzaro) отмечает: «каждая компания построена вокруг секрета», рабочего процесса, корпуса данных или паттерна поведения клиентов, которого нет у конкурентов. Раскрывать такие секреты компаниям невыгодно, но синтетические данные позволяют командам сохранить полезные сигналы, не раскрывая исходные источники. Катандзаро говорит о необходимости разнообразной и открытой для участия ИИ-экосистемы, где могут участвовать разные компании, исследователи, государства и сообщества. Авторы поста подчёркивают: если все модели учатся на одном и том же узком пуле данных, не стоит удивляться, что модели становятся похожи друг на друга. Проблема в том, что самые полезные данные чаще всего находятся внутри организаций, которые не могут или не хотят публиковать их напрямую, все выигрывают от более богатого общего слоя данных, но никто не хочет первым отдавать то, что делает его особенным. Открыто публикуемые синтетические данные, один из способов изменить этот расклад.

В рамках открытых данных Nemotron NVIDIA выпустила более 10 триллионов токенов для предобучения и миллионы примеров для дообучения (пост-тренинга) в разных доменах и форматах. Чтобы упростить навигацию по этому массиву, команда построила инструмент Nemotron Post-Training v3 Prompt Atlas, интерактивную визуальную карту, где каждая точка представляет один промпт-пример из коллекции пост-тренинга Nemotron v3, а выборка сделана пропорционально реальному составу датасета. Цветовые фильтры позволяют перестраивать карту по датасету, этапу пайплайна, домену или типу использования инструментов; поскольку семантически близкие промпты образуют кластеры, можно приблизить конкретную область, алгоритмы программирования, безопасность, математику, агентное поведение, рассмотреть характерные примеры и использовать это для отбора данных, построения тестов (evals) или понимания того, почему модель ведёт себя так, а не иначе.

Отдельный раздел поста посвящён локализации данных: агентам нужно понимать людей, которых они обслуживают, а «качество данных» в этом смысле локально, а не универсально. Пример из текста: классификатор токсичности, обученный на англоязычном интернет-контенте, может пропускать враждебные сообщения на корейском или японском языках, где агрессия часто передаётся через уровень вежливости, а не через явную лексику. Для этого NVIDIA развивает датасет Nemotron-Personas, локально выверенные синтетические персоны, отражающие разнообразие и сложность реальных популяций. Датасет построен с помощью NeMo Data Designer, инструмента NVIDIA для генерации синтетических данных на основе составных ИИ-систем (compound AI), и опирается на официальную региональную демографическую и географическую статистику. Цель, не воссоздать реальных людей, а дать разработчикам возможность проверить, действительно ли их системы отражают пользователей, языки, регионы и профессии, которые они должны обслуживать. В прошлом месяце на выставке VivaTech в Париже NVIDIA добавила в коллекцию десятую страну, теперь она охватывает данные более чем о 2,4 млрд человек. Авторы подчёркивают: раз качество данных локально, построить его могут только те, кто знает местную специфику, региональные исследователи, носители языка, отраслевые эксперты и другие заинтересованные стороны, способные проверять и исправлять данные вместе с NVIDIA.

В заключительной части поста NVIDIA формулирует более общий взгляд на синтетические данные: их нужно рассматривать как часть системы источников данных, а не замену реальным данным. У синтетики есть компромиссы: она снижает риски, но не отменяет необходимости в обосновании реальными данными (grounding), прослеживаемости происхождения (lineage), курировании, оценке и человеческом суждении. Авторы вводят понятие «порогов синтетичности», точек, после которых данные уже нельзя считать полностью реальными; такая граница не всегда очевидна, поскольку реальные рабочие процессы, обратная связь от людей, трассы, сгенерированные моделью, симулированные пользователи и синтетические разметки часто переплетаются. Решение, по их мнению, не в том, чтобы делать вид, будто синтетические данные «ненастоящие» или безобидные, а в том, чтобы документировать, что было сгенерировано, что подтверждено реальными данными, что проверено человеком и для чего эти данные предназначены. Требования к качеству различаются по контексту: данные для рассуждений должны содержать более сложные задачи и чистые цепочки рассуждений; данные для персон, точно отражать статистическое распределение и проходить локальную проверку; данные для агентных рабочих процессов, обеспечивать разнообразие задач, покрытие сбоев и пути восстановления после них. По формулировке авторов, эта область пока «больше ремесло, чем формула». Пост завершается тезисом: дефицитный ресурс в ИИ, не токены, а доверие между организациями, и синтетические данные, один из немногих инструментов для его построения. Открытые методы, по мнению авторов, позволяют участвовать сторонам, которые иначе не смогли бы сотрудничать: компаниям, без раскрытия секретов, государствам, без компрометации приватности, исследователям, без ожидания разрешений, которые могут никогда не прийти. NVIDIA также упоминает, что 7 июля 2026 года провела прямой эфир «Why Open Data Matters» («Почему открытые данные важны») с участием экспертов, и приглашает ознакомиться с коллекциями данных Nemotron на Hugging Face, а также с моделями Nemotron, микросервисами NIM и примерами для разработчиков на build.nvidia.com.

Ключевые факты

• NVIDIA считает, что агент, не способный восстановиться после сбоя API-вызова или незнакомого сценария, это «автодополнение с инструментами», а не полноценный агент; переход к настоящей агентности компания называет проблемой данных, а не весов модели.
• Почти 145 докладов на конференции ICML ссылаются на модели и датасеты Nemotron; в открытый доступ выложено более 10 триллионов токенов для предобучения и миллионы примеров для дообучения.
• Новый инструмент Nemotron Post-Training v3 Prompt Atlas, интерактивная визуальная карта промптов датасета пост-тренинга Nemotron v3 с фильтрами по домену, этапу и типу задачи.
• Датасет Nemotron-Personas содержит локально выверенные синтетические персоны для более чем 2,4 млрд человек в десяти странах (десятая страна добавлена в прошлом месяце на выставке VivaTech в Париже) и служит для проверки, отражают ли системы реальных пользователей.
• Вице-президент NVIDIA Брайан Катандзаро говорит, что «каждая компания построена вокруг секрета»; авторы поста формулируют тезис, что дефицитный ресурс в ИИ, не токены, а доверие между организациями, и синтетические данные, один из инструментов для его построения.

Почему это важно

NVIDIA утверждает, что реального прогресса в ИИ-агентах не добиться одними весами модели: агент, который ломается при первом сбое API-вызова или незнакомом сценарии, по формулировке поста, «автодополнение с инструментами», а не агент. Разница между ними, по мнению авторов, вопрос данных: трасс работы с реальным ПО, примеров неудачных вызовов инструментов, многошаговых рассуждений, поиска информации, безопасности, симуляции пользователей и выполнения рабочих процессов. NVIDIA подкрепляет тезис цифрами: почти 145 докладов на конференции ICML ссылаются на модели и датасеты Nemotron, а сама компания выложила в открытый доступ более 10 триллионов токенов для предобучения и миллионы примеров для дообучения. Публикация не только весов, но и данных, по мысли авторов, делает поведение агентов инспектируемым и объяснимым, то есть решает проблему, которая иначе остаётся «чёрным ящиком» даже при открытых весах.

Кому это важно

В первую очередь, исследователям и инженерам, которые дообучают открытые модели под задачи агентов: они получают готовые корпуса трасс использования инструментов и рассуждений вместо того, чтобы собирать их с нуля. Во вторую, командам, создающим продукты для неанглоязычных или локальных рынков: датасет Nemotron-Personas прямо адресует проблему качества данных, которая проявляется по-разному в разных языках и культурах (пример из поста, токсичность, которая в корейском и японском языках выражается уровнем вежливости, а не явной лексикой). В третью, компаниям, которые располагают ценными, но закрытыми данными (внутренние процессы, паттерны поведения клиентов) и ищут способ поделиться сигналом с экосистемой, не раскрывая сам источник, именно этот компромисс NVIDIA описывает через синтетические данные.

Как это применить

Практический вход в тему, коллекции данных Nemotron на Hugging Face: Nemotron-CC и Nemotron-CC-MATH для предобучения, Nemotron Pretraining, более широкий набор (общие данные, код, математика, синтетика), Nemotron-Personas, локализованные синтетические персоны. Для навигации по составу пост-тренинговых данных NVIDIA предлагает интерактивный инструмент Nemotron Post-Training v3 Prompt Atlas, визуальную карту промптов с фильтрами по датасету, этапу пайплайна, домену и типу использования инструментов, где можно приблизить конкретную область (программирование, безопасность, математику, агентное поведение) и посмотреть характерные примеры. Командам, которым нужны собственные локализованные синтетические персоны, стоит посмотреть на инструмент NeMo Data Designer, которым NVIDIA строит Nemotron-Personas. Модели Nemotron, микросервисы NIM и примеры для разработчиков доступны на build.nvidia.com; запись прямого эфира «Why Open Data Matters» от 7 июля 2026 года даёт более развёрнутый контекст от команды.

Можно ли доверять

Это блог самой NVIDIA на площадке её же проекта (аккаунт Nemotron на Hugging Face), то есть материал по природе промо-ориентированный, а не независимый анализ. При этом конкретные проверяемые факты, число докладов на ICML, объём выложенных токенов, число охваченных стран и людей в Nemotron-Personas, сформулированы достаточно чётко, чтобы их можно было сверить по датасетам и материалам конференции; источник для цифры «почти 145 докладов» в самом посте не приведён. Общие тезисы про «секреты компаний» и «дефицитный ресурс, доверие между организациями», авторская позиция NVIDIA и её представителя Брайана Катандзаро, а не результат независимого исследования, и к ней стоит относиться как к позиционированию компании, продвигающей собственную стратегию открытых данных.

Риски и подводные камни

Сам пост признаёт главный риск синтетических данных: они не отменяют необходимости в обосновании реальными данными, прослеживаемости происхождения, курировании и человеческой проверке, а провести грань, где данные перестают быть «настоящими» («пороги синтетичности»), не всегда возможно. Второй риск, который авторы описывают как проблему всей индустрии, гомогенизация моделей: если многие лаборатории обучаются на одном и том же узком пуле открытых данных, модели начинают вести себя похоже друг на друга. Третий момент, сами синтетические персоны Nemotron-Personas, даже выверенные по официальной демографической статистике, остаются моделью населения, а не самими людьми: NVIDIA прямо оговаривает, что их назначение, тестировать, отражают ли системы реальных пользователей, а не заменять эту проверку. Наконец, авторы сами признают, что универсальной методологии оценки качества данных пока нет: требования различаются для задач на рассуждение, для персон и для агентных рабочих процессов, и, по их собственному признанию, «область пока больше ремесло, чем формула».

«Каждая компания построена вокруг секрета.»

— Брайан Катандзаро, вице-президент NVIDIA по прикладным исследованиям глубокого обучения