NVIDIA выпустила Nemotron 3 Embed, модель заняла 1-е место в RTEB
NVIDIA представила Nemotron 3 Embed, семейство из трёх открытых embedding-моделей (моделей для представления текста в виде векторов для поиска) с открытыми весами и коммерческой лицензией. Модели предназначены для промышленного retrieval-augmented generation (RAG, поиска с дополнением генерации), поиска для ИИ-агентов, поиска по коду и памяти агентов.
Старшая модель, Nemotron-3-Embed-8B-BF16 (8 миллиардов параметров), заняла 1-е место в рейтинге RTEB (Retrieval Embedding Benchmark, эталонный тест поисковых embedding-моделей), набрав 78,5% по метрике RTEB и 75,5% по MMTEB Retrieval. Младшая модель, Nemotron-3-Embed-1B-BF16 (около 1,14 млрд параметров), набрала 72,4% по RTEB и 71,0% по MMTEB Retrieval, это на 27% и 28% меньше ошибок соответственно по сравнению с предыдущим поколением компании, llama-nemotron-embed-vl-1b-v2. Третий вариант, Nemotron-3-Embed-1B-NVFP4, использует 4-битное квантование весов и активаций, оптимизированное под архитектуру NVIDIA Blackwell: она даёт до 2 раз более высокую пропускную способность по сравнению с BF16 при сохранении более 99% точности оригинальной модели.
Все модели поддерживают контекст до 32 тысяч токенов, работают с несколькими языками и умеют искать по коду в многофайловых репозиториях. NVIDIA также выпустила оптимизированный микросервис NIM (NVIDIA Inference Microservice) для 1B-модели на движке, написанном на Rust: по данным компании, он не уступает или превосходит по производительности альтернативную реализацию на vLLM на GPU NVIDIA GB200 и RTX PRO 6000.
Старшая модель построена на основе backbone (базовой архитектуры) Ministral-3-8B-Instruct-2512, декодер которой переделали в двунаправленный энкодер для поиска по всему тексту. Модель обучали контрастивным способом на смеси веб-текстов и синтетических пар, затем дообучали на многоязычных данных из юридической, финансовой, медицинской, деловой и образовательной областей. Компактную 1B-модель получили не обучением с нуля, а двукратным циклом структурного прунинга (сокращения архитектуры) и дистилляции: сначала 3-миллиардную базовую модель сжали до 2 млрд параметров с помощью инструмента NVIDIA ModelOpt (поиск архитектуры mcore_minitron), затем результат дообучили методом дистилляции от 8B-модели-учителя. Эту связку, прунинг и дистилляцию, повторили ещё раз, получив финальную модель на 1,14 млрд параметров. Финальное обучение шло в два этапа: сначала на контексте 1024 токена для многоязычного выравнивания, затем контекст расширили до 4096 токенов с добавлением синтетических данных для длинных текстов.
По данным NVIDIA, ведущие технологические компании уже тестируют Nemotron 3 Embed в собственных продуктах: Automation Anywhere, для поиска контекста корпоративными агентами, Boomi, для агентного поиска, IBM, в связке с watsonx.data, Mem0 и Zep, для памяти ИИ-агентов, Palantir, для edge-поиска в AIP, ServiceNow, для поиска по документации, turbopuffer, как часть сервиса эмбеддингов, You.com, в стеке переранжирования результатов поиска, Zoom, для контекстного поиска по встречам и рабочим документам. Компания Mem0 сообщила, что 1B-модель Nemotron 3 Embed обошла Qwen3-Embedding-0.6B на тесте LongMemEval (80,38% против 78,71% по метрике Retrieval@10).
Ключевые факты
- NVIDIA выпустила три открытые embedding-модели Nemotron 3 Embed с открытыми весами и коммерческой лицензией, для RAG, поиска для ИИ-агентов, поиска по коду и памяти агентов
- Старшая модель Nemotron-3-Embed-8B-BF16 заняла 1-е место в рейтинге RTEB (78,5%) и набрала 75,5% на MMTEB Retrieval
- Компактная Nemotron-3-Embed-1B-BF16 снизила частоту ошибок на 27, 28% по сравнению с предыдущим поколением модели той же линейки
- 4-битный вариант NVFP4 для GPU Blackwell даёт до 2 раз более высокую пропускную способность при сохранении свыше 99% точности
- Модели уже тестируют Palantir, ServiceNow, Zoom, IBM, Automation Anywhere, Boomi, Mem0, Zep, turbopuffer и You.com
Почему это важно
Nemotron 3 Embed, не просто ещё одна модель для поиска, а открытая альтернатива, которая обошла закрытые и открытые аналоги на эталонном тесте RTEB, при этом младшая версия работает на скромном железе. Для индустрии это значит, что качественный поиск для ИИ-агентов и RAG-систем (поиска с дополнением генерации) больше не требует закрытых API, компании могут развернуть модель у себя, изучить и дообучить её под свои данные.
Кому это важно
Разработчикам ИИ-агентов и RAG-систем, где качество поиска напрямую определяет точность ответов и стоимость работы агента: по данным NVIDIA, более точный поиск сокращает число повторных запросов и шагов рассуждения агента, а значит и расходы на токены. Также это важно компаниям, которым нужен контроль над данными и инфраструктурой, модель можно развернуть локально, а не отправлять запросы во внешний API.
Как это применить
Модели доступны на Hugging Face с открытыми весами, датасетами и рецептами обучения; их можно развернуть как микросервис NVIDIA NIM, через vLLM или у облачных провайдеров ИИ-инференса. Для промышленной нагрузки NVIDIA предлагает 4-битный вариант NVFP4 на GPU Blackwell, с почти вдвое большей пропускной способностью при минимальной потере точности. Для дообучения под собственные данные NVIDIA предоставляет рецепты в составе NeMo AutoModel.
Можно ли доверять
Результаты, заявления самой NVIDIA по её собственным замерам на публичных бенчмарках (RTEB, MMTEB, ViDoRe V3, LongEmbed), а не независимая проверка третьей стороной. При этом ранжирование на RTEB, открытая таблица лидеров, и позицию модели можно проверить самостоятельно. Отзывы партнёров (Automation Anywhere, Boomi, Mem0, You.com и других) также приведены со слов самих компаний в материале NVIDIA, что не исключает элемента маркетинга, но подтверждает реальный интерес индустрии, эти компании действительно тестируют модель в своих продуктах.
Риски и подводные камни
Все опубликованные цифры получены методикой самой NVIDIA, независимого воспроизведения результатов в материале нет. Отзывы партнёров описаны как "ранние результаты" и "продолжающаяся оценка", то есть речь идёт не о завершённых внедрениях в продакшен, а о пилотных тестах. Как и любая embedding-модель, Nemotron 3 Embed требует отдельной инфраструктуры для хранения и поиска по векторам, само по себе выпуск модели не решает задачу поиска без соответствующего векторного индекса и настройки под конкретный домен.
«Замена модели в нашем стеке переранжирования на NVIDIA Nemotron 3 Embed дала значительный скачок производительности, мы стали выбирать релевантные фрагменты веб-страниц с гораздо большей точностью, чем с любой моделью, которую использовали раньше.»
— Рахул Мохан, старший ИИ-инженер, You.com