ИИтог

Kimi выпустила K3, открытую ИИ-модель на 2.8 трлн параметров

моделиРедакция ИИтогHacker News🔥82Рейтинг ИИтог · значимость 74 · 1345 баллов · 96/ч · 832 коммент.

Команда Kimi представила Kimi K3, свою самую мощную модель на сегодня: 2,8 трлн параметров, построена на архитектурных блоках Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), обладает встроенным пониманием изображений и контекстным окном в 1 млн токенов. Разработчики называют её первой открытой моделью класса «3 трлн параметров» в мире, ориентированной на долгие сессии кодирования, интеллектуальную работу с знаниями и рассуждения. По собственным оценкам команды, K3 пока уступает по совокупным результатам проприетарным моделям-конкурентам, названным в материале «Claude Fable 5» и «GPT 5.6 Sol», но стабильно превосходит остальные протестированные модели. Модель уже доступна на Kimi.com, в Kimi Work, Kimi Code и через Kimi API; при запуске она всегда работает в режиме максимальных «усилий на размышление», облегчённый и усиленный режимы обещают добавить позже. Полные веса модели опубликуют не сразу, а к 27 июля 2026 года, вместе с техническим отчётом.

В основе архитектуры, KDA и AttnRes: первый механизм эффективно масштабирует внимание по длине последовательности, второй выборочно извлекает представления по глубине сети вместо их равномерного накопления. Разработчики также увеличили разреженность архитектуры «смесь экспертов» (MoE): в паре со стабилизированной схемой Stable LatentMoE активными одновременно остаются лишь 16 из 896 экспертов. Для управления такой разреженностью команда внедрила метод Quantile Balancing, распределение нагрузки между экспертами напрямую по квантилям оценок роутера без ручных эвристик, а также модификацию оптимизатора Muon (Per-Head Muon), которая настраивает каждую голову внимания независимо. Дополнительно применены техники Sigmoid Tanh Unit (SiTU) и Gated MLA для управления активациями и избирательностью внимания. В сумме эти изменения дали примерно 2,5-кратный прирост эффективности масштабирования по сравнению с предыдущей моделью Kimi K2. Обучение модели с самого этапа тонкой настройки велось с учётом будущего квантования, веса в формате MXFP4, активации в MXFP8, для широкой совместимости с оборудованием; для инференса разработчики рекомендуют развёртывание на «супернодах» из 64 и более ускорителей и сообщают, что передали сообществу vLLM собственную реализацию префиксного кэширования, адаптированную под особенности KDA.

Основной акцент компания сделала на возможностях K3 в кодировании и агентной работе. В тесте на оптимизацию GPU-ядер каждая модель самостоятельно, в изолированной песочнице и с лимитом до 24 часов, профилировала, переписывала и тестировала производительность четырёх задач, связанных с ядрами AttnRes, KDA и MLA (размерность головы 512) на видеокартах NVIDIA H200 и GPGPU другого производителя. K3 показала результат на уровне «Claude Fable 5» (оценённой сторонней стороной и, по словам авторов, отчасти работавшей в резервном режиме) и заметно превзошла модели «Opus 4.8», «GPT 5.6 Sol» и «GPT 5.5». В другом эксперименте K3 с нуля написала MiniTriton, компактный компилятор в духе Triton со своим промежуточным представлением уровня тайлов поверх MLIR, проходами оптимизации и генерацией кода PTX; по ряду тестов производительности MiniTriton не уступает Triton и torch.compile, а на отдельных нагрузках даже превосходит Triton, и способен без сбоев обучать nanoGPT «от начала до конца». В качестве демонстрации агентных возможностей K3 за один автономный 48-часовой прогон спроектировала и верифицировала чип с открытыми EDA-инструментами по библиотеке Nangate 45 нм: на площади 4 мм² чип укладывается по таймингу в 100 МГц и в симуляции выдаёт свыше 8700 токенов/с при декодировании, содержит 1,46 млн стандартных ячеек, 0,277 МБ SRAM и INT4 MAC-массив со встроенным деквантованием. В научном кейсе модель воспроизвела универсальные соотношения I, Love, Q в вычислительной астрофизике примерно за два часа, работа, на которую у опытного исследователя обычно уходит одна-две недели: она изучила и перепроверила более 20 научных статей, реализовала полный численный пайплайн, оценила более 300 уравнений состояния, нашла несоответствия в опубликованных формулах, написала свыше 3000 строк кода на Python и собрала интерактивную HTML-панель с результатами.

В инструменте Kimi Work модель демонстрирует возможности для интеллектуальной работы: интерактивный отчёт по индустрии ASIC за 42 года, собранный за 120+ раундов самоулучшения на основе 2800+ веб-запросов, 1100+ обращений к терминалу и 11 000+ страниц из 87 квартальных отчётов и 99 оригинальных PDF; консалтинговый отчёт по индустрии термоядерного синтеза с интерактивными таймлайнами и диаграммами; анализ 391 события гравитационных волн из каталога GWTC-5 с помощью более 20 параллельных подагентов, давший семь научных визуализаций, две таблицы и синтез литературы по 10+ статьям. В Kimi Work также появились два новых элемента интерфейса, Widgets (интерактивные виджеты внутри чата с подключением к локальным данным или внешним плагинам) и Dashboard (персональная сборная панель из нужных виджетов вокруг темы, проекта или цели). Отдельно отмечены способности модели в видеомонтаже: K3 собрала мультипликационный ролик-объяснение собственной архитектуры в стиле 3Blue1Brown и смонтировала собственный тизер из 56 исходных клипов, с подбором кадров, синхронизацией по монтажным точкам под музыку и обработкой звука; по словам разработчиков, такая работа обычно занимает у опытного монтажёра один-два рабочих дня, у новичка, три-пять.

Попробовать модель можно уже сейчас: приложение Kimi для iOS, Android и HarmonyOS, десктопное приложение Kimi Work версии 3.1.0 и новее, терминальный Kimi Code (команда /model) и Kimi API (модель kimi-k3). Цены API: $0,30 за миллион токенов на входе при попадании в кэш, $3,00 за миллион при промахе кэша и $15,00 за миллион токенов на выходе; по заявлению разработчиков, доля попаданий в кэш в задачах кодирования превышает 90% благодаря инфраструктуре инференса Mooncake. Для организаций предлагается тариф Kimi Enterprise с разделением личных и корпоративных аккаунтов.

Ключевые факты

  • Kimi K3, 2,8 трлн параметров, архитектура на Kimi Delta Attention и Attention Residuals, контекстное окно 1 млн токенов; заявлена как первая открытая модель класса «3 трлн параметров» в мире
  • Модель уже доступна на Kimi.com, в Kimi Work, Kimi Code и через API, но полные веса для самостоятельного развёртывания опубликуют только к 27 июля 2026 года вместе с техническим отчётом
  • В своих тестах разработчики показывают K3 на уровне «Claude Fable 5» и выше моделей «Opus 4.8», «GPT 5.6 Sol» и «GPT 5.5» в оптимизации GPU-ядер и написании собственного компилятора MiniTriton
  • Демонстрационные кейсы: проектирование чипа за 48 часов автономной работы, воспроизведение научной работы по астрофизике за два часа вместо одной-двух недель, монтаж видео из 56 клипов
  • Цены API: $0,30 / $3,00 / $15,00 за миллион токенов (кэш-попадание на входе / кэш-промах на входе / выход); для инференса рекомендованы «суперноды» от 64 ускорителей

Почему это важно

Kimi K3 претендует на статус первой в мире открытой модели класса «3 трлн параметров», по словам разработчиков, модели линейки Kimi девять из последних двенадцати месяцев держали планку размера среди открытых моделей. Это очередной шаг в гонке за то, чтобы открытые модели по возможностям приближались к закрытым флагманам, а не отставали от них на порядок.

Кому это важно

Разработчикам агентных инструментов и ИИ-ассистентов для программирования, благодаря заявленным способностям к долгим автономным сессиям кодирования и работе с большими репозиториями. Исследовательским командам и компаниям, которым нужна открытая модель фронтирного уровня без зависимости от закрытых API. Организациям с собственной инфраструктурой инференса, учитывая рекомендацию разворачивать модель на узлах с 64+ ускорителями.

Как это применить

Модель уже можно опробовать без ожидания весов: через мобильное приложение Kimi, десктопный Kimi Work (от версии 3.1.0), терминальный Kimi Code или напрямую через Kimi API с моделью kimi-k3 по цене $0,30/$3,00/$15,00 за миллион токенов. Для самостоятельного развёртывания и файнтюнинга нужно дождаться публикации весов 27 июля 2026 года; для эффективного инференса разработчики рекомендуют «суперноды» от 64 ускорителей и уже передали сообществу vLLM реализацию префиксного кэширования под особенности архитектуры KDA.

Можно ли доверять

Все сравнения в материале, самостоятельные оценки команды Kimi по внутренней методике; независимой проверки на момент публикации нет, а полные веса модели ещё не опубликованы, так что стороннего воспроизведения результатов пока не существует. Сам источник оговаривает, что результаты модели-конкурента «Claude Fable 5» получены сторонней оценкой и могут включать резервное поведение, а в части тестов допускаются «небольшие приемлемые сокращения точности», это добавляет прозрачности, но не заменяет независимую верификацию.

Риски и подводные камни

Заявление «открытая модель» пока подкреплено доступом через приложения и API, а не публикацией весов, она запланирована на 27 июля 2026 года, и до этой даты воспроизвести или проверить результаты независимо нельзя. Рекомендованная инфраструктура для инференса (узлы от 64 ускорителей) делает полноценное самостоятельное развёртывание практически недоступным для большинства пользователей и небольших команд, несмотря на статус открытой модели. Названия моделей-конкурентов в тексте («Claude Fable 5», «GPT 5.6 Sol», «Opus 4.8») приведены исключительно так, как они фигурируют в материале Kimi, без независимого подтверждения из других источников.