Writer выпустила Palmyra X6 и обновила агентную обвязку ради экономии до 50%

Writer выпустила Palmyra X6 и обновила агентную обвязку ради экономии до 50%

Индустрия ИИ всё яснее осознаёт, во сколько обходится реальное развёртывание моделей, и всё острее ощущает необходимость сокращать расходы, при этом открытые модели дешевле в расчёте на токен, но подобрать среди них подходящую под конкретную задачу непросто. Отвечая на этот запрос, компания Writer, которая делает ИИ-инструменты и агентов для маркетологов, в четверг выпустила новую флагманскую модель Palmyra X6. Она построена как дообученная версия открытой модели GLM-5.2 компании Z.ai; по словам Writer, новая система должна обеспечивать готовые к промышленному развёртыванию возможности по существенно более низкой цене. Вместе с моделью компания выпустила и значимое обновление своей стандартной обвязки (harness), программного слоя, который управляет тем, как ИИ-агенты выполняют задачи поверх модели. По оценке Writer, сочетание новой модели и изменений в обвязке способно снизить расходы клиентов на базовых задачах на величину до 50%; обе новинки стали доступны клиентам компании с четверга.

«Мне кажется, крупные компании абсолютно устали гнаться за очередным бенчмарком, сказала TechCrunch гендиректор Writer Мэй Хабиб., Они хотят, чтобы расходы наконец перестали расти, и, похоже, никто не может им это дать». Новый подход Writer делает ставку именно на сложные, многошаговые задачи: они должны выполняться быстрее и с меньшим числом токенов, а оптимизацию обвязки в компании считают ключевым рычагом для этого.

Эту ставку подкрепляет недавняя научная работа исследователей Writer, источник не называет ни её заголовок, ни дату публикации, ни конкретных авторов. Работа проверяла, как небольшие изменения эффективности обвязки сказываются на разных моделях, и показала, что во многих случаях именно такие изменения снижают расходы надёжнее, чем выбор конкретной модели: в ходе тестирования расходы падали в среднем на 40%. «Обвязка, единственный компонент, чья эффективность умножается на все модели, которые использует организация, нынешние и будущие», написали исследователи.

Для клиентов Writer работа с моделями остаётся не привязанной к одной системе: Palmyra X6 встанет рядом с другими моделями Writer и внешними моделями, которые компании подключают через Azure или Amazon Bedrock. Хабиб также связывает стремление клиентов сократить расходы с растущим недоверием к крупным ИИ-лабораториям, у которых, по её словам, есть финансовый стимул наращивать потребление токенов. «Взрывной рост расходов здесь беспрецедентен для клиентов, как и то, в какой степени ИТ-директора компаний разочаровываются в лабораториях», сказала она TechCrunch, добавив, что ИИ-лаборатории «на самом деле не понимают, как помочь бизнесу извлечь пользу из ИИ».

Ключевые факты

  • Writer выпустила флагманскую модель Palmyra X6, дообученную версию открытой модели GLM-5.2 компании Z.ai, и обновила стандартную агентную обвязку; обе новинки доступны клиентам Writer с четверга.
  • По оценке Writer, сочетание новой модели и изменений в обвязке способно снизить расходы клиентов на базовых задачах на величину до 50%, это потолок собственной оценки компании, а не гарантированная или средняя цифра.
  • Отдельная научная работа исследователей Writer (без названия, даты публикации и указания авторов) протестировала изменения эффективности обвязки на нескольких разных моделях и показала, что во многих случаях такие изменения снижают расходы надёжнее, чем выбор модели, в среднем на 40% по итогам тестирования.
  • Palmyra X6 не отменяет модель-агностичный подход Writer: она встаёт рядом с другими моделями Writer и внешними моделями, которые клиенты подключают через Azure или Amazon Bedrock.
  • Гендиректор Writer Мэй Хабиб связывает стремление клиентов сократить расходы с растущим недоверием к крупным ИИ-лабораториям, у которых, по её словам, есть финансовый стимул наращивать потребление токенов; она назвала рост расходов «беспрецедентным».

Почему это важно

Индустрия ИИ становится всё чувствительнее к стоимости использования моделей, и Writer формулирует прямой ответ на этот запрос: вместо того чтобы просто выпустить очередную более дешёвую модель, компания одновременно обновляет обвязку, программный слой, который управляет тем, как агенты выполняют задачи поверх модели, и утверждает, что именно обвязка, а не выбор модели, во многих случаях определяет итоговые расходы. Это подтверждает и собственное исследование Writer: в его тестах изменения в обвязке снижали расходы в среднем на 40%, надёжнее, чем смена модели. Публичная позиция гендиректора Мэй Хабиб созвучна этому выводу: «Мне кажется, крупные компании абсолютно устали гнаться за очередным бенчмарком, они хотят, чтобы расходы наконец перестали расти, и, похоже, никто не может им это дать».

Кому это важно

В первую очередь, действующим и потенциальным клиентам Writer: компаниям, которые используют её ИИ-инструменты и агентов для маркетинга, именно им с четверга доступны и Palmyra X6, и обновлённая обвязка. Также это касается ИТ-руководителей в любых организациях, которые разворачивают ИИ-агентов в масштабе и ищут способ сдержать растущие расходы на токены: по словам Хабиб, взрывной рост этих расходов напрямую связан с тем, что ИТ-директора всё активнее разочаровываются в крупных ИИ-лабораториях. Наконец, это касается тех, кто подключает к Writer внешние модели через Azure или Amazon Bedrock: Palmyra X6 не заменяет их, а встаёт рядом в рамках модель-агностичного подхода компании.

Как это применить

Из статьи следует практический вывод шире одного продукта Writer: прежде чем менять модель ради экономии, стоит проверить эффективность собственной обвязки, по данным исследования Writer, именно такие изменения во многих случаях надёжнее снижают расходы, чем смена модели, и, в отличие от модели, эффект от их оптимизации умножается сразу на все модели, которые использует организация, нынешние и будущие. Клиентам Writer оба новшества доступны с четверга: Palmyra X6 работает наравне с другими моделями Writer и внешними моделями, которые компании подключают через Azure или Amazon Bedrock, опыт использования остаётся единым, не привязанным к одной системе. При этом в источнике нет ни цены Palmyra X6 в пересчёте на токен, ни технических характеристик, числа параметров, размера контекстного окна или результатов бенчмарков, так что оценить саму модель в отрыве от заявлений Writer по этому материалу нельзя.

Можно ли доверять

Материал TechCrunch, прямые цитаты гендиректора Writer Мэй Хабиб издание получило напрямую. Но обе ключевые цифры, потолок «до 50%» экономии для клиентов и «в среднем 40%» из исследования, исходят исключительно от самой Writer и её исследователей: в статье нет ни одного стороннего подтверждения, ни названного клиента или кейса, ни комментария Z.ai, Azure или Amazon Bedrock. Сама научная работа, о которой идёт речь, в материале не названа, не датирована и не привязана к конкретным авторам, источник называет её просто «недавней статьёй исследователей Writer». Не раскрыто и то, что именно компания считает «базовой задачей» для оценки в 50% и насколько меньше экономия для задач посложнее. Иными словами, обе цифры, заявления самого вендора, независимо пока не подтверждённые.

Риски и подводные камни

Главный риск, обе ключевые цифры (до 50% и в среднем 40%) самооценены: их посчитала сама Writer о собственном продукте и в собственном исследовании, без независимой проверки, названного клиента или кейса. Планка «до 50%», это потолок именно для «базовых задач», а не гарантированная или средняя экономия, а источник не поясняет ни что считается «базовой задачей», ни насколько меньше экономия на более сложных сценариях. Материал не говорит, заменяет ли Palmyra X6 более раннюю модель линейки Palmyra и как она соотносится с прежними версиями, непонятно, что теряет или приобретает клиент, уже использующий прежнюю модель. Стоит учитывать и то, что тезис Хабиб о недоверии клиентов к крупным лабораториям и их «финансовом стимуле наращивать потребление токенов», это её собственная трактовка рыночной ситуации, а не независимо подтверждённый в статье факт: Writer сама продаёт модели и ИИ-агентов, то есть в этом высказывании выступает не нейтральной стороной, а участником того же рынка.

«Мне кажется, крупные компании абсолютно устали гнаться за очередным бенчмарком. Они хотят, чтобы расходы наконец перестали расти, и, похоже, никто не может им это дать.»

— Мэй Хабиб, гендиректор Writer, в разговоре с TechCrunch