ИИтог

Автор The Verge запустил Hermes Agent с Qwen 3.8 Flash Next на Mac Studio: первые итоги

ИИ-агентыРедакция ИИтогThe Verge🔥34Рейтинг ИИтог34Влияние25Новизна15Релевантность80Неожиданность15Участники25Достоверность50
Автор The Verge запустил Hermes Agent с Qwen 3.8 Flash Next на Mac Studio: первые итоги

Автор The Verge, называющий себя не экспертом по ИИ, начал серию записей о том, как всерьёз пользоваться ИИ на своём компьютере. Главная причина: он не хотел отдавать самые личные данные облачным сервисам, а теперь мощные модели можно запускать локально. Вопрос, на который он хочет ответить: стоит ли ради такой пользы тратиться на компьютер или ноутбук с дорогой оперативной памятью.

В рамках тестирования M5 Ultra Mac Studio с 256 ГБ унифицированной памяти автор установил открытого агента Hermes Agent. Это самостоятельно размещаемое настольное приложение-агент для macOS, Windows и Linux; оно бесплатно, если пользоваться только локальными языковыми моделями. Поскольку за токены при локальном запуске платить не нужно, а памяти хватает, автор решил начать с большой модели: в выборе модели Hermes он взял Qwen 3.8 Flash Next на 125 млрд параметров размером около 105 ГБ. Затем он настроил управление агентом с телефона через Telegram-бот. Позже автор собирается попробовать гораздо более мелкие модели Qwen на M6 Mac Mini, M5 MacBook Air, Asus TUF Gaming A14 с процессором AMD Strix Halo и, в перспективе, на RTX Spark.

Что он успел сделать. Первое: утренняя сводка по совету из YouTube, задание по расписанию (cron), которое просматривает почту и календарь, выделяет важное и даёт краткий прогноз погоды. Сначала сводка не формировалась, пока автор не понял, что в 7:30, когда запускается задание, macOS не должна спать; теперь всё работает как часы, но полезной сводку ещё предстоит сделать. Автор оговаривает, что для неё очевидно не нужен компьютер за $12 000. Второе: наведение порядка в библиотеке Steam, где больше 400 игр. Hermes увидел большинство игр через установленный клиент Steam, предложил варианты организации, автор выбрал раскладку по жанрам и оставил собственные категории (избранное, кооператив, игры для компании и т. д.). Для этого пришлось зарегистрировать ключ Steam web API и передать его Hermes; после получения доступа агент за несколько минут разложил все игры по категориям, а ключ автор тут же отозвал. Третье: анализ финансовых записей и таблица сравнения характеристик нового ноутбука; такие данные автор не хочет загружать в облако, а во втором случае информация была под эмбарго, так что именно локальный запуск решил, будет ли он пользоваться инструментом. Четвёртое: скрипт для автоматического запуска набора тестов производительности ноутбуков (вручную это около десятка тестов в три прогона для усреднения). Работа с Hermes над скриптами на Python, написанными с помощью ИИ, оказалась непростой, скрипт всё ещё в работе.

Итог на этом этапе осторожный: даже мощные локальные модели не дают волшебного помощника, который умеет всё, и вещи не всегда работают как задумано: утренняя сводка уже ломалась несколько раз. Автор относится к Hermes и локальному ИИ как к инструменту, а не к цифровому другу, и обещает оставаться бдительным и осторожным.

Ключевые факты

  • Автор The Verge установил открытого агента Hermes Agent с моделью Qwen 3.8 Flash Next (125 млрд параметров, около 105 ГБ) на M5 Ultra Mac Studio с 256 ГБ унифицированной памяти.
  • Hermes Agent бесплатен при использовании только локальных моделей; агентом можно управлять с телефона через Telegram-бот.
  • Рабочие задачи: утренняя сводка по расписанию (почта, календарь, погода), разбор более 400 игр в Steam за несколько минут, анализ финансовых записей и сравнение характеристик ноутбука без облака.
  • Скрипт автоматизации тестов ноутбуков пока в работе, а утренняя сводка уже ломалась несколько раз: «волшебного помощника» локальные модели не дают.
  • Дальше автор планирует проверить гораздо более мелкие модели Qwen на других устройствах, включая M6 Mac Mini, M5 MacBook Air и RTX Spark.

Почему это важно

Производители подают локальный ИИ как главный аргумент в пользу новых компьютеров: автор пишет, что значительная часть презентации новых настольных Mac посвящена локальному ИИ, а скоро ожидаются Windows-машины RTX Spark с оперативной памятью до 128 ГБ, рассчитанные на агентный ИИ. Заметка показывает, как это выглядит в обычной жизни не эксперта: что получается сразу, где надо подумать и почему приватность оказалась решающим доводом. Это личный дневник, а не исследование, но он честно называет и пользу, и трудности.

Кому это важно

Тем, кто присматривается к мощному Mac или ноутбуку с большим объёмом памяти и хочет понять, на что способен локальный агент в бытовых задачах. Также тем, кто не хочет отправлять в облако финансовые записи, закрытую информацию и личные данные: именно такие задачи автор отнёс к «только локально».

Как это применить

По описанию автора путь выглядит так: установить Hermes Agent (он работает на macOS, Windows и Linux), выбрать модель через встроенный список, при желании подключить управление через Telegram-бот и начать с небольшой задачи по расписанию, чтобы убедиться, что всё работает. Затем можно переходить к полезным делам: упорядочивание библиотеки Steam, анализ данных, таблицы сравнения. Для действий на компьютере агенту нужно выдать права; ключ Steam web API автор передал агенту на время работы и сразу отозвал. Размер модели автор выбрал по доступной памяти: при 256 ГБ он взял большую модель, а мелкие версии на других устройствах собирается проверить позже.

Можно ли доверять

Это субъективный дневник человека, который сам говорит, что не эксперт по ИИ. Все выводы опираются на личный опыт автора, а цифр производительности (скорость генерации, оценки в тестах, сравнение моделей или машин) в тексте нет. Автор в тексте не назван. Утверждение, что Hermes бесплатен с локальными моделями, и описания задач принадлежат самому автору. Итоговой оценки, стоит ли локальный ИИ затрат на оборудование, он не даёт: заметка заявлена как продолжающаяся серия.

Риски и подводные камни

Автор сам признаёт, что локальные модели не дают волшебного помощника и что результат нестабилен: утренняя сводка ломалась несколько раз, а скрипт для тестов ноутбуков пока остаётся недоработанным. Выбор среди множества моделей быстро становится утомительным. Чтобы агент выполнял действия, ему нужны права и ключи доступа, поэтому их стоит выдавать на минимально необходимый срок, как сделал автор со Steam. Наконец, на опыт автора повлияла очень мощная машина: на менее ёмком оборудовании придётся брать более мелкие модели, а как они справятся, автор ещё не проверял.

«Даже эти мощные локальные модели не превращаются в волшебного помощника, который умеет всё.»

— автор статьи, The Verge