Qwen 3.8 27B на ноутбуке определила по весам три из четырёх игр

3 ноября 2026 года автор блога simonwillison.net рассказал о своём опыте с работой «Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights» (авторы, Рикия Такэхи, Джейден Теох, Алекс Чжан и Омар Хаттаб). Авторы статьи называют её «блог-постом», но по форме это научная работа. В ней утверждается, что передовые модели, в частности GPT-6 Astra, умеют и интерпретировать, и изменять сырые веса модели машинного обучения, то есть текстовое описание сети в виде набора чисел с плавающей запятой. Для случая, когда языковая модель анализирует и правит веса, авторы вводят термин Weight-Space Programming (программирование в пространстве весов).

В аннотации сказано: по одним лишь сырым весам GPT-6 Astra может определить, чему обучена сеть, а без обратной связи от среды способна с нуля написать небольшие игровые сети, которые обыгрывают сети, обученные методом PPO на 100 миллионов шагов. Второй пример: Astra попросили улучшить Qwen3.5-0.8B в математике без градиентов; она нашла в весах причину зацикливания рассуждений (о ней предупреждает карточка модели Qwen) и исправила её, отредактировав 0,016% весов. По аннотации, результат на MATH-500 вырос с 7,9% до 48,1%, а на IFEval, втрое.

Автор блога считает, что в статье смешаны две разные темы: что модель способна сделать с сырыми весами без запуска кода и что она может сделать, получив код для обновления других моделей. Разработчик spaCy Мэттью Хоннибал назвал работу вводящей в заблуждение именно из-за этого смешения, а Шон Гоудеке разобрал пример с Qwen3.5-0.8B и заключил, что там выполнены те же шаги, что сделал бы исследователь-человек. Сам автор блога сосредоточился на первом вопросе, без инструментов, который считает более интересным.

Эксперимент в статье устроен так. Обучили четыре нейросети играть в упрощённые версии четырёх классических игр на сетке 10x10: Breakout, Pong, Pac-Man и Freeway (по словам автора блога, про последнюю ему пришлось гуглить, это игра для Atari 2600 1981 года). Веса передавали языковой модели в виде чисел вместе с вопросом: какой игре обучена эта сеть; работать нужно по весам, инструментов нет, ответ даётся одним сообщением. Автор проверил, что, помимо весов, все четыре промпта одинаковы. Промпты лежат в репозитории RikiyaT/lm_understand-logs, их можно подать утилите llm по ссылке через параметр -f.

Для сравнения автор запустил промпт про Breakout на Kimi K3.1 Pro через OpenRouter: модель угадала игру за 9 минут 41 секунду и 19 493 токена рассуждений. Затем он перешёл к Qwen 3.8 27B, своей любимой модели для работы на собственном ноутбуке (версия весит 17 ГБ, по его ощущению, она близка к лучшим проприетарным моделям 2025 года). Запуск шёл через LM Studio и плагин llm-lmstudio; контекст по умолчанию в 8192 токена приводил к ошибкам, поэтому пришлось включить длинный контекст, а ещё поднять таймаут через переменную окружения LMSTUDIO_TIMEOUT=900.

Результаты Qwen 3.8 27B: Pac-Man определён верно после 46 минут 12 секунд и 43 506 токенов рассуждений (заявленная уверенность модели, 72%); Pong, за 1 час 4 минуты 54 секунды (уверенность 75%); Breakout, за 52 минуты 25 секунд (уверенность 88%). С Freeway Qwen не справилась и приняла её за «упрощённую Pac-Man-подобную игру на сетке, где агент движется в четырёх направлениях»; автора это не удивило, ведь игра менее известна, чем остальные три. В описании Pac-Man модель назвала поле лабиринтом 8x8, тогда как игры в статье описаны как сетки 10x10. Трассы рассуждений автор называет забавными для просмотра и почти нечитаемыми: это длинные перечисления строк с числами и догадок о положении агента по каналам входа.

Вывод автора: результат впечатляет, но он ожидает, что достаточно опытный человек с блокнотом и карандашом дошёл бы до того же при достаточных усилиях. Статья ему нравится, а часть вторичных комментариев вокруг неё кажется неоправданной: он не готов объявлять, что эпоха исходного кода закончилась.

Ключевые факты

Qwen 3.8 27B (17 ГБ), запущенная локально на ноутбуке через LM Studio, без инструментов по сырым весам сети верно определила Pac-Man, Pong и Breakout; Freeway не определила.
Время на верный ответ: 46 мин 12 с (Pac-Man, 43 506 токенов рассуждений), 1 ч 4 мин 54 с (Pong), 52 мин 25 с (Breakout); заявленная уверенность модели, 72%, 75% и 88%.
Kimi K3.1 Pro через OpenRouter угадала Breakout за 9 мин 41 с и 19 493 токена рассуждений.
В статье «Sparks of Weight-Space Programming» эти способности показаны для GPT-6 Astra; автор блога считает, что работа смешивает две темы, анализ весов без инструментов и правку моделей с кодом.
Автор блога скептичен к шумихе вокруг статьи: по его ожиданию, опытный человек с блокнотом и карандашом справился бы с задачей при достаточных усилиях.

Почему это важно

Статья о «программировании в пространстве весов» вызвала бурное обсуждение: по ней, передовая модель способна понять назначение сети по одним числам весов и даже править их. Эксперимент автора блога показывает, что хотя бы часть этого, определение игры по весам без инструментов, воспроизводится и на открытой модели среднего размера, запущенной на обычном ноутбуке. Одновременно он разделяет два утверждения статьи (анализ весов без кода и правка моделей с кодом) и напоминает, что их нельзя судить одной меркой.

Кому это важно

Исследователям интерпретируемости и тем, кто следит за способностями моделей читать внутреннее устройство других моделей. Разработчикам и энтузиастам локальных моделей, как наглядный пример того, на что способна Qwen 3.8 27B на личном компьютере. Читателям, которых смутили громкие выводы вокруг статьи, как трезвый взгляд со стороны.

Как это применить

Эксперимент можно повторить: промпты лежат в репозитории RikiyaT/lm_understand-logs (папка exp1_which_game), их можно подать утилите llm по ссылке через параметр -f. Для запуска Qwen 3.8 27B автор использовал LM Studio и плагин llm-lmstudio; нужна длинная длина контекста (с 8192 по умолчанию были ошибки) и увеличенный таймаут (LMSTUDIO_TIMEOUT=900). Для облачных моделей, например Kimi K3.1 Pro, понадобится плагин llm-openrouter. Закладывайте время: один прогон на ноутбуке занял от 46 минут до часа с лишним.

Можно ли доверять

Это личная демонстрация одного автора блога, а не контролируемое исследование: на каждую игру приведён один запуск, повторных прогонов и долей успеха нет. Время и токены приведены по его собственным замерам; «уверенность» в процентах, это самооценка модели, а не калибровочная метрика. Цифры по GPT-6 Astra (0,016% весов, рост MATH-500 с 7,9% до 48,1%, IFEval втрое) взяты из аннотации статьи и в этом эксперименте не проверялись. Сам автор блога оговаривается, что задача решаема и человеком, и осторожно относится к громким выводам.

Риски и подводные камни

Тест узкий: четыре игры в упрощённом виде, и модель ошиблась на самой малоизвестной (Freeway), что говорит скорее о зависимости от знакомых игр, чем об общей способности читать веса. Ответ по Pac-Man описывал лабиринт 8x8, хотя игры в статье, сетки 10x10, то есть детали модель угадывает неточно. Способность изменять веса автор блога не проверял вовсе. Наконец, очень долгие прогоны и ошибки при коротком контексте делают воспроизведение на ноутбуке небыстрым.

«Я не готов заявить, что эпоха исходного кода закончилась и что наше будущее, это непонятные машины, которые непонятным образом правят собственные веса.»

— Автор блога simonwillison.net