ИИтог

Проект PS5LM запускает llama.cpp на взломанной PS5 и раздаёт модели по сети

инструментыРедакция ИИтогHacker News🔥68Рейтинг ИИтог68Влияние40Новизна55Релевантность100Неожиданность60Участники10Достоверность75
Проект PS5LM запускает llama.cpp на взломанной PS5 и раздаёт модели по сети

PS5LM, открытое (GPL-3.0-or-later) любительское приложение для PlayStation 5 с джейлбрейком. Оно загружает модель в формате GGUF на графический процессор консоли и превращает приставку в домашний приватный сервер языковых моделей: по описанию в README, ему не нужен ни ПК во время работы, ни облако, ни аккаунт.

Внутри, llama.cpp с бэкендом Vulkan на GPU консоли (архитектура RDNA 2). Модели и контексту отдано 11,4 ГБ общей памяти. По заявлению авторов README, доступны все архитектуры и квантизации, которые знает llama.cpp. В демонстрационном ролике, судя по подписи, модель Qwen 3.5 9B отвечает на запросы с ноутбука, а консоль, PS5 Slim.

Сервер слушает порт 8081 на консоли. Он отдаёт эндпоинт OpenAI /v1/chat/completions, эндпоинт Anthropic /v1/messages (в README сказано, что с ним работает Claude Code) и страницу чата, которую можно открыть в любом браузере. Клиенту можно указать любое имя модели: отвечает та, что загружена.

Отдельная новинка, «решающие» модели (decision models). Они читают состояние и отвечают на типизированные вопросы (выбор, оценка, да/нет по тексту и изображениям) за один прямой проход, без генерации текста; README обещает типизированные решения с калиброванными вероятностями за доли секунды. Для этого сервер поддерживает эндпоинт /v1/systemone; в списке рекомендованных, d1 Omni 600M, d1 3B и Clef Flash. В README приведён пример запроса: по тексту клиента про двойное списание определяется намерение (возврат, информация, отмена) и вопрос, зол ли клиент.

Остальные возможности по README: все запросы выводятся на телевизор как чат (какое устройство спросило, что и ответ по мере написания); кнопка Square запускает демо, Triangle открывает клавиатуру; страница Console рисует графики температуры, питания, нагрузки GPU и CPU за последние две минуты или час и таблицу показаний; планировщик читает каждый GGUF и выдаёт максимально длинный контекст и лучший кэш, которые помещаются в свободную память; модели скачиваются с Hugging Face прямо на консоль, во внутреннее хранилище, M.2 или USB-диск; модели с проектором изображений (Gemma 4, MiniCPM-V, d1) принимают картинки в чате и в решениях.

Требования: PS5 с прошивкой от 7.00 до 13.60 и джейлбрейком с загруженными нужными полезными нагрузками (payloads). Установка: скачать архив ps5lm-app из последнего релиза, скопировать папку PPSA99575 в /data/homebrew по FTP (ShadowMountPlus добавит приложение на домашний экран), в приложении открыть Models > Suggested и получить модель либо положить .gguf в /data/PS5LM/models или в PS5LM/models на USB-диске, затем загрузить модель и, когда Home покажет Ready, открыть http://<консоль>:8081 или направить на неё клиент OpenAI или Anthropic. Обновление, копированием новой папки поверх старой. Использование из кодинг-инструментов (opencode, Codex, Claude Code) описано в docs/CLI.md.

Проект вырос из нативного GPU-приложения PS5LM Plus автора abhi245y; в благодарностях также llama.cpp и ggml, Mihawk-99 (PS5_Vulkan и RADV на PS5), PS5CEMU-HAR (патчи драйвера), BlackBearReloaded и John Törnblom (SDK) и другие. Лицензия GPL-3.0-or-later, llama.cpp сохраняет лицензию MIT. В репозитории нет файлов SDK Sony, ключей, прошивки и весов моделей. Проект не связан с Sony Interactive Entertainment.

Ключевые факты

  • PS5LM, открытое приложение (GPL-3.0-or-later) для PS5 с джейлбрейком: llama.cpp с бэкендом Vulkan на GPU консоли, модели в формате GGUF.
  • Модели и контексту отдано 11,4 ГБ общей памяти; сервер на порту 8081 даёт API, совместимые с OpenAI (/v1/chat/completions) и Anthropic (/v1/messages), и чат в браузере.
  • В README заявлено, что работа не требует ПК, облака и аккаунта, а с эндпоинтом Anthropic работает Claude Code.
  • Новинка, «решающие» модели через эндпоинт /v1/systemone: типизированные ответы с вероятностями за один прямой проход.
  • Нужна прошивка PS5 от 7.00 до 13.60 с джейлбрейком; проект не связан с Sony и не содержит файлов SDK, ключей, прошивки и весов моделей.

Почему это важно

Это любопытный пример того, как локальный запуск нейросетей добрался до игровой приставки: консоль становится домашним сервером, к которому по сети подключаются ноутбук, телефон и кодинг-инструменты через привычные интерфейсы OpenAI и Anthropic. Значимость скорее демонстрационная: это нишевый любительский проект, а в тексте нет ни замеров скорости, ни бенчмарков.

Кому это важно

Владельцам PS5 с подходящей прошивкой и джейлбрейком, энтузиастам локальных моделей и тем, кто интересуется нестандартным железом для запуска llama.cpp. Остальным, как иллюстрация, что формат GGUF и llama.cpp работают на очень разном оборудовании.

Как это применить

По README: установить на консоль папку PPSA99575 из релиза, загрузить модель из списка Suggested или положить свой файл .gguf в /data/PS5LM/models, дождаться статуса Ready и направить клиент на http://<консоль>:8081. Код открыт под GPL-3.0-or-later, llama.cpp остаётся под MIT. Для работы нужна PS5 с прошивкой 7.00-13.60 и джейлбрейком. О цене или платных функциях источник не говорит.

Можно ли доверять

Источник, README самого проекта на GitHub, то есть все заявления (приватность, поддержка всех квантизаций, работа Claude Code, скорость «решающих» моделей) исходят от авторов и независимо не проверены. В тексте нет данных о скорости генерации, задержках и тестах на других моделях консоли, кроме PS5 Slim из подписи к видео. В README встречаются невнятные названия (например, «Ollaya», «Jev-like», «OpenJev», тип вопроса «noul»), которые источник не поясняет. Автор самого PS5LM в тексте не назван, только авторы используемых компонентов.

Риски и подводные камни

Нужен джейлбрейк консоли, а источник не даёт никакой оценки связанных с этим юридических и рисков безопасности, кроме оговорки, что проект не связан с Sony. Для модели доступно лишь 11,4 ГБ общей памяти, и в тексте не уточнено, какие размеры и квантизации в них помещаются, кроме названий из списка Suggested. Поддерживаемые прошивки ограничены диапазоном 7.00-13.60, а примеры в README местами содержат опечатки и непонятные названия, так что к инструкциям стоит относиться осторожно.