Вышел новый релиз datasette-llm: Datasette работает с локальными моделями

В блоге Саймона Уиллисона от 14 ноября 2026 года объявлен новый релиз плагина datasette-llm. Это промежуточный плагин для Datasette: он отвечает за настройку языковых моделей, которые используют другие плагины Datasette.
Главное изменение, поддержка OpenAI-совместимых эндпоинтов. Теперь Datasette можно настроить на любую модель, размещённую где угодно, если она «говорит» на веб-протоколе OpenAI, который автор называет псевдостандартом. Практический вывод из записи: кто запускает локальные модели через LM Studio, Ollama или llama.cpp (автор отмечает, что llama.cpp только что достиг версии v1.0.0), может запустить Datasette через uvx.
В примере сначала скачивается база content.db с datasette.io (команда wget https://datasette.io/content.db). Затем запускается команда uvx --with datasette-agent datasette с флагами --root и --secret 1 и параметром plugins.datasette-llm.default_model. В нём задан JSON с тремя полями: model, «lmstudio-qwen», model_name, «qwen/qwen3.8-27b» и api_base, «http://localhost:1234/v1». В конце указан файл content.db.
Результат, по словам автора: локальный сервер с экземпляром Datasette Agent, который работает на вашей локальной модели. Других изменений релиза в записи не перечислено.
Ключевые факты
- datasette-llm, промежуточный плагин Datasette, который настраивает языковые модели для других плагинов Datasette.
- Новый релиз добавляет поддержку OpenAI-совместимых эндпоинтов: модель может быть размещена где угодно.
- Подходят локальные модели из LM Studio, Ollama и llama.cpp (автор отмечает, что llama.cpp только что достиг v1.0.0).
- В примере через uvx запускаются Datasette и плагин datasette-agent; в default_model указаны model_name «qwen/qwen3.8-27b» и api_base «http://localhost:1234/v1».
- Итог по описанию автора: локальный сервер с Datasette Agent, работающим на вашей локальной модели.
Почему это важно
Раньше, судя по описанию, datasette-llm настраивал модели для других плагинов Datasette, а теперь он умеет обращаться к любому эндпоинту, совместимому с протоколом OpenAI. Так как этот протокол поддерживают многие локальные серверы моделей, Datasette Agent можно запустить на собственной машине, не привязываясь к одному облачному провайдеру. Это небольшой релиз, но он снимает практическое препятствие для тех, кто хочет работать с локальными моделями.
Кому это важно
Тем, кто использует Datasette и его плагины на основе языковых моделей, в первую очередь datasette-agent. Также тем, кто уже запускает локальные модели через LM Studio, Ollama или llama.cpp и хочет подключить их к Datasette. Для остальных читателей это узкая заметка про инструментарий.
Как это применить
Пример из записи. Скачайте базу: wget https://datasette.io/content.db. Затем запустите Datasette через uvx с плагином datasette-agent, флагами --root и --secret 1 и параметром plugins.datasette-llm.default_model. В него передайте JSON с полями model («lmstudio-qwen»), model_name («qwen/qwen3.8-27b») и api_base («http://localhost:1234/v1»), а последним аргументом укажите content.db. В примере api_base указывает на локальный сервер на порту 1234. Для своей модели и сервера эти значения придётся заменить на свои.
Можно ли доверять
Источник, личный блог автора проекта-экосистемы Datasette, запись короткая и состоит из описания и готового примера команды. Пример можно проверить самостоятельно. Это краткая заметка о релизе, а не подробная документация, поэтому полной картины изменений она не даёт.
Риски и подводные камни
В записи нет замеров качества и скорости локальных моделей, нет сведений об аппаратных требованиях и о том, как проверялась модель Qwen из примера. Нет и списка других изменений релиза, в том числе несовместимых. В примере используется ключ --secret 1: перед тем как повторять его в реальной среде, стоит свериться с документацией Datasette.