llm

by Simon Willison · Windows, macOS, Linux

Assistant Dev Tools Open Source v0.31 · 24.04.2026 активный

Минималистичный Python CLI и библиотека для работы с LLM от создателя Datasette. Философия Unix: делай одно, делай хорошо. Легко встраивается в скрипты и пайплайны. Возможности: - Поддержка OpenAI, Anthropic, Google, Mistral через плагины - Локальные модели через llm-ollama, llm-gpt4all - Логирование всех запросов в SQLite (llm logs) - Шаблоны промптов - Python API для встраивания в скрипты - Embeddings и семантический поиск

GitHub Docs
cli open-source python sqlite embeddings unix plugins dev-tools
Версии
v0.31
24.04.2026 current
Добавлен 18.06.2026 · Обновлён 07.07.2026 · Dev Tools
Установка 
# pip:
pip install llm

# Добавить ключ:
llm keys set openai

# Плагин для Claude:
llm install llm-claude-3
llm keys set claude

# Использование:
llm "объясни git rebase"
cat error.log | llm "что здесь не так?"

# Локальные модели:
llm install llm-ollama
llm -m ollama/llama3 "привет"
переведено ИИ

LLM

Репозиторий на GitHub PyPI История изменений Тесты Лицензия Discord Homebrew

Инструмент командной строки и библиотека Python для взаимодействия с OpenAI, Anthropic’s Claude, Google’s Gemini, Meta’s Llama и десятками других больших языковых моделей, как через удалённые API, так и с моделями, которые можно установить и запустить на вашем собственном компьютере.

Посмотрите Языковые модели в командной строке на YouTube для демонстрации или прочитайте сопроводительные подробные заметки.

С помощью LLM вы можете:

Быстрый старт

Сначала установите LLM с помощью pip или Homebrew или pipx или uv:

pip install llm

Или с помощью Homebrew (см. предупреждение):

brew install llm

Или с помощью pipx:

pipx install llm

Или с помощью uv

uv tool install llm

Если у вас есть ключ API OpenAI, вы можете запустить следующее:

# Paste your OpenAI API key into this
llm keys set openai

# Run a prompt (with the default gpt-4o-mini model)
llm "Ten fun names for a pet pelican"

# Extract text from an image
llm "extract text" -a scanned-document.jpg

# Use a system prompt against a file
cat myfile.py | llm -s "Explain this code"

Запускайте промпты для Gemini или Anthropic с помощью соответствующих плагинов:

llm install llm-gemini
llm keys set gemini
# Paste Gemini API key here
llm -m gemini-2.0-flash 'Tell me fun facts about Mountain View'

llm install llm-anthropic
llm keys set anthropic
# Paste Anthropic API key here
llm -m claude-4-opus 'Impress me with wild facts about turnips'

Вы также можете установить плагин для доступа к моделям, которые могут работать на вашем локальном устройстве. Если вы используете Ollama:

# Install the plugin
llm install llm-ollama

# Download and run a prompt against the Orca Mini 7B model
ollama pull llama3.2:latest
llm -m llama3.2:latest 'What is the capital of France?'

Чтобы начать интерактивный чат с моделью, используйте llm chat:

llm chat -m gpt-4.1

Chatting with gpt-4.1
Type 'exit' or 'quit' to exit
Type '!multi' to enter multiple lines, then '!end' to finish
Type '!edit' to open your default editor and modify the prompt.
Type '!fragment <my_fragment> [<another_fragment> ...]' to insert one or more fragments
> Tell me a joke about a pelican
Why don't pelicans like to tip waiters?

Because they always have a big bill!

Больше информации о данном проекте:

Смотрите также тег llm в моём блоге.

Содержание

Комментарии
Войдите, чтобы оставить комментарий