AI Toolkit

v1.10.0

Assistant AI Assistants Open Source

by Darren Burns (community)

✔ OpenAI, Anthropic, Ollama, любые LLM

Красивый TUI-клиент для чата с LLM прямо в терминале. Написан на Python с помощью Textual. Несколько бесед в разных вкладках, история, экспорт — без браузера. …

GitHub

# pip: pip install elia-chat # Запуск: elia # Конфиг ~/.config/elia/config.toml: [default_model] name = "claude-opus-4-5" provider = "anthropic" # С Ollama: elia # выбрать локальную модель в меню

admin

ell

v0.0.7

Framework AI Assistants Open Source

by MadcowD / William Guss (open source)

✔ Python 3.9+, OpenAI, Anthropic, любой OpenAI-compatible API

ell — prompt engineering language: рассматривает промпты как функции, а не строки. Позволяет писать, версионировать, тестировать и оптимизировать промпты как полноценный код с инструментами разработчика. …

GitHub Website

# pip: pip install ell-ai # С поддержкой антропика: pip install "ell-ai[anthropic]" # Пример: import ell ell.init(store="./logdir", autocommit=True) @ell.simple(model="gpt-4o-mini") def summarize(text: str): """Summarize the following text in one sentence.""" return f"Text: {text}" result = summarize("Long text here...") # Запустить ELL Studio: ell-studio --storage ./logdir

admin

instructor

v1.15.4

Framework Dev Tools Open Source

by Jason Liu (community)

✔ Python, любые OpenAI-совместимые LLM

Python-библиотека для получения структурированных данных из LLM. Использует Pydantic-модели как схему — модель возвращает валидированный Python-объект вместо сырого текста. Возможности: - Автоматическая валидация через Pydantic …

GitHub Docs

# pip: pip install instructor # Пример: import instructor from anthropic import Anthropic from pydantic import BaseModel client = instructor.from_anthropic(Anthropic()) class User(BaseModel): name: str age: int user = client.messages.create( model="claude-opus-4-5", max_tokens=1024, messages=[{"role": "user", "content": "Извлеки данные: Иван, 30 лет"}], response_model=User, ) print(user) # name="Иван" age=30

admin

llm

v0.31

Assistant Dev Tools Open Source

by Simon Willison

✔ Windows, macOS, Linux

Минималистичный Python CLI и библиотека для работы с LLM от создателя Datasette. Философия Unix: делай одно, делай хорошо. Легко встраивается в скрипты и пайплайны. Возможности: …

GitHub Docs

# pip: pip install llm # Добавить ключ: llm keys set openai # Плагин для Claude: llm install llm-claude-3 llm keys set claude # Использование: llm "объясни git rebase" cat error.log | llm "что здесь не так?" # Локальные модели: llm install llm-ollama llm -m ollama/llama3 "привет"

admin

mcp-geo

MCP MCP Servers Open Source

MCP-сервер для геокодирования и геопространственных данных. Конвертирует адреса в координаты, вычисляет расстояния, получает информацию о местоположении через открытые геосервисы.

GitHub

# Claude Desktop — claude_desktop_config.json: { "mcpServers": { "geo": { "command": "uvx", "args": ["mcp-geo"] } } } # Claude Code (CLI): claude mcp add geo -- uvx mcp-geo # OpenCode — ~/.config/opencode/opencode.json: { "mcp": { "geo": { "type": "local", "command": ["uvx", "mcp-geo"] } } }

admin

mcp-server-chart

v0.9.10

MCP MCP Servers Open Source

MCP-сервер для генерации графиков и диаграмм. Создаёт bar, line, pie, scatter через matplotlib/quickchart по данным от LLM. Возвращает base64-изображение или URL.

GitHub

# Claude Desktop — claude_desktop_config.json: { "mcpServers": { "chart": { "command": "npx", "args": ["-y", "@antvis/mcp-server-chart"] } } } # Claude Code (CLI): claude mcp add chart -- npx -y @antvis/mcp-server-chart # OpenCode — ~/.config/opencode/opencode.json: { "mcp": { "chart": { "type": "local", "command": ["npx", "-y", "@antvis/mcp-server-chart"] } } }

admin

mcpo

v0.0.20

MCP MCP Servers Open Source

by Open WebUI

✔ любой OpenAI-совместимый клиент

Прокси-сервер, превращающий любой MCP-сервер в стандартный OpenAI-совместимый API. Позволяет использовать MCP-инструменты из любого приложения с поддержкой API OpenAI — без нативной поддержки MCP. Один запуск …

GitHub

pip install mcpo # Запустить MCP-сервер через mcpo mcpo --port 8000 -- uvx mcp-server-fetch # Несколько серверов через конфиг mcpo --port 8000 --config config.json # Теперь доступен как OpenAI API на http://localhost:8000

admin

shell_gpt

v1.5.1

Assistant Dev Tools Open Source

by TheR1D (community)

✔ Windows, macOS, Linux — bash, zsh, fish

CLI-инструмент для повышения продуктивности в терминале с помощью AI. Умеет объяснять, генерировать и выполнять shell-команды прямо в текущей оболочке. Возможности: - --shell (-s): генерация и …

GitHub

# pip: pip install shell-gpt # Настройка ключа: sgpt --install-integration # добавит Ctrl+L в .bashrc/.zshrc # Использование: sgpt "найди все файлы больше 1GB в /home" sgpt --shell "перезапустить nginx" sgpt --code "парсер CSV на Python" # Ollama (без API ключа): sgpt --model ollama/llama3 "привет"

admin

smolagents

v1.26.0

Framework Dev Tools Open Source

by Hugging Face (open source)

✔ Python 3.10+, любые LLM через HF или API

Минималистичный фреймворк для создания AI-агентов от HuggingFace. Философия: минимум абстракций, максимум гибкости. Агент как одна функция, а не граф из сотни классов. Особенности: - CodeAgent: …

GitHub Docs

# pip: pip install smolagents # Пример CodeAgent: from smolagents import CodeAgent, tool, HfApiModel @tool def multiply(a: int, b: int) -> int: """Умножает два числа.""" return a * b agent = CodeAgent( tools=[multiply], model=HfApiModel("Qwen/Qwen2.5-Coder-32B-Instruct") ) agent.run("сколько будет 123 * 456?")

admin

vLLM

v0.26.0

Framework Dev Tools Open Source

by vLLM Project (UC Berkeley)

✔ OpenAI API, HuggingFace models, множество GPU-бэкендов

Инференс-движок для больших языковых моделей с экстремальной пропускной способностью: ключевая технология — PagedAttention, управляющая памятью GPU как виртуальной памятью ОС, что позволяет обслуживать в разы …

GitHub

pip install vllm vllm serve meta-llama/Llama-3.1-8B-Instruct # Поднимает OpenAI-совместимый API на localhost:8000

admin

Категории

Сортировка

Тип

Доступ