AI Toolkit

MCP серверы, LSP, скиллы, плагины, AI-модели и другие инструменты

2 инструментов Сбросить

LiteLLM

v1.90.0
Framework Dev Tools Open Source

by BerriAI (open source)

✔ Python, 100+ LLM провайдеров

Единый OpenAI-совместимый API для 100+ LLM-провайдеров. Переключай модели одной строкой без изменения кода — плюс прокси, балансировка нагрузки, fallback и мониторинг. Возможности: - Единый интерфейс: …

# pip: pip install litellm # Пример: from litellm import completion # OpenAI: completion(model="gpt-4o", messages=[{"role": "user", "content": "Hi"}]) # Anthropic — та же функция: completion(model="claude-opus-4-5", messages=[{"role": "user", "content": "Hi"}]) # Ollama: completion(model="ollama/llama3", messages=[...]) # Запустить прокси: litellm --model anthropic/claude-opus-4-5 # → слушает на http://0.0.0.0:4000 (OpenAI-совместимый)

aichat

v0.30.0
Assistant Dev Tools Open Source

by sigoden (community)

✔ Windows, macOS, Linux — любой терминал

Мощный all-in-one CLI для работы с LLM прямо из терминала. Поддерживает десятки провайдеров, встроенный RAG, REPL, shell-интеграцию и систему ролей — один из самых полнофункциональных …

# cargo (рекомендуется): cargo install aichat # macOS: brew install aichat # Настройка провайдера (~/.config/aichat/config.yaml): model: claude:claude-opus-4-5 clients: - type: claude api_key: sk-ant-...