AI Toolkit

2 инструментов Сбросить

LiteLLM

v1.90.0

Framework Dev Tools Open Source ★

by BerriAI (open source)

✔ Python, 100+ LLM провайдеров

Единый OpenAI-совместимый API для 100+ LLM-провайдеров. Переключай модели одной строкой без изменения кода — плюс прокси, балансировка нагрузки, fallback и мониторинг. Возможности: - Единый интерфейс: …

GitHub Docs

# pip: pip install litellm # Пример: from litellm import completion # OpenAI: completion(model="gpt-4o", messages=[{"role": "user", "content": "Hi"}]) # Anthropic — та же функция: completion(model="claude-opus-4-5", messages=[{"role": "user", "content": "Hi"}]) # Ollama: completion(model="ollama/llama3", messages=[...]) # Запустить прокси: litellm --model anthropic/claude-opus-4-5 # → слушает на http://0.0.0.0:4000 (OpenAI-совместимый)

admin

mcpo

v0.0.20

MCP MCP Servers Open Source

by Open WebUI

✔ любой OpenAI-совместимый клиент

Прокси-сервер, превращающий любой MCP-сервер в стандартный OpenAI-совместимый API. Позволяет использовать MCP-инструменты из любого приложения с поддержкой API OpenAI — без нативной поддержки MCP. Один запуск …

GitHub

pip install mcpo # Запустить MCP-сервер через mcpo mcpo --port 8000 -- uvx mcp-server-fetch # Несколько серверов через конфиг mcpo --port 8000 --config config.json # Теперь доступен как OpenAI API на http://localhost:8000

admin

Категории

Сортировка

Тип

Доступ