AI Toolkit

2 инструментов Сбросить

AISIX AI Gateway

v0.10.0

MCP MCP Servers Open Source

by API7.ai (open source)

✔ Linux, macOS, Windows, OpenAI API, Anthropic API, Gemini API, Bedrock API, Azure OpenAI API, DeepSeek API, Claude Desktop, Claude Code, OpenCode

Open-source AI gateway для LLM и агентов на Rust. Единый OpenAI-совместимый API для OpenAI, Anthropic, Gemini, Bedrock и других — роутинг, guardrails, кеширование, rate limits, …

GitHub

export OPENAI_API_KEY="YOUR_PROVIDER_KEY" export CALLER_API_KEY="YOUR_CALLER_KEY" docker run -d --name aisix \ --platform linux/amd64 \ -v "$(pwd)/config.yaml:/etc/aisix/config.yaml:ro" \ -v "$(pwd)/resources.yaml:/etc/aisix/resources.yaml:ro" \ -e OPENAI_API_KEY -e CALLER_API_KEY \ -p 3000:3000 -p 127.0.0.1:9090:9090 \ ghcr.io/api7/aisix:latest # proxy → :3000, metrics + status → :9090 (metrics/status listener unauthenticated; keep on loopback/private network)

admin ★ 115

Bifrost

MCP MCP Servers Open Source

by Maxim AI (open source)

✔ Claude Desktop, Claude Code, OpenCode, любой MCP-клиент, OpenAI API, macOS, Linux, Docker

Самый быстрый open-source AI gateway (в 50 раз быстрее LiteLLM): адаптивный балансировщик нагрузки, кластерный режим, guardrails, поддержка 1000+ моделей, оверхед <100 мкс при 5k RPS.

GitHub

# Установка и запуск через NPX npx -y @maximhq/bifrost # Или запуск через Docker docker run -p 8080:8080 maximhq/bifrost # Запуск через Docker с сохранением данных docker run -p 8080:8080 -v $(pwd)/data:/app/data maximhq/bifrost # Установка Go SDK go get github.com/maximhq/bifrost/core

admin ★ 7.5k

Категории

Сортировка

Тип

Доступ