AI Toolkit

4 инструментов Сбросить

LocalAI

v4.5.6

Assistant AI Assistants Open Source ★

by mudler (open source)

✔ Linux, macOS, Windows, Docker — CPU/GPU (CUDA, ROCm, Metal)

Самохостируемая OpenAI-совместимая REST API для запуска LLM, изображений, аудио и эмбеддингов локально. Заменяет OpenAI API без изменений в коде — достаточно поменять base URL. Возможности: …

GitHub Website

# Docker (быстрый старт): docker run -p 8080:8080 \ -v $PWD/models:/build/models \ localai/localai:latest-aio-cpu # С GPU (CUDA): docker run --gpus all -p 8080:8080 \ localai/localai:latest-aio-gpu-nvidia-cuda-12 # Загрузить модель через галерею: curl http://localhost:8080/models/apply -d '{"id": "gpt4all-j"}' # Использовать как OpenAI API: from openai import OpenAI client = OpenAI(base_url="http://localhost:8080/v1", api_key="none") response = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Hello"}] )

admin

Tabby

v0.32.0

Assistant AI Assistants Open Source

by TabbyML (open source)

✔ VS Code, Neovim, IntelliJ, Vim

Self-hosted альтернатива GitHub Copilot с открытым кодом. Запускаешь у себя на сервере или GPU — AI-автодополнение кода без отправки данных в облако. Особенности: - Полностью …

GitHub Website

# Docker (рекомендуется): docker run -it --gpus all -p 8080:8080 \ -v $HOME/.tabby:/data \ tabbyml/tabby serve \ --model TabbyML/StarCoder-1B # CPU (без GPU): docker run -it -p 8080:8080 \ -v $HOME/.tabby:/data \ tabbyml/tabby serve \ --model TabbyML/StarCoder-1B --device cpu # VS Code: # Extensions → "Tabby" → Install # Настроить: endpoint = http://localhost:8080

admin

mcp-searxng

v1.8.0

MCP MCP Servers Open Source

by ihor-sokoliuk (community)

✔ Claude Desktop, Claude Code, SearXNG self-hosted

MCP-сервер для приватного веб-поиска через SearXNG. Позволяет LLM искать информацию через self-hosted SearXNG без трекеров и API-ключей крупных корпораций. Возможности: - Веб-поиск через локальный или …

GitHub

# Claude Desktop — claude_desktop_config.json: { "mcpServers": { "searxng": { "command": "uvx", "args": ["mcp-searxng"], "env": { "SEARXNG_URL": "http://localhost:8080" } } } } # Claude Code (CLI): claude mcp add searxng --env SEARXNG_URL=http://localhost:8080 -- uvx mcp-searxng # OpenCode — ~/.config/opencode/opencode.json: { "mcp": { "searxng": { "type": "local", "command": ["uvx", "mcp-searxng"], "environment": { "SEARXNG_URL": "http://localhost:8080" } } } }

admin

paperless-mcp

v0.1.0

MCP MCP Servers Open Source

by baruchiro (community)

✔ Claude Desktop, Paperless-NGX

MCP-сервер для управления документами в Paperless-NGX — self-hosted системе управления документами. Позволяет искать, читать и организовывать скан-архив через LLM. Возможности: - Поиск документов по содержимому, …

GitHub

# Claude Desktop — claude_desktop_config.json: { "mcpServers": { "paperless": { "command": "npx", "args": ["-y", "@baruchiro/paperless-mcp@latest"], "env": { "PAPERLESS_URL": "http://your-paperless-instance:8000", "PAPERLESS_API_KEY": "your_api_token" } } } } # Claude Code (CLI): claude mcp add paperless --env PAPERLESS_URL=http://localhost:8000 --env PAPERLESS_API_KEY=your_token -- npx -y @baruchiro/paperless-mcp@latest # OpenCode — ~/.config/opencode/opencode.json: { "mcp": { "paperless": { "type": "local", "command": ["npx", "-y", "@baruchiro/paperless-mcp@latest"], "environment": { "PAPERLESS_URL": "http://your-paperless-instance:8000", "PAPERLESS_API_KEY": "your_api_token" } } } }

admin

Категории

Сортировка

Тип

Доступ