AI Toolkit

v1.90.0

Framework Dev Tools Open Source ★

by BerriAI (open source)

✔ Python, 100+ LLM провайдеров

Единый OpenAI-совместимый API для 100+ LLM-провайдеров. Переключай модели одной строкой без изменения кода — плюс прокси, балансировка нагрузки, fallback и мониторинг. Возможности: - Единый интерфейс: …

GitHub Docs

# pip: pip install litellm # Пример: from litellm import completion # OpenAI: completion(model="gpt-4o", messages=[{"role": "user", "content": "Hi"}]) # Anthropic — та же функция: completion(model="claude-opus-4-5", messages=[{"role": "user", "content": "Hi"}]) # Ollama: completion(model="ollama/llama3", messages=[...]) # Запустить прокси: litellm --model anthropic/claude-opus-4-5 # → слушает на http://0.0.0.0:4000 (OpenAI-совместимый)

admin

LocalAI

v4.5.6

Assistant AI Assistants Open Source ★

by mudler (open source)

✔ Linux, macOS, Windows, Docker — CPU/GPU (CUDA, ROCm, Metal)

Самохостируемая OpenAI-совместимая REST API для запуска LLM, изображений, аудио и эмбеддингов локально. Заменяет OpenAI API без изменений в коде — достаточно поменять base URL. Возможности: …

GitHub Website

# Docker (быстрый старт): docker run -p 8080:8080 \ -v $PWD/models:/build/models \ localai/localai:latest-aio-cpu # С GPU (CUDA): docker run --gpus all -p 8080:8080 \ localai/localai:latest-aio-gpu-nvidia-cuda-12 # Загрузить модель через галерею: curl http://localhost:8080/models/apply -d '{"id": "gpt4all-j"}' # Использовать как OpenAI API: from openai import OpenAI client = OpenAI(base_url="http://localhost:8080/v1", api_key="none") response = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Hello"}] )

admin

Marvin

v3.2.7

Framework AI Assistants Open Source

by Prefect (open source)

✔ Python 3.10+, OpenAI, Anthropic, Azure OpenAI

Marvin — прагматичный AI toolkit от Prefect для добавления AI-функций в Python-приложения. Акцент на типизированные AI-функции: extract, classify, transform, generate — без лишнего boilerplate. Возможности: …

GitHub Docs

# pip: pip install marvin # Настройка: export OPENAI_API_KEY="sk-..." # или для Claude: export ANTHROPIC_API_KEY="sk-ant-..." export MARVIN_LLM_BACKEND=anthropic # Пример: import marvin from pydantic import BaseModel class Location(BaseModel): city: str country: str locations = marvin.extract( "I visited Paris and Tokyo last year", target=list[Location] ) # [Location(city="Paris", country="France"), ...]

admin

Mirascope

v2.5.0

Framework AI Assistants Open Source

by Mirascope (open source)

✔ Python 3.10+, OpenAI, Anthropic, Gemini, Mistral, Groq, Ollama

Mirascope — элегантная Python-библиотека для работы с LLM с минимальным абстрагированием. Использует декораторы и типизацию вместо сложных цепочек. Совместима со всеми major провайдерами через единый …

GitHub Docs

# pip: pip install mirascope # С поддержкой конкретного провайдера: pip install "mirascope[anthropic]" pip install "mirascope[gemini]" pip install "mirascope[groq]" # Пример: from mirascope.core import anthropic, prompt_template @anthropic.call("claude-sonnet-4-6") @prompt_template("Summarize the following text: {text}") def summarize(text: str): ... response = summarize("Long text here...") print(response.content)

admin

Open Interpreter

v0.4.2

Framework AI Assistants Open Source

by Open Interpreter Foundation

✔ Windows, macOS, Linux

Open-source реализация интерпретатора кода для LLM. Позволяет языковым моделям запускать код (Python, Shell, JavaScript) на вашей машине — аналог ChatGPT Code Interpreter, но без ограничений. …

GitHub Website Docs

# Установка: pip install open-interpreter # Запуск с Claude: interpreter --model claude-opus-4-5 # Запуск с локальной моделью (Ollama): interpreter --model ollama/llama3 # Python API: from interpreter import interpreter interpreter.chat("Открой браузер и найди цену BTC")

admin

Outlines

v1.3.1

Framework AI Assistants Open Source

by dottxt-ai (open source)

✔ Python 3.9+, локальные модели (llama.cpp, vllm, transformers), OpenAI API

Библиотека для structured generation — генерации структурированного вывода из языковых моделей с гарантированным форматом. Использует grammar-based sampling: модель физически не может выдать невалидный JSON или …

GitHub Docs

# pip: pip install outlines # С поддержкой transformers: pip install "outlines[transformers]" # С llama.cpp: pip install "outlines[llamacpp]" # Пример — Pydantic schema: from pydantic import BaseModel import outlines class Person(BaseModel): name: str age: int model = outlines.models.transformers("mistralai/Mistral-7B-v0.1") generator = outlines.generate.json(model, Person) result = generator("Extract: John is 30 years old") # Person(name="John", age=30)

admin

Plandex

vcli/v2.2.1

Assistant Dev Tools Open Source

by Plandex Inc. (open source)

✔ Windows, macOS, Linux

AI-движок для кодинга, заточенный под большие и сложные задачи. Работает через защищённый "sandbox" — изменения накапливаются в буфере и применяются только после проверки. Идеален когда …

GitHub Website

# macOS/Linux: curl -sL https://plandex.ai/install.sh | bash # или Go: go install github.com/plandex-ai/plandex/app/cli@latest # Запуск: cd my-project plandex new plandex load src/ # загрузить контекст plandex tell "добавь аутентификацию через JWT"

admin

Playwright MCP

v0.0.77

MCP MCP Servers Open Source ★

by Microsoft (open source)

✔ Claude Desktop, Claude Code, OpenCode, любой MCP-клиент

Официальный MCP-сервер от Microsoft для управления браузером через Playwright. Использует accessibility tree вместо скриншотов — быстрее, точнее, не требует vision-модели. Идеален для web-автоматизации и тестирования. …

GitHub

# Claude Desktop — claude_desktop_config.json: ```json { "mcpServers": { "playwright": { "command": "npx", "args": ["@playwright/mcp@latest"] } } } ``` # Claude Code (CLI): ```bash claude mcp add playwright -- npx @playwright/mcp@latest ``` # OpenCode — ~/.config/opencode/opencode.json: ```json { "mcp": { "playwright": { "type": "local", "command": ["npx", "@playwright/mcp@latest"] } } } ``` Установить браузеры: `npx playwright install` Для headless-режима добавьте аргумент `"--headless"` в args.

admin

Prompt Engineering Guide

Skill AI Assistants Open Source

by DAIR.AI (community)

✔ ChatGPT, Claude, Gemini, Llama, Mistral, любые LLM

Самый полный открытый гайд по prompt engineering: от базовых техник до последних исследований. Поддерживается сообществом DAIR.AI, переведён на 13 языков. Охватывает: - Базовые техники: zero-shot, …

GitHub Website

# Читать онлайн: # https://promptingguide.ai # Клонировать для офлайн-доступа: git clone https://github.com/dair-ai/Prompt-Engineering-Guide # Запустить локально (Next.js): cd Prompt-Engineering-Guide npm install npm run dev # → http://localhost:3000

admin

Tabby

v0.32.0

Assistant AI Assistants Open Source

by TabbyML (open source)

✔ VS Code, Neovim, IntelliJ, Vim

Self-hosted альтернатива GitHub Copilot с открытым кодом. Запускаешь у себя на сервере или GPU — AI-автодополнение кода без отправки данных в облако. Особенности: - Полностью …

GitHub Website

# Docker (рекомендуется): docker run -it --gpus all -p 8080:8080 \ -v $HOME/.tabby:/data \ tabbyml/tabby serve \ --model TabbyML/StarCoder-1B # CPU (без GPU): docker run -it -p 8080:8080 \ -v $HOME/.tabby:/data \ tabbyml/tabby serve \ --model TabbyML/StarCoder-1B --device cpu # VS Code: # Extensions → "Tabby" → Install # Настроить: endpoint = http://localhost:8080

admin

ai-shell

v1.0.12

Skill AI Assistants Open Source

by BuilderIO (open source)

✔ bash, zsh, fish, PowerShell

CLI-инструмент, который переводит описание задачи на естественном языке в готовую shell-команду. Поддерживает любой OpenAI-совместимый провайдер. Возможности: - Описываешь что хочешь сделать → получаешь готовую команду …

GitHub

# npm: npm install -g @builder.io/ai-shell # Настройка: ai config set OPENAI_KEY=sk-... # Использование: ai "найди все файлы больше 100MB изменённые за последние 7 дней" # → find . -size +100M -mtime -7 # Режим чата: ai chat # Кастомный провайдер (Ollama): ai config set OPENAI_API_ENDPOINT=http://localhost:11434/v1

admin

aichat

v0.30.0

Assistant Dev Tools Open Source ★

by sigoden (community)

✔ Windows, macOS, Linux — любой терминал

Мощный all-in-one CLI для работы с LLM прямо из терминала. Поддерживает десятки провайдеров, встроенный RAG, REPL, shell-интеграцию и систему ролей — один из самых полнофункциональных …

GitHub

# cargo (рекомендуется): cargo install aichat # macOS: brew install aichat # Настройка провайдера (~/.config/aichat/config.yaml): model: claude:claude-opus-4-5 clients: - type: claude api_key: sk-ant-...

admin

Категории

Сортировка

Тип

Доступ