AI Toolkit

v0.3.2

Framework AI Assistants Open Source

by guidance-ai / Microsoft (open source)

✔ Python 3.8+, transformers, llama.cpp, OpenAI, Azure

Guidance — фреймворк для контролируемой генерации текста с языковыми моделями. Позволяет интерливать генерацию и логику: ветвления, циклы, констрейнты — всё как часть одной программы на …

GitHub

# pip: pip install guidance # С поддержкой llama.cpp: pip install "guidance[llamacpp]" # Пример: import guidance from guidance import models, gen, select lm = models.LlamaCpp("model.gguf") with guidance.system(): lm += "You are a helpful assistant." with guidance.user(): lm += "Is the sky blue? Answer yes or no." with guidance.assistant(): lm += select(["yes", "no"], name="answer") print(lm["answer"]) # "yes"

admin ★ 21.5k

Hermes Agent

v2026.8.19

Assistant AI Assistants Open Source

by Nous Research (open source)

✔ Telegram, Discord, Slack, WhatsApp, Signal, Email, CLI, GPT, Claude, Llama, локальные модели

Self-hosted AI-агент от Nous Research с встроенным циклом обучения: создаёт навыки из опыта, улучшает их по ходу использования, сохраняет знания и ищет по прошлым разговорам, …

GitHub

# Docker (официальный образ nousresearch/hermes-agent) docker run -d --name hermes-agent \ -v ~/.hermes:/opt/data \ -p 9119:9119 \ nousresearch/hermes-agent:latest setup # Запуск шлюза (Telegram/Discord/Slack/WhatsApp/Signal/Email/CLI одновременно) docker run -d --name hermes-agent \ -v ~/.hermes:/opt/data \ -p 9119:9119 \ nousresearch/hermes-agent:latest gateway # Все данные (config/.env/навыки/память/сессии) — в примонтированном ~/.hermes

admin ★ 234.2k

HermitClaw

Assistant AI Assistants Open Source

by brendanhogan (community)

✔ Python, Node.js, Linux, macOS, OpenAI API или локальный Ollama

Крошечное автономное AI-существо, которое живёт в отдельной папке на компьютере и непрерывно проводит собственные исследования: ищет темы в интернете, пишет отчёты и заметки, помнит, чем …

GitHub

git clone https://github.com/brendanhogan/hermitclaw.git cd hermitclaw uv sync cd frontend && npm install && npm run build && cd .. export OPENAI_API_KEY="sk-..." # или настроить Ollama в config.yaml uv run python hermitclaw/main.py # открыть http://localhost:8000

admin ★ 328

Jan

v0.8.3

Assistant AI Assistants Open Source

by Jan HQ (open source)

✔ Windows, macOS, Linux

Open source альтернатива ChatGPT, которая работает полностью офлайн. Desktop-приложение с красивым интерфейсом, встроенным управлением моделями и локальным API-сервером, совместимым с OpenAI. Возможности: - Запуск GGUF …

GitHub jan.ai

# Скачать с официального сайта: # https://jan.ai/download # Доступно для Windows, macOS (Intel + Apple Silicon), Linux # После установки: # Hub → выбрать модель → Download # Рекомендуемые модели: Llama 3.2, Qwen2.5-Coder, Mistral 7B # OpenAI-совместимый API на localhost:1337: curl http://localhost:1337/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model": "llama3.2", "messages": [{"role": "user", "content": "привет"}]}'

admin ★ 43.3k

LLM Course

Skill AI Assistants Open Source ★

by Maxime Labonne (community)

✔ Python, Google Colab, Jupyter

Лучший бесплатный курс по LLM в формате GitHub-репо: от основ трансформеров до деплоя production-моделей. Более 200 ресурсов, Colab-ноутбуки, roadmap. Три трека: - LLM Scientist: архитектура, …

GitHub Website

# Открыть в браузере: # https://github.com/mlabonne/llm-course # Клонировать ноутбуки: git clone https://github.com/mlabonne/llm-course # Запустить ноутбук в Google Colab: # открыть .ipynb файл → File → "Open in Colab" # Локально (Jupyter): pip install jupyter jupyter notebook

admin ★ 81.9k

LeanCTX

v3.9.19

Skill AI Assistants Open Source

by yvgude (community)

✔ Windows, macOS, Linux, Claude Desktop, Claude Code, OpenCode, любой MCP-клиент, локальные модели

Контролирует, что видит ваш AI. Слой контекстного интеллекта для AI-агентов — локальный Rust-бинарник, решающий что читать, запоминающий выученное, охраняющий доступ и подтверждающий сохранённое. 60-90% экономии …

GitHub

# 1) Install (pick one) curl -fsSL https://leanctx.com/install.sh | sh # universal (no Rust needed) brew tap yvgude/lean-ctx && brew install lean-ctx # macOS / Linux npm install -g lean-ctx-bin # Node.js cargo install lean-ctx # Rust # 2) One-command setup for your agent lean-ctx wrap cursor # or: wrap claude / wrap codex / wrap vscode

admin ★ 3.6k

Leon

v1.0.0-beta.8

Assistant AI Assistants Open Source

by Leon AI (open source)

✔ Windows, macOS, Linux, OpenAI, Mistral, Ollama, локальные модели, STT/TTS

Open-source персональный ассистент с упором на приватность — построен вокруг инструментов, контекста, памяти и агентного исполнения задач. Работает полностью локально с локальным голосовым пайплайном (STT/TTS) …

GitHub

git clone https://github.com/leon-ai/leon.git cd leon npm install npm run train npm start

admin ★ 17.5k

Lionclaw

v0.8.0

Assistant AI Assistants Open Source

by moshthepitt (community)

✔ Codex, OpenCode, Claude Code, Gemini CLI, любые агентские CLI-инструменты

Локальная control plane для AI coding-агентов. Запускает агентов как durable, auditable воркеров с явным состоянием, навыками, каналами, расписаниями и ограниченными правами.

GitHub

git clone https://github.com/moshthepitt/lionclaw.git cd lionclaw cargo build --workspace --release export PATH="$PWD/target/release:$PATH"

admin ★ 15

LocalAI

v4.5.6

Assistant AI Assistants Open Source ★

by mudler (open source)

✔ Linux, macOS, Windows, Docker — CPU/GPU (CUDA, ROCm, Metal)

Самохостируемая OpenAI-совместимая REST API для запуска LLM, изображений, аудио и эмбеддингов локально. Заменяет OpenAI API без изменений в коде — достаточно поменять base URL. Возможности: …

GitHub Website

# Docker (быстрый старт): docker run -p 8080:8080 \ -v $PWD/models:/build/models \ localai/localai:latest-aio-cpu # С GPU (CUDA): docker run --gpus all -p 8080:8080 \ localai/localai:latest-aio-gpu-nvidia-cuda-12 # Загрузить модель через галерею: curl http://localhost:8080/models/apply -d '{"id": "gpt4all-j"}' # Использовать как OpenAI API: from openai import OpenAI client = OpenAI(base_url="http://localhost:8080/v1", api_key="none") response = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Hello"}] )

admin ★ 47.3k

Marvin

v3.2.7

Framework AI Assistants Open Source

by Prefect (open source)

✔ Python 3.10+, OpenAI, Anthropic, Azure OpenAI

Marvin — прагматичный AI toolkit от Prefect для добавления AI-функций в Python-приложения. Акцент на типизированные AI-функции: extract, classify, transform, generate — без лишнего boilerplate. Возможности: …

GitHub Docs

# pip: pip install marvin # Настройка: export OPENAI_API_KEY="sk-..." # или для Claude: export ANTHROPIC_API_KEY="sk-ant-..." export MARVIN_LLM_BACKEND=anthropic # Пример: import marvin from pydantic import BaseModel class Location(BaseModel): city: str country: str locations = marvin.extract( "I visited Paris and Tokyo last year", target=list[Location] ) # [Location(city="Paris", country="France"), ...]

admin ★ 6.2k

Master Claude for Legal

Skill AI Assistants Open Source

by sboghossian (community)

✔ Claude Cowork, Claude Code, любой инструмент с поддержкой skills Anthropic

Мастер-пакет навыков для юридических команд, использующих Claude. Референсы, стартовые skills, шаблоны и датасет из вебинара. Построен на основе вебинара Anthropic "Claude for Legal Teams" и …

GitHub

git clone https://github.com/sboghossian/master-claude-for-legal.git cd master-claude-for-legal # Откройте Cowork → Customize → Plugins → Local → Add → укажите на эту директорию git clone https://github.com/sboghossian/master-claude-for-legal.git ~/.claude/plugins/master-claude-for-legal # Затем в любой сессии Claude Code: /plugin install master-claude-for-legal # Вручную / другие инструменты формата Anthropic: # поместите директорию skills/ в путь skills вашего инструмента

admin ★ 56

Mirascope

v2.5.0

Framework AI Assistants Open Source

by Mirascope (open source)

✔ Python 3.10+, OpenAI, Anthropic, Gemini, Mistral, Groq, Ollama

Mirascope — элегантная Python-библиотека для работы с LLM с минимальным абстрагированием. Использует декораторы и типизацию вместо сложных цепочек. Совместима со всеми major провайдерами через единый …

GitHub Docs

# pip: pip install mirascope # С поддержкой конкретного провайдера: pip install "mirascope[anthropic]" pip install "mirascope[gemini]" pip install "mirascope[groq]" # Пример: from mirascope.core import anthropic, prompt_template @anthropic.call("claude-sonnet-4-6") @prompt_template("Summarize the following text: {text}") def summarize(text: str): ... response = summarize("Long text here...") print(response.content)

admin ★ 1.5k

Категории

Сортировка

Тип

Доступ