AI Toolkit

v0.14.0

Framework Dev Tools Бесплатно

by AG2 Community

✔ Python 3.9+, OpenAI, Azure, Gemini, Anthropic, Ollama

Мультиагентный фреймворк для создания систем, где несколько LLM-агентов ведут диалог и совместно решают задачи. Поддерживает человека в цикле (human-in-the-loop), выполнение кода в изолированной среде, групповой …

GitHub (AG2) Документация Сайт

# pip (AG2 — активно поддерживаемый форк) pip install ag2 # Или оригинальный пакет Microsoft pip install pyautogen # С поддержкой Docker-санбокса для выполнения кода pip install 'ag2[docker]' # С поддержкой всех LLM-провайдеров pip install 'ag2[openai,anthropic,gemini,ollama]' # Пример: два агента решают задачу from autogen import AssistantAgent, UserProxyAgent assistant = AssistantAgent( name="assistant", llm_config={"model": "gpt-4o-mini", "api_key": "YOUR_KEY"} ) user_proxy = UserProxyAgent( name="user_proxy", human_input_mode="NEVER", code_execution_config={"work_dir": "coding", "use_docker": False} ) user_proxy.initiate_chat( assistant, message="Write a Python script that finds prime numbers up to 100" )

admin

Axolotl

v0.17.0

Framework Dev Tools Open Source

by OpenAccess AI Collective

✔ Llama, Mistral, Falcon, Phi, Gemma, Qwen

Фреймворк для дообучения (fine-tuning) языковых моделей. Поддерживает LoRA, QLoRA, полный файн-тюнинг, DPO, RLHF и другие техники. Конфигурация через YAML-файлы, встроенная интеграция с HuggingFace, поддержка мультиGPU …

GitHub Документация

pip install axolotl # или из источника git clone https://github.com/axolotl-ai-cloud/axolotl cd axolotl && pip install -e ".[flash-attn,deepspeed]" # Запуск обучения по конфигу axolotl train config.yaml # Примеры конфигов: examples/llama-3/

admin

CrewAI

v1.15.1

Framework Dev Tools Бесплатно

by crewAI Inc

✔ Python 3.10+, OpenAI, Anthropic, Ollama, LiteLLM

Фреймворк для оркестрации автономных AI-агентов, работающих совместно как команда. Каждый агент получает роль, цель и набор инструментов; CrewAI координирует их взаимодействие, делегирование задач и последовательность …

GitHub Документация Сайт

# pip pip install crewai # pip с дополнительными инструментами (поиск, scraping и т.д.) pip install 'crewai[tools]' # Проверка установки crewai --version # Создать новый проект crewai create crew my_crew cd my_crew # Запустить команду агентов crewai run # Пример минимального кода # pip install crewai langchain-openai from crewai import Agent, Task, Crew, Process researcher = Agent( role='Researcher', goal='Find and summarize information', backstory='Expert at finding relevant information', verbose=True ) task = Task( description='Research the latest trends in AI agents', expected_output='A bullet-point summary of 5 key trends', agent=researcher ) crew = Crew(agents=[researcher], tasks=[task], process=Process.sequential) result = crew.kickoff() print(result)

admin

DSPy

v3.2.1

Framework Dev Tools Open Source

by Stanford NLP (open source)

✔ Python 3.10+, любые LLM через API

Фреймворк для программирования языковых моделей вместо их промптирования. Вместо написания промптов вручную — описываете задачу через сигнатуры и пайплайны, а DSPy оптимизирует промпты автоматически. Концепции: …

GitHub Docs

# pip: pip install dspy # Пример: import dspy lm = dspy.LM("anthropic/claude-opus-4-5") dspy.configure(lm=lm) class QA(dspy.Signature): """Ответ на вопрос.""" question: str = dspy.InputField() answer: str = dspy.OutputField() qa = dspy.ChainOfThought(QA) print(qa(question="Что такое RAG?").answer)

admin

Dify

v1.16.0

Framework Dev Tools Open Source

by LangGenius

✔ OpenAI, Anthropic, локальные модели через Ollama/vLLM и др.

Открытая платформа для визуальной разработки agentic-приложений на LLM: конструктор workflow, RAG-пайплайны, управление промптами и моделями — всё в едином рабочем пространстве без необходимости писать инфраструктурный …

GitHub

git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d # Веб-интерфейс на localhost

admin

Guidance

v0.3.2

Framework AI Assistants Open Source

by guidance-ai / Microsoft (open source)

✔ Python 3.8+, transformers, llama.cpp, OpenAI, Azure

Guidance — фреймворк для контролируемой генерации текста с языковыми моделями. Позволяет интерливать генерацию и логику: ветвления, циклы, констрейнты — всё как часть одной программы на …

GitHub

# pip: pip install guidance # С поддержкой llama.cpp: pip install "guidance[llamacpp]" # Пример: import guidance from guidance import models, gen, select lm = models.LlamaCpp("model.gguf") with guidance.system(): lm += "You are a helpful assistant." with guidance.user(): lm += "Is the sky blue? Answer yes or no." with guidance.assistant(): lm += select(["yes", "no"], name="answer") print(lm["answer"]) # "yes"

admin

Letta

v0.16.8

Framework Dev Tools Open Source

by Letta AI

✔ OpenAI, Anthropic и другие LLM-провайдеры

Платформа для агентов с настоящей долговременной памятью (бывший MemGPT): управляет контекстным окном LLM подобно тому, как ОС управляет виртуальной памятью — автоматически выгружая и подгружая …

GitHub

pip install letta letta server # либо через Docker: docker run -p 8283:8283 letta/letta:latest

admin

LiteLLM

v1.90.0

Framework Dev Tools Open Source ★

by BerriAI (open source)

✔ Python, 100+ LLM провайдеров

Единый OpenAI-совместимый API для 100+ LLM-провайдеров. Переключай модели одной строкой без изменения кода — плюс прокси, балансировка нагрузки, fallback и мониторинг. Возможности: - Единый интерфейс: …

GitHub Docs

# pip: pip install litellm # Пример: from litellm import completion # OpenAI: completion(model="gpt-4o", messages=[{"role": "user", "content": "Hi"}]) # Anthropic — та же функция: completion(model="claude-opus-4-5", messages=[{"role": "user", "content": "Hi"}]) # Ollama: completion(model="ollama/llama3", messages=[...]) # Запустить прокси: litellm --model anthropic/claude-opus-4-5 # → слушает на http://0.0.0.0:4000 (OpenAI-совместимый)

admin

Marvin

v3.2.7

Framework AI Assistants Open Source

by Prefect (open source)

✔ Python 3.10+, OpenAI, Anthropic, Azure OpenAI

Marvin — прагматичный AI toolkit от Prefect для добавления AI-функций в Python-приложения. Акцент на типизированные AI-функции: extract, classify, transform, generate — без лишнего boilerplate. Возможности: …

GitHub Docs

# pip: pip install marvin # Настройка: export OPENAI_API_KEY="sk-..." # или для Claude: export ANTHROPIC_API_KEY="sk-ant-..." export MARVIN_LLM_BACKEND=anthropic # Пример: import marvin from pydantic import BaseModel class Location(BaseModel): city: str country: str locations = marvin.extract( "I visited Paris and Tokyo last year", target=list[Location] ) # [Location(city="Paris", country="France"), ...]

admin

Mem0

v2.0.11

Framework Dev Tools Freemium

by Mem0 AI

✔ Python 3.8+, Node.js, OpenAI, Anthropic, Ollama, Qdrant, Chroma, Pinecone

Адаптивный слой памяти для AI-агентов и чат-приложений. Автоматически извлекает важные факты из диалогов, организует их в структурированное хранилище и подгружает релевантный контекст при следующих обращениях. …

GitHub Документация Сайт

# pip (Python SDK) pip install mem0ai # Node.js SDK npm install mem0ai # Пример: базовое использование (Python, in-memory для быстрого старта) import os from mem0 import Memory os.environ["OPENAI_API_KEY"] = "YOUR_KEY" m = Memory() user_id = "alice" # Сохранить факты из диалога m.add("I prefer Python over JavaScript", user_id=user_id) m.add("I'm building a trading bot with 3 strategies", user_id=user_id) m.add("My timezone is UTC+3", user_id=user_id) # Поиск релевантной памяти results = m.search("What language does the user prefer?", user_id=user_id) print(results) # [{'memory': 'Prefers Python over JavaScript', 'score': 0.97}] # Получить всю память пользователя all_memories = m.get_all(user_id=user_id) # Конфиг с Qdrant (персистентное хранение) config = { "llm": {"provider": "anthropic", "config": {"model": "claude-3-5-haiku-20241022"}}, "vector_store": {"provider": "qdrant", "config": {"host": "localhost", "port": 6333}} } m = Memory.from_config(config)

admin

Mirascope

v2.5.0

Framework AI Assistants Open Source

by Mirascope (open source)

✔ Python 3.10+, OpenAI, Anthropic, Gemini, Mistral, Groq, Ollama

Mirascope — элегантная Python-библиотека для работы с LLM с минимальным абстрагированием. Использует декораторы и типизацию вместо сложных цепочек. Совместима со всеми major провайдерами через единый …

GitHub Docs

# pip: pip install mirascope # С поддержкой конкретного провайдера: pip install "mirascope[anthropic]" pip install "mirascope[gemini]" pip install "mirascope[groq]" # Пример: from mirascope.core import anthropic, prompt_template @anthropic.call("claude-sonnet-4-6") @prompt_template("Summarize the following text: {text}") def summarize(text: str): ... response = summarize("Long text here...") print(response.content)

admin

Ollama

v0.32.4

Framework Dev Tools Open Source

by Ollama

✔ Llama, DeepSeek, Qwen, Gemma и др. открытые модели

Запускает большие языковые модели локально одной командой — без ручной настройки окружения, драйверов и весов. Скачивает, квантует и обслуживает модели через простой CLI и OpenAI-совместимый …

GitHub

curl -fsSL https://ollama.com/install.sh | sh ollama run llama3.2 ollama pull deepseek-r1 # OpenAI-совместимый API на localhost:11434

admin

Категории

Сортировка

Тип

Доступ