AI Toolkit

v0.14.0

Framework Dev Tools Бесплатно

by AG2 Community

✔ Python 3.9+, OpenAI, Azure, Gemini, Anthropic, Ollama

Мультиагентный фреймворк для создания систем, где несколько LLM-агентов ведут диалог и совместно решают задачи. Поддерживает человека в цикле (human-in-the-loop), выполнение кода в изолированной среде, групповой …

GitHub (AG2) Документация Сайт

# pip (AG2 — активно поддерживаемый форк) pip install ag2 # Или оригинальный пакет Microsoft pip install pyautogen # С поддержкой Docker-санбокса для выполнения кода pip install 'ag2[docker]' # С поддержкой всех LLM-провайдеров pip install 'ag2[openai,anthropic,gemini,ollama]' # Пример: два агента решают задачу from autogen import AssistantAgent, UserProxyAgent assistant = AssistantAgent( name="assistant", llm_config={"model": "gpt-4o-mini", "api_key": "YOUR_KEY"} ) user_proxy = UserProxyAgent( name="user_proxy", human_input_mode="NEVER", code_execution_config={"work_dir": "coding", "use_docker": False} ) user_proxy.initiate_chat( assistant, message="Write a Python script that finds prime numbers up to 100" )

admin

CrewAI

v1.15.1

Framework Dev Tools Бесплатно

by crewAI Inc

✔ Python 3.10+, OpenAI, Anthropic, Ollama, LiteLLM

Фреймворк для оркестрации автономных AI-агентов, работающих совместно как команда. Каждый агент получает роль, цель и набор инструментов; CrewAI координирует их взаимодействие, делегирование задач и последовательность …

GitHub Документация Сайт

# pip pip install crewai # pip с дополнительными инструментами (поиск, scraping и т.д.) pip install 'crewai[tools]' # Проверка установки crewai --version # Создать новый проект crewai create crew my_crew cd my_crew # Запустить команду агентов crewai run # Пример минимального кода # pip install crewai langchain-openai from crewai import Agent, Task, Crew, Process researcher = Agent( role='Researcher', goal='Find and summarize information', backstory='Expert at finding relevant information', verbose=True ) task = Task( description='Research the latest trends in AI agents', expected_output='A bullet-point summary of 5 key trends', agent=researcher ) crew = Crew(agents=[researcher], tasks=[task], process=Process.sequential) result = crew.kickoff() print(result)

admin

DSPy

v3.2.1

Framework Dev Tools Open Source

by Stanford NLP (open source)

✔ Python 3.10+, любые LLM через API

Фреймворк для программирования языковых моделей вместо их промптирования. Вместо написания промптов вручную — описываете задачу через сигнатуры и пайплайны, а DSPy оптимизирует промпты автоматически. Концепции: …

GitHub Docs

# pip: pip install dspy # Пример: import dspy lm = dspy.LM("anthropic/claude-opus-4-5") dspy.configure(lm=lm) class QA(dspy.Signature): """Ответ на вопрос.""" question: str = dspy.InputField() answer: str = dspy.OutputField() qa = dspy.ChainOfThought(QA) print(qa(question="Что такое RAG?").answer)

admin

FastMCP

v3.4.3

MCP MCP Servers Open Source

Python-фреймворк для быстрого создания MCP-серверов. Декораторы @mcp.tool, @mcp.resource, @mcp.prompt — минимальный бойлерплейт. Поддерживает HTTP/SSE и stdio транспорты, встроенное тестирование, composition нескольких серверов.

GitHub

# Claude Desktop — claude_desktop_config.json: { "mcpServers": { "fastmcp-fs": { "command": "uvx", "args": ["fastmcp", "run", "filesystem_server.py"] } } } # Claude Code (CLI): claude mcp add fastmcp-fs -- uvx fastmcp run filesystem_server.py # OpenCode — ~/.config/opencode/opencode.json: { "mcp": { "fastmcp-fs": { "type": "local", "command": ["uvx", "fastmcp", "run", "filesystem_server.py"] } } }

admin

Guidance

v0.3.2

Framework AI Assistants Open Source

by guidance-ai / Microsoft (open source)

✔ Python 3.8+, transformers, llama.cpp, OpenAI, Azure

Guidance — фреймворк для контролируемой генерации текста с языковыми моделями. Позволяет интерливать генерацию и логику: ветвления, циклы, констрейнты — всё как часть одной программы на …

GitHub

# pip: pip install guidance # С поддержкой llama.cpp: pip install "guidance[llamacpp]" # Пример: import guidance from guidance import models, gen, select lm = models.LlamaCpp("model.gguf") with guidance.system(): lm += "You are a helpful assistant." with guidance.user(): lm += "Is the sky blue? Answer yes or no." with guidance.assistant(): lm += select(["yes", "no"], name="answer") print(lm["answer"]) # "yes"

admin

Marvin

v3.2.7

Framework AI Assistants Open Source

by Prefect (open source)

✔ Python 3.10+, OpenAI, Anthropic, Azure OpenAI

Marvin — прагматичный AI toolkit от Prefect для добавления AI-функций в Python-приложения. Акцент на типизированные AI-функции: extract, classify, transform, generate — без лишнего boilerplate. Возможности: …

GitHub Docs

# pip: pip install marvin # Настройка: export OPENAI_API_KEY="sk-..." # или для Claude: export ANTHROPIC_API_KEY="sk-ant-..." export MARVIN_LLM_BACKEND=anthropic # Пример: import marvin from pydantic import BaseModel class Location(BaseModel): city: str country: str locations = marvin.extract( "I visited Paris and Tokyo last year", target=list[Location] ) # [Location(city="Paris", country="France"), ...]

admin

Mem0

v2.0.11

Framework Dev Tools Freemium

by Mem0 AI

✔ Python 3.8+, Node.js, OpenAI, Anthropic, Ollama, Qdrant, Chroma, Pinecone

Адаптивный слой памяти для AI-агентов и чат-приложений. Автоматически извлекает важные факты из диалогов, организует их в структурированное хранилище и подгружает релевантный контекст при следующих обращениях. …

GitHub Документация Сайт

# pip (Python SDK) pip install mem0ai # Node.js SDK npm install mem0ai # Пример: базовое использование (Python, in-memory для быстрого старта) import os from mem0 import Memory os.environ["OPENAI_API_KEY"] = "YOUR_KEY" m = Memory() user_id = "alice" # Сохранить факты из диалога m.add("I prefer Python over JavaScript", user_id=user_id) m.add("I'm building a trading bot with 3 strategies", user_id=user_id) m.add("My timezone is UTC+3", user_id=user_id) # Поиск релевантной памяти results = m.search("What language does the user prefer?", user_id=user_id) print(results) # [{'memory': 'Prefers Python over JavaScript', 'score': 0.97}] # Получить всю память пользователя all_memories = m.get_all(user_id=user_id) # Конфиг с Qdrant (персистентное хранение) config = { "llm": {"provider": "anthropic", "config": {"model": "claude-3-5-haiku-20241022"}}, "vector_store": {"provider": "qdrant", "config": {"host": "localhost", "port": 6333}} } m = Memory.from_config(config)

admin

Mirascope

v2.5.0

Framework AI Assistants Open Source

by Mirascope (open source)

✔ Python 3.10+, OpenAI, Anthropic, Gemini, Mistral, Groq, Ollama

Mirascope — элегантная Python-библиотека для работы с LLM с минимальным абстрагированием. Использует декораторы и типизацию вместо сложных цепочек. Совместима со всеми major провайдерами через единый …

GitHub Docs

# pip: pip install mirascope # С поддержкой конкретного провайдера: pip install "mirascope[anthropic]" pip install "mirascope[gemini]" pip install "mirascope[groq]" # Пример: from mirascope.core import anthropic, prompt_template @anthropic.call("claude-sonnet-4-6") @prompt_template("Summarize the following text: {text}") def summarize(text: str): ... response = summarize("Long text here...") print(response.content)

admin

Outlines

v1.3.1

Framework AI Assistants Open Source

by dottxt-ai (open source)

✔ Python 3.9+, локальные модели (llama.cpp, vllm, transformers), OpenAI API

Библиотека для structured generation — генерации структурированного вывода из языковых моделей с гарантированным форматом. Использует grammar-based sampling: модель физически не может выдать невалидный JSON или …

GitHub Docs

# pip: pip install outlines # С поддержкой transformers: pip install "outlines[transformers]" # С llama.cpp: pip install "outlines[llamacpp]" # Пример — Pydantic schema: from pydantic import BaseModel import outlines class Person(BaseModel): name: str age: int model = outlines.models.transformers("mistralai/Mistral-7B-v0.1") generator = outlines.generate.json(model, Person) result = generator("Extract: John is 30 years old") # Person(name="John", age=30)

admin

ell

v0.0.7

Framework AI Assistants Open Source

by MadcowD / William Guss (open source)

✔ Python 3.9+, OpenAI, Anthropic, любой OpenAI-compatible API

ell — prompt engineering language: рассматривает промпты как функции, а не строки. Позволяет писать, версионировать, тестировать и оптимизировать промпты как полноценный код с инструментами разработчика. …

GitHub Website

# pip: pip install ell-ai # С поддержкой антропика: pip install "ell-ai[anthropic]" # Пример: import ell ell.init(store="./logdir", autocommit=True) @ell.simple(model="gpt-4o-mini") def summarize(text: str): """Summarize the following text in one sentence.""" return f"Text: {text}" result = summarize("Long text here...") # Запустить ELL Studio: ell-studio --storage ./logdir

admin

smolagents

v1.26.0

Framework Dev Tools Open Source

by Hugging Face (open source)

✔ Python 3.10+, любые LLM через HF или API

Минималистичный фреймворк для создания AI-агентов от HuggingFace. Философия: минимум абстракций, максимум гибкости. Агент как одна функция, а не граф из сотни классов. Особенности: - CodeAgent: …

GitHub Docs

# pip: pip install smolagents # Пример CodeAgent: from smolagents import CodeAgent, tool, HfApiModel @tool def multiply(a: int, b: int) -> int: """Умножает два числа.""" return a * b agent = CodeAgent( tools=[multiply], model=HfApiModel("Qwen/Qwen2.5-Coder-32B-Instruct") ) agent.run("сколько будет 123 * 456?")

admin

Категории

Сортировка

Тип

Доступ