AI Toolkit

v0.14.0

Framework Dev Tools Бесплатно

by AG2 Community

✔ Python 3.9+, OpenAI, Azure, Gemini, Anthropic, Ollama

Мультиагентный фреймворк для создания систем, где несколько LLM-агентов ведут диалог и совместно решают задачи. Поддерживает человека в цикле (human-in-the-loop), выполнение кода в изолированной среде, групповой …

GitHub (AG2) Документация Сайт

# pip (AG2 — активно поддерживаемый форк) pip install ag2 # Или оригинальный пакет Microsoft pip install pyautogen # С поддержкой Docker-санбокса для выполнения кода pip install 'ag2[docker]' # С поддержкой всех LLM-провайдеров pip install 'ag2[openai,anthropic,gemini,ollama]' # Пример: два агента решают задачу from autogen import AssistantAgent, UserProxyAgent assistant = AssistantAgent( name="assistant", llm_config={"model": "gpt-4o-mini", "api_key": "YOUR_KEY"} ) user_proxy = UserProxyAgent( name="user_proxy", human_input_mode="NEVER", code_execution_config={"work_dir": "coding", "use_docker": False} ) user_proxy.initiate_chat( assistant, message="Write a Python script that finds prime numbers up to 100" )

admin

Axolotl

v0.17.0

Framework Dev Tools Open Source

by OpenAccess AI Collective

✔ Llama, Mistral, Falcon, Phi, Gemma, Qwen

Фреймворк для дообучения (fine-tuning) языковых моделей. Поддерживает LoRA, QLoRA, полный файн-тюнинг, DPO, RLHF и другие техники. Конфигурация через YAML-файлы, встроенная интеграция с HuggingFace, поддержка мультиGPU …

GitHub Документация

pip install axolotl # или из источника git clone https://github.com/axolotl-ai-cloud/axolotl cd axolotl && pip install -e ".[flash-attn,deepspeed]" # Запуск обучения по конфигу axolotl train config.yaml # Примеры конфигов: examples/llama-3/

admin

CrewAI

v1.15.1

Framework Dev Tools Бесплатно

by crewAI Inc

✔ Python 3.10+, OpenAI, Anthropic, Ollama, LiteLLM

Фреймворк для оркестрации автономных AI-агентов, работающих совместно как команда. Каждый агент получает роль, цель и набор инструментов; CrewAI координирует их взаимодействие, делегирование задач и последовательность …

GitHub Документация Сайт

# pip pip install crewai # pip с дополнительными инструментами (поиск, scraping и т.д.) pip install 'crewai[tools]' # Проверка установки crewai --version # Создать новый проект crewai create crew my_crew cd my_crew # Запустить команду агентов crewai run # Пример минимального кода # pip install crewai langchain-openai from crewai import Agent, Task, Crew, Process researcher = Agent( role='Researcher', goal='Find and summarize information', backstory='Expert at finding relevant information', verbose=True ) task = Task( description='Research the latest trends in AI agents', expected_output='A bullet-point summary of 5 key trends', agent=researcher ) crew = Crew(agents=[researcher], tasks=[task], process=Process.sequential) result = crew.kickoff() print(result)

admin

DSPy

v3.2.1

Framework Dev Tools Open Source

by Stanford NLP (open source)

✔ Python 3.10+, любые LLM через API

Фреймворк для программирования языковых моделей вместо их промптирования. Вместо написания промптов вручную — описываете задачу через сигнатуры и пайплайны, а DSPy оптимизирует промпты автоматически. Концепции: …

GitHub Docs

# pip: pip install dspy # Пример: import dspy lm = dspy.LM("anthropic/claude-opus-4-5") dspy.configure(lm=lm) class QA(dspy.Signature): """Ответ на вопрос.""" question: str = dspy.InputField() answer: str = dspy.OutputField() qa = dspy.ChainOfThought(QA) print(qa(question="Что такое RAG?").answer)

admin

Dify

v1.16.0

Framework Dev Tools Open Source

by LangGenius

✔ OpenAI, Anthropic, локальные модели через Ollama/vLLM и др.

Открытая платформа для визуальной разработки agentic-приложений на LLM: конструктор workflow, RAG-пайплайны, управление промптами и моделями — всё в едином рабочем пространстве без необходимости писать инфраструктурный …

GitHub

git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d # Веб-интерфейс на localhost

admin

Letta

v0.16.8

Framework Dev Tools Open Source

by Letta AI

✔ OpenAI, Anthropic и другие LLM-провайдеры

Платформа для агентов с настоящей долговременной памятью (бывший MemGPT): управляет контекстным окном LLM подобно тому, как ОС управляет виртуальной памятью — автоматически выгружая и подгружая …

GitHub

pip install letta letta server # либо через Docker: docker run -p 8283:8283 letta/letta:latest

admin

LiteLLM

v1.90.0

Framework Dev Tools Open Source ★

by BerriAI (open source)

✔ Python, 100+ LLM провайдеров

Единый OpenAI-совместимый API для 100+ LLM-провайдеров. Переключай модели одной строкой без изменения кода — плюс прокси, балансировка нагрузки, fallback и мониторинг. Возможности: - Единый интерфейс: …

GitHub Docs

# pip: pip install litellm # Пример: from litellm import completion # OpenAI: completion(model="gpt-4o", messages=[{"role": "user", "content": "Hi"}]) # Anthropic — та же функция: completion(model="claude-opus-4-5", messages=[{"role": "user", "content": "Hi"}]) # Ollama: completion(model="ollama/llama3", messages=[...]) # Запустить прокси: litellm --model anthropic/claude-opus-4-5 # → слушает на http://0.0.0.0:4000 (OpenAI-совместимый)

admin

Mem0

v2.0.11

Framework Dev Tools Freemium

by Mem0 AI

✔ Python 3.8+, Node.js, OpenAI, Anthropic, Ollama, Qdrant, Chroma, Pinecone

Адаптивный слой памяти для AI-агентов и чат-приложений. Автоматически извлекает важные факты из диалогов, организует их в структурированное хранилище и подгружает релевантный контекст при следующих обращениях. …

GitHub Документация Сайт

# pip (Python SDK) pip install mem0ai # Node.js SDK npm install mem0ai # Пример: базовое использование (Python, in-memory для быстрого старта) import os from mem0 import Memory os.environ["OPENAI_API_KEY"] = "YOUR_KEY" m = Memory() user_id = "alice" # Сохранить факты из диалога m.add("I prefer Python over JavaScript", user_id=user_id) m.add("I'm building a trading bot with 3 strategies", user_id=user_id) m.add("My timezone is UTC+3", user_id=user_id) # Поиск релевантной памяти results = m.search("What language does the user prefer?", user_id=user_id) print(results) # [{'memory': 'Prefers Python over JavaScript', 'score': 0.97}] # Получить всю память пользователя all_memories = m.get_all(user_id=user_id) # Конфиг с Qdrant (персистентное хранение) config = { "llm": {"provider": "anthropic", "config": {"model": "claude-3-5-haiku-20241022"}}, "vector_store": {"provider": "qdrant", "config": {"host": "localhost", "port": 6333}} } m = Memory.from_config(config)

admin

Ollama

v0.32.4

Framework Dev Tools Open Source

by Ollama

✔ Llama, DeepSeek, Qwen, Gemma и др. открытые модели

Запускает большие языковые модели локально одной командой — без ручной настройки окружения, драйверов и весов. Скачивает, квантует и обслуживает модели через простой CLI и OpenAI-совместимый …

GitHub

curl -fsSL https://ollama.com/install.sh | sh ollama run llama3.2 ollama pull deepseek-r1 # OpenAI-совместимый API на localhost:11434

admin

RAGFlow

v0.26.4

Framework Dev Tools Open Source

by InfiniFlow

✔ OpenAI, локальные модели, множество форматов документов

RAG-движок с по-настоящему глубоким пониманием документов: корректно разбирает сложные PDF, таблицы, сканы и многостраничные отчёты, а не просто режет текст на чанки вслепую. Совмещает классический …

GitHub

git clone https://github.com/infiniflow/ragflow.git cd ragflow/docker docker compose -f docker-compose.yml up -d # Веб-интерфейс на localhost

admin

browser-use

v0.13.3

Framework Dev Tools Open Source

by browser-use (open source)

✔ Python, Playwright, любые LLM через LangChain

Фреймворк для управления браузером AI-агентом. Агент видит страницу, кликает, заполняет формы, навигирует — как настоящий пользователь, но управляемый LLM. Возможности: - Playwright под капотом: Chrome, …

GitHub Docs

# pip: pip install browser-use playwright playwright install chromium # Пример: from browser_use import Agent from langchain_anthropic import ChatAnthropic import asyncio agent = Agent( task="Найди цену iPhone 16 на amazon.com", llm=ChatAnthropic(model="claude-opus-4-5"), ) result = asyncio.run(agent.run()) print(result)

admin

fabric

v1.4.455

Framework Dev Tools Open Source ★

by Daniel Miessler (community)

✔ Windows, macOS, Linux

Фреймворк для "дополнения человека с помощью AI" через систему паттернов. Каждый паттерн — промпт для конкретной задачи: суммаризация, извлечение идей, создание контента, анализ угроз безопасности. …

GitHub

# Go (рекомендуется): go install github.com/danielmiessler/fabric@latest # Первоначальная настройка: fabric --setup # Примеры: # Суммаризовать YouTube видео: yt https://youtube.com/watch?v=... | fabric -p extract_wisdom # Анализ текста: echo "текст" | fabric -p summarize # Список паттернов: fabric -l

admin

Категории

Сортировка

Тип

Доступ