by Langfuse (open source) OpenTelemetry, LangChain, OpenAI SDK, LiteLLM, Python, Node.js, Docker, Kubernetes, Linux, macOS, Windows
Open-source платформа для LLM/агентной observability: трейсинг, evals, prompt management, playground и датасеты. Интегрируется с OpenTelemetry, LangChain, OpenAI SDK, LiteLLM и другими. Self-hosted версия имеет полный паритет функций с облачной — production-grade трейсинг и учёт стоимости токенов без коммерческой лицензии.
Пионер AI-автодополнения кода от GitHub и Microsoft. Интегрируется во все популярные IDE и предлагает дополнения строк, …
AI-редактор кода на базе VS Code с глубокой интеграцией языковых моделей. Одна из самых популярных IDE …
Запускает большие языковые модели локально одной командой — без ручной настройки окружения, драйверов и весов. Скачивает, …
Открытая платформа для визуальной разработки agentic-приложений на LLM: конструктор workflow, RAG-пайплайны, управление промптами и моделями — …
# Self-hosted через docker compose (официальный способ) git clone https://github.com/langfuse/langfuse.git cd langfuse docker compose up -d # Открыть http://localhost:3000, создать проект, получить API-ключи
Документация · Сообщить об ошибке · Запрос функции · Список изменений · Дорожная карта ·
Langfuse — это платформа с открытым исходным кодом для разработки LLM. Она помогает командам совместно разрабатывать, мониторить, оценивать и отлаживать приложения на базе ИИ. Langfuse можно развернуть самостоятельно за считанные минуты и она проверена в боевых условиях. Создана с использованием базы данных ClickHouse с открытым исходным кодом.
🧑💻 Мы нанимаем
Langfuse быстро растёт (за последние 6 месяцев команда удвоилась) — с января 2026 года мы являемся частью ClickHouse, ищем инженеров в гибридном формате по всей ЕС. Мы нанимаем инженеров, которые любят open source и отличный опыт разработчиков. Смотреть открытые вакансии →
Управляемое развёртывание командой Langfuse, щедрый бесплатный тариф, кредитная карта не требуется.
Запустите Langfuse на собственной инфраструктуре:
Локально (docker compose): Запустите Langfuse на своём компьютере за 5 минут с помощью Docker Compose.
```bash
git clone --depth=1 https://github.com/langfuse/langfuse.git cd langfuse
docker compose up ```
Дополнительную информацию об архитектуре и параметрах конфигурации см. в документации по самостоятельному развёртыванию.
[!TIP] Самостоятельное развёртывание Langfuse? Подпишитесь на список обновлений для самостоятельного развёртывания, чтобы получать письма о важных функциях и новых релизах для open source Langfuse — только обновления по самостоятельному развёртыванию, без маркетинга.
| Интеграция | Поддерживается | Описание |
|---|---|---|
| SDK | Python, JS/TS | Ручная инструментация с помощью SDK для полной гибкости. |
| OpenAI | Python, JS/TS | Автоматическая инструментация с помощью замены OpenAI SDK. |
| Langchain | Python, JS/TS | Автоматическая инструментация путём передачи обработчика обратных вызовов в приложение Langchain. |
| LlamaIndex | Python | Автоматическая инструментация через систему обратных вызовов LlamaIndex. |
| Haystack | Python | Автоматическая инструментация через систему трассировки контента Haystack. |
| LiteLLM | Python, JS/TS (только прокси) | Используйте любую LLM в качестве замены GPT. Поддерживаются Azure, OpenAI, Cohere, Anthropic, Ollama, VLLM, Sagemaker, HuggingFace, Replicate (100+ LLM). |
| Vercel AI SDK | JS/TS | Набор инструментов TypeScript для создания приложений с поддержкой ИИ на базе React, Next.js, Vue, Svelte, Node.js. |
| Mastra | JS/TS | Open source фреймворк для создания ИИ-агентов и мультиагентных систем. |
| API | Прямой вызов публичного API. Доступна спецификация OpenAPI. | |
| ### Пакеты, интегрированные с Langfuse: |
| Название | Тип | Описание |
|---|---|---|
| Instructor | Библиотека | Библиотека для получения структурированных выходных данных LLM (JSON, Pydantic) |
| DSPy | Библиотека | Фреймворк для систематической оптимизации промптов и весов языковых моделей |
| Mirascope | Библиотека | Python-тулкит для создания приложений на базе LLM. |
| Ollama | Модель (локальная) | Простой запуск открытых LLM на вашем компьютере. |
| Amazon Bedrock | Модель | Запуск базовых и дообученных моделей на AWS. |
| AutoGen | Фреймворк агентов | Открытая платформа для создания распределённых агентов на базе LLM. |
| Flowise | Чат/Агент UI | JS/TS-конструктор без кода для настройки потоков LLM. |
| Langflow | Чат/Агент UI | Python-интерфейс для LangChain на базе react-flow, упрощающий эксперименты и прототипирование потоков. |
| Dify | Чат/Агент UI | Открытая платформа для разработки приложений на базе LLM с конструктором без кода. |
| OpenWebUI | Чат/Агент UI | Самостоятельно размещаемый веб-интерфейс чата LLM, поддерживающий различные раннеры моделей, включая локальные. |
| Promptfoo | Инструмент | Открытая платформа для тестирования LLM. |
| LobeChat | Чат/Агент UI | Открытая платформа для чат-ботов. |
| Vapi | Платформа | Открытая платформа для голосового ИИ. |
| Inferable | Агенты | Открытая платформа для создания распределённых агентов на базе LLM. |
| Gradio | Чат/Агент UI | Открытая Python-библиотека для создания веб-интерфейсов, таких как чат-UI. |
| Goose | Агенты | Открытая платформа для создания распределённых агентов на базе LLM. |
| smolagents | Агенты | Открытый фреймворк для ИИ-агентов. |
| CrewAI | Агенты | Фреймворк для многозадачных агентов с поддержкой коллаборации и использования инструментов. |
Интегрируйте своё приложение и начните отправлять трейсы в Langfuse, чтобы отслеживать вызовы LLM и другую логику приложения, такую как поиск, эмбеддинги или действия агентов. Просматривайте и отлаживайте сложные логи и пользовательские сессии.
Декоратор @observe() упрощает трассировку любого Python-приложения с использованием LLM. В этом кратком руководстве мы также используем интеграцию Langfuse с OpenAI для автоматического захвата всех параметров модели.
[!TIP] Не используете OpenAI? Посетите нашу документацию, чтобы узнать, как логировать другие модели и фреймворки.
pip install langfuse openai
```bash filename=".env" LANGFUSE_SECRET_KEY="sk-lf-..." LANGFUSE_PUBLIC_KEY="pk-lf-..." LANGFUSE_BASE_URL="https://cloud.langfuse.com" # 🇪🇺 EU region
```python /@observe()/ /from langfuse.openai import openai/ filename="main.py"
from langfuse import observe
from langfuse.openai import openai # OpenAI integration
@observe()
def story():
return openai.chat.completions.create(
model="gpt-4o",
messages=[{"role": "user", "content": "What is Langfuse?"}],
).choices[0].message.content
@observe()
def main():
return story()
main()
Просматривайте вызовы языковых моделей и другую логику приложения в Langfuse.
Пример публичного трейса в Langfuse
Поиск ответа на ваш вопрос:
Каналы поддержки:
Ваш вклад приветствуется!
Этот репозиторий распространяется под лицензией MIT, за исключением папок ee. Подробности смотрите в LICENSE и документации.
Мы развёртываем этот код в Docker-контейнерах на базе Linux Alpine (исходник). Dockerfile можно найти в web/Dockerfile и worker/Dockerfile.
Топовые открытые Python-проекты, использующие Langfuse, отсортированные по количеству звёзд (Источник):
| Репозиторий | Звёзды |
|---|---|
| 116251 | |
| 109642 | |
| 70877 | |
| 65454 | |
| 64118 | |
| 56713 | |
| 44203 | |
| 43547 | |
| 38415 | |
| 38012 | |
| 36071 | |
| 35669 | |
| 33142 | |
| 28726 | |
| 22447 | |
| 21748 | |
| 17976 | |
| 17057 | |
| 16484 | |
| 16054 | |
| 11868 | |
| 8350 | |
| 8313 | |
| 7093 | |
| 7011 | |
| 6785 | |
| 6231 | |
| --- |
| hatchet-dev / hatchet | 6019 |
|
zenml-io / zenml | 4873 |
|
refly-ai / refly | 4654 |
|
coleam00 / ottomator-agents | 4165 |
|
JoshuaC215 / набор инструментов для агентских сервисов | 3557 |
|
colanode / colanode | 3517 |
|
VoltAgent / voltagent | 3210 |
|
bragai / bRAG-langchain | 3010 |
|
pingcap / autoflow | 2651 |
|
sourcebot-dev / sourcebot | 2570 |
|
open-webui / конвейеры | 2055 |
|
YFGaia / dify-plus | 1734 |
|
TheSpaghettiDetective / сервер Obico | 1687 |
|
MLSysOps / агент MLE | 1387 |
|
TIGER-AI-Lab / агент для объяснения теорем | 1385 |
|
trailofbits / buttercup | 1223 |
|
wassim249 / шаблон агента LangGraph для FastAPI, готовый к продакшену | 1200 |
|
alishobeiri / thread | 1098 |
|
dmayboroda / minima | 1010 |
|
zstar1003 / ragflow-plus | 993 |
|
openops-cloud / openops | 939 |
|
dynamiq-ai / dynamiq | 927 |
|
xataio / агент | 857 |
|
plastic-labs / tutor-gpt | 845 |
|
trendy-design / llmchat | 829 |
|
hotovo / служба поддержки aider | 781 |
|
opslane / opslane | 719 |
|
wrtnlabs / autoview | 688 |
|
andysingal / курс по большим языковым моделям | 643 |
|
theopenconversationkit / tock | 587 |
|
sentient-engineering / agent-q | 487 |
|
NicholasGoh / шаблон FastAPI MCP LangGraph | 481 |
|
i-am-alice / 3rd-devs | 472 |
|
AIDotNet / koala-ai | 470 |
|
phospho-app / устаревший анализ текста | 439 |
|
inferablehq / inferable | 403 |
|
duoyang666 / ai_novel | 397 |
|
strands-agents / примеры | 385 |
|
FranciscoMoretti / sparka | 380 |
|
RobotecAI / rai | 373 |
|
ElectricCodeGuy / аутентификация Supabase с SSR | 370 |
|
souzatharsis / укрощение больших языковых моделей | 323 |
|
aws-samples / aws-ai-ml-workshop-kr | 295 |
|
weizxfree / KnowFlow | 285 |
|
zenml-io / zenml-projects | 276 |
|
wxai-space / LightAgent | 275 |
|
Ozamatash / deep-research-mcp | 269 |
|
sql-agi / DB-GPT | 241 |
|
guyernest / advanced-rag | 238 |
|
bklieger-groq / mathtutor-on-groq | 233 |
|
plastic-labs / honcho | 224 |
|
OVINC-CN / OpenWebUI | 202 |
|
zhutoutoutousan / worldquant-miner | 202 |
|
iceener / ai | 186 |
|
giselles-ai / giselle | 181 |
|
ai-shifu / ai-shifu | 181 |
|
aws-samples / sample-serverless-mcp-servers | 175 |
|
celerforge / freenote | 171 |
|
babelcloud / LLM-RGB | 164 |
|
8090-inc / xrx-sample-apps | 163 |
|
deepset-ai / haystack-core-integrations | 163 |
|
codecentric / c4-genai-suite | 152 |
|
XSpoonAi / spoon-core | 150 |
|
chatchat-space / LangGraph-Chatchat | 144 |
|
langfuse / Документация Langfuse | 139 |
|
piyushgarg-dev / genai-cohort | 135 |
|
i-dot-ai / redbox | 132 |
|
bmd1905 / ChatOpsLLM | 127 |
|
Fintech-Dreamer / FinSynth | 121 |
|
kenshiro-o / nagato-ai | 119 |
Мы серьёзно относимся к безопасности данных и конфиденциальности. Дополнительную информацию можно найти на странице Безопасность и конфиденциальность.
По умолчанию Langfuse автоматически отправляет базовую статистику использования самохостинговых экземпляров на централизованный сервер (PostHog).
Это помогает нам:
Телеметрия не включает сырые трейсы, промпты, наблюдения, оценки или содержимое датасетов. Мы документируем точные поля, которые собираются, куда они отправляются и ссылку на реализацию в нашей документации по телеметрии.
Для открытой версии Langfuse (OSS) вы можете отказаться от телеметрии, установив TELEMETRY_ENABLED=false.
