Langfuse

by Langfuse (open source) · OpenTelemetry, LangChain, OpenAI SDK, LiteLLM, Python, Node.js, Docker, Kubernetes, Linux, macOS, Windows

Tool Dev Tools Open Source активный

Open-source платформа для LLM/агентной observability: трейсинг, evals, prompt management, playground и датасеты. Интегрируется с OpenTelemetry, LangChain, OpenAI SDK, LiteLLM и другими. Self-hosted версия имеет полный паритет функций с облачной — production-grade трейсинг и учёт стоимости токенов без коммерческой лицензии.

v4.16.0
21.08.2026
v4.16.0
21.08.2026 current

Установка
# Self-hosted через docker compose (официальный способ)
git clone https://github.com/langfuse/langfuse.git
cd langfuse
docker compose up -d

# Открыть http://localhost:3000, создать проект, получить API-ключи
показать оригинал переведено ИИ

hero-b (1)

Langfuse Cloud · Самостоятельный хостинг · Демо

Документация · Сообщить об ошибке · Запрос функции · Список изменений · Дорожная карта ·


MIT License Y Combinator W23 Docker Pulls langfuse Python package on PyPi langfuse npm package
chat on Discord follow on X(Twitter) follow on LinkedIn Commits last month Issues closed Discussion posts

README in English 简体中文版自述文件 日本語のREADME README in Korean

Langfuse — это платформа с открытым исходным кодом для разработки LLM. Она помогает командам совместно разрабатывать, мониторить, оценивать и отлаживать приложения на базе ИИ. Langfuse можно развернуть самостоятельно за считанные минуты и она проверена в боевых условиях. Создана с использованием базы данных ClickHouse с открытым исходным кодом.

🧑‍💻 Мы нанимаем

Langfuse быстро растёт (за последние 6 месяцев команда удвоилась) — с января 2026 года мы являемся частью ClickHouse, ищем инженеров в гибридном формате по всей ЕС. Мы нанимаем инженеров, которые любят open source и отличный опыт разработчиков. Смотреть открытые вакансии →

✨ Основные возможности

features

  • Наблюдаемость LLM-приложений: Инструментируйте своё приложение и начните отправлять трейсы в Langfuse, отслеживая вызовы LLM и другую логику, такую как поиск, эмбеддинги или действия агентов. Просматривайте и отлаживайте сложные логи и пользовательские сессии. Попробуйте интерактивную демо-версию, чтобы увидеть это в действии.
  • Управление промптами помогает централизованно управлять, контролировать версии и совместно дорабатывать промпты. Благодаря мощному кэшированию на стороне сервера и клиента вы можете дорабатывать промпты без добавления задержек в приложение.
  • Оценки — ключевой элемент рабочего процесса разработки LLM-приложений, и Langfuse адаптируется под ваши нужды. Поддерживаются LLM-as-a-judge, кодовые оценщики, сбор отзывов пользователей, ручная разметка и пользовательские пайплайны оценки через API/SDK.
  • Наборы данных позволяют создавать тестовые наборы и бенчмарки для оценки вашего LLM-приложения. Они поддерживают непрерывное улучшение, предварительное тестирование перед деплоем, структурированные эксперименты, гибкую оценку и бесшовную интеграцию с фреймворками, такими как LangChain и LlamaIndex.
  • LLM Playground — инструмент для тестирования и доработки промптов и конфигураций моделей, сокращающий цикл обратной связи и ускоряющий разработку. Увидев плохой результат в трейсинге, вы можете сразу перейти в playground, чтобы доработать его.
  • Комплексный API: Langfuse часто используется для создания кастомных LLMOps-рабочих процессов с использованием строительных блоков, предоставляемых Langfuse через API. Доступны спецификация OpenAPI, коллекция Postman и типизированные SDK для Python, JS/TS.

📦 Развёртывание Langfuse

deploy

Langfuse Cloud

Управляемое развёртывание командой Langfuse, щедрый бесплатный тариф, кредитная карта не требуется.

Static Badge

Самостоятельное развёртывание Langfuse

Запустите Langfuse на собственной инфраструктуре:

  • Локально (docker compose): Запустите Langfuse на своём компьютере за 5 минут с помощью Docker Compose.

    ```bash

    Получите копию последней версии репозитория Langfuse

    git clone --depth=1 https://github.com/langfuse/langfuse.git cd langfuse

    Запустите docker compose для Langfuse

    docker compose up ```

  • Виртуальная машина: Запустите Langfuse на одной виртуальной машине с помощью Docker Compose.
  • Kubernetes (Helm): Запустите Langfuse в кластере Kubernetes с помощью Helm. Это предпочтительный вариант для продакшена.
  • Шаблоны Terraform: AWS, Azure, GCP

Дополнительную информацию об архитектуре и параметрах конфигурации см. в документации по самостоятельному развёртыванию.

[!TIP] Самостоятельное развёртывание Langfuse? Подпишитесь на список обновлений для самостоятельного развёртывания, чтобы получать письма о важных функциях и новых релизах для open source Langfuse — только обновления по самостоятельному развёртыванию, без маркетинга.

🔌 Интеграции

integrations

Основные интеграции:

Интеграция Поддерживается Описание
SDK Python, JS/TS Ручная инструментация с помощью SDK для полной гибкости.
OpenAI Python, JS/TS Автоматическая инструментация с помощью замены OpenAI SDK.
Langchain Python, JS/TS Автоматическая инструментация путём передачи обработчика обратных вызовов в приложение Langchain.
LlamaIndex Python Автоматическая инструментация через систему обратных вызовов LlamaIndex.
Haystack Python Автоматическая инструментация через систему трассировки контента Haystack.
LiteLLM Python, JS/TS (только прокси) Используйте любую LLM в качестве замены GPT. Поддерживаются Azure, OpenAI, Cohere, Anthropic, Ollama, VLLM, Sagemaker, HuggingFace, Replicate (100+ LLM).
Vercel AI SDK JS/TS Набор инструментов TypeScript для создания приложений с поддержкой ИИ на базе React, Next.js, Vue, Svelte, Node.js.
Mastra JS/TS Open source фреймворк для создания ИИ-агентов и мультиагентных систем.
API Прямой вызов публичного API. Доступна спецификация OpenAPI.
### Пакеты, интегрированные с Langfuse:
Название Тип Описание
Instructor Библиотека Библиотека для получения структурированных выходных данных LLM (JSON, Pydantic)
DSPy Библиотека Фреймворк для систематической оптимизации промптов и весов языковых моделей
Mirascope Библиотека Python-тулкит для создания приложений на базе LLM.
Ollama Модель (локальная) Простой запуск открытых LLM на вашем компьютере.
Amazon Bedrock Модель Запуск базовых и дообученных моделей на AWS.
AutoGen Фреймворк агентов Открытая платформа для создания распределённых агентов на базе LLM.
Flowise Чат/Агент UI JS/TS-конструктор без кода для настройки потоков LLM.
Langflow Чат/Агент UI Python-интерфейс для LangChain на базе react-flow, упрощающий эксперименты и прототипирование потоков.
Dify Чат/Агент UI Открытая платформа для разработки приложений на базе LLM с конструктором без кода.
OpenWebUI Чат/Агент UI Самостоятельно размещаемый веб-интерфейс чата LLM, поддерживающий различные раннеры моделей, включая локальные.
Promptfoo Инструмент Открытая платформа для тестирования LLM.
LobeChat Чат/Агент UI Открытая платформа для чат-ботов.
Vapi Платформа Открытая платформа для голосового ИИ.
Inferable Агенты Открытая платформа для создания распределённых агентов на базе LLM.
Gradio Чат/Агент UI Открытая Python-библиотека для создания веб-интерфейсов, таких как чат-UI.
Goose Агенты Открытая платформа для создания распределённых агентов на базе LLM.
smolagents Агенты Открытый фреймворк для ИИ-агентов.
CrewAI Агенты Фреймворк для многозадачных агентов с поддержкой коллаборации и использования инструментов.

🚀 Быстрый старт

Интегрируйте своё приложение и начните отправлять трейсы в Langfuse, чтобы отслеживать вызовы LLM и другую логику приложения, такую как поиск, эмбеддинги или действия агентов. Просматривайте и отлаживайте сложные логи и пользовательские сессии.

1️⃣ Создайте новый проект

  1. Зарегистрируйте аккаунт в Langfuse или разверните самостоятельно
  2. Создайте новый проект
  3. Создайте новые API-учётные данные в настройках проекта

2️⃣ Зафиксируйте первый вызов LLM

Декоратор @observe() упрощает трассировку любого Python-приложения с использованием LLM. В этом кратком руководстве мы также используем интеграцию Langfuse с OpenAI для автоматического захвата всех параметров модели.

[!TIP] Не используете OpenAI? Посетите нашу документацию, чтобы узнать, как логировать другие модели и фреймворки.

pip install langfuse openai

```bash filename=".env" LANGFUSE_SECRET_KEY="sk-lf-..." LANGFUSE_PUBLIC_KEY="pk-lf-..." LANGFUSE_BASE_URL="https://cloud.langfuse.com" # 🇪🇺 EU region

LANGFUSE_BASE_URL="https://us.cloud.langfuse.com" # 🇺🇸 US region


```python /@observe()/ /from langfuse.openai import openai/ filename="main.py"
from langfuse import observe
from langfuse.openai import openai # OpenAI integration

@observe()
def story():
    return openai.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "What is Langfuse?"}],
    ).choices[0].message.content

@observe()
def main():
    return story()

main()

3️⃣ Просмотрите трейсы в Langfuse

Просматривайте вызовы языковых моделей и другую логику приложения в Langfuse.

example-trace-for-github

Пример публичного трейса в Langfuse

💭 Поддержка

Поиск ответа на ваш вопрос:

  • Наша документация — лучшее место для начала поиска ответов. Она содержит исчерпывающую информацию, и мы тратим значительное время на её поддержку. Вы также можете предлагать правки в документацию через GitHub.
  • Часто задаваемые вопросы по Langfuse, где даны ответы на самые распространённые вопросы.
  • Используйте "Задать вопрос ИИ", чтобы мгновенно получить ответы на свои вопросы.

Каналы поддержки:

🤝 Участие в разработке

Ваш вклад приветствуется!

  • Голосуйте за идеи в GitHub Discussions.
  • Создавайте и комментируйте проблемы.
  • Открывайте PR — подробности о настройке среды разработки смотрите в CONTRIBUTING.md.

🥇 Лицензия

Этот репозиторий распространяется под лицензией MIT, за исключением папок ee. Подробности смотрите в LICENSE и документации.

Зависимости

Мы развёртываем этот код в Docker-контейнерах на базе Linux Alpine (исходник). Dockerfile можно найти в web/Dockerfile и worker/Dockerfile.

⭐️ История звёзд

Star History Chart

❤️ Открытые проекты, использующие Langfuse

Топовые открытые Python-проекты, использующие Langfuse, отсортированные по количеству звёзд (Источник):

Репозиторий Звёзды
  langflow-ai / langflow 116251
  open-webui / open-webui 109642
  abi / screenshot-to-code 70877
  lobehub / lobe-chat 65454
  infiniflow / ragflow 64118
  firecrawl / firecrawl 56713
  run-llama / llama_index 44203
  FlowiseAI / Flowise 43547
  QuivrHQ / quivr 38415
  microsoft / ai-agents-for-beginners 38012
  chatchat-space / Langchain-Chatchat 36071
  mindsdb / mindsdb 35669
  danny-avila / LibreChat 33142
  BerriAI / litellm 28726
  onlook-dev / onlook 22447
  NixOS / nixpkgs 21748
  kortix-ai / suna 17976
  anthropics / courses 17057
  mastra-ai / mastra 16484
  langfuse / langfuse 16054
  Canner / WrenAI 11868
  promptfoo / promptfoo 8350
  The-Pocket / PocketFlow 8313
  OpenPipe / ART 7093
  topoteretes / cognee 7011
  awslabs / agent-squad 6785
  BasedHardware / omi 6231
---

|   hatchet-dev / hatchet | 6019 | |   zenml-io / zenml | 4873 | |   refly-ai / refly | 4654 | |   coleam00 / ottomator-agents | 4165 | |   JoshuaC215 / набор инструментов для агентских сервисов | 3557 | |   colanode / colanode | 3517 | |   VoltAgent / voltagent | 3210 | |   bragai / bRAG-langchain | 3010 | |   pingcap / autoflow | 2651 | |   sourcebot-dev / sourcebot | 2570 | |   open-webui / конвейеры | 2055 | |   YFGaia / dify-plus | 1734 | |   TheSpaghettiDetective / сервер Obico | 1687 | |   MLSysOps / агент MLE | 1387 | |   TIGER-AI-Lab / агент для объяснения теорем | 1385 | |   trailofbits / buttercup | 1223 | |   wassim249 / шаблон агента LangGraph для FastAPI, готовый к продакшену | 1200 | |   alishobeiri / thread | 1098 | |   dmayboroda / minima | 1010 | |   zstar1003 / ragflow-plus | 993 | |   openops-cloud / openops | 939 | |   dynamiq-ai / dynamiq | 927 | |   xataio / агент | 857 | |   plastic-labs / tutor-gpt | 845 | |   trendy-design / llmchat | 829 | |   hotovo / служба поддержки aider | 781 | |   opslane / opslane | 719 | |   wrtnlabs / autoview | 688 | |   andysingal / курс по большим языковым моделям | 643 | |   theopenconversationkit / tock | 587 | |   sentient-engineering / agent-q | 487 | |   NicholasGoh / шаблон FastAPI MCP LangGraph | 481 | |   i-am-alice / 3rd-devs | 472 | |   AIDotNet / koala-ai | 470 | |   phospho-app / устаревший анализ текста | 439 | |   inferablehq / inferable | 403 | |   duoyang666 / ai_novel | 397 | |   strands-agents / примеры | 385 | |   FranciscoMoretti / sparka | 380 | |   RobotecAI / rai | 373 | |   ElectricCodeGuy / аутентификация Supabase с SSR | 370 | |   souzatharsis / укрощение больших языковых моделей | 323 | |   aws-samples / aws-ai-ml-workshop-kr | 295 | |   weizxfree / KnowFlow | 285 | |   zenml-io / zenml-projects | 276 | |   wxai-space / LightAgent | 275 | |   Ozamatash / deep-research-mcp | 269 | |   sql-agi / DB-GPT | 241 | |   guyernest / advanced-rag | 238 | |   bklieger-groq / mathtutor-on-groq | 233 | |   plastic-labs / honcho | 224 | |   OVINC-CN / OpenWebUI | 202 | |   zhutoutoutousan / worldquant-miner | 202 | |   iceener / ai | 186 | |   giselles-ai / giselle | 181 | |   ai-shifu / ai-shifu | 181 | |   aws-samples / sample-serverless-mcp-servers | 175 | |   celerforge / freenote | 171 | |   babelcloud / LLM-RGB | 164 | |   8090-inc / xrx-sample-apps | 163 | |   deepset-ai / haystack-core-integrations | 163 | |   codecentric / c4-genai-suite | 152 | |   XSpoonAi / spoon-core | 150 | |   chatchat-space / LangGraph-Chatchat | 144 | |   langfuse / Документация Langfuse | 139 | |   piyushgarg-dev / genai-cohort | 135 | |   i-dot-ai / redbox | 132 | |   bmd1905 / ChatOpsLLM | 127 | |   Fintech-Dreamer / FinSynth | 121 | |   kenshiro-o / nagato-ai | 119 |

🔒 Безопасность и конфиденциальность

Мы серьёзно относимся к безопасности данных и конфиденциальности. Дополнительную информацию можно найти на странице Безопасность и конфиденциальность.

Телеметрия

По умолчанию Langfuse автоматически отправляет базовую статистику использования самохостинговых экземпляров на централизованный сервер (PostHog).

Это помогает нам:

  1. Понимать, как используется Langfuse, и улучшать наиболее востребованные функции.
  2. Отслеживать общую статистику использования для внутренней и внешней отчётности (например, для привлечения инвестиций).

Телеметрия не включает сырые трейсы, промпты, наблюдения, оценки или содержимое датасетов. Мы документируем точные поля, которые собираются, куда они отправляются и ссылку на реализацию в нашей документации по телеметрии.

Для открытой версии Langfuse (OSS) вы можете отказаться от телеметрии, установив TELEMETRY_ENABLED=false.

Войдите, чтобы оставить комментарий