AI Toolkit

4 инструментов Сбросить

Marvin

v3.2.7

Framework AI Assistants Open Source

by Prefect (open source)

✔ Python 3.10+, OpenAI, Anthropic, Azure OpenAI

Marvin — прагматичный AI toolkit от Prefect для добавления AI-функций в Python-приложения. Акцент на типизированные AI-функции: extract, classify, transform, generate — без лишнего boilerplate. Возможности: …

GitHub Docs

# pip: pip install marvin # Настройка: export OPENAI_API_KEY="sk-..." # или для Claude: export ANTHROPIC_API_KEY="sk-ant-..." export MARVIN_LLM_BACKEND=anthropic # Пример: import marvin from pydantic import BaseModel class Location(BaseModel): city: str country: str locations = marvin.extract( "I visited Paris and Tokyo last year", target=list[Location] ) # [Location(city="Paris", country="France"), ...]

admin

Mirascope

v2.5.0

Framework AI Assistants Open Source

by Mirascope (open source)

✔ Python 3.10+, OpenAI, Anthropic, Gemini, Mistral, Groq, Ollama

Mirascope — элегантная Python-библиотека для работы с LLM с минимальным абстрагированием. Использует декораторы и типизацию вместо сложных цепочек. Совместима со всеми major провайдерами через единый …

GitHub Docs

# pip: pip install mirascope # С поддержкой конкретного провайдера: pip install "mirascope[anthropic]" pip install "mirascope[gemini]" pip install "mirascope[groq]" # Пример: from mirascope.core import anthropic, prompt_template @anthropic.call("claude-sonnet-4-6") @prompt_template("Summarize the following text: {text}") def summarize(text: str): ... response = summarize("Long text here...") print(response.content)

admin

Outlines

v1.3.1

Framework AI Assistants Open Source

by dottxt-ai (open source)

✔ Python 3.9+, локальные модели (llama.cpp, vllm, transformers), OpenAI API

Библиотека для structured generation — генерации структурированного вывода из языковых моделей с гарантированным форматом. Использует grammar-based sampling: модель физически не может выдать невалидный JSON или …

GitHub Docs

# pip: pip install outlines # С поддержкой transformers: pip install "outlines[transformers]" # С llama.cpp: pip install "outlines[llamacpp]" # Пример — Pydantic schema: from pydantic import BaseModel import outlines class Person(BaseModel): name: str age: int model = outlines.models.transformers("mistralai/Mistral-7B-v0.1") generator = outlines.generate.json(model, Person) result = generator("Extract: John is 30 years old") # Person(name="John", age=30)

admin

instructor

v1.15.4

Framework Dev Tools Open Source

by Jason Liu (community)

✔ Python, любые OpenAI-совместимые LLM

Python-библиотека для получения структурированных данных из LLM. Использует Pydantic-модели как схему — модель возвращает валидированный Python-объект вместо сырого текста. Возможности: - Автоматическая валидация через Pydantic …

GitHub Docs

# pip: pip install instructor # Пример: import instructor from anthropic import Anthropic from pydantic import BaseModel client = instructor.from_anthropic(Anthropic()) class User(BaseModel): name: str age: int user = client.messages.create( model="claude-opus-4-5", max_tokens=1024, messages=[{"role": "user", "content": "Извлеки данные: Иван, 30 лет"}], response_model=User, ) print(user) # name="Иван" age=30

admin

Категории

Сортировка

Тип

Доступ