DSPy
by Stanford NLP (open source) Python 3.10+, любые LLM через API
Фреймворк для программирования языковых моделей вместо их промптирования. Вместо написания промптов вручную — описываете задачу через сигнатуры и пайплайны, а DSPy оптимизирует промпты автоматически. Концепции: - Signatures: декларативное описание входов/выходов задачи - Modules: ChainOfThought, ReAct, ProgramOfThought и другие - Optimizers: автоматическая оптимизация промптов под данные - Teleprompters: few-shot оптимизация с примерами - Поддержка OpenAI, Anthropic, Cohere, Ollama, HuggingFace - Компонуемые пайплайны с проверяемым качеством
# pip:
pip install dspy
# Пример:
import dspy
lm = dspy.LM("anthropic/claude-opus-4-5")
dspy.configure(lm=lm)
class QA(dspy.Signature):
"""Ответ на вопрос."""
question: str = dspy.InputField()
answer: str = dspy.OutputField()
qa = dspy.ChainOfThought(QA)
print(qa(question="Что такое RAG?").answer)
DSPy: Программирование—а не подсказка—фундаментальных моделей
Документация: Документация DSPy
DSPy — это фреймворк для программирования, а не подсказки, языковых моделей. Он позволяет вам быстро создавать модульные ИИ-системы и предлагает алгоритмы для оптимизации их подсказок и весов, whether you're building simple classifiers, sophisticated RAG pipelines, or Agent loops.
DSPy расшифровывается как Declarative Self-improving Python. Вместо хрупких подсказок вы пишете составной Python-код и используете DSPy, чтобы обучить вашу языковую модель выдавать качественные ответы. Узнайте больше через наш официальный сайт документации или присоединяйтесь к сообществу, ищите помощь или начните вносить вклад через этот GitHub-репозиторий и наш Discord-сервер.
Документация: dspy.ai
Пожалуйста, перейдите в Документацию DSPy на dspy.ai
Установка
pip install dspy
Чтобы установить последнюю версию из main:
pip install git+https://github.com/stanfordnlp/dspy.git
📜 Цитирование и дополнительные материалы
Если вы хотите понять фреймворк, пожалуйста, перейдите в Документацию DSPy на dspy.ai.
Если вы хотите понять лежащую в основе исследовательскую работу, вот наш набор статей:
[Июль 2025] GEPA: Рефлексивная эволюция подсказок может превзойти обучение с подкреплением
[Июнь 2024] Оптимизация инструкций и демонстраций для многоэтапных программ языковых моделей
[Октябрь 2023] DSPy: Компиляция декларативных вызовов языковых моделей в самосовершенствующиеся конвейеры
[Июль 2024] Тонкая настройка и оптимизация подсказок: два великих шага, которые работают лучше вместе
[Июнь 2024] Подсказки как автооптимизированные гиперпараметры обучения
[Февраль 2024] Помощь в написании статей в стиле Википедии с нуля с помощью больших языковых моделей
[Январь 2024] Контекстное обучение для экстремальной многометочной классификации
[Декабрь 2023] DSPy Утверждения: Вычислительные ограничения для самосовершенствующихся конвейеров языковых моделей
[Декабрь 2022] Демонстрация-Поиск-Предсказание: Композиция моделей поиска и языка для интенсивного NLP
Чтобы оставаться в курсе или узнать больше, подписывайтесь на @DSPyOSS в Twitter или на страницу DSPy в LinkedIn.
Логотип DSPy разработан Chuyi Zhang.
Если вы используете DSPy или DSP в исследовательской работе, процитируйте нашу работу следующим образом:
@inproceedings{khattab2024dspy,
title={DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines},
author={Khattab, Omar and Singhvi, Arnav and Maheshwari, Paridhi and Zhang, Zhiyuan and Santhanam, Keshav and Vardhamanan, Sri and Haq, Saiful and Sharma, Ashutosh and Joshi, Thomas T. and Moazam, Hanna and Miller, Heather and Zaharia, Matei and Potts, Christopher},
journal={The Twelfth International Conference on Learning Representations},
year={2024}
}
@article{khattab2022demonstrate,
title={Demonstrate-Search-Predict: Composing Retrieval and Language Models for Knowledge-Intensive {NLP}},
author={Khattab, Omar and Santhanam, Keshav and Li, Xiang Lisa and Hall, David and Liang, Percy and Potts, Christopher and Zaharia, Matei},
journal={arXiv preprint arXiv:2212.14024},
year={2022}
}