告别提示工程，未来属于DSPy（上）

摘要

本文介绍了DSPy框架，一个专注于通过编程增强基于大型语言模型（LLMs）应用程序稳定性的新工具。DSPy提供了一种系统化的解决方案，以编程代替手工调整提示，通过签名、模块、远程提示器和编译器功能来自动优化程序。

1. DSPy介绍

DSPy（dee-es-pie）由斯坦福NLP团队开发，通过签名机制抽象提示和微调过程，模块化封装提示技术，以编程方式构建稳定可靠的LLM应用。DSPy编译器自动调整提示策略，避免手动设计的复杂性。

构建基于LLM的应用程序需要收集数据集、编写DSPy程序、定义验证逻辑、编译DSPy程序和迭代改进流程。

1.1 LangChain、LlamaIndex和DSPy的比较

LangChain和LlamaIndex依赖于提示模板，而DSPy转移到更接近传统编程的方式，通过编译器功能自动消除提示工程或微调需求，简化开发流程。

1.2 DSPy与PyTorch的联系

DSPy与PyTorch在语法上相似，都允许灵活组合模块构建模型，并通过自动化的方式优化参数。

2. DSPy编程模型详解

2.1 签名：抽象提示和微调

签名在DSPy中取代了传统的手工提示，通过输入输出字段的组合形式定义了执行的任务，简化了编写程序的过程。

2.2 模块：抽象提示技术

模块化设计理念使得提示技术得以抽象化，简化了适应具体任务的过程。DSPy提供了多个模块，如dspy.Predict、dspy.ChainOfThought等，以及模块组合使用的方式。

推荐书单

《LANGCHAIN入门指南：构建高可复用、可扩展的LLM应用程序》提供了LLM应用开发的系统指南。

精彩回顾

文章回顾了GraphRAG的实现，知识图谱构建，LlamaIndex结合DSPy优化RAG系统等话题。