12|初识DSPy
李锟

你好,我是李锟。
从这节课开始,我将用两节课的篇幅,带你学习一类全新的 LLM 应用开发框架——自动提示词工程开发框架,这是 LLM 应用开发方面一个方兴未艾的领域。我选择的开发框架是由美国斯坦福大学 NLP 课题组发布的 DSPy,这是世界上第一个自动提示词工程开发框架。
DSPy 是 Declarative Self-improving Python (声明式自我改进 Python)的缩写。开发者可以编写组合式 Python 代码,然后使用 DSPy 来教 (所使用的) LLM 生成高质量的输出结果,而不是为 LLM 编写脆弱的提示词。
DSPy 的研究工作于 2022 年 2 月在斯坦福 NLP 课题组启动,第一个版本于 2022 年 12 月作为 DSP 发布,并于 2023 年 10 月发展成为 DSPy。
在学习 DSPy 之前,我们有必要先搞清楚 DSPy 致力于解决什么问题。
DSPy 要解决的问题
与之前我们学习过的支持多 Agent 协作的应用开发框架相比,DSPy 要解决的是一个更深层次的问题。
在我们之前实现的那个 24 点游戏智能体应用中,使用的提示词不多,而且相对来说是很简单的。我们到目前为止只使用了一种 LLM,即阿里巴巴开源的 qwen2.5。对于这个较为简单的应用来说,手工编写提示词是足够了。然而当应用的复杂性大幅提高之后,手工提示词的缺点就会变得越来越突出,其压力甚至让团队无法承担。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. DSPy 是一个自动提示词工程开发框架,旨在解决 LM 应用开发中手工编写提示词的问题,通过快速迭代构建模块化的 AI 系统,并提供优化提示词和模型权重的算法。 2. DSPy 的核心概念包括模块(module)和优化器(optimizer),通过这两个核心概念来实现对 LLM 应用的持续优化。 3. DSPy 可以直接支持通过 ollama 部署的各种开源 LLM,例如 qwen2.5,使得使用和调用 LLM 变得更加简单。 4. DSPy 的官方文档按照栏目划分成了 4 块,包括概述、学习 DSPy 开发的入门教程、更加具体的教程和 API 参考手册,初学者可以先阅读前两个栏目,然后编写一些代码,有了一些开发经验之后再继续阅读后面两个栏目。 5. DSPy 项目的源代码中也包含很多例子,初学者可以通过这些例子来学习 DSPy 的使用。 6. DSPy 的开发团队负责人是斯坦福大学的某位成员。 7. DSPy 的安装方式包括官方 Python 库安装和源代码安装,推荐使用源代码来安装以体验 DSPy 团队的最新研发成果。 8. DSPy 的模块用于帮助开发者将 AI 相关行为描述为代码,而不是字符串(即提示词)。 9. DSPy 的优化器是一种算法,可以对 DSPy 程序的参数(即提示词和/或 LM 模型权重)做调优,以最大限度地提高开发者指定的度量指标,例如准确性。 10. 在 DSPy 中构建 AI 系统可以划分为三个阶段:DSPy 编程、DSPy 评估和DSPy 优化。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《LLM 自主智能体应用实战课》,新⼈⾸单¥59
《LLM 自主智能体应用实战课》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论