16|如何实现好奇心问题改写和RAG
月影

你好,我是月影。
上节课,我们对波波熊学伴这个应用的核心技术点做了详细拆解和梳理。接下来,我们会聚焦波波熊学伴解决孩子好奇心问题的技术点,学习这些技术的具体实现方法。
首先我们从两个问题开始,分别是好奇心问题改写和检索增强生成(RAG)。
如何实现好奇心问题改写
由于我们波波熊学伴是给相对低龄的孩子使用的科普类产品,需要考虑孩子在表达和表述问题时,措辞可能不一定能用词准确,而且,年龄小的孩子一般更多使用语音进行交互,他们的语言发音也不一定很标准。那么这时候,我们就需要让 AI 有一定的“纠错”能力,好奇心问题的改写,就是用来解决这个问题的。
要实现好奇心改写,我们需要 AI 具备一定的推理用户意图的能力,而这个不是很难,因为大模型本身的工作就是推理,但是我们需要详细描绘推理的目的,尽量达成更好的推理效果。
那么现在,我们还是通过项目实践来看看如何达到这个目的。
问题改写能力验证
与传统的 Web 应用开发不同,AI 应用开发的前期,我们往往先要验证大模型节点的效果。在这个阶段我们会细调提示词,以达到我们期望的目的,然后再正式 进入后续工作流的开发阶段。
我们可以通过 Coze 创建智能体来验证效果。
首先我们设计基础的提示词,因为现在的大模型理解能力都比较强,这个相对来说比较简单:
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. 实现好奇心问题改写是为了解决孩子在表达和表述问题时的不准确性和语音交互的问题,需要让AI具备一定的“纠错”能力,通过验证大模型节点的效果和细调提示词来实现问题改写能力。 2. 验证大模型节点的效果需要通过Coze创建智能体来验证效果,设计基础的提示词并登录Coze账号,创建智能体“波波熊-问题改写”,然后修改大模型配置,选择“豆包 V1.5 Pro”,最终测试提示词效果。 3. 实现检索增强生成(RAG)是为了让大模型搜索改写后的问题,减少幻觉对产品使用体验的影响,通过搜索引擎给出更加准确的知识,将知识作为上下文,以辅助大模型在推理过程中提高准确性。 4. 实现RAG的简单办法是使用开放的搜索引擎API服务,如serper.dev,通过注册账号、生成API key并在项目中封装serper search的库来实现内容的准确性。 5. 选择serper.dev的原因是其专注于提供低成本、高性能谷歌搜索API的平台,允许开发者调用它的API,以结构化数据的方式返回内容,包括答案框、知识图谱以及自然搜索结果等。 6. serper.dev的管理后台设计简洁明了,提供基本的用量统计信息,并且对开发者非常友好,通过Playground可以直接生成调用的示例代码,方便开发者使用。 7. 实现内容的准确性还可以通过其他办法,比如自建权威的知识库,但使用开放的搜索引擎API服务是最简单的办法之一。 8. 通过搜索API服务可以获得结构化数据的返回内容,包括答案框、知识图谱以及自然搜索结果等,这有助于提高大模型在推理过程中的准确性. 9. 为科普类产品减少幻觉对产品使用体验的影响非常重要,因此如何尽可能避免幻觉对产品的使用体验和用户误导是产品开发中需要重点考虑的问题之一.
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《跟月影学前端智能体开发》,新⼈⾸单¥59
《跟月影学前端智能体开发》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论