13|通过微调提升自助工单小助手的可靠性
产品二姐
你好,我是产品二姐。
上节课我们了解了企业做私有化模型微调的必要性,并用千层饼加酱的方式了解了 LoRA 微调的原理。这节课我们来聊聊模型微调的实际操作。
实际操作分三步。
明确微调数据特征:在“熬酱”前,明确要准备什么样的原料。
准备数据:这些原料要去哪里找,要怎么生产出来。
评估模型:在涂好酱之后“品鉴”这张涂了酱的千层饼是否合格。
在很多通用模型厂商里,这部分内容是由算法工程师主导,产品经理辅助结合业务需求完成的。但在二姐看来,在非通用的企业级模型微调时,微调数据和产品功能是绑在一起的:有什么样的数据,产品才可能具备什么样的功能。
因此,产品经理参与其中,才能与算法工程师打好配合战术。
明确目标:我们要准备什么样的数据
我们知道,熬酱的过程是“特征提取”的过程,那么我们所选的数据就一定要具备我们想要的特征。
“我们想要的”特征有两个。
其实在上节课,我们已经看到了具备这样特征的数据,那就是提示词中的 few shots。
比如,以下的 few shots 就具备特征一(思考力提升):遵循企业内部的工作流程。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. 模型微调的实际操作分为三步:明确微调数据特征、准备数据、评估模型。 2. 产品经理在企业级模型微调中的参与是必要的,因为微调数据和产品功能是相互关联的。 3. 微调数据的作用是提升模型的思考力和行动力,从few shots到many shots的区别在于模型的学习方式和参数的改变。 4. 案例分析展示了遵循工作流程和使用工具的many shots微调数据的效果提升。 5. 在开源项目《FireAct》中,通过微调数据样例,模型准确率得到提升。 6. OpenAI官方给出的函数调用微调指导案例展示了微调数据对工具使用能力准确性的提升效果。 7. 产品经理在微调数据生成过程中的参与和指导对于模型效果的提升至关重要。 8. 通过微调数据的实际操作案例,展示了微调数据对模型性能的提升效果。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《成为 AGI 产品经理》,新⼈⾸单¥59
《成为 AGI 产品经理》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论