04| 大模型AI智能体开发的3个层次:应用,微调和专有模型
蓝金伟

你好,我是金伟。
对于咱们开发者来说,在本地体验大模型,相当于写一个 hello world 程序,没什么难度。那这节课,我们就讨论讨论大模型 AI 智能体开发过程里更多的一些挑战。
接触过一些大模型知识的朋友都听过一个词,大模型幻觉,指的是大模型有一定概率会胡编乱造。比如你问它桃园三兄弟“刘备、关羽、赵云”是怎么先后战死的啊?很明显,这问题就是错误的。但是大模型还会沿着错误一本正经地发挥。

我们介绍过,Transformer 架构是基于概率输出内容,这是大模型产生幻觉的原因。然而幻觉并不一定就意味着是坏事,没有幻觉的大模型不可能具有创造性,对吧?做大模型 AI 智能体开发,本质上就是如何尽量提高大模型的创造性,同时避免大模型出现偏差错误的过程。
我把大模型 AI 智能体开发由浅入深分为三个层次,应用开发、微调开发和专有模型开发。这节课,我们就把这三个层次分别都是什么,需要做什么给讲清楚。
应用开发
想要了解清楚大模型在应用开发中的角色,我们需要先从传统的互联网开发架构谈起。如下图所示,传统的互联网开发架构分为数据库层、应用层和用户终端层。

加入大模型之后的应用架构应该是什么样的呢?我们需要进一步分析。上图中的 LLM 表示大模型,在真实应用开发中,指的就是一个公开提供服务的大模型平台。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. 大模型AI智能体开发分为三个层次:应用开发、微调开发和专有模型开发。 2. 温度参数在大模型的接口中起着重要作用,温度越大,大模型创造性越强。 3. 提示词工程是关键,大模型输出结果的质量好坏取决于输入的质量好坏,提示词决定了接下来AI在会话中的具体功能。 4. 大模型可以通过提示词执行各种任务,如执行SQL查询,只要提示词设置得当,它就能完成传统互联网里的功能。 5. 未来的所有应用都会基于提示开发,也就是AI first的应用。 6. 大模型应用模式分为会话式交互的AI first应用模式和传统应用加入AI能力的模式。 7. 模型微调是将新的训练数据调整大模型的参数,形成独有的一套参数,使大模型具备特定的专业能力。 8. 向量数据库往往比微调效果还好,可以基于语义相似度查询所有数据。 9. 专有模型开发分为行业大模型开发和插件开发,可以基于开源大模型二次开发,实现专业的代码开发能力。 10. 未来的大部分应用都将是AI first的,但是传统应用框架下现有的能力和开发方法同样重要。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI 大模型项目落地实战》,新⼈⾸单¥59
《AI 大模型项目落地实战》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论