AI 大模型项目落地实战
蓝金伟
AI 创业者,前新浪网技术专家
840 人已学习
新⼈⾸单¥59
AI 大模型项目落地实战
15
15
1.0x
00:00/00:00
登录|注册

04| 大模型AI智能体开发的3个层次:应用,微调和专有模型

你好,我是金伟。
对于咱们开发者来说,在本地体验大模型,相当于写一个 hello world 程序,没什么难度。那这节课,我们就讨论讨论大模型 AI 智能体开发过程里更多的一些挑战。
接触过一些大模型知识的朋友都听过一个词,大模型幻觉,指的是大模型有一定概率会胡编乱造。比如你问它桃园三兄弟“刘备、关羽、赵云”是怎么先后战死的啊?很明显,这问题就是错误的。但是大模型还会沿着错误一本正经地发挥。
我们介绍过,Transformer 架构是基于概率输出内容,这是大模型产生幻觉的原因。然而幻觉并不一定就意味着是坏事,没有幻觉的大模型不可能具有创造性,对吧?做大模型 AI 智能体开发,本质上就是如何尽量提高大模型的创造性,同时避免大模型出现偏差错误的过程。
我把大模型 AI 智能体开发由浅入深分为三个层次,应用开发、微调开发和专有模型开发。这节课,我们就把这三个层次分别都是什么,需要做什么给讲清楚。

应用开发

想要了解清楚大模型在应用开发中的角色,我们需要先从传统的互联网开发架构谈起。如下图所示,传统的互联网开发架构分为数据库层、应用层和用户终端层。
加入大模型之后的应用架构应该是什么样的呢?我们需要进一步分析。上图中的 LLM 表示大模型,在真实应用开发中,指的就是一个公开提供服务的大模型平台。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结

1. 大模型AI智能体开发分为三个层次:应用开发、微调开发和专有模型开发。 2. 温度参数在大模型的接口中起着重要作用,温度越大,大模型创造性越强。 3. 提示词工程是关键,大模型输出结果的质量好坏取决于输入的质量好坏,提示词决定了接下来AI在会话中的具体功能。 4. 大模型可以通过提示词执行各种任务,如执行SQL查询,只要提示词设置得当,它就能完成传统互联网里的功能。 5. 未来的所有应用都会基于提示开发,也就是AI first的应用。 6. 大模型应用模式分为会话式交互的AI first应用模式和传统应用加入AI能力的模式。 7. 模型微调是将新的训练数据调整大模型的参数,形成独有的一套参数,使大模型具备特定的专业能力。 8. 向量数据库往往比微调效果还好,可以基于语义相似度查询所有数据。 9. 专有模型开发分为行业大模型开发和插件开发,可以基于开源大模型二次开发,实现专业的代码开发能力。 10. 未来的大部分应用都将是AI first的,但是传统应用框架下现有的能力和开发方法同样重要。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI 大模型项目落地实战》
新⼈⾸单¥59
立即购买
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部
文章页面操作
MAC
windows
作用
esc
esc
退出沉浸式阅读
shift + f
f11
进入/退出沉浸式
command + ⬆️
home
滚动到页面顶部
command + ⬇️
end
滚动到页面底部
⬅️ (仅针对订阅)
⬅️ (仅针对订阅)
上一篇
➡️ (仅针对订阅)
➡️ (仅针对订阅)
下一篇
command + j
page up
向下滚动一屏
command + k
page down
向上滚动一屏
p
p
音频播放/暂停
j
j
向下滚动一点
k
k
向上滚动一点
空格
空格
向下滚动一屏
播放器操作
MAC
windows
作用
esc
esc
退出全屏
⬅️
⬅️
快退
➡️
➡️
快进
空格
空格
视频播放/暂停(视频全屏时生效)