Jev 决策模型工程实践
陈康贤
前阿里 P8 高级技术专家
164 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
Jev 决策模型工程实践
15
15
1.0x
00:00/00:00
登录|注册

02|选型地图:Jev、大模型、传统分类器和开源方案怎么选?

你好,我是 Kevin。上一讲,我们讲清了 Jev 和大模型的区别,也得到了一条分工原则:代码负责计算,Jev 负责判断,大模型负责推理和创作。
不过,你可能已经想到了一个问题:确定一个任务是“判断”之后,就一定要交给 Jev 吗?
当然不一定。在电商行业做了这么多年,每次碰到技术选型,我最关心的是两件事。第一,摆在面前的几种方案,各自要付出什么代价?对 Jev 来说,还有个很现实的问题:如果数据不能出境,有没有可以自己部署的替代方案?第二,有没有一套简单的规则,能帮我快速做出决定,而不是每次都从头争论?
这一讲,我们就把这些问题以此说清楚。

能做判断的都有谁?

先来认识一下“选手”。能做判断的方案,除了 Jev,大致还有这么几类:
大模型:用提示词加结构化输出来做判断,既包括闭源的前沿模型,也包括部署在高速推理平台上的开源大模型。
传统分类器:一种是用你自己的标注数据训练出来的,比如在 BERT 上微调一个分类头;另一种是零样本分类模型,不用训练,把候选标签当作输入就能分类,在本地 CPU 上就能跑。
开源的同类模型:Jev 发布后,社区很快出现了开放权重的同类模型,这一讲以 Laya 为例做参照。
规则代码:最朴素的方案,几乎没有延迟和成本,只是规则永远写不全。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《Jev 决策模型工程实践》
,新⼈⾸单¥59
立即购买
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部