Case4｜资源有限，如何构建高效能的AI Agent
栾剑 、邹盼湘 、 李飞 、柯杰
在人工智能的璀璨星河中，AI Agent 无疑是一颗耀眼的明星。自诞生之日起，它便承载着人类对自主决策和持续进化能力的追求，历经数次技术浪潮的洗礼，而今随着大模型技术的突破再次站上了风口浪尖，成为业界瞩目的焦点。甚至不少专家认为，未来 AaaS（Agent as a Service）模式或将颠覆现有的 MaaS（Model as a Service），成为主导 AI 产业的新趋势。
在 AICon 全球人工智能开发与应用大会2024 北京站【AI Agent 技术突破与应用】专题圆桌交流中，小米大模型负责人栾剑担任主持人，与数势科技 AI 负责人李飞、彩讯股份 AI 产研部总经理邹盼湘、钉钉智能化平台架构师柯杰，共同探讨 AI Agent 领域的最新进展和发展方向。
部分精彩观点如下：
大模型的性能将会急剧提升。
大模型 API 可能会促进国内 SaaS 模式的进一步发展。
有效利用私域数据并精准描述场景任务，可以在小模型下实现低成本、高效推理。
大模型技术并非万能，但通过合理拆解问题，就能在可行的范围内解决问题。
改进 AI 意图识别是提升人机交互体验的重要方面。
以下内容基于现场速记整理（经编辑）。
栾剑：如何挑选和判断适合使用 AI Agent 赋能的场景？
邹盼湘：在选择场景时，我们主要从两个方面考虑。首先，业务流程必须要清晰，因为大模型的落地应用需要明确的业务流程。如果业务流程不清晰，模型的效果就难以达到预期。其次，我们的场景中需要有一定的数据积累，无论是业务数据还是用户行为数据。只有在这种数据积累的基础上，进行 AI 探索或初步落地，才是一个较为合适的选择。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. AI Agent 的应用场景选择需考虑业务流程清晰和数据积累充足两个方面，以及在不同场景中寻找合适的平衡点。 2. 大模型的应用需考虑商业价值、技术能力、数据积累和风险评估等因素，以及对可信赖度、准确度和用户体验的要求。 3. 在资源有限的情况下，如何利用有限的资源来实现更高的应用价值，并突破普通Agent的能力瓶颈是一个挑战。 4. 大模型的性能将会急剧提升，未来许多小模型将能够在端侧解决更多问题。 5. 客户在采购软件时趋向于私有化部署，但随着大模型的发展，客户的观念也在转变，不再单纯要求私有化，而是考虑采用SaaS模式。 6. 在中国，SaaS的推广存在文化障碍，许多企业更愿意选择私有化部署，而非SaaS。 7. 大模型在落地时仍面临挑战，尽管算力不断提升、价格下降，当前的大模型效果还未达到预期。 8. 为了应对大模型的不足，常常减少大模型的处理量，使用小模型或传统方法来控制成本并提高性能。 9. 大模型无法解决私域数据和业务流程的问题，因此在应用中仍需补充大模型的不足。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论