25|工具与框架
徐昊
你好,我是徐昊,今天我们来继续学习 AI 时代的软件工程。
上节课我们讲解了如何使用大语言模型(Large Language Model,LLM)稳定地构造基于语义的自动化脚本,并介绍了三种今日常用的技巧。
今天我们要讨论一个更为前沿(cutting edge)的问题,在大语言模型时代(Large Language Model,LLM),框架与工具将何去何从?
知识复用还是载体复用?
你的第一个疑问可能是,为什么大语言模型会影响框架与工具?要知道,在大语言模型出现之前,我们复用知识的主要形式就是框架和工具。无论你是使用 ReactJS,还是 Spring Boot 编写前后端应用,实际上你复用了凝聚在这些框架中的知识。
所以使用框架和工具的过程,也是一个知识过程。你还会发现,当你能够熟练应用框架时,你基本上处于庞杂认知行为模式(Complicated),即按照框架提供的思路解决具体问题。而使用工具,或者工具性质的库,则更接近于清晰认知行为模式(Clear),即按照问题选取对应工具。
那么我们不禁要问一个问题,如果我掌握了凝聚在框架和工具中的知识,我是否还需要这些框架和工具?在 LLM 出现之前,答案是肯定的,因为我们无法直接复用知识,我们只能通过知识的载体——软件——对这些知识进行复用。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. 大语言模型(LLM)的出现改变了知识复用的方式,使得直接复用知识成为可能,对传统的框架与工具复用提出了挑战。 2. 直接复用知识与复用载体的比较表明,复用载体的方法对认知负载更大,但并没有额外的收益,因此提出了直接复用知识的可行性。 3. 大语言模型的应用范围广泛,可以实现对应功能,如调用openai chat api的js方法,支持参数化的prompt等,甚至可以在此基础上继续扩展功能,如构成chain或者flow。 4. 提示词模板化是非常重要的技巧,而LLM使得这一技巧得以应用,大多数使用LLM的框架都支持提示词模板。 5. 直接复用知识的可行性高,通过LLM可以很容易地实现对应的功能,甚至不需要任何框架的支持。 6. 示例应用展示了直接复用知识的实际应用,如调用openai chat api的js方法、处理返回结果的示例函数以及处理prompt组成chain的示例代码。 7. LLM的出现改变了知识复用的方式,使得直接复用知识成为可能,对传统的框架与工具复用提出了挑战。 8. 在评估任何框架、工具和产品时,需要考虑其对LLM的友好性(LLM Friendly)。 9. 对于自己构造的框架,需要考虑如何使其对LLM更友好,以提高知识的复用效率。 10. 可工作的知识(Working Knowledge)是一种有吸引力的知识载体,但目前仍需要进一步评估其有效性和适用性。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《徐昊 · AI 时代的软件工程》,新⼈⾸单¥98
《徐昊 · AI 时代的软件工程》,新⼈⾸单¥98
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论