03｜原型系统：开源工具自建AI大模型底座
链式调用黏合剂（Langchain）
荧光笔
直线
曲线- 深入了解
- 翻译
- 解释
- 总结
本文介绍了如何使用开源工具组建一个原型系统，让智能体替代人类回答工作问题，并作为专属助理进行专题汇报。文章首先介绍了链式调用黏合剂（Langchain），通过该工具可以高效地连接大语言模型（LLM）与各种生态组件，如计划组件、记忆组件和工具组件等，实现复杂的互动。接着介绍了零代码快速搭建工具（Flowise），该工具可以帮助用户在一分钟内搭建LLM应用平台，提升开发效率。最后，文章讨论了领域知识库，通过生成语义向量并存入向量数据库，实现自动问答机器人，帮助回答技术问题。整篇文章介绍了如何使用这些工具快速搭建原型系统，提升开发效率，并实现自动问答功能。文章还介绍了如何使用LocalAI搭建自主可控的开源大模型应用底座，以及如何使用Llama系列模型提升智能体的水平。最后，文章提到了如何使用AutoGPT建立一个智能体大军，让智能体自主思考、分工、制定计划，完成任务。整体而言，本文深入介绍了如何利用开源工具构建智能体系统，展示了其在实际工作中的应用潜力。
《AI 大模型系统实战》，新⼈⾸单¥59
全部留言(23)
- 最新
- 精选
奥特虾不会写代码置顶老师你好，通过这一篇文章又学习到了一些 AI 领域好用的开源工具，例如 LocalAI，想请教一下您平时都是通过哪些渠道获取到有关 AI 开源项目的这部分信息？作者回复: 你好，奥特虾不会写代码！很高兴你能够主动去学习更多的知识，这里推荐几个 follow 最新技术发展的地方：medium，huggingface，hacker news，github trending，papers w/ code。
2023-09-12归属地：上海5
iLeGeNDFlowise和longchain之间什么关系呢作者回复: 同学你好，Flowise 是 langchain 的可视化搭建工具，它可以提高我们搭建原型的效率。
2023-08-17归属地：北京2
顾琪瑶使用ReAct方式的话, 是如何将用户的提问/需求, 拆解成prompt的? 或者在之后的课程中会详细讲这一点吗?作者回复: 你好，顾琪瑶！第三节课的定位是使用原型系统，帮助大家快速建立对大模型系统的直观认识，后面的课程中会对以 ReAct 为代表的一系列智能体“反思”方法进行详细的剖析。
2023-08-17归属地：上海2- Geek_bdceaa需要多大内存和显存的服务器呀
作者回复: 同学你好，课程中不同的组件所需要的最低配置要求不同，你问的主要是哪个组件呢？
2023-08-16归属地：浙江22 
aLong这节课让我觉得教了一套串起来的流程和工具。 爽 开眼界了。编辑回复: 只是冰山一角，后面内容更精彩。
2023-12-06归属地：北京1
Decoder波老师您好，测了一下LocalAI，发现它提供的是一个同步接口，有多个请求的时候，后面的请求要排队等着，LocalAI可以提供异步的接口吗？作者回复: 你好，Decoder波！这里还是提示一下，LocalAI不适合工业级的应用，如果你有高可用和高并发的需求，建议你使用 llama.cpp 构建自主的模型服务。
2023-09-26归属地：湖南1
周晓英这节课知识密度好高，Flowise可视化调用可以帮助读者快速理解概念，这是一种非常好的教学方式作者回复: 你好，周晓英。感谢你的认可！
2023-10-02归属地：美国- Geek_6d035fOpenAI Api Key是自己去申请吗
编辑回复: 是的
2023-09-19归属地：重庆 
任易老师您好，目前我们正在探索 SQLDatabaseChain在实际生产过程中的应用，在单表的查询等需求表现还好，一旦涉及到多表之间关联的复杂需求，生成的sql往往不可用，正在针对prompt参数进行调整，老师能讲讲SQLDatabaseChain的具体应用吗?作者回复: 你好，任易！很好的问题，建议你采用我们第19课 - 第24课中的提示语工程方法，根据你们的使用场景，来改进和定制你自己的 SQLDatabaseChain。如果那时候还有疑惑，我们继续交流。
2023-09-12归属地：北京
馍馍汉宝老师，最后说到langchain有性能问题，那这个我们应该怎么解决呢？自己自建一套调用流程吗？作者回复: 你好，馍馍汉宝！很好的问题，你可以学过04后，再看看这个困惑有没有解开，到时候我们继续交流。
2023-09-02归属地：广东