Q78｜分析：向量库外挂是否冗余？
黄佳
作者介绍：黄佳，新加坡科研局资深研发工程师
Q：大模型对代码理解应该是已经具备的知识了，用向量库外挂代码知识库，还有必要吗？
黄佳：在大语言模型的训练过程中，它们确实已经学习了海量开源代码，具备对常见代码模式、API 调用及设计思路的理解能力。对于普通程序员来说，大模型直接就能够给咱们解决很多简单的编程问题。但企业的实际应用中，通过向量数据库外挂代码知识库依然必要。下面是几个具体的原因：
首先，大模型的训练数据通常是公开的通用代码库（如 GitHub 公开项目），这一类的代码教学式代码偏多，其实并不等同于于企业内部真正的商业代码。而且肯定也缺乏具体企业内部的私有代码、领域专用框架或特定业务逻辑。想象一下，如果你使用 Cursor、Windsurf 和 Cline 等 AI Coder 来辅助你编程，这个 AI 工具肯定还是要先来对你当前的项目做索引，大模型才能在你的项目基础上帮助你进一步做 Coding。通过向量库外挂私有代码知识库，可以补充模型对特定代码模式、内部 API 或业务规则的理解，显著提升生成代码的准 确性和相关性。
而且，大模型的知识截止于训练数据的时间点（例如 GPT-4 的截止日期是 2023 年 10 月），它无法自动获取最新的代码库、框架版本（如 React 19、Python 3.13 新特性）。而在程序员的世界中，知识和技术演进速度极快，总不能隔几个月就重新训练一次模型。而一次外挂向量库可以动态更新，确保模型能访问最新代码示例、文档或安全补丁。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. 大模型训练数据通常是公开的通用代码库，缺乏企业内部真正的商业代码和私有代码，因此向量库外挂代码知识库可以补充模型对特定代码模式、内部 API 或业务规则的理解，提升生成代码的准确性和相关性。 2. 大模型的知识截止于训练数据的时间点，无法自动获取最新的代码库、框架版本，而向量库可以动态更新，确保模型能访问最新代码示例、文档或安全补丁，以及降低计算成本。 3. 大模型的上下文窗口有限，无法直接处理大型代码库的所有文件，而向量库通过语义检索快速定位相关代码片段，再结合大模型和 RAG 进行生成或分析，提高效率，降低计算成本。 4. 通过向量库提供真实代码示例作为参考，可约束模型的输出，降低幻觉风险，同时确保代码风格与企业规范一致。 5. 隐私与数据安全的考量也是重要因素，因此本地部署私域大模型，然后外挂本地化部署的向量库，在不暴露代码细节的前提下，通过检索增强生成来利用私有知识。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论