煜寶2024-11-25 来自广东老师，embedding模型主要也是对应的一些llm提供的对吧？那这个就会有数据安全问题吧？比如open唉提供的embedding接口一般具有数据安全要求的团队就用不了吧？对此有什么解法么？作者回复: 对，LangChain 也有 Embedding 模型，篇幅关系，我就没做介绍。 https://python.langchain.com/docs/integrations/text_embedding/ 不用 OpenAI 的接口，可以使用开源的模型。后面的内容我会讲到Hugging Face 上的模型，你也可以到 Hugging Face 上找 Embedding 模型。
grok2024-11-23 来自美国思考题答案： ### 1. **知识库内容缺失** - **问题**：当用户提问的问题无法从现有的知识库中找到答案时，RAG系统可能会提供错误或不准确的回答，而不是告知用户“不知道”。 - **解决方案**：目前没有完美解决方案，但可以采取以下措施： - 明确提示词限制，避免让模型生成不相关或错误的信息。 - 通过增强元数据来提高检索效率，如对商品进行固定分类和型号，确保提供给LLM的信息是相关且准确的。 - 开发校验模型来判断回答是否正确。 ### 2. **TopK截断有用文档** - **问题**：与用户查询相关的文档可能因为相似度不足而被排除在检索结果之外。 - **解决方案**： - 持续优化reranker模型，以提高文档的排名准确性。 - 使用元数据过滤来缩小检索范围，提升相关性。