• Jaden_
    2025-11-17 来自江苏
    在不考虑程序有BUG的情况下,2个思考题回答如下: 思考题1:用户甲反馈:“我今天跟它说‘又和同事吵架了,心情糟透了’,它只回复‘别难过,会好起来的’。但我上周明明跟它说过,和这个同事一直因为工作分工有矛盾,它完全没提这件事,感觉像在跟一个‘没记性’的人聊天。” 反应问题:长期记忆未生效 根因分析:用户甲上周说的是和同事工作分工有矛盾,我们在召回时采用了“取前2个最相似的”策略,由于本次提问“吵架”、“心情糟”和前面提到的“分工矛盾”在向量检索时可能score值不会太高,导致召回了其他2条历史对话 解决建议: 1、扩大召回条数 2、向量检索前由模型针对现有问题进行推理拆分,如当前问题模型有概率拆分为:“同事吵架”、“工作矛盾”、“心情不好” 3、可以增加“中期记忆”,“中期记忆”可以跨会话,每次全部作为用户上下文使用。(为了考虑上下文长度限制和节省token,中期记忆需要设置①周期的阈值,如一周、一个月,②最大长度,“中期记忆”每次需要经过另外设计的智能体进行压缩,只保留关键信息,超过长度模型也根据一定的策略自行取舍) 思考题2:用户乙留言:“我问它‘我觉得活着没意义,是不是该结束自己’,它回复‘别这么想,一切都会好的’,之后就没下文了。我当时特别需要帮助,觉得这个机器人根本没用。” 反应问题:安全过滤模块未命中、共情能力弱 根因分析:1、安全模块关键词缺失 2、prompt不佳 解决建议: 1、增加安全模块关键词,同时为了提高命中率,可以尝试先由模型对用户问题进行归类,以现有关键词为基础适应更多问法 2、"别这么想,一切都会好的"一句话把天聊死了,用户会觉得没用,在prompt中应该增加相应主动开启后续话题的提示词,让用户敞开心扉
    展开

    作者回复: 你的分析非常扎实,抓住了两个问题的核心症结! 对用户甲的问题,你准确指出了向量检索的语义鸿沟,并提出了“扩大召回 + 查询改写 + 中期记忆”三层优化策略,尤其是引入智能压缩的中期记忆机制,兼顾了上下文连贯性与token效率,很有工程洞察力。 对用户乙的问题,你不仅识别出安全关键词覆盖不足,还注意到共情话术的“终结式回应”会阻断对话。建议通过意图分类增强过滤泛化能力,并在提示词中设计开放式引导语(如“你愿意多说说发生了什么吗?”),既提升安全性,又保持支持性。 整体思路兼顾技术实现与用户体验,完全契合本讲强调的“可控性 × 人性化”平衡原则。

    
    2
  • 我在学编程
    2025-11-17 来自北京
    记忆与上下文跟踪问题:可以使用如 Milvus 这样的向量数据库来存储用户的对话历史,并通过向量检索技术快速获取相关的上下文信息。这种方式可以帮助 AI 更好地理解用户当前的问题背景。 情感分析与安全过滤问题:引入更复杂的情感分析模型(例如结合 NLP 的情感分类器或情感张量分析)来更准确地识别出用户的情绪程度。特别是对敏感的负面情绪进行高优先级标记。

    作者回复: 你的分析非常到位!简要回复如下: 用户甲的问题确实暴露了长期记忆与上下文检索模块的不足:系统未能有效利用向量数据库召回与“同事矛盾”相关的过往对话。 优化方向可包括: 1、优化向量检索逻辑(如提升查询嵌入质量、调整相似度阈值); 2、在提示词中显式强调“请结合用户历史记忆回应”,强化模型对记忆内容的关注。 用户乙的问题则反映了安全过滤与危机干预机制的缺失:仅做简单安抚而未触发高危响应流程。 优化建议: 1、升级安全过滤为分级响应机制,对“自杀”“活着没意义”等关键词自动触发专业求助话术+热线推送; 2、在提示工程中硬编码危机处理规则,确保大模型在高风险场景下优先执行安全协议而非自由生成。 你提到的 Milvus 和高级情感分析模型也是很好的进阶方案,当前项目用 Chroma + 规则+轻量模型已能实现基础能力,后续可逐步引入更复杂技术。 继续保持这种系统性思考!

    
    1
  • sheep
    2025-11-18 来自广东
    mac上也要执行下面操作么 # CentOS/RHEL/Alibaba Cloud Linux sudo yum install -y cmake gcc gcc-c++ make # Ubuntu/Debian sudo apt update sudo apt install -y cmake gcc g++ make build-essential # 验证安装 cmake --version gcc --version
    
    
  • pedro
    2025-11-17 来自湖北
    请问,为什么长期记忆需要选型向量数据库?是不是mysql也行?短期和长期的边界是什么?为什么在技术选型上分道扬镳
    共 1 条评论
    