• luislin
    2025-01-07 来自江苏
    老师, 幻觉问题严重啊,思考过程已经知道要调用工具,但是通义仍然给我假设性的回答,一轮就结束。在 though 后加了提示词,让它碰到与 k8s 兼顾问题,就必须使用工具,不可以随便回答。刚调整完,agent 听话了,过一会再调用,又是幻觉了,直接一本正经的给我胡说八道,连假设这种词语都没了🥲🥲 我应该怎么去解决这个问题啊?

    作者回复: 这个很正常哈,通义经常给出假设性的Observation。不知道你用的是通义千问的哪个模型,你可以使用 qwen-max 系列的各个版本的模型都试一下,比如qwen-max-0403 等等,看一下哪个模型效果好一些。因为 qwen-max 是一直在训练的master版本,我在写这个代码的时候是去年12月初,那这个月的效果和上个月不同,很正常。 另外,如果非要调整 ReAct 模板,可以去langchainhub上搜索评分高的ReAct prompt 参考着调,或者使用已经经过大量用户验证过的模板,比如开源软件Dify 的 Agent 模板,链接如下:另外就是ReAct 模板的调整了,你可以去langchainHub 上下载一个评分好的 ReAct prompt 试试或者使Dify的这个模板:https://github.com/langgenius/dify/blob/main/api/core/agent/prompt/template.py 这个模板用的是 Json 解析,我会在下一章讲解到。

    
    