• 杨松
    2023-10-12 来自辽宁
    老师,请教下,promt中规范模型的回复格式,模型只能是尽量去满足吧,有很多时候返回的并不是预想的规范格式,这个时候该怎么处理这类异常呢

    作者回复: 嗯,这里可以有多种方式,其中一种我们常用的就是对返回结果进行一个格式校验,如果不正确则可以通过 1. 重试(再此调用大模型), 这里设定一个重试次数 2. 放弃大模型的返回采用其他降级返回继续执行, 3. 利用如果正则表达式等提取返回中的有效内容,看看能否进行修正,如果不行采用 1,2

    
    
  • 徐曙辉
    2023-10-12 来自湖南
    内容总结: 1. AI 回复内容中包含自然语言,如果要作为数据源提供给程序调用不够简洁明了,不方便程序接收处理。 2. 提示词技巧,要求 AI 输出指定格式,比如 json,SQL语句等,提供给程序调用。针对异常错误场景,直返回特定的字符串或格式。 作业: 用 GPT 写一段用户评语判断的程序,输入用户评论,输出评论是正向还是反向的,分别用 Y和 N 表示 个人理解,用提示词技巧的作用是把 GPT 当成一个数据源的黑盒,通常我们写接口从数据库和缓存获取数据,现在改成从 GPT 获取数据,黑盒是我们不用关心数据生成原理,和逻辑是否正确,仅关注是否调用成功。
    
    