由于 openai 11 月 6 日发布的新的 API v1.0.0, 不兼容以前的版本,所以课程代码会做一定的更新。老师已经更新了部分章节的典型代码,
链接如下(两个链接都可以,国内用户推荐第二个):
https://github.com/chaocai2001/gpt_in_practice_v1
https://gitee.com/chao-superman/llm_in_practice_v1
其他部分学员可以参考修改。老师也会在近期陆续更新代码。
作者回复: 👍
作者回复: 嗯,这里可以有多种方式,其中一种我们常用的就是对返回结果进行一个格式校验,如果不正确则可以通过 1. 重试(再此调用大模型), 这里设定一个重试次数 2. 放弃大模型的返回采用其他降级返回继续执行, 3. 利用如果正则表达式等提取返回中的有效内容,看看能否进行修正,如果不行采用 1,2
作者回复: 感谢,你的澄清👍
作者回复: 课程的内容是给你一个启发,即让llm返回的结果便于程序处理,也许不定是json,任何你的程序更加方便处理的形式,你都可以通过in-context learning来让llm按要求返回
作者回复: 在需要比较确定的任务,如生成内容要被程序使用(SQL,JSON), 我一般用 小于0.2的值,甚至0 在一些生成性的任务,如生成文字,故事等, 我一般用大于0.6的值,0.7, 0.9等