AI 大模型企业应用实战
蔡超
Mobvista 集团副总裁兼首席架构师
3948 人已学习
新⼈⾸单¥59
课程目录
已完结/共 23 讲
课程综述 (2讲)
时长 05:06
时长 03:11
直播回放 (1讲)
结束语&结课测试 (2讲)
AI 大模型企业应用实战
登录|注册
留言
7
收藏
沉浸
阅读
分享
手机端
回顶部
当前播放: 02|提示词技巧:获得代码友好的回复
00:00 / 00:00
高清
  • 高清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.75x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
课程介绍
内容综述
01 | 第一个大模型程序:Hello GPT
02|提示词技巧:获得代码友好的回复
03 | 初识LangChain:你的瑞士军刀
04|保持会话状态:让Chatbot获得记忆
05 | 对话启发式UI:交互方式的新思考
06 | Function Calling:让GPT学会使用工具
07|LangChain Agent:让GPT学会使用工具
08|In-context learning:学习解决特定任务
09|ReAct模式:构建自己的AutoGPT
10|文本分片及向量化:让大模型应用企业内部数据
11|LangChain Retrieval:连接大模型和内部文本
12|整合所学:构建多模态Chatbot
13|研发全过程中的应用:硅基工程师诞生
14|代码生成:解决代码生成的依赖性并增强确定性
15|有效利用LLM开发:编写大模型友好的代码
16|云原生部署任务实践:让你成为更好的DevOps工程师
17|HuggingFace与Pre-trained Model:借助AI社区的力量
18|架构展望:集成大模型的应用参考架构
直播回放|Semantic-Kernel大模型开发实战
结束语|道阻且长,行则将至
结课测试|来赴一场满分之约吧!
本节摘要

由于 openai 11 月 6 日发布的新的 API v1.0.0, 不兼容以前的版本,所以课程代码会做一定的更新。老师已经更新了部分章节的典型代码,
链接如下(两个链接都可以,国内用户推荐第二个):

https://github.com/chaocai2001/gpt_in_practice_v1

https://gitee.com/chao-superman/llm_in_practice_v1

其他部分学员可以参考修改。老师也会在近期陆续更新代码。

登录 后留言

全部留言(7)

  • 最新
  • 精选
刘稹
置顶
直接使用OPENAI的接口,又改进了老师的作业,返回结果是用0-100 #用GPT 编写一个用户评语判断程序,输入用户评论,输出评论是正向的还是方向的,分别用Y和N表示 from openai import OpenAI client = OpenAI() completion = client.chat.completions.create( #model=model_resource, model = "gpt-4", messages=[ # {"role": "system", "content": """Analyze comments from the user's input if it is positive or negative. # Format output is one character Y or N. if it is positive, return Y else return N """}, {"role": "system", "content": """Analyze comments from the user's input if it is positive or negative. Format output is 0 - 100 score, if it is better, the score is bigger """}, {"role": "user", "content": "这个产品非常好,但是快递太慢了,以后不会买了"} ] ) print(completion.choices[0].message.content) 结果: 45 (如果是Y\N,结果是N)

作者回复: 👍

2024-01-16
杨松
老师,请教下,promt中规范模型的回复格式,模型只能是尽量去满足吧,有很多时候返回的并不是预想的规范格式,这个时候该怎么处理这类异常呢

作者回复: 嗯,这里可以有多种方式,其中一种我们常用的就是对返回结果进行一个格式校验,如果不正确则可以通过 1. 重试(再此调用大模型), 这里设定一个重试次数 2. 放弃大模型的返回采用其他降级返回继续执行, 3. 利用如果正则表达式等提取返回中的有效内容,看看能否进行修正,如果不行采用 1,2

2023-10-12
1
敲代码的小黑猫
Mark:本节第 3 点 "文本规范异常输出的格式" 的案例:You are a software engineer, you can write a SQL string as the anwser according to the user request. Also, when you cannot create the SQL query for the user's request based on the given tables, please, you don't need to anwser any reason, only return "-1" for me, The user's requirement is based on the given tables: table “students“ with the columns [id, name, course_id, score]; table "courses" with the columns [id, name]. 这个案例我试了一下,使用 gpt-3.5-turbo 是不行的,它依然会返回一个解释为什么无法给出答案的 reason,即便再加一层类似:you don't need to anwser any reason 这样的约束也是不行的。在 ChatGPT 中验证了一下,的确是 3.5 不行,4可以。所以如果同样使用 3.5 的小伙伴遇到这个问题应该不用怀疑了,是模型能力不行。

作者回复: 感谢,你的澄清👍

2023-12-16
杨松
老师,现在gpt4已经可以直接指定json格式了,那么课程中的提示词技巧还有实际的意义吗

作者回复: 课程的内容是给你一个启发,即让llm返回的结果便于程序处理,也许不定是json,任何你的程序更加方便处理的形式,你都可以通过in-context learning来让llm按要求返回

2023-11-21
Dom
`temperature` 是 OpenAI API 的一个参数,用于控制生成文本的随机性。 `temperature` 的值通常在 0 到 1 之间,但也可以超过这个范围。`temperature` 的值越高,生成的文本越随机和创造性,但也可能更不准确或不连贯。相反,`temperature` 的值越低,生成的文本越确定和一致,但也可能更保守和重复。 例如,如果设置 `temperature` 为 0.7,那么生成的文本会比较随机和创造性。如果设置 `temperature` 为 0.2,那么生成的文本会比较确定和一致。 在使用 OpenAI API 时,可以根据需要调整 `temperature` 的值,以得到满意的生成结果。如果希望生成的文本更有创意,可以尝试增加 `temperature` 的值;如果希望生成的文本更准确和一致,可以尝试降低 `temperature` 的值。 在实际的使用中,蔡老师有没有关于这个参数的一些典型值?

作者回复: 在需要比较确定的任务,如生成内容要被程序使用(SQL,JSON), 我一般用 小于0.2的值,甚至0 在一些生成性的任务,如生成文字,故事等, 我一般用大于0.6的值,0.7, 0.9等

2023-11-02
2
cuisongliu
User: 下面,你作为一个评判程序,我将输入一段文字,如果你认为是正向的就返回Y否则返回N。如果你了解了我的意图,请说”我了解了,请输入文字“。 ChatGPT: 我了解了,请输入文字。 User: 一个卖炸弹的小女孩。 ChatGPT: N
2023-10-22
1
徐石头
内容总结: 1. AI 回复内容中包含自然语言,如果要作为数据源提供给程序调用不够简洁明了,不方便程序接收处理。 2. 提示词技巧,要求 AI 输出指定格式,比如 json,SQL语句等,提供给程序调用。针对异常错误场景,直返回特定的字符串或格式。 作业: 用 GPT 写一段用户评语判断的程序,输入用户评论,输出评论是正向还是反向的,分别用 Y和 N 表示 个人理解,用提示词技巧的作用是把 GPT 当成一个数据源的黑盒,通常我们写接口从数据库和缓存获取数据,现在改成从 GPT 获取数据,黑盒是我们不用关心数据生成原理,和逻辑是否正确,仅关注是否调用成功。
2023-10-12
收起评论