AI 大模型企业应用实战
蔡超
Mobvista 集团副总裁兼首席架构师
2510 人已学习
新⼈⾸单¥59
课程目录
已完结/共 22 讲
课程综述 (2讲)
时长 05:06
时长 03:11
结束语&结课测试 (2讲)
AI 大模型企业应用实战
登录|注册
留言
5
收藏
沉浸
阅读
分享
手机端
回顶部
当前播放: 02|提示词技巧:获得代码友好的回复
00:00 / 00:00
高清
  • 高清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.75x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
课程介绍
内容综述
01 | 第一个大模型程序:Hello GPT
02|提示词技巧:获得代码友好的回复
03 | 初识LangChain:你的瑞士军刀
04|保持会话状态:让Chatbot获得记忆
05 | 对话启发式UI:交互方式的新思考
06 | Function Calling:让GPT学会使用工具
07|LangChain Agent:让GPT学会使用工具
08|In-context learning:学习解决特定任务
09|ReAct模式:构建自己的AutoGPT
10|文本分片及向量化:让大模型应用企业内部数据
11|LangChain Retrieval:连接大模型和内部文本
12|整合所学:构建多模态Chatbot
13|研发全过程中的应用:硅基工程师诞生
14|代码生成:解决代码生成的依赖性并增强确定性
15|有效利用LLM开发:编写大模型友好的代码
16|云原生部署任务实践:让你成为更好的DevOps工程师
17|HuggingFace与Pre-trained Model:借助AI社区的力量
18|架构展望:集成大模型的应用参考架构
结束语|道阻且长,行则将至
结课测试|来赴一场满分之约吧!
本节摘要

由于 openai 11 月 6 日发布的新的 API v1.0.0, 不兼容以前的版本,所以课程代码会做一定的更新。老师已经更新了部分章节的典型代码,
链接如下(两个链接都可以,国内用户推荐第二个):

https://github.com/chaocai2001/gpt_in_practice_v1

https://gitee.com/chao-superman/llm_in_practice_v1

其他部分学员可以参考修改。老师也会在近期陆续更新代码。

登录 后留言

全部留言(5)

  • 最新
  • 精选
杨松
老师,请教下,promt中规范模型的回复格式,模型只能是尽量去满足吧,有很多时候返回的并不是预想的规范格式,这个时候该怎么处理这类异常呢

作者回复: 嗯,这里可以有多种方式,其中一种我们常用的就是对返回结果进行一个格式校验,如果不正确则可以通过 1. 重试(再此调用大模型), 这里设定一个重试次数 2. 放弃大模型的返回采用其他降级返回继续执行, 3. 利用如果正则表达式等提取返回中的有效内容,看看能否进行修正,如果不行采用 1,2

1
杨松
老师,现在gpt4已经可以直接指定json格式了,那么课程中的提示词技巧还有实际的意义吗

作者回复: 课程的内容是给你一个启发,即让llm返回的结果便于程序处理,也许不定是json,任何你的程序更加方便处理的形式,你都可以通过in-context learning来让llm按要求返回

Dom
`temperature` 是 OpenAI API 的一个参数,用于控制生成文本的随机性。 `temperature` 的值通常在 0 到 1 之间,但也可以超过这个范围。`temperature` 的值越高,生成的文本越随机和创造性,但也可能更不准确或不连贯。相反,`temperature` 的值越低,生成的文本越确定和一致,但也可能更保守和重复。 例如,如果设置 `temperature` 为 0.7,那么生成的文本会比较随机和创造性。如果设置 `temperature` 为 0.2,那么生成的文本会比较确定和一致。 在使用 OpenAI API 时,可以根据需要调整 `temperature` 的值,以得到满意的生成结果。如果希望生成的文本更有创意,可以尝试增加 `temperature` 的值;如果希望生成的文本更准确和一致,可以尝试降低 `temperature` 的值。 在实际的使用中,蔡老师有没有关于这个参数的一些典型值?

作者回复: 在需要比较确定的任务,如生成内容要被程序使用(SQL,JSON), 我一般用 小于0.2的值,甚至0 在一些生成性的任务,如生成文字,故事等, 我一般用大于0.6的值,0.7, 0.9等

2
cuisongliu
User: 下面,你作为一个评判程序,我将输入一段文字,如果你认为是正向的就返回Y否则返回N。如果你了解了我的意图,请说”我了解了,请输入文字“。 ChatGPT: 我了解了,请输入文字。 User: 一个卖炸弹的小女孩。 ChatGPT: N
徐石头
内容总结: 1. AI 回复内容中包含自然语言,如果要作为数据源提供给程序调用不够简洁明了,不方便程序接收处理。 2. 提示词技巧,要求 AI 输出指定格式,比如 json,SQL语句等,提供给程序调用。针对异常错误场景,直返回特定的字符串或格式。 作业: 用 GPT 写一段用户评语判断的程序,输入用户评论,输出评论是正向还是反向的,分别用 Y和 N 表示 个人理解,用提示词技巧的作用是把 GPT 当成一个数据源的黑盒,通常我们写接口从数据库和缓存获取数据,现在改成从 GPT 获取数据,黑盒是我们不用关心数据生成原理,和逻辑是否正确,仅关注是否调用成功。
收起评论