lw
webgpt是需要手动标注吗,这样工作量太大了
作者回复:你好,lw!这里确实需要巨大的标注成本,不过早期的手动标注工作是必要的。因为只有这样才能推动数据飞轮,进而吸引用户使用,形成更长期的数据反馈闭环。
2023-10-13
aLong
置顶
结合最近OpenAI出现的反转剧情来看。 “以担心人工智能系统将达到不可控程度” 这方面的内容确实存在的问题。 尤其是在 IILYA 的一些课看法中感觉到IILYA对OpenAI安全政策的批评是具有建设性的。OpenAI应该认真考虑IILYA的建议,并采取措施加强AI安全。
具体来说,两者有以下相似之处:
1. 都认为AI技术存在一定的风险。
2. 都认为需要采取措施加强AI安全。
3. 都建议建立独立的机构来监督AI技术的开发和使用。
而马斯克旗下的Grok。又是联名信后的另一个产物,我不知道他内心是怎么想的。挺半年这个措施,如果是为了商量讨论怎么来制定安全有关的会议,我想那可能还是单纯的考虑安全问题。但是Grok的出现,以及他平时宣传风格。马斯克的安全意识还是要加引号的。
作者回复:你好,aLong!回答得很好,从头像看得出你是一个很懂马斯克的人 :)
2023-11-23
l_j_dota_1111
老师你好,在LLM使用api那一节课里,既然所有的api都已经放入向量数据库了,为何还要拿api训练模型呢,直接把向量数据库搜寻的结果和prompt一起传给大模型不就行了吗
作者回复:同学你好,这是一个很好的问题,因为这个过程包含两个步骤。第一步是告诉大模型你的任务是什么,同时指定它可以使用的 API 工具。在这个过程中,你需要列出哪些 API 工具是可用的;第二步大模型则需要根据它掌握的知识,来组合使用这些 API 工具,以完成你的任务。如果它在训练数据中从未见过这些 API,很难高效地理解并组合使用它们。
2023-11-30
默默且听风
从空间到世界:这部分基本上能懂
从低维到高维:这部分结合one-hot encoding和代码能get到
从特征到特征:这个还有什么例子吗?脑子里基本没有想象空间啊,我现在的大脑就像那个三菱的光一样什么一没存住
作者回复:你好,听风!看来你真的很认真地二刷,非常好!实际上,本节课的第一个例子就是从特征到特征的案例。这里再给你一个更具体的场景,如果我们要通过接收到的地震波来判断是否发生了地震(注意不是预测),会受到各种噪音的干扰。在这种情况下,我们可以使用各种滤波器(比如本节课提到的各种函数)对原始波形数据进行滤波,然后通过各个滤波器生成的新波形来综合判断是否发生了地震。在这里,经过滤波后生成的新数据就是原始波形的特征,也就是特征的特征。
2023-11-20
海平
感谢Tyler老师精心设计准备的课程,不只是知识的分享,还有更多对于背后why的思考启示,让人受益匪浅!
我们处在一个巨大变革的时代,唯有告别焦虑,踏实学习,独立思考,不断充实自己,方能在变革中,既可推动变革发展,又可安身立命!
作者回复:你好海平,感谢你的支持!
2023-11-30
Ethan New
潜水学习,浮上来打一个卡。看完Tyler老师的课程受益匪浅,但还是有些消化吸收不了,希望可以在后面二刷,三刷中真正学习到老师想要表达的思想
编辑回复:感谢你的反馈。期待你开启“二周目”,有什么疑问或者学习收获,都可以继续留言区交流分享哦~
2023-12-04
Geek_71a740
赞一个,太实用了
2023-11-23
默默且听风
置顶
受益匪浅,打算在选个时间二刷。虽然目前还是很菜,但已经有了笼统的概念。二刷或者三刷的时候是可以有针对性的去学的
作者回复:同学你好,课程的交流群里和大家聊过,这里也再贴一下的建议:
对于基础较少的同学,第一遍学的时候可以先搞懂各个常见的概念,第二遍弄懂每项知识的细节,第三到四遍找到这些知识之间的联系,并且理解技术发展和产业之间的关系。
第一遍看的同学也可以尝试先看一下32课,找找全局的感觉。然后再回头看前面的课程。
2023-11-16
一只豆
越来越期待后面的课程了~
请教老师一个 “大模型性能评估”的问题。当我们着手针对垂直领域进行大模型的定制化开发时,我们可能在对比调用GPT4 API 和自家大模型的效果。 那关于性能评估这块,我理解一部分是 之前产品经理要做的 user case 的描述,但因为是个新技术,能力也更强,除了原先写 user case 的内功心法之外,是不是有一些新的框架性思考或者 guideline 之类的东西可以学习?
再次感谢老师,把小圈子的知识普惠出来,功德太大了~
作者回复:你好,一只豆! 很好的问题。大模型系统的性能评估,要分为几个层面。首先要明确业务系统的北极星指标,这部分需要配合在线 AB 实验系统进行监测。其次要定义客户的动线,也就是你说的用例,要想办法设计用户反馈闭环,让用户的反馈信息不仅能够成为 LLM 的评估指标,还能成为 LLM 的训练监督信号。最后需要评估 LLM 的本身的能力,其中包括对 LLM 的“语言知识”和“世界知识”的考察,这些方法在后面的课程中会逐一展开。在接下来的课程中,也期待你的反馈。
2023-08-21
1
学要有所用
置顶
学习AI技术需要的基础有哪些?作者能详细说说吗?
作者回复:同学你好!我们在课程中为同学们准备了AI基础知识的内容,在第二章中我会带你学习人工智能的基础知识,以及人工智能三大学派算法的特点。在第三章中,我还会带你学习 NLP 领域的一些代表性模型,最后再进入 Transformer 和 GPT 系列大语言模型的内容学习。
2023-08-27
编辑推荐
包含这门课的学习路径
AI大模型前沿知识
11门课程 12.2w人学习
看过的人还看了