不想大模型“裸奔”?安全建设三步走!
赵帅

分享嘉宾赵帅老师作为资深 AI 算法专家,有着丰富的大模型开发与落地经验。这次分享就大模型安全问题本质、常见安全风险和安全防护方案做了深入探讨,并分享了两个大模型安全实战案例,为我们如何科学设计和落地一个安全可控的大模型系统为指明了方向。
00:00 / 00:00
1.0x
- 3.0x
- 2.5x
- 2.0x
- 1.5x
- 1.25x
- 1.0x
- 0.75x
- 0.5x
你好,我是赵帅。
先做个自我介绍,我差不多有十一、二年的 AI 相关从业经验,大模型方面也有了两三年的实战积累。整个去年一年,在大模型的算法优化实施工程基础上,以负责人的身份做了极氪汽车公司自研大模型安全方面的跟进和落地。
这中间也踩过很多雷,再加上与团队之间的复盘,打磨出了很多经验,希望可以通过这次直播分享给你。
Part 1 大模型安全都包含什么?
安全的误区,安全的理解
谈到大模型安全,大家都会怎么说呢?
可能会觉得安全很重要,但是又会有很多的误区,甚至大模型安全的定义理解可能都会有一些偏差。因此,我们先来聊聊对安全概念理解上的容易误解的地方,再从三个维度来理解安全的定义。
有关大模型安全的常见 7 大误区
首先来看一些大模型常见的误区,这里我根据实际案例,选择了典型的七大误区。这些来自我曾经大模型安全工作里和厂商的交流、和同行(也算竞争对手)以及和安全相关负责同学的交流而来。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. 大模型安全的定义和误区:强调了对安全概念理解上的容易误解的地方,并从三个维度来理解安全的定义。 2. 大模型安全的重要性:提醒读者在开发和落地大模型系统时要重视安全问题,避免出现安全风险。 3. 安全建设的三步走:分享了安全建设的三个步骤,为读者提供了科学设计和落地一个安全可控的大模型系统的方向指引。 4. 大模型安全实战案例分享:帮助读者更好地理解大模型安全问题的本质和解决方法。 5. 大模型安全的落地经验:为读者提供了在大模型安全方面的实际落地经验。 6. 大模型算法优化实施工程:为读者提供了在大模型领域的专业技术背景。 7. 赵帅老师的经验分享:分享了赵帅老师在大模型安全方面的实战经验和案例,为读者提供了宝贵的经验借鉴。 8. 大模型安全方面的经验分享:强调通过与团队之间的复盘打磨出了很多经验,希望可以通过分享给读者。 9. 如何系统学习大模型安全知识? 七大误区应对:分享了学习大模型安全知识的方法和应对七大误区的建议。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《极客时间 VIP · 干货直播稿精选》
《极客时间 VIP · 干货直播稿精选》
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论