大模型时代的 AI for Security
何为舟

你好,我是何为舟。
今天我们来聊聊大模型,以及大模型会对安全领域产生哪些影响。一定程度上来说,我是不太想公开来聊这个话题的。大模型仍然处于发展初期,未来的形态充满着变数和不确定性,现阶段看似合理的认知和理解,在不久的将来可能会变得可笑和愚昧。因此,本节内容仅做参考,有不同的观点欢迎表达交流。
在正式开始之前,也建议你先对大模型的基础原理有大致了解,最好自己动手尝试过制作一些基于大模型的机器人或 Agent 应用,这样能够更好地理解大模型在安全领域的应用场景。
大模型与传统模型的差异
AI for Security 这个命题显然不是大模型时代才有的,从 AI 诞生起,安全从业者们就开始尝试使用各种各样的 AI 算法来解决规则体系的复杂性问题。你一定在各种各样的安全大会和 PR 稿上见到过各种 AI 成功应用的案例(我也这么干过),但在我看来,没有哪个案例是真正因为 AI 起到了质变效果的。
导致这个现象的主要矛盾在于安全是具备强对抗属性的,攻击者总是会根据防守形态做出调整,就相当于 AI 遇到的是一个持续在变化的样本分布。这需要我们构建出一种能够快速迭代的 AI 框架,而实时生成带标签的训练数据难度较高(部分案例有尝试用无监督算法来弥补),因此很难达到理想效果。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. 大模型在安全领域的影响:大模型的发展对安全领域产生了影响,尤其在处理模糊性工作方面表现出了优越性能。 2. 大模型与传统模型的差异:大模型与传统模型在处理分类、打标等问题上存在差异,大模型的生成式特质使其在模糊性工作中表现更为出色。 3. 大模型不适合处理的任务:大模型并不适合处理传统有监督模型擅长的分类、打标等问题,也不适合执行密集型的数据处理工作。 4. 大模型适合处理的任务:大模型在面向安全人员的告警运营助手、面向研发人员的漏洞修复助手以及深度的漏洞挖掘等方面具有应用潜力。 5. 大模型的应用技巧:在运用大模型时需要注意其适用范围,如大模型适合处理具有相对固定输入和输出模式,但中间过程需要依赖人工经验的任务。 6. 大模型的发展与尝试:大模型的技术发展与日俱新,需要保持学习和尝试,以跟上时代的步伐。 7. 大模型的局限性:大模型并不能帮助高级人员提效,但可以帮助总结高级人员的经验,从而辅助低级人员更好地完成任务。 8. 大模型的应用场景:大模型在告警运营助手、漏洞修复助手和深度的漏洞挖掘等场景中具有潜在的应用价值。 9. 大模型的成本劣势:大模型的高额使用成本意味着其并不适合执行密集型的数据处理工作。 10. 大模型的技术发展:大模型的技术发展充满变数和不确定性,需要与时俱进,保持学习和尝试。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《安全攻防技能 30 讲》,新⼈⾸单¥59
《安全攻防技能 30 讲》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论