Q76｜安全：商用大模型如何防泄？
彭靖田
作者介绍：彭靖田，Google Developers Expert
Q：在工作中用大模型怎么保证公司业务、代码、数据的安全？
彭靖田：如果你是在国内做 To C 类的业务，这个天然就有各种各样的法律法规方面的要求，首先你得满足监管部门的要求，另外如果你面向国内的用户，那么肯定也不允许你去直接使用海外的模型服务，肯定是要做本地化的部署。国外的话，比如欧盟的 GDPR 等相关地域的法律法规也都要去遵守。
概括而言，一般要注意以下几个方面：
数据隔离和本地部署：为了避免数据泄露，敏感数据尽量在本地部署的模型上进行推理，如通过 Hugging Face Transformers 等工具。
隐私数据加密：对传入和传出的数据加密，确保敏感信息不会通过 API 或日志泄露。可以使用隐私增强技术（如差分隐私）。
模型访问控制：设置访问权限，限制谁可以调用大模型，并在企业内部引入监控系统，以避免不安全的访问或不合理的调用行为。
模型推理日志记录与审查：启用详细的日志记录，并定期审查模型的推理行为，确保大模型未产生任何潜在风险。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
《致程序员：AI 百问百答》，新⼈⾸单¥0.11
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论