作者回复: 这个可以看一下你使用的大模型服务商所提供数据使用协议,看看他们如何处理和使用你的数据,是否有保证数据安全等义务。
作者回复: 对,目前dall-e 微软只开放了美东区域
作者回复: 1. 这个课程聚焦大模型在企业中的应用,所以服务的吞吐量依赖于第三方大模型服务,如 openAI的gpt服务。当然采用自己部署的开源大模型也可以参考其中内容,但该课程只涉及应用大模型服务,没有涉及模型服务部署 2. 要注意服务的吞吐量并不是只跟响应时间相关,有可能响应很慢但可以接受的并发量很大,: QPS(TPS)= 并发数/平均响应时间。
作者回复: 你这里说的是gradio吧,这个更多是用于测试环境。 生成环境不适合。