高并发系统实战课
徐长龙
前微博架构师、极客时间架构师
11663 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 30 讲
结束语&结课测试 (2讲)
高并发系统实战课
15
15
1.0x
00:00/00:00
登录|注册

22|存储成本:如何推算日志中心的实现成本?

使用高性能硬件扛住高峰期压力
冷热数据分离
数据压缩处理
减少日志量
非核心业务和核心业务的日志区分开
减少保存日志的周期
需要多少网卡更合算
高并发写的存储冷热分离
临时应对流量方案
根据当前流量增长趋势,评估出的3年的服务器预购数量
31.2W X 2年 = 62.4W + 第一年投入 100W = 162.4W 元
31.2W元
12W元
12台服务器 X 3W = 36W元
144 X 2300元 = 331200元
108 / 3 = 36块校验盘
((4-1)/4) X (7.3T X 4) = 21.9 T = 三块8T 硬盘容量
82800 X 3 个数据副本 = 24.8W 元
2300元 X 36 = 82800元
258 TB/7.3 TB = 35.34 块
8.6TB X 30天 = 258 TB /30天
每天日志数据量:8 640 000 000 X 1KB => 8.6TB/天
每天请求量=3600秒 X 8 小时 X 300000 QPS = 8 640 000 000次请求/天 = 86亿次请求/天
思考题
总结
如何节省存储成本?
服务器采购冗余
核心服务(30W QPS的)网站服务运转三年所需要的成本
后续每年维护费用
第一年投入费用 = 42W(硬盘新购与备用盘)+ 36W(服务器一次性投入)+ 12W(服务器托管费)+ 10W(宽带费用)= 100W元
根据服务器托管推算维护费用
根据硬盘推算服务器投入
从容量算硬盘的投入
根据流量推算存储容量及投入成本
存储成本:如何推算日志中心的实现成本?

该思维导图由 AI 生成,仅供参考

你好,我是徐长龙。
前面我们比较过很多技术,细心的你应该发现了,比较时我们常常会考虑实现成本这一项。这是因为技术选型上的“斤斤计较”,能够帮我们省下真金白银。那么你是否系统思考过,到底怎么计算成本呢?
这节课,我会结合日志中心的例子带你计算成本。
之所以选日志中心,主要有这两方面的考虑:一方面是因为它重要且通用,作为系统监控的核心组件,几乎所有系统监控和故障排查都依赖日志中心,大部分的系统都用得上;另一方面日志中心是成本很高的项目,计算也比较复杂,如果你跟着我把课程里的例子拿下了,以后用类似思路去计算其他组件也会容易很多。

根据流量推算存储容量及投入成本

在互联网服务中,最大的变数就在用户流量上。相比普通的服务,高并发的系统需要同时服务的在线人数会更多,所以对这类系统做容量设计时,我们就需要根据用户请求量和同时在线人数,来推算系统硬件需要投入多少成本。
很多系统在初期会用云服务实现日志中心,但核心接口流量超过 10W QPS 后,很多公司就会考虑自建机房去实现,甚至后期还会持续改进日志中心,自己制作一些个性化的服务。
其实,这些优化和实现本质上都和成本息息相关。这么说你可能不太理解,所以我们结合例子,实际算算一个网站的日志中心存储容量和成本要怎么计算。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

本文详细介绍了如何推算日志中心的存储成本以及如何节省存储成本的方法。首先,通过实例介绍了根据流量和用户请求量计算存储需求的方法,以及硬盘和服务器的投入成本计算。其次,提出了临时应对流量增长的方案,如减少保存日志的周期、区分核心业务和非核心业务的日志存储等。此外,还介绍了在高并发写的存储冷热分离方面的节约成本的方法,包括采用高性能硬件扛住高峰期压力和冷热分离存储等。文章还强调了在节约成本时不应牺牲业务服务的重要性。通过具体案例和实用建议,为技术人员提供了关于日志中心存储成本计算和节约成本的重要参考,具有一定的实用价值。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《高并发系统实战课》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(2)

  • 最新
  • 精选
  • 陈卧虫
    从前从没想过,原来要花这么多钱

    作者回复: 技术人员想创业这里也是个槛,刚开始需要用最少的资源做最好的效果

    2022-12-19归属地:北京
    3
  • 若水清菡
    1. 建设日志中心,使用云厂商的服务贵还是自己建设的贵? 日志体量少的中小企业建设日志中心优先考虑云厂商,省去了运维人员费用,不需要担心机器资源短缺、无法快速扩容等问题;日志体量大的企业建设日志中心适合自建机房,日志量庞大上云的费用超过自建机房费用,在内蒙、贵州这些地方自建机房的成本要远低于使用云服务,同时现在服务器性能都足够高,可以采用离线日志计算和在线业务混合部署,灵活调度计算资源节约运维成本。 2. 大数据挖掘服务如何计算成本? 可以根据业务提交任务消耗的资源量,存储和计算资源*运行时间*单价来计算成本

    作者回复: 你好,若水,第一个问题确实如此取决于规模,同时要注意不同区域网络传输带来的延迟。第二个问题没错运行时间是大数据要考虑的,同时考虑数据的磁盘吞吐量、传输带宽、所需内存、实时性、历史数据大小以及每天周期任务量

    2023-01-26归属地:北京
    2
收起评论
显示
设置
留言
2
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部