当前播放: 高可用分布式流数据存储设计
00:00 / 00:00
标清
  • 标清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看

高可用分布式流数据存储设计

李玥 京东集团中台技术架构部资深架构师

李玥,京东集团中台技术架构部资深架构师。负责主导设计新一代京东消息中间件系统,专注于流数据的一致性分发和可靠存储,分布式实时计算、高可用分布式系统架构等技术领域。从事互联网研发、架构 10 余年,曾在浪潮集团、当当网等公司任职架构师相关工作。2017 年加入京东,期间提升京东商城相关系统的性能和吞吐量数倍。目前致力于推进京东基础架构技术的创新、对外赋能与开源。

内容介绍

每天,超过千亿交易相关的数据在京东数千个系统中高速流转。实现数据流在超大规模集群系统之间高性能流转同时,确保数据的高可靠、高可用、一致性对京东的消息中间件系统是一项艰巨的技术挑战。

高性能、高可用、高可靠的流数据存储提供数据持久化能力,是未来分布式计算不可或缺的基础设施之一。其不仅用于构建分布式消息中间件,在诸多计算场景中均有广泛的应用:

  1. 结合流计算框架构建下一代存储计算分离的可靠流计算应用;

  2. 大数据系统中构建可靠的 Connector,用于连接数据源和大数据应用以及大数据应用之间的数据互联;

  3. 用于海量日志和监控数据的存储;

  4. 通过 Binlog 复制实现各类数据库和存储类系统的高可用架构。

本次演讲的主要介绍了京东高可用分布式流数据存储系统的架构,内容涵盖:

  1. 流数据存储集群的高可用架构设计;

  2. 数据强一致性保证:改进于 Raft 的流数据选举和复制机制;

  3. 理解数据流的特性和针对性性能优化手段。

展开
¥4.99 购买
开通VIP
5
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
其他推荐
34:44
大规模 GPU 虚拟化技术在讯飞 AI 业务中的应用
徐瑞晨 科大讯飞虚拟化团队负责人
试看
45:34
中小互联网公司如何落地云安全
白嘎力 Rokid信息安全总监
试看
34:22
智能优化 & A/B 测试 - 实验驱动用户增长的理论与技术实践
陈冠诚 Testin云测CTO
试看