当前播放: 美团点评常态、异地、多机房、单集群 Hadoop 架构实践
00:00 / 00:00
标清
  • 标清
1.0x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
合辑:大数据平台架构
快手万亿级别 Kafka 集群应用实践与技术演进之路
苏宁 OLAP 引擎发展之路
Apache Hadoop 机器学习引擎 Submarine 及生态
ClickHouse 在头条的技术演进
美团点评常态、异地、多机房、单集群 Hadoop 架构实践
阿里巴巴新一代交互式分析引擎 Hologres

美团点评常态、异地、多机房、单集群 Hadoop 架构实践

刘俊宏 美团点评大数据技术专家

美团点评离线存储团队技术专家,2013 年毕业于哈尔滨工程大学,2015 年加入美团,负责美团点评 HDFS、HBase 服务,先后深度参与了 HDFS Federation 兼容性改造和落地,美团点评数据平台融合,常态、异地、单集群、多机房 Hadoop 架构改造,HDFS NameNode 锁粒度拆分,增量数据生产架构演进等重点项目。在 HDFS、HBase 方面有大量的源码和架构实践经验,致力于为美团点评提供稳定、高效、易用的大数据存储服务。

内容介绍

随着美团点评以吃为核心的多场景业务的飞速发展, 美团点评的 Hadoop 集群规模持续每年翻番, 2017 年 Hadoop 集群规模突破万台, 超出单机房容量上限, 势必要提供多机房的 Hadoop 服务。

现有 Hadoop 架构没有机房概念,在多机房部署 Hadoop 服务时,会导致大量的跨机房流量和请求严重降低集群吞吐。业内在解决 Hadoop 多机房部署问题时,往往采用一个机房一套集群的运维方式,但这会使机房概念最大程度的暴露到数据生产层面,提高了数据开发成本。

在此背景下, 美团点评离线团队秉持以业务为中心的价值导向, 通过技术换运营,自主研发了对业务提供透明的、数据强一致性保障的、常态、异地域、多机房、单集群 Hadoop 服务。

目前, 美团点评 Hadoop 集群规模数万台, 是业界唯一一家提供常态、异地域、多机房、单集群 Hadoop 服务的科技企业。此次分享整个方案设计和落地,给业界同行在面临同样场景时以参考。

展开
¥4.99 购买
开通VIP
7
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
其他推荐
34:44
大规模 GPU 虚拟化技术在讯飞 AI 业务中的应用
徐瑞晨 科大讯飞虚拟化团队负责人
试看
45:34
中小互联网公司如何落地云安全
白嘎力 Rokid信息安全总监
试看
34:22
智能优化 & A/B 测试 - 实验驱动用户增长的理论与技术实践
陈冠诚 Testin云测CTO
试看