大数据经典论文解读

从大数据论文入手,提升问题解决能力
徐文浩
bothub创始人
1 人已学习 · 共36讲 · 9月22日正式开始更新
收藏

下载 App 随时随地学习

App Store 下载

Android 下载

扫描二维码下载客户端

【早鸟优惠 | 领券再减 10 元】

详情页领取 10 元礼券,到手 ¥89

你将获得

  • 10+篇必读经典论文精讲
  • 大数据系统底层知识学习路径
  • 10年大数据老兵的实战心法
  • 工业级数据系统迭代方案

课程介绍

大数据领域,可以说是过去20年计算机工程界发展最迅速、产生影响最大的一个领域。很多看起来和“大数据”没有什么关系的开源系统,都是从“大数据”这个领域里培育出来的,比如说Kubernetes。

尽管目前互联网用户的数量增长已经逐步停滞,但是存储和处理的数据量的增长并没有慢下来。正是因为大数据领域的发展,使得无论是存储数据,还是处理数据的成本都在不断降低。

今天我们去研读“大数据”领域的经典论文,可以说是一件投入产出比很高的事情。通过学习大数据相关的论文,我们会对计算机工程的各个领域都有更加深刻的认知,这不仅仅是对于「大数据工程师」这样的职位有用,对于做各类后端开发和系统开发的工程师来说,都会有很大的帮助。

但是我们应该怎么学呢?对于不是做大数据底层系统开发的同学,自己找篇论文读一读,也好像囫囵吞枣,没有吃到滋味就忘了是怎么回事儿。

在网上随便一搜,虽然也能找到不少论文被人翻译成了中文,但是往往也只能告诉你“是什么”,却没有办法让你理解“为什么”。这些翻译或者文章,常常给出的是“Bigtable系统是一个稀疏的、分布式的排序好的Map”,却让你没有办法让你理解为什么Bigtable是这样设计的。

所以这次,我们邀请了极客时间《深入浅出计算机组成原理》课程的作者徐文浩老师,通过他十多年研读论文、使用各种开源框架解决大数据问题的经验,带你梳理整个大数据系统的发展脉络,为你分析在整个领域的系统不断往前迭代的过程中,所遇到的具体场景下的问题,还会深入解读其中重要的设计决策背后,能够联系到的计算机底层原理。

这样一来,通过课程内容知识的讲解,你就能够把论文和论文之间联系起来,把论文和具体技术场景联系起来,把论文和计算机原理的底层知识点联系起来。更进一步,你会真正理解Why,而不是只是知道What。

事实上,从徐文浩老师的研读、使用、实践的经验来看,在大数据的世界里,你会使用某个开源框架,是了解到了How,毕竟谁学上两天都可以学会。而了解了开源框架的源码,是弄明白了What,让你在遇到问题的时候,可以更高效地debug。那么,研读完它背后的论文,则是搞清楚了Why,这样你不仅可以参与到开源社区里,去帮助迭代改进这些框架,更可以在未来遇到新问题的时候,有更多的思路可以借鉴。

课程模块设计

课程主体划分为以下5大模块。

  • 基础知识篇:从最经典的Google三架马车GFS、MapReduce和Bigtable这三篇论文开始,帮你理解大数据系统面对的主要挑战,以及应对这些挑战的架构设计方法。进一步地,会带你一起来看大数据系统依赖的分布式锁Chubby、序列化和RPC方案Thrift,让你能够将架构设计和计算机结合到一起,掌握好计算机科学的底层原理。
  • 数据库篇:一方面来研读Hive、Dremel和Spark的相关论文,了解工程师们是怎么迭代改进MapReduce,从而满足海量数据下的高性能分析需求。另一方面,你还会了解Megastore和Spanner,从而明白如何在Bigtable的基础架构上,逐步添加Schema、跨行事务,直至完成了一个跨数据中心的分布式数据库。
  • 实时处理篇:结合Storm、Kakfa以及Dataflow,你会了解到现代大数据的实时处理系统是怎么逐步迭代,做到流批一体,达成批量和实时数据处理的统一的。
  • 资源调度篇:通过解读Raft、Borg和Kubernetes的论文,你能够厘清如何尽可能在一个数据中心里,合理地压榨资源、调度系统。
  • 实战应用篇:学以致用,通过剖析Facebook数据仓库的逐步演进变化,以及Twitter如何使用大数据进行机器学习,你就能理解如何通过分析问题、理解架构,将所学到的大数据知识串联起来。这样你在未来面对新的问题时,也能够找到精巧的解决方案。

课程目录

讲师介绍

徐文浩,bothub创始人,布奇托网络科技创始人及CTO。毕业于上海交通大学计算机系试点班,在Trilogy Software写过大型企业软件;在MediaV担任技术总监,从零开始搭建支撑每天百亿流量的广告算法系统;2015年,加入拼多多,参与重写拼多多的交易系统;2016年底创办bothub.ai,为走向海外的中国企业提供智能客服和社交网络营销服务;2019年联合创办布奇托网络科技,为海外中小电商提供数据分析与社交电商服务。

同时,他也是极客时间《深入浅出计算机组成原理》课程的作者。

特别放送

免费领取福利



限时活动推荐

订阅须知

  1. 订阅成功后,推荐通过“极客时间”App端、Web端学习。
  2. 本专栏为虚拟商品,交付形式为图文+音频,一经订阅,概不退款。
  3. 订阅后分享海报,每邀一位好友订阅有现金返现。
  4. 戳此先充值再购课更划算,还有最新课表、超值赠品福利。
  5. 企业采购推荐使用“极客时间企业版”便捷安排员工学习计划,掌握团队学习仪表盘。
  6. 戳此申请学生认证,订阅课程享受原价5折优惠。

看过的人还看了

程序员的测试课

郑晔 前火币网首席架构师,前Thoughtworks首席咨询师

20讲 | 1130 人已学习

新人首单¥59原价 ¥99
玩转Spring全家桶

丁雪丰 美团研究员,《Spring Boot实战》、《Spring攻略》译者,腾讯云TVP。

123讲 | 40084 人已学习

新人首单¥68原价 ¥199
编译原理实战课

宫文学 北京原点代码CEO

55讲 | 4875 人已学习

新人首单¥59原价 ¥129
爱上跑步

钱亮 比利时RSLab 跑步实验室跑步教练兼培训师,Nike黑马体能教练

13讲 | 2869 人已学习

新人首单¥59原价 ¥99