2019-10-09我一直以为这篇文章是对前面几篇文章的答疑呢作者回复: 从前面几篇文章用户留言来看，很多同学对分布式技术、分布式技术的应用以及分布式技术的重要性非常感兴趣。所以，在今天这篇答疑文章中，我以人工智能技术为例，带你了解分布式技术的应用及其重要性。
大家留言里的疑惑，我会通过回复的形式陆续进行解答。本篇的答疑相当于既是一个答疑，也是赠送给大家的一个额外福利：） 2 6
2019-10-19人工智能有一道数学的高墙，对于我来说已经倒在了单机作者回复: 加油，分布式AI可是趋势哟！
2
2019-10-09打卡文章学习：
1、人工智能离不开数据的处理，模型的训练，分布式技术能够为训练提供算力。主要分为三个方面的训练：数据分布式训练、模型分布式训练和混合模型训练。也再次说明了分布式技术是人工智能的基石。
今天这篇文章应该算是个福利，了解了部分人工智能、深度学习的基本知识点。谢谢老师作者回复: 不积小流无以成江海，加油！
1
2019-12-27分布式技术原理与算法#Day9
人工智能是什么？ 人工智能是数据喂出来的，需要通过大量的数据进行学习和分析获得规律（模型），然后利用该规律对未知数据进行预测，进而判断是否与建模数据有相同特征。
因此人工智能关注数据、算法（模型）以及算力。数据处理、模型训练是人工智能的关键技术，算力保证了前两者的性能。分布式的入场可以为人工智能带来算力的提升。
具体来看一看人工智能的关键步骤
• 分布式数据处理： 也就是数据的预处理，提高训练数据的质量，为模型提供高质量输入
• 数据统计
• 数据集成
• 数据清洗
• 数据规约
• 数据变换
这些步骤都可以采用大数据处理软件，利用分布式计算框架、分布式存储框架来解决。
• 分布式模型训练：实际还是利用集群作为基础，进行分布式的模型训练，提升训练效率。
• 数据分布式训练：大数据拆小数据
• 模型分布式训练：大模型拆小模型
• 混合模型训练：上两种并存展开- 2019-12-25• 人工智能是什么？ 人工智能是数据喂出来的，需要通过大量的数据进行学习和分析获得规律（模型），然后利用该规律对未知数据进行预测，进而判断是否与建模数据有相同特征。
因此人工智能关注数据、算法（模型）以及算力。数据处理、模型训练是人工智能的关键技术，算力保证了前两者的性能。分布式的入场可以为人工智能带来算力的提升。
具体来看一看人工智能的关键步骤
• 分布式数据处理： 也就是数据的预处理，提高训练数据的质量，为模型提供高质量输入
• 数据统计
• 数据集成
• 数据清洗
• 数据规约
• 数据变换
这些步骤都可以采用大数据处理软件，利用分布式计算框架、分布式存储框架来解决。
• 分布式模型训练：实际还是利用集群作为基础，进行分布式的模型训练，提升训练效率。
• 数据分布式训练：大数据拆小数据
• 模型分布式训练：大模型拆小模型
• 混合模型训练：上两种并存展开 
2019-10-26老师可不可以分享一下，如果想要学习人工智能AI，怎么学习数学呢？
2019-10-14现在的ML虽然叫分布式训练，但是思路还是怎么把batch拆开，怎么处理梯度，从而发展起来的各种奇技淫巧，比如ring all reducer这种。分布式训练和更偏重的是从机器学习算法出发的调优，而不是广义上的分布式。训练的方法也往往和模型紧密相关，resnet和vgg的技巧就完全就不一样。- 2019-10-11看完以后觉得人工智能采用分布式只是解决了算力问题呀，如果有单台超级计算机同样可以做到……不知道说的对不对 1
2019-10-10粗浅的认识到，模型就是算法，任务在节点间分配以及结果在节点间通信。
2019-10-10"单节点实现模型分布式训练，涉及模型拆分、并行与分布式计算模式..."
应该是改成 “多节点...” 吧？作者回复: “单节点或多节点实现模型并行或模型分布式训练，涉及模型拆分、并行与分布式计算模式……”改成这样会更严谨一点。
谢谢提醒！已修改。请继续保持这种学习+思考+分享的习惯！加油！
2019-10-09原来是通过人工智能来引入分布式的应用呀，启动后续的章节