程序员的数学基础课
黄申
LinkedIn资深数据科学家
立即订阅
23478 人已学习
课程目录
已完结 57 讲
0/4登录后，你可以任选4讲全文学习。
开篇词 (1讲)
开篇词 | 作为程序员，为什么你应该学好数学？
免费
导读 (1讲)
导读：程序员应该怎么学数学？
基础思想篇 (18讲)
01 | 二进制：不了解计算机的源头，你学什么编程
02 | 余数：原来取余操作本身就是个哈希函数
03 | 迭代法：不用编程语言的自带函数，你会如何计算平方根？
04 | 数学归纳法：如何用数学归纳提升代码的运行效率？
05 | 递归（上）：泛化数学归纳，如何将复杂问题简单化？
06 | 递归（下）：分而治之，从归并排序到MapReduce
07 | 排列：如何让计算机学会“田忌赛马”？
08 | 组合：如何让计算机安排世界杯的赛程？
09 | 动态规划（上）：如何实现基于编辑距离的查询推荐？
10 | 动态规划（下）：如何求得状态转移方程并进行编程实现？
11 | 树的深度优先搜索（上）：如何才能高效率地查字典？
12 | 树的深度优先搜索（下）：如何才能高效率地查字典？
13 | 树的广度优先搜索（上）：人际关系的六度理论是真的吗？
14 | 树的广度优先搜索（下）：为什么双向广度优先搜索的效率更高？
15 | 从树到图：如何让计算机学会看地图？
16 | 时间和空间复杂度（上）：优化性能是否只是“纸上谈兵”？
17 | 时间和空间复杂度（下）：如何使用六个法则进行复杂度分析？
18 | 总结课：数据结构、编程语句和基础算法体现了哪些数学思想？
概率统计篇 (14讲)
19 | 概率和统计：编程为什么需要概率和统计？
20 | 概率基础（上）：一篇文章帮你理解随机变量、概率分布和期望值
21 | 概率基础（下）：联合概率、条件概率和贝叶斯法则，这些概率公式究竟能做什么？
22 | 朴素贝叶斯：如何让计算机学会自动分类？
23 | 文本分类：如何区分特定类型的新闻？
24 | 语言模型：如何使用链式法则和马尔科夫假设简化概率模型？
25 | 马尔科夫模型：从PageRank到语音识别，背后是什么模型在支撑？
26 | 信息熵：如何通过几个问题，测出你对应的武侠人物？
27 | 决策树：信息增益、增益比率和基尼指数的运用
28 | 熵、信息增益和卡方：如何寻找关键特征？
29 | 归一化和标准化：各种特征如何综合才是最合理的？
30 | 统计意义（上）：如何通过显著性检验，判断你的A/B测试结果是不是巧合？
31 | 统计意义（下）：如何通过显著性检验，判断你的A/B测试结果是不是巧合？
32 | 概率统计篇答疑和总结：为什么会有欠拟合和过拟合？
线性代数篇 (13讲)
33 | 线性代数：线性代数到底都讲了些什么？
34 | 向量空间模型：如何让计算机理解现实事物之间的关系？
35 | 文本检索：如何让计算机处理自然语言？
36 | 文本聚类：如何过滤冗余的新闻？
37 | 矩阵（上）：如何使用矩阵操作进行PageRank计算？
38 | 矩阵（下）：如何使用矩阵操作进行协同过滤推荐？
39 | 线性回归（上）：如何使用高斯消元求解线性方程组？
40 | 线性回归（中）：如何使用最小二乘法进行直线拟合？
41 | 线性回归（下）：如何使用最小二乘法进行效果验证？
42 | PCA主成分分析（上）：如何利用协方差矩阵来降维？
43 | PCA主成分分析（下）：为什么要计算协方差矩阵的特征值和特征向量？
44 | 奇异值分解：如何挖掘潜在的语义关系？
45 | 线性代数篇答疑和总结：矩阵乘法的几何意义是什么？
综合应用篇 (6讲)
46 | 缓存系统：如何通过哈希表和队列实现高效访问？
47 | 搜索引擎（上）：如何通过倒排索引和向量空间模型，打造一个简单的搜索引擎？
48 | 搜索引擎（下）：如何通过查询的分类，让电商平台的搜索结果更相关？
49 | 推荐系统（上）：如何实现基于相似度的协同过滤？
50 | 推荐系统（下）：如何通过SVD分析用户和物品的矩阵？
51 | 综合应用篇答疑和总结：如何进行个性化用户画像的设计？
加餐 (3讲)
数学专栏课外加餐（一） | 我们为什么需要反码和补码？
数学专栏课外加餐（二） | 位操作的三个应用实例
数学专栏课外加餐（三）：程序员需要读哪些数学书？
结束语 (1讲)
结束语 | 从数学到编程，本身就是一个很长的链条
程序员的数学基础课
登录|注册

21 | 概率基础（下）：联合概率、条件概率和贝叶斯法则，这些概率公式究竟能做什么？

黄申 2019-02-01
你好，我是黄申。
上一节我介绍了随机现象、随机变量以及概率分布这些比较简单的概念。学习这些概念是为了做什么呢？其实就是为了更精确地描述我们生活中的现象，用数学的视角看世界，以此解决其中的问题。
但是实际生活中的现象并非都会像“投硬币”那样简单。有很多影响因素都会影响我们去描述这些现象。比如，看似很简单的“投硬币”，我们其实只是考虑最主要的情况，粗暴地把硬币出现的情况一分为二。比如说，不同类型的硬币是否会影响正反面的概率分布呢？站立的情况如何考虑呢？再比如说，在汽车速度的例子中，经过的交通路线，不同的路线是否会影响速度的概率分布呢？
一旦影响因素变多了，我们需要考虑的问题就多了。想要解决刚才那几个问题，更精确地描述这些现象，我们就需要理解几个新的概念，联合概率、条件概率以及贝叶斯法则。从数学的角度来说，这些概念能描述现实世界中更为复杂的现象，建立更精细的数学模型。比如，我们后面要讲的朴素贝叶斯算法就是建立在联合概率、条件概率和边缘概率之上的。所以，这一节的内容也非常重要，你一定要认真学习并且掌握。

联合概率、条件概率和边缘概率

最近，我一直在操心儿子的教育问题，所以一直在研究他班级的成绩单。为了弄清我儿子在班级上的成绩排名，我向老师要了张全班成绩的分布表。
取消
完成
0/1000字
划线
笔记
复制
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
该试读文章来自付费专栏《程序员的数学基础课》，如需阅读全部文章，
请订阅文章所属专栏。
立即订阅
登录 后留言

精选留言(24)

  • Joe
    新年好，简单公式推导如下，虽然可以直接看出来。
    设事件x：抽中100元红包；
    事件y：抽到爷爷的红包。
    则100元的红包来自爷爷的概率：P(y|x) = P (x,y) / P(x) = (6/22) / (10/22) = 0.6
    100元红包来自奶奶的概率为：0.4

    作者回复: 是的

    2019-02-01
    11
  • qinggeouye
    随机变量 X 的取值：爷爷、奶奶，随机变量 Y 的取值：50 、100。
    问题：求解 P(X=爷爷|Y=100) 、P(X=奶奶|Y=100) 。

    由统计数据可知：
    P(Y=100) = (6 + 4) / (4 + 6 + 8 + 4) = 5/11
    P(X=爷爷, Y=100) = 6 / (4 + 6 + 8 + 4) = 3/11
    P(X=奶奶, Y=100) = 4 / (4 + 6 + 8 + 4) = 2/11

    则：
    P(X=爷爷|Y=100) = P(X=爷爷, Y=100) / P(Y=100) = 3/5
    P(X=奶奶|Y=100) = P(X=奶奶, Y=100) / P(Y=100) = 2/5

    作者回复: 写得很清楚

    2019-03-03
    9
  • 动摇的小指南针
    我理解贝叶斯的应用场景，就是充分利用统计和先验，转化为预测

    作者回复: 是的👍

    2019-04-18
    4
  • strentchRise
    P(爷爷|100) * P(100) = P(100|爷爷) * P(爷爷)
    P(爷爷|100) = P(100|爷爷) * P(爷爷) / P(100)
    P(爷爷|100) = (6/10) * (10/22) / (10/22)
    P(爷爷|100) = 6/10 = 0.6
    P(奶奶|100) = 1 - P(奶奶|100) = 1 - 0.6 = 0.4


    作者回复: 正解👍

    2019-02-02
    2
  • Geek_cd2df5

    条件P(男生 | 90-100) 和 边缘P(90-100) 算出联合P(男生，90-100）能明白，算出边缘P（男生）是怎么算的呢？

    作者回复: 可以直接根据班级男生人数和总人数算出

    2019-07-06
    1
    1
  • zzz
    “P(男生 | 90-100) 和 P(90-100) 算出边缘概率P(男生)”，请问这具体是怎么算的？

    作者回复: 这里是个笔误，仅仅根据这两个确实算不出来

    2019-04-21
    1
  • 杜克
    也可以使用 P(男生 | 90-100) 和 P(90-100) 算出边缘概率 P(男生)。老师，请问这一句怎么理解，P(男生 | 90-100) 和 P(90-100) 这两个可以推导出P(男生，90-100)，P(男生)我理解要通过各个分数段的求和得到，但是感觉现在只知道一个分数段的，请问这个是我理解错误了么

    作者回复: 这里是个笔误，仅仅根据这两个确实算不出来

    2019-04-21
    1
  • 永旭
    老师, 你好.
    P(男生 | 90-100) 和 P(90-100 | 男生) 有什么区别 ? 怎么理解呢 ?

    作者回复: P(男生|90-100)是表示90-100分里有多少个男生，比如全班90-100分有10个人，其中男生4人，那么这个概率就是40%

    而P(90-100|男生)是表示男生里有多少个人是90-100分，比如全班男生有40个人，其中90-100的4人，那么这个概率就是10%

    2019-02-14
    1
  • 安迪
    这个100的红包来自爷爷的的概率是3/5，来自奶奶的概率是2/5。

    作者回复: 是的，可以用贝叶斯定理推导一下

    2019-02-01
    1
  • 无法言喻.
    0.6,0.4吧，直接看出来的，不知道对不。公式还不习惯，需要好好消化一下。

    作者回复: 结果是对的，可以用贝叶斯定理推导一下

    2019-02-01
    1
  • 美美
    总红包数22；
    100 红包数：6个爷爷，4个奶奶；
    p（x）= 抽到 100块红包= 10/22;
    P（y）= 抽到奶奶的红包 = 12/22;
    p（y|x）= ( P(x|y) * p(y) )/ p(x) = (4/12) * (12/22) / （10/22） = (6/33) / (15/33)= 2/5
    2019-11-08
  • Ronnyz
    A（爷爷）：4(50)，6(100)
    B（奶奶）：8(50)，4(100)
    P(100|A)=P(100,A)/p(A)=(6/22)/(10/22)=0.6
    P(100|B)=0.4

    作者回复: 是的

    2019-10-08
  • Conan
    在统计学中，我们也把 P(y | x) 写作似然函数 L(x | y)。应该是L(y | x)吧

    作者回复: 对，是个笔误

    2019-09-04
  • 小伟
    对概率有个很大的疑惑，40%和50%，区别有多大？老师可以帮助解答下吗？

    作者回复: 这是个好问题，很多时候人类只对极端值更有清晰的感知，比如10%和90%。但是对于中间值，例如40%和50%到底有多大区别？可能很难从直观上体会到，这里的数值的差别更多的是让计算机进行决策

    2019-08-31
  • Paul Shan
    总结
    联合分布，是同时满足两个条件下的元素占所有元素的比例。
    条件分布，是同时满足两个条件下的元素占满足其中一个条件的元素的比例。
    边缘分布，是满足一个条件的元素占所有元素的比例。
    贝叶斯定理，通过一个条件分布和相应的边缘分布算出联合分布，再结合另外一个边缘分布算出另外一个条件分布，是一个从条件分布到条件分布的过程。
    2019-08-30
  • Paul Shan
    思考题
    100 的红包里，爷爷贡献了六个，奶奶贡献了四个，所以出自爷爷的是60%。
    2019-08-30
  • Mr_杨
    独立性是不是不够严谨，不能只通过相等就判断是独立事件，应该是看同条件下不同结果对事件的概率影响，没有影响就是独立的，比如P(y|x)=P(y|-x),我这个理解对吗？

    作者回复: 是的，相等只是必要但不充分条件

    2019-07-22
  • 钠镁铝硅磷😒
    高中和大学的学的概率终于派上用场了
    2019-07-09
  • 史明春Larry
    做了简化处理，认为各个事件是独立的

    作者回复: 是的👌

    2019-04-16
  • 摩西
    老师你好，为什么p(x,y)=p(y,x)

    作者回复: 你可以看下联合概率的定义，它是x和y同时出现的概率，而x和y同时出现的次数是一样的，也就是说计算概率时的分子是一样的，而分母都是总的次数。

    2019-04-01
收起评论
24
下载
客户端
返回
顶部