重学线性代数
朱维刚
前阿里云资深技术专家
9100 人已学习
新⼈⾸单¥59
登录后,你可以任选2讲全文学习
课程目录
已完结/共 19 讲
开篇词 (1讲)
重学线性代数
15
15
1.0x
00:00/00:00
登录|注册

05 | 线性空间:如何通过向量的结构化空间在机器学习中做降维处理?

你好,我是朱维刚。欢迎你跟我一起重学线性代数!
今天我们来聊一聊“线性空间”。在“基本概念”那一节课中,我讲到了向量,你也看到了,线性方程组是能够通过矩阵或向量来表达的。那为什么我们还要学习线性空间呢?
说到线性空间,其实你可以通过“空间”这个词把线性空间和我们的生活做个类比。就像我们生活在三维世界中,在这个空间中,一切物质都是运动的,而运动也是有一定规律的。这么来看的话,空间其实就是一个具有实际意义的集合,其中包含了对象运动
把这个理解平移到线性空间也是一样的,向量就是对象,如果把向量看成是线性空间中的点,那向量的变换就是点在空间中的运动。所以,线性空间也是一个集合,它的意义在于,赋予了向量生命和活力,只有掌握了线性空间,我们才能真正在实际运用中有的放矢。因为所有的活动都要在这个空间中发生,比如:线性空间中用到的傅立叶变换。

组(群)

还是老样子,我们要先从学习线性空间会用到的基础知识开始讲起。
我们先来讲一下“组”,组也可以叫成大家习惯的“群”(以下均以“组”称呼)。说到“组”,它其实是一个通用的概念,和线性空间没有什么关系,但我之所以要先说组,是因为组(群)和空间是类似的,也是集合,性质也差不多,如果你了解了组,就更容易理解线性空间了。而且,组在计算机科学中是得到了广泛应用的,特别是在计算机密码学和图形图像处理中。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

本文深入介绍了线性空间和向量空间的概念,以及向量子空间在机器学习中的重要性。作者首先从线性空间的概念入手,通过对组(群)的讲解引出了线性空间的概念,并详细解释了组的定义和矩阵乘法是否构成组的例子。接着,作者引入了向量空间的概念,解释了向量空间的定义和数学描述,并通过具体的例子进一步加深了读者对向量空间的理解。最后,作者提到了向量子空间,并通过机器学习中的应用场景,说明了向量子空间在降维算法中的重要性。文章通过数学方法和具体例子,深入浅出地介绍了线性空间和向量空间的概念,为读者提供了理解和运用线性代数在机器学习中的基础知识。文章内容丰富,涵盖了线性代数在机器学习中的实际应用,对读者进行了全面的知识普及和技术指导。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《重学线性代数》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(14)

  • 最新
  • 精选
  • 跨域刀
    1、A看起来是X轴的范围大于Y轴的范围,对于内部运算:假设长度5为A在X轴方向的边缘,有[-5,4] + [5,4] = [0,8],从图上来看,不符合封闭性; B没有经过原点处。而向量子空间一定有0; C的话,如果C代表0向量,则不符合向量子空间的条件1;如果C不代表0向量。那就是C是向量子空间了。 2、特征提取的话,目前在 01 | 导读:如何在机器学习中运用线性代数工具? 对于花萼和花瓣长宽部分看到有这方面的信息。

    作者回复: 赞,答案是:A不符合封闭性,B没有包含0,C是向量子空间,它不代表0向量。

    2020-08-19
    2
    7
  • Paul Shan
    请问老师,向量子空间为什么要把单独0向量构成的集合排除出去?

    作者回复: Hi Paul,0向量没有被排除出去,子空间不等于0,但包含0。但如果从单独0向量来说,为什么子空间不等于0?除了它本身的性质决定外,我们从另一个角度,也就是实际角度看,如果子空间只有0,那和什么都没有一样,研究子空间也失去了意义。

    2020-08-10
    5
  • Iridescent
    请问老师,为什么yn可以直接写成0和z的形式?,e1前的系数为什么直接等于0?

    作者回复: 你好,Iridescent,因为从降维的角度来说,写成0就类似数据压缩效果,z假定是执行压缩后的结果数据,yn可以表示成0和z组合,它也可以由基来表达,一个是0和基e1乘,一个是z和基e2乘。

    2020-08-08
    2
  • 那时刻
    有两个问题请教下老师: 1. 向量空间提到了分配律,而组的定义没有,这是他们的区别吗? 2. 交换组的概念不是很清楚,它的意义是什么?

    作者回复: 1. 是的,因为向量空间包含了两类运算,一类是加,一类是标量乘。 2. 交换组从组本身来说没有特别的含义,只是一个定义而已,它的意义其实就是引出向量空间,所以向量空间定义的第一条就是(V,+)是一个交换组。

    2020-08-07
    2
  • 孟竹
    老师,交换这里,文稿中写的是 x⊗y∈y⊗x 为什么不是x⊗y=y⊗x

    作者回复: 你好,孟竹,谢谢指正,确实应该是等号,会修改后重新发布。

    2021-01-23
    1
  • qinsi
    根据“组”的定义,这个概念在国内一般翻译成“群”...

    作者回复: 这个我纠结了好久,其实“群”是有问题的,因为“物以类聚,人以群分”,而且组确实在计算机科学中用到的也比较多。

    2020-08-08
    1
  • 那时刻
    关于思考题 1. R2 的向量子空间,我的理解是图像A 2. 我理解的特征提取包含有降维操作,假设采样数据是n维数据 Rn,特征提取可以认为是寻找Rn的向量子空间,然后把采样数据映射到该向量子空间,达到特征提取的目的。 不知道我的理解是否有偏差。

    作者回复: 你好,那时刻,这个厉害了,采样后就是通过图像来看这个问题的,最后其实就是分析图像,降维也是图像处理,包括降噪处理。啊呀,这么说我是不是提前透露思考了。

    2020-08-07
    1
  • Geek_984982
    这个就是自编码技术(AE)的数学基础吗

    作者回复: 确实和AE用到的编码类似,把高维度的输入 x 编码成低维度的隐变量 z。

    2021-08-24
  • 流殇忘情
    关于把群翻译成组会对读者产生特别大的影响,很多数学名词的翻译已经达成了共识,如果突然把群翻译成组会对读者产生误导,想要在中文互联网查询组的资料,发现根本找不到组,经过一番折腾最后发现还是得用群,建议把组修改成群,这样更统一些。

    作者回复: 谢谢你的建议,我思考一下怎么写。

    2020-09-01
  • Paul Shan
    思考题 1. C,A没有包含0向量,非0元素一旦收缩到0就不再封闭。B也包含非零元素,却不是无限的,非零元素放大一定程度也不再封闭。 2.声音信号的采集就包含了很多维度的信息,这些维度的信息很可能有冗余,可以用线性子空间减少维度,起到数据压缩的效果。

    作者回复: 厉害,Paul,其实冗余信息有双面性,一方面可以用来压缩,另一方面还能用在数据恢复上,就看怎么用了。

    2020-08-11
收起评论
显示
设置
留言
14
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部