张申傲
2024-06-19
来自北京
第9讲打卡~ 思考题:激活函数可以使神经网络呈现非线性,是因为激活函数中引入了复合函数和非线性转换,简单来说就是针对每层网络,激活函数可以控制有哪些特征值、经过什么样的转换之后,再传递到下一层。如果没有激活函数,那么输入层的所有特征值都会按照固定的权重依次传递到隐藏层和输出层,经过换算之后,本质上就相当于只经历了一个线性的隐藏层。
作者回复: 没错
2
方梁
2024-06-19
来自北京
如果没有激活函数,那么下层的节点和参数会几何级增长。
作者回复: 有一定的道理