机器学习早期非线性模型：决策树 ，基于决策树的其他tree models；概率图模型，最大的缺点是算法没有普适性。

深度学习技术慢慢成了非线性模型的主流，特点：1自动挖掘数据间的关系；2所有模型共同用一个数学框架

深度神经网络是深度学习技术最简单最基础的一个模型，特点：有足够多的内部隐含变量（就是有足够多的参数？）可以表示出任何复杂的函数关系；计算框架具有普适性。


在计算机视觉这样的领域里，利用深度神经网络来挖掘特征基本上已经完全代替了手动的特征挖掘