10 | 特征预处理

该思维导图由 AI 生成，仅供参考

数据预处理在特征工程中扮演着至关重要的角色。华盛顿大学教授佩德罗·多明戈斯指出，数据量比算法更为重要，而特征工程则是机器学习的关键。在进行特征工程之前，数据需要经过必要的预处理。特征缩放是其中一项重要的技巧，能够消除特征不同尺度带来的偏差，常用的方法包括标准化和归一化。此外，需要关注数据的偏度，因为偏度较大的数据可能存在异常点，需要进行处理。对于异常点敏感的算法，可以采用空间标识方法进行处理。另外，数据的缺失值也需要处理，可以选择删除不完整数据或者采用更主动的方式进行处理。总之，数据预处理是特征工程的重要一环，对于构建高效的预测模型至关重要。 在模型训练之前对数据特征进行预处理的一些指导性原则包括：特征缩放可以让不同特征的取值具有相同的尺度，方法包括标准化和归一化；异常点会导致数据的有偏分布，对数变换和空间标识都可以去除数据的偏度；$k$近邻方法和线性回归可以用来对特征的缺失值进行人为赋值；删除不具备区分度的特征能够降低计算开销，增强可解释性。这些特征预处理技巧对于构建高效的预测模型至关重要。文章中还介绍了人为赋值的方法，如K近邻算法和线性回归，以及删除不具备区分度的特征的原则。这些技巧在实际任务中具有重要意义，读者可以根据实际情况灵活运用。