开启黑箱：可解释机器学习的构建

1. 深度学习在性能上已经不断走向极致，但其在原理上仍然存在着一个严重的缺陷，即可解释性的欠缺。 2. 构建可解释机器学习（eXplainable Machine Learning）成为人工智能研究的热点之一，旨在不仅对机器学习能够“知其然”，还能够“知其所以然”。 3. 模型的可解释性和复杂性呈负相关的关系，越复杂的模型，如深度神经网络，其可解释性就越差。 4. 事前可解释性方法指模型本身天然具备可解释性，无需额外的信息，只根据模型结构就可以理解模型的决策过程或决策依据。 5. 事后可解释性方法的对象是给定的训练好的学习模型，旨在构建学习模型的工作机制和决策依据。 6. 全局可解释性旨在从整体上理解模型背后的复杂逻辑以及内部的工作机制，如模型是如何学习的、学到了什么、如何实现决策等问题。 7. 局部可解释性则旨在理解学习模型针对每个特定输入样本的决策过程和决策依据，这意味着以数据为导向，计算输入样本的每一维特征对最终决策结果的贡献。 8. 模型蒸馏是一种全局解释方法，通过利用结构紧凑的学生模型来模拟结构复杂的教师模型，实现对教师模型的“蒸馏”。 9. 局部解释方法包括LIME和类激活映射，用于捕获模型的局部特征和识别输入图像中的重要区域。