• 石云升
    2024-09-08 来自广东
    基于梯度的剪枝: 计算每个参数对损失函数的梯度。 梯度小的参数被认为不那么重要,可以被剪掉。 这种方法考虑了参数对模型性能的实际影响。 基于激活的剪枝: 分析神经元的激活情况。 很少被激活或激活值很小的神经元可能不那么重要。 基于重构误差的剪枝: 评估删除某个参数后对网络输出的影响。 影响小的参数可以被剪掉。 这种方法更准确但计算成本较高。 基于敏感度的剪枝: 分析每个参数对模型性能的敏感度。 敏感度低的参数可以被剪掉。
    
    