颜色分类leetcode DeepExplain：深度学习的归因方法DeepExplain为最先进的梯度和基于扰动的归因方法提供了统一的框架。研究人员和从业者可以使用它来更好地理解推荐的现有模型，以及对其他归因方法进行基准测试。它支持Tensorflow以及Keras与Tensorflow后端。仅支持Tensorflow V1。对于V2，有一个开放的拉取请求，如果禁用了急切执行，则该请求有效。实现以下方法：基于梯度的归因方法,在它的第一个变体中使用Rescale规则。标有(*)的方法作为修改后的链式规则实现，在Ancona等人，ICLR 2018中有更好的解释。因此，结果可能与原始实现略有不同。基于扰动的归因方法，作为。什么是归因？考虑一个网络和这个网络的特定输入（例如，一个图像，如果网络被训练用于图像分类）。输入是多维的，由多个特征组成。在图像的情况下，每个像素都可以被视为一个特征。归因方法的目标是针对感兴趣的目标神经元（例如，对应于正确类别的神经元的激活R(x_i)）确定每个输入特征的真实值R(x_i)。