颜色分类leetcode tcav:TCAVML可解释性项目的代码

颜色分类leetcode超越特征属性的可解释性：使用概念激活向量(TCAV)进行定量测试[ICML 2018]。作者：金、马丁·瓦滕伯格、贾斯汀·吉尔默、蔡嘉莉、詹姆斯·韦克斯勒、费尔南达·维加斯、罗里·赛尔斯。ICML论文：什么是TCAV？ 使用概念激活向量(TCAV)进行测试是一种新的可解释性方法，用于了解神经网络模型用于预测的信号。与其他方法相比，TCAV的独特之处在于它显示了预测类的高级概念（例如，颜色、性别、种族）的重要性，而不仅仅是单个输入特征的重要性。典型的可解释性方法需要用户拥有特定图像来分析，而TCAV给出的解释通常适用于感兴趣类别的全局范围，不仅局限于某个特定图像。例如，对于给定的分类任务，可以显示某个种族或性别在InceptionV3中的分类中有多重要，即使种族和性别标签不在训练数据中。TCAV通过学习示例来掌握概念，例如需要一些女性和非女性的样本来学习“性别”概念。它已经被测试于各种概念：颜色、性别、种族。