有效解释 Keras 模型的 AI 算法

[www.ziwang.com]

https://github.com/lucasdavid/keras-explainable
可解释的凯拉斯
Travis build status Documentation status
有效解释 Keras 模型的 AI 算法。

实现的解释方法

方法	类	描述	参考
梯度反向传播	梯度	计算被解释的输出激活单元相对于输入信号中每个单元的梯度。	文档论文
全渐变	梯度	将模型中每个偏置因子的单独贡献添加到提取的梯度中，形成“全梯度”表示。	文档论文
凸轮	凸轮	通过线性组合来自最后一个卷积层的激活映射来创建特定于类的映射，并按它们对感兴趣单位的贡献进行缩放。	文档论文
格拉德-卡姆	凸轮	激活图的线性组合，由输出单元相对于映射本身的梯度加权。	文档论文
Grad-CAM++	凸轮	在激活映射中对像素进行加权以抵消平衡，从而在多个对象实例上产生相似的激活强度。	文档论文
得分凸轮	凸轮	组合激活图，考虑它们对激活的贡献，当用于屏蔽时 激活图用于屏蔽输入信号，输入信号被转发并计算新的激活强度。地图按其相对激活保留率进行加权组合。	文档论文
平滑格勒	元	AI解释方法的连续应用，每次都会向输入信号添加高斯噪声。	文档论文
塔塔	元	连续应用AI解释方法，每次对输入信号应用增强。

实现的解释方法 方法 类 描述 参考 梯度反向传播 梯度 计算被解释的输出激活单元相对于输入信号中每个单元的梯度。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.gradient.gradients)[论文](https://arxiv.org/abs/1312.6034) 全渐变 梯度 将模型中每个偏置因子的单独贡献添加到提取的梯度中，形成“全梯度”表示。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.gradient.full_gradients)[论文](https://arxiv.org/abs/1905.00780) 凸轮 凸轮 通过线性组合来自最后一个卷积层的激活映射来创建特定于类的映射，并按它们对感兴趣单位的贡献进行缩放。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.cams.cam)[论文](https://arxiv.org/abs/1512.04150) 格拉德-卡姆 凸轮 激活图的线性组合，由输出单元相对于映射本身的梯度加权。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.cams.gradcam)[论文](https://arxiv.org/abs/1610.02391) Grad-CAM++ 凸轮 在激活映射中对像素进行加权以抵消平衡，从而在多个对象实例上产生相似的激活强度。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.cams.gradcampp)[论文](https://arxiv.org/abs/1710.11063) 得分凸轮 凸轮 组合激活图，考虑它们对激活的贡献，当用于屏蔽时 激活图用于屏蔽输入信号，输入信号被转发并计算新的激活强度。地图按其相对激活保留率进行加权组合。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.cams.scorecam)[论文](https://arxiv.org/abs/1910.01279) 平滑格勒 元 AI解释方法的连续应用，每次都会向输入信号添加高斯噪声。 [文档](https://lucasdavid.github.io/keras-explainable/api/keras_explainable.methods.html#keras_explainable.methods.meta.smooth)[论文](https://arxiv.org/abs/1706.03825) 塔塔 元 连续应用AI解释方法，每次对输入信号应用增强。