深度网络的公理归因

[www.ziwang.com]

https://github.com/ankurtaly/Integrated-Gradients
集成梯度
(又名路径集成梯度，又名深度网络的公理归因)

触点：集成梯度 AT gmail.com

贡献者（按字母顺序，姓氏）：

Kedar Dhamdhere（谷歌）
普拉莫德·考什克·穆德拉卡尔塔（芝加哥大学）
Mukund Sundararajan （Google）
Ankur Taly（谷歌大脑）
金华（肖恩）徐（确实）
我们研究了将深度网络的预测归因于其输入特征的问题，以尝试解释单个预测。例如，在对象识别网络中，归因方法可以告诉我们图像的哪些像素负责选择某个标签，或者句子中的哪些单词表示强烈的情感。

应用程序的范围从帮助开发人员调试，允许分析师探索网络的逻辑，以及让最终用户对网络预测的原因有一定的透明度。

积分梯度是计算预测输出的梯度的变体，w.r.t.输入的特征。它不需要修改原始网络，实现简单，适用于各种深度模型（稀疏和密集，文本和视觉）。

相关论文和幻灯片
深度网络的公理归因 -- Mukund Sundararajan， Ankur Taly， Qiqi Yan， 机器学习国际会议 （ICML） 论文集， 2017

本文介绍了积分梯度方法。它提供了该方法的公理论证以及各种深度网络的应用。幻灯片

模型是否理解了这些问题？-- Pramod Mudrakarta， Ankur Taly， Mukund Sundararajan， Kedar Dhamdhere， Proceedings of Computational Linguistics （ACL）， 2018

本文讨论了集成梯度在评估问答网络鲁棒性方面的应用。幻灯片