基于逐层增量分解的深度网络神经元相关性解释方法
文献类型：期刊论文
| 作者 | 陈艺元; 李建威; 邵文泽; 孙玉宝 |
| 刊名 | 自动化学报
 |
| 出版日期 | 2024 |
| 卷号 | 50期号:10页码:2049-2062 |
| 关键词 | 神经网络 可解释性 决策相关性 逐层相关性传播 类激活图 积分梯度 |
| ISSN号 | 0254-4156 |
| DOI | 10.16383/j.aas.c230651 |
| 英文摘要 | 神经网络的黑箱特性严重阻碍了人们关于网络决策的直观分析与理解. 尽管文献报道了多种基于神经元贡献度分配的决策解释方法, 但是现有方法的解释一致性难以保证, 鲁棒性更是有待改进. 本文从神经元相关性概念入手, 提出一种基于逐层增量分解的神经网络解释新方法LID-Taylor (Layer-wise increment decomposition), 且在此基础上先后引入针对顶层神经元相关性的对比提升策略, 以及针对所有层神经元相关性的非线性提升策略, 最后利用交叉组合策略得到最终方法SIG-LID-IG, 实现了决策归因性能的鲁棒跃升. 通过热力图对现有工作与提出方法的决策归因性能做了定性定量评估. 结果显示, SIG-LID-IG在神经元的正、负相关性的决策归因合理性上均可媲美甚至优于现有工作. SIG-LID-IG在多尺度热力图下同样取得了精确性更高、鲁棒性更强的决策归因. |
| 源URL | [http://ir.ia.ac.cn/handle/173211/59478]  |
| 专题 | 自动化研究所_学术期刊_自动化学报 |
| 推荐引用方式 GB/T 7714 | 陈艺元,李建威,邵文泽,等. 基于逐层增量分解的深度网络神经元相关性解释方法[J]. 自动化学报,2024,50(10):2049-2062. |
| APA | 陈艺元,李建威,邵文泽,&孙玉宝.(2024).基于逐层增量分解的深度网络神经元相关性解释方法.自动化学报,50(10),2049-2062. |
| MLA | 陈艺元,et al."基于逐层增量分解的深度网络神经元相关性解释方法".自动化学报 50.10(2024):2049-2062. |
入库方式： OAI收割
来源：自动化研究所
浏览0
下载0
收藏0
其他版本
除非特别说明，本系统中所有内容都受版权保护，并保留所有权利。