从可解释性方法转向可解释模型

计算机视觉的可解释性研究积累了十余年归因、特征可视化与回路分析工具，重心却长期停留在工具本身的较量上。该论文呼吁转向模型本身，一面用现成工具横向测度不同架构的表征差异，一面引入独立评估者量化人类对模型的真实理解。当探测工具日渐完备，评判的标尺终于落回到了被观察者身上。