VAD：在多模态在线策略蒸馏中归因视觉证据并重构目标
原标题:VAD: Attributing Visual Evidence for Target Reconstruction in Multimodal On-Policy Distillation
AI 导读
论文提出视觉归因蒸馏（VAD），通过固定教师模型在保留或移除视觉证据时的反事实输出差异，估计教师修正中真正由视觉信息支持的部分，再重构以学生为锚点的训练目标。在4B和9B规模、六个细粒度视觉基准上，VAD优于直接特权视图蒸馏与视觉优势加权。
为什么值得读
在线蒸馏正从“复制教师答案”转向识别可迁移证据，VAD为视觉监督如何去除语言先验污染提供了具体的反事实方案。
深度解读
1. 发生了什么
**原始事实：**论文提出 Visual Attribution Distillation（VAD），面向多模态 on-policy distillation。它处理的问题是：教师对学生生成轨迹的下一个 token 修正，可能同时包含视觉信号、语言先验和教师模型特有效应。
2. 核心技术
**原始事实：**在每个学生生成的前缀上，VAD让同一个固定教师分别处理“相关视觉证据存在”和“证据移除”的输入。两种情况下的中心化 log-probability 差异构成带符号的视觉证据代理 u_t。算法将原始教师修正投影到该代理上，并用投影后的干预对齐成分重构学生锚定目标；代理无法解释的残差不再作为主要监督，而是通过弱正则项保留教师影响。
3. 关键证据与数字
**原始事实：**摘要报告了六个细粒度视觉基准、4B与9B两种模型规模的实验。VAD优于直接特权视图蒸馏和 visual-advantage weighting。token级与受控目标分析显示，对任务相关视觉修正的富集更明显；当视觉证据反驳错误答案时，目标偏移尤其更强。摘要未给出具体数据集名称、绝对分数、提升幅度或置信区间。
4. 为什么重要
**分析：**特权视图教师通常拥有学生部署阶段不可见的信息，因此直接蒸馏容易把“看见了什么”“教师习惯怎样表达”与“语言上更可能怎样回答”混在一起。VAD把监督目标改写为证据干预后的结果，提供了一个比简单位置加权更接近因果归因的训练接口。若结果在完整论文和不同教师架构上稳定，它可能改善视觉知识迁移的可解释性与样本效率。
5. 实际影响
**分析：**工程上，VAD适合用于教师可访问更高质量图像、区域标注或额外视觉上下文，而学生只接收普通输入的蒸馏流程。实现重点包括：固定教师评估两种证据条件、计算中心化 log-probability 差异、按 token 投影修正并构造目标。代价是每个前缀需要额外的教师前向计算，训练吞吐、证据移除策略和缓存设计会直接影响可用性。
6. 局限与不确定性
**原始事实：**摘要称 u_t 是带符号的视觉证据方向代理，而不是对真实因果贡献的严格识别；代理未解释残差仍由弱正则项处理。摘要没有说明证据移除的具体操作、教师与学生架构、基线细节、六个基准的名称或统计显著性。
**未验证推断：**如果视觉证据与文本先验高度相关，移除证据可能改变输入分布并引入反事实伪影；在复杂视频、OCR或多图任务中，如何定义“相关证据”也可能成为主要瓶颈。因此，VAD的泛化能力和额外计算成本仍需根据完整实验核验。
7. 原始来源
- arXiv:2607.28590
- 来源标注：Hugging Face Papers（hf-papers）
- 发表时间：2026-08-04（根据所提供元数据）