数字健康中的可信人工智能：鲁棒性与可解释性的综合综述
原标题:Trustworthy AI in Digital Health: A Comprehensive Review of Robustness and Explainability
AI 导读
该综述聚焦数字健康场景中的可信人工智能，系统梳理鲁棒性、可解释性、公平性、问责与隐私等维度，并覆盖重症监护、新生儿健康和代谢健康应用。文章进一步总结数据稀缺、分布偏移、特征归因、梯度解释及反事实解释方法，以及面向大语言模型和可信度评估的研究进展。
为什么值得读
医疗AI正从模型精度竞争转向临床部署可信度评估，这篇综述可帮助快速建立鲁棒性与解释性方法的全景框架。
深度解读
1. 发生了什么
原始事实： arXiv 论文 2608.02238 于 2026-08-03 发布，主题是数字健康中的可信 AI，重点综合鲁棒性与可解释性研究。文章将讨论范围延伸至公平性、问责和隐私，并覆盖从问题定义、数据收集到部署和人机交互的完整生命周期。
2. 核心技术
原始事实： 综述聚焦两条技术主线：一是应对数据稀缺与分布偏移的鲁棒性方法；二是包括特征归因、基于梯度的解释和反事实解释在内的可解释 AI 方法。文章还讨论与大语言模型相关的可信 AI，以及有效性、保真度和多样性等评估概念。
3. 关键证据与数字
原始事实： 摘要明确列出三个组织部分：可信 AI 的支柱及技术、伦理挑战；重症监护、新生儿健康和代谢健康等应用场景；以及鲁棒性和可解释性技术进展。摘要未提供统一数据集、性能提升幅度或元分析统计量，因此不能据此宣称某类方法优于其他方法。
4. 为什么重要
分析： 医疗模型面对的风险通常不只来自测试集精度不足，还包括病院、设备、患者群体和时间变化造成的分布偏移，以及临床人员无法判断模型依据的问题。把鲁棒性和解释性放入生命周期与具体临床场景中考察，有助于避免将“可解释”简化为单一可视化工具，或将“可信”简化为一个分数。
5. 实际影响
分析： 研究团队可将本文用作医疗 AI 项目的检查框架：明确数据变化和失效模式，分别评估解释的有效性与保真度，并结合临床工作流设计人工复核。工程团队也可据此区分模型层面的稳健性测试、解释方法评估和部署后的监控，而不是只报告总体准确率或 AUROC。
6. 局限与不确定性
原始事实： 这是综述论文，摘要没有说明系统检索范围、纳入标准、证据质量分级或各方法的统一比较结果。分析： 不同医疗任务的风险、标签质量和临床决策成本差异很大，跨场景结论可能不能直接迁移。未验证推断： 论文可能包含比摘要更细致的评估框架，但在未阅读全文前，不应假定其已解决解释忠实性、因果有效性或 LLM 医疗安全问题。
7. 原始来源
- arXiv 摘要页
- 论文 ID：
arXiv:2608.02238 - 提供信息中的发布时间：
2026-08-03T13:51:12.000Z