论文提出DP-NGD框架,将自然梯度优化引入差分隐私训练。方法通过脱离私有数据估计曲率、在白化空间中协调各向同性噪声与各向异性预条件,并动态裁剪曲率以避免平坦方向上的更新爆炸。作者称,在相同隐私预算下,该方法在标准基准上达到更高准确率,收敛速度最高提升10倍。
最近 24 小时暂无可用热度快照。