SSTQ：通过子采样随机 TurboQuant 实现隐私保护向量量化

在保持较低通信成本的同时，在分布式优化中实现局部差分隐私仍然具有挑战性。现有的向量量化方法（例如 vqSGD）采用高维几何构造，但会产生不利的、依赖维度的方差。本文提出子采样随机 TurboQuant（Subsampled Stochastic TurboQuant，SSTQ）框架，该框架结合了过完备等范数紧框架、坐标子采样和隐私感知的一维量化。SSTQ 包含两个变体：平坦随机响应版本和度量感知拉普拉斯版本，后者更适用于码本位宽较高的场景。我们证明，SSTQ 在每个客户端仅使用 $\lceil \log_2 N \rceil + b$ 比特的情况下，即可实现最优的均方误差缩放，其中 $N = Θ(d)$ 为框架大小。我们还推导出一个隐私感知的替代码本优化目标，将依赖码本的均方误差缩放从 $O(4^b)$ 降低至 $O(2^b)$。最后，我们在使用 CIFAR-10 和 Fashion-MNIST 的联邦学习任务上，将 SSTQ 与已有的基线方法进行了实证比较，结果表明 SSTQ 在效用和通信效率方面表现良好。