NANQ：面向模拟存内计算、感知噪声底限的混合精度非均匀量化
原标题:NANQ: Noise-Floor-Aware Mixed-Precision Non-Uniform Quantization for Analog Compute-in-Memory
AI 导读
NANQ面向模拟存内计算中的器件波动与读噪声，依据实测eFlash阵列的幅值相关噪声自适应分配非均匀量化密度，并按硬件噪声下的精度饱和点确定逐层位宽。摘要称，在片上SoC实验中，2-bit权重量级量化较PowerQuant将视觉准确率提高8.05个百分点、语言模型PPL平均降低54.7%，混合精度仅需3.2至3.8等效位。
为什么值得读
模拟CIM部署的瓶颈正从理想量化误差转向真实器件噪声，NANQ给出了基于实测噪声分配精度的可落地方案，但结果仍待正文核验。
深度解读
1. 发生了什么
原始事实： 论文提出NANQ，一种面向模拟存内计算（CIM）的噪声底限感知、混合精度、非均匀量化框架。其目标是在器件波动和读取噪声存在时，避免把额外量化精度浪费在硬件噪声已经占主导的区域。
2. 核心技术
原始事实： NANQ首先从eFlash CIM阵列的实测响应中建立与权重幅值相关的噪声模型，再把噪声曲线转换为自适应量化密度：低噪声区域使用更细的量化间隔，噪声主导区域减少无效精度。逐层位宽则依据各层在硬件噪声下的“精度饱和点”，通过统一阈值进行分配。
3. 关键证据与数字
原始事实： 摘要称，实验运行于eFlash CIM SoC。在2-bit权重量级量化设置下，相比PowerQuant，NANQ令视觉模型准确率平均提高8.05个百分点，语言模型困惑度（PPL）平均降低54.7%。混合精度版本以3.2至3.8等效位获得了增加量化资源所能带来的大部分收益。摘要未提供模型、数据集、样本规模、绝对准确率或绝对PPL。
4. 为什么重要
分析： 常规量化通常围绕理想数字计算中的舍入误差优化，但模拟CIM的有效精度还受器件状态、读取噪声及幅值相关误差约束。若测得的噪声底限能够直接指导量化点和逐层位宽，模型精度与存储、能耗之间的折中可能比单纯增加位数更有效。
5. 实际影响
分析： 该方法可能适合拥有芯片表征数据的CIM部署流程：先测量阵列噪声，再生成非均匀码本与逐层位宽配置。3.2至3.8等效位若能在不同芯片、温度和老化条件下保持效果，可能减少存储占用、转换开销和无效精度；这些系统级收益未在所给摘要中量化。
6. 局限与不确定性
已知缺口： 摘要没有列出具体模型、数据集、芯片工艺、阵列规模、能耗、延迟、面积、校准成本或统计波动，也未说明与PowerQuant之外方法的比较。未验证推断： 噪声模型可能依赖特定eFlash阵列，跨芯片、跨温度和长期漂移下是否需要重新标定尚不清楚。所给发布日期为2026-08-03，属于未来日期，因此论文状态和实验结果目前需要额外核验。
7. 原始来源
- arXiv摘要页：arXiv:2608.02700
- 本解读仅依据用户提供的标题、摘要与元数据；未添加未经来源支持的实验数据或作者结论。