171、AI降噪模型在手机平台上的量化部署——高通SNPE与联发科NeuroPilot的INT8量化误差分析与调优
上个月在珠海某客户那边调一款夜景降噪算法，模型在PC端TensorRT上跑得好好的，PSNR比上一代方案高了0.8dB，结果一搬到骁龙8 Gen2的SNPE上，整机预览画面直接出现块状伪影，暗部噪点反而比没降噪前还明显。客户工程师拿着示波器（其实是盯着屏幕）问我：这INT8量化是不是把模型给“阉割”了？我当时没直接回答，先让他把SNPE的量化日志拉出来，一看每层激活值的min/max分布，心里大概有数了——问题不在量化本身，在于我们喂给量化校准集的那些数据，压根没覆盖到真实夜景的统计分布。
先聊高通SNPE这边。SNPE的INT8量化走的是非对称量化，scale和zero_point是逐层算的，校准过程默认用TF的min/max策略，也就是拿校准集在每一层跑一遍，记录激活值的全局最小最大值，然后线性映射到[-128,127]。这个策略对大多数分类模型够用，但降噪模型有个要命的特性——它的中间特征图是高度稀疏的，尤其是经过ReLU之后，大量激活值集中在0附近，而少数大值（比如边缘高光区域的梯度响应）会把min/max区间拉得很宽。结果就是0附近的那些精细纹理细节，量化步长被大值撑大了，映射到INT8后直接变成0，细节全丢。我们当时在SNPE上跑出来的块状伪影，就是某些层的激活值分布严重偏斜，量化后大量数值被压到同一个bin里，反卷积上采样时这些“量化噪声”被放大成规则块状。
解决办法不是去改SNPE的量化器（它不开放），而是改校准集。别用那种从公开数据集里随便抽几百张图的做法，降噪模型必须用真实场景的raw域数据做校准，而且要把暗
