精度验证基础概念：定点数与浮点数、量化误差、舍入模式、溢出处理

做精度验证这些年，我最大的感触是：很多bug不是逻辑错了，而是数字的表示方式出了问题。你想想看，同样的数值，用定点数和浮点数去算，结果可能差好几个百分点。这期我们就来聊聊这些基础概念，它们是你做精度验证的根基。

先说定点数。说白了，就是小数点位置固定不变。比如一个16位定点数，约定高8位是整数部分，低8位是小数部分。那0x0100就代表1.0，0x0080代表0.5。

我在项目中遇到过这样一个坑：有个同事把两个定点数相加，结果直接溢出了。为什么？因为他没注意到两个数的Q格式不一样。一个Q8.8，一个Q4.12，直接加等于把苹果和橘子混在一起算。

浮点数就好理解多了。它用科学计数法存数字，像IEEE 754标准里的单精度float，1位符号位、8位指数、23位尾数。动态范围大，但硬件开销也大。

关键区别：

量化误差，就是真实值和数字表示值之间的差值。你想想看，一个无限精度的模拟信号，用有限位宽的数字去表示，肯定会有损失。

举个例子：真实值是0.333333...，但你的定点数只能存到0.3333，那误差就是0.0000333...。这个误差会随着计算累积，最后可能让结果面目全非。

我记得有一次做音频处理芯片的验证，量化误差导致输出信号出现了明显的噪声。排查了半天，才发现是中间计算环节的位宽截断太狠了。

我的经验：量化误差分析要关注两个维度：

有时候绝对误差很小，但相对误差很大，这种情况在数值接近0时尤其危险。

舍入模式决定了你怎么处理那些「多出来」的位。常见的模式有这几种：

我曾经踩过一个坑：用向零舍入做了一组滤波器的系数，结果发现输出信号有直流偏置。后来换成就近舍入，问题就解决了。为什么？因为向零舍入会引入系统性负偏差，累积起来就出问题了。

注意：舍入模式的选择会影响整个系统的精度特性。做验证时，一定要把舍入模式作为参数跑一遍，看看不同模式下的结果差异。

溢出，就是数值超出了表示范围。这玩意儿在定点数系统里特别常见。你想想看，两个大数相加，结果超过了最大表示值，那就溢出了。

处理溢出有几种方式：

我记得有个项目是做图像处理的，用了绕回处理。结果亮度值255加1变成了0，图像上出现了一个黑点。后来改成饱和处理，问题就解决了。

验证要点：

下面这张图展示了精度验证基础概念的核心逻辑关系：

这张图把四个核心概念串起来了。你从中心出发，往四个方向走，每个方向都有更细的分支。做验证的时候，这四个维度都要覆盖到，缺一个都可能出问题。

我的建议：刚开始做精度验证的同学，可以先从定点数和量化误差入手。这两个概念最基础，也最容易出问题。等熟练了，再深入舍入模式和溢出处理。

好了，这期就聊到这儿。记住一句话：精度验证不是玄学，是科学。每个误差都有来源，每个溢出都有原因。你只要把基础概念吃透了，后面的事情就好办了。

可可精品资料库