精度是一个度量项，反映了仪器如实指示测量信号值的能力。该术语与分辨率无关，但是仪器的精度永远不可能高于分辨率。

不同仪器或数字化仪的精度要求也有所不同。例如，一般来说，数字万用表(DMM)的精度应高于示波器。精度的计算方式也会因设备而异，但请务必查看仪器的产品规范，以了解特定仪器的精度计算方式。

示波器的精度

示波器分别定义了水平和垂直系统的精度。水平系统是指时间刻度或X轴；水平系统精度是时间基准的精度。垂直系统是指测量电压或Y轴；垂直系统精度是增益和偏移精度。通常，垂直系统精度比水平系统精度更重要。

垂直精度通常表示为输入信号的百分比和满量程的百分比。某些产品规范将输入信号分解为垂直增益和偏移精度。公式1所示为精度的2种不同定义方式。

公式1：计算示波器的垂直精度。

例如，示波器可通过以下方式定义垂直精度：

输入信号为10 V，量程为20 V，则可计算精度：

DMM和电源的精度

DMM和电源通常以读数的百分比指定精度。公式2所示为DMM或电源精度的3种不同表达方式。

公式2：计算DMM或电源的垂直精度。

术语ppm是指百万分之一。大多数产品规范还具有多个用于确定精度的表。精度取决于测量类型、量程和最近一次校准时间。查看产品产品规范，了解如何计算精度。

例如，DMM设置为10 V量程，校准后90天在23 ℃±5 ℃下工作，预期信号为7 V。产品规范将这些条件下的精度规定为±（读数的20 ppm + 量程的6 ppm）。然后便可计算精度：

此时读数应处于实际输入电压的200μV范围内。

DAQ设备的精度

DAQ卡通常将精度定义为与理想传递函数的偏差。公式3所示为DAQ卡指定精度方式的示例。

公式3：计算DAQ设备的精度。

然后定义各个术语：

大多数这些术语均可在表中定义，并以标称范围为基础。规范中还定义了噪声不确定度的计算方式。噪声不确定度是由于测量中噪声的影响而导致的测量不确定度，是确定精度的因素。

此外，设备可能有多个精度表，具体取决于查找目标是模拟输入精度还是模拟输出精度，或是否启用或禁用了滤波器。