W miernikach cyfrowych zapis dokładności typu ±(% wartości mierzonej + liczba cyfr) składa się z dwóch niezależnych części:
- składnik procentowy – zależy od aktualnego wskazania, więc dla 30 mA liczymy go jako procent z 30 mA,
- składnik "cyfr" (digits) – zależy od rozdzielczości wyświetlacza, czyli od najmniejszego kroku wskazania (LSD).
W treści podano, że miliamperomierz ma wyświetlacz do 2 miejsc po przecinku. Jeżeli wynik wyrażamy w mA, to najmniejszy krok wskazania wynosi 0,01 mA. Oznacza to, że:
- 1 cyfra = 0,01 mA,
- 2 cyfry = 0,02 mA,
- 3 cyfry = 0,03 mA,
- 4 cyfry = 0,04 mA.
Teraz liczymy błąd bezwzględny dla wskazania 30 mA:
- "±1,0% + 4 cyfry": 1,0% z 30 mA to 0,30 mA, a 4 cyfry to 0,04 mA. Razem 0,34 mA.
- "±1,5% + 3 cyfry": 1,5% z 30 mA to 0,45 mA, a 3 cyfry to 0,03 mA. Razem 0,48 mA.
- "±2,0% + 2 cyfry": 2,0% z 30 mA to 0,60 mA, a 2 cyfry to 0,02 mA. Razem 0,62 mA.
- "±2,5% + 1 cyfra": 2,5% z 30 mA to 0,75 mA, a 1 cyfra to 0,01 mA. Razem 0,76 mA.
Najmniejszy błąd bezwzględny daje więc wariant 0,34 mA, czyli odpowiedź "±1,0% + 4 cyfry". Częstą pułapką jest przekonanie, że do obliczeń zawsze trzeba znać zakres – byłoby to konieczne przy zapisie "% zakresu", natomiast tutaj procent dotyczy wskazania, a "cyfry" wynikają z rozdzielczości (0,01 mA).