3.8 Округление результатов измерений

При считывании показаний средств измерений (особенно шкальных) или, чаще всего, при вычислении результата косвенных, совокупных, совместных или многократных измерений возникает проблема с определением достаточного числа значащих цифр, оставляемых в окончательном значении измеряемой величины, т.е. возникает необходимость округления результата расчёта. Это тем более необходимо в связи с тем, что расчёты в большинстве случаев производятся с помощью электронных калькуляторов, имеющих восьми- и более разрядные цифровые табло. Результат любого измерения содержит погрешность, поэтому наличие в числовом значении результата измерений большого количества цифр точности измерений не повышает, а только лишь вводит в заблуждение и затрудняет восприятие результата.

Особенность округления результатов измерений – в увязке количества достоверных знаков (значащих цифр) в числовом значении самой измеряемой величины и в числовом значении абсолютной погрешности. Отсюда следует, что округление результата измерений производится в два этапа: сначала округляется найденное (рассчитанное) значение абсолютной погрешности, а затем – сам результат. В метрологии принято, что относительная погрешность определения (экспериментального или расчётно-экспериментального) самой погрешности может составлять до 30 – 35 %. Округление тоже даёт погрешность и, чтобы этой погрешностью можно было пренебречь, она, в свою очередь, не должна превышать одной трети погрешности определения погрешности, т.е. 10 – 12 %. Из этого условия вытекает правило, что погрешность (как абсолютную, так и относительную) результата измерения достаточно выразить числом с двумя или даже одной значащими цифрами. Так, если первая (старшего разряда) цифра в значении погрешности 3 и менее, то погрешность округляется до двух значащих цифр (погрешность округления составляет от 1,25 до 5 %); примеры: Δ = 1,21 ≈ 1,2; Δ = 1,26 ≈ 1,3; Δ = 0,375 ≈ 0,37; Δ = 29,6 ≈ 30. Если первая цифра 4 и более, то погрешность округляется до одной значащей цифры (погрешность округления составляет от 5 до 12,5 %); примеры: Δ = 4,49 ≈ 4; Δ = 4,51 ≈ 5; Δ = 63 ≈ 60; Δ = 0,085 ≈ 0,09.

Правило округления результатов измерений: результат измерения округляется до того же десятичного разряда, которым оканчивается округлённое значение его абсолютной погрешности. Примеры: Q= 3,419 кг, Δ = 0,10 кг, Q_окр= 3,42 кг; Q= 542,5 мм, Δ = 15 мм, Q_окр= 543 мм; Q= 8,67 В, Δ = 0,5 В, Q_окр= 8,7 В; Q= 8,963 Н, Δ = 0,20 Н, Q_окр= 8,96 Н.

Округление даёт погрешность, равную максимум половине единицы последнего разряда числового значения результата измерения. Если округление выполнено в соответствии с изложенными правилами, то количество значащих цифр в числовом значении результата измерений даёт возможность ориентировочно судить о его погрешности: чем больше значащих цифр в значении результата измерений, тем выше его точность, и наоборот.

63