1.3.2.4. Правила округления погрешности и результата измерения
Рассчитывая значения систематической, случайной и суммарной погрешностей, особенно при использовании электронного калькулятора, получают значение с большим числом знаков. Однако исходные данные для этих расчетов всегда указываются с одной или двумя значащими цифрами. Действительно, класс точ-ности прибора на его шкале указывается не более чем с двумя значащими цифрами, а среднее квадратичное отклонение не имеет смысла записывать с более чем двумя значащими цифрами, так как точность этой оценки при 5 - 10 измерениях не выше 24 - 35%.
Поэтому в окончательном значении расчетной погрешности должны быть оставлены только первые одна - две значащие цифры.
При этом необходимо учитывать следующее. Если полученное число начинается с цифры 1 или 2, то отбрасывание вто-рого знака приводит к очень большой ошибке (до 30 - 50%), это недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, то есть указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.
Основываясь на этом можно сформулировать правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения.
Правило 1: Округления производится лишь в окончательном ответе, все предварительные вычисления необходимо проводить с точностью на порядок высшей, чем измерительные операции, т.е. с одним-двумя лишними знаками.
Правило 2: Если абсолютная погрешность начинается с 1 или 2, например, 136; 2489; 0,01567; 0,00202; 0,1450, то оставляем две значащие цифры 140; 2500; 0,016; 0,0020; 0,15.
Правило 3: Если абсолютная погрешность начинается с 3 и более, например, 32; 456; 99; 0,98; 0,0791, то оставляем одну значащую цифру 30; 500; 100; 1; 0,08.
Правило 4: Среднее значение измеренной величины округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности.
Правило 5: Относительную погрешность, выраженную в процентах, достаточно записать двумя значащими цифрами*.
Пример: На вольтметре класса точности 2,5с пределом измерений300 Вбыли произведены несколько повторных измерений одного и того же напряжения. При этом оказалось, что все замеры дали одинаковый результат267,5 В.
Отсутствие различий между результатами измерений говорит о том, что случайная погрешность пренебрежимо мала, поэтому суммарная погрешность совпадает с систематической (случай 1 рис. 5).
Сначала найдем абсолютную, а затем относительную погрешности. Абсолютная погрешность градуировки прибора равна:
Окончательное значение абсолютной погрешности округляется до одной значащей цифры, так как первая значащая цифра абсолютной погрешности больше трех.
Относительная погрешность:
В значении относительной погрешности должны быть сохранены два значащих разряда 2,8 %.
Окончательный результат записываем:
UХ = (2688) В приХ = 2,8%.
При дальнейшей обработке измерительной информации проводится округление среднего значения искомой величины в соответствии с результатами округления абсолютной погрешности.
Абсолютная погрешность выражена целыми числами
Абсолютная погрешность измерения длины равна = 136 мм, используя Правило 2, округляем ее значение до двух значащих цифр ' = 140 мм.
В этом случае среднее значение измеряемой величины необходимо также округлить до десятков, например, если аср = 27894 мм то после округления имеем а'ср = 27890 мм.
Результат записывается как а = (27890140) мм.
Если абсолютная погрешность измерения длины равна = 456 мм, то, используя Правило 3, округляем ее до одной значащей цифры ' = 500 мм.
Среднее значение измеряемой величины необходимо округлить также до сотен, например, если lср = 7896897 мм то после округления имеем l'ср = 7896900 мм.
Результат записывается как l = (7896900500) мм.