2. 4. Запись результатов наблюдений

Наблюдение - (ГОСТ 16263-70) - экспериментальная операция, выполняемая в процессе измерений, в результате которой получают одно из группы значений величин, подлежащих совместной обработке для получения результата измерения Результатом наблюдения называется значение величины, получаемое при отдельном наблюдении.

Шкалы большинства измерительных приборов градуируют так, чтобы абсолютная погрешность при отсчете не превышала 0,5 самого малого деления шкалы. Необходимо записывать столько значащих цифр, сколько позволяет получить отсчетное устройство измерительного прибора. Значащими считаются все цифры в числовом результате.

Ноль считается значащим числом если он стоит в середине или в конце числа.

Так числа 1,5; 0.15; 0,0015; 1,5• 10^-4; 1,5 • 10³; 15 имеют две значащие цифры;

числа 1,50; 15,0; 150; 15.0 • 10^-4; 10² • 15,0 - три цифры;

числа 1,500; 15,00; 1500; 0,01500;, 150,0 • 10^-3; - четыре и т.д

В результате погрешностей при любом измерении получают, как правило, только приближенные значения (оценки) истиного значения измеряемой величины. Поэтому при обработке результатов измерений имеют дело с приближенными величинами и числами, в которых содержится некоторое количество верных цифр или верных знаков.

В каждом случае числовой результат следует записывать так, чтобы значащих цифр было на единицу больше, чем верных знаков. Например, запись 26,18 показывает, что верных знаков в таком числе три (26,1) Последний знак (8) не является достоверным; он служит для подтверждения достоверности предыдущего знака, но он может использоваться для округления.

2.5. Округление числового значения измеряемой величины

После обработки результатов отдельных наблюдений получаем X_N и показатели точности, например в виде нижней и верхней границы погрешности ± _Г. Количество знаков в этих цифрах после вычислений могет быть любым, однако лишние знаки указывать и неудобно и неправильно. Необходимо правильно согласовать количество знаков в значениях X_N и погрешности _r т.е. округлить их.

Правила округления регламентированы СТСЭВ 543-77 "Числа, правила записи и округления", а именно:

1. если первая из отбрасываемых цифр меньше 5, то последняя сохраняемая цифра не изменяется;

2. если первая из отбрасываемых цифр больше или равна 5, то последняя сохраняемая цифра увеличивается на единицу. Округление числового значения основывается на порядке погреш­ности: младший разряд погрешности должен совпадать с самым младшим разрядом результата измерения. Например, если

Х_N = 15,371 В; _Г от -0,05 до +0.05 В; Р = 0,5, то следовательно не только тысячные, но и сотые доли в X_N не являются вполне достоверными (Числовое значение погрешности округляется обычно до наиболее старшего разряда со значащей цифрой, второй значащий десятичный разряд указывается только при особо точных измерениях и в тех случаях, если погрешность выражена числом с цифрой старшего разряда, равной или меньшей 3.

3. Однако при округлении X_N в нашем примере нецелесообразно отбрасывать оба недостоверных разряда, обычно старший, менее достоверный разряд оставляют. Тогда результат измерения после округления будет 15,37 В; _Г от -0,05 до + 0,05В Р =0,5