1.3 Правила округления

Практикой выработаны следующие правила округления результатов и погрешностей измерений.

Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной – если первая равна 3 или более, например, 0,16; 0,24; 0,3; 0,8
Результат измерения округляется до того же знака, которым оканчивается значение абсолютной погрешности. Например, результат 2,0700, погрешность 0,001; результат округляют до 2,070.
Если цифра старшего из отбрасываемых разрядов меньше 5, то остающиеся цифры числа не изменяют, например: число 253435 при сохранении четырех значащих цифр должно быть округлено до 235400, число 235,435 – до 235,4.
Если цифра старшего из отбрасываемых разрядов больше или равна 5, но за ней следуют отличные от нуля цифры, то последнюю оставляемую цифру увеличивают на единицу. Например, при сохранении трех значащих цифр число 18598 округляют до 18600, число 152,56 – до 153.
Если отбрасываемая цифра равна 5, а следующие за ней цифры неизвестны или нули, то последнюю сохраняемую цифру не изменяют, если она четная и увеличивают, если она нечетная. Например, число 22,5 при сохранении двух значащих цифр округляют до 22, а число 23,5 – до 24.
Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним-двумя лишними знаками.

2 Алгоритм обработки результатов многократных измерений

Последовательность обработки результатов измерений включает следующие этапы.

1) Для удобства результаты измерений ранжируются: х₁< x₂ <… <x_i.

2) Вычислить среднее арифметическое результатов наблюдений, принимаемое за результат измерения:

(2.1)

Если вычисления произведены верно, то должно выполняться следующее условие:

. (2.2)

3) Вычислить оценку среднего квадратического отклонения (СКО) результатов наблюдения:

, при n < 20; (2.3)

, при n ≥ 20. (2.4)

4) Исключить грубые погрешности (промахи). Так как число измерений меньше 20 целесообразно применить критерий Романовского. Вычислить отношение (1.4) и полученное значение β сравнить с теоретическим β_т.

5) Вычислить оценку СКО результата измерения по формуле:

(2.6)

6) Вычислить доверительные границы случайной погрешности по формуле:

ε = t_p  S, (2.7)

где t_p – коэффициент Стьюдента, определяемый по таблице 2.1.

Таблица 2.1

n-1	P=0,95	Р=0,99	n-1	0,95	0,99	n-1	0,95	0,99
3	3,182	5,841	10	2,228	3,169	24	2,064	2,797
4	2,776	4,604	12	2,179	3,055	26	2,056	2,779
5	2,571	4,032	14	2,145	2,977	28	2,048	2,763
6	2,447	3,707	16	2,120	2,921	30	2,043	2,750
7	2,365	3,499	18	2,101	2,878	∞	1,960	2,576
8	2,306	3,355	20	2,086	2,845
9	2,262	3,250	22	2,074	2,819

7) Вычислить границы суммарной неисключенной систематической погрешности по формуле:

(2.8)

где θ_i – граница i-ой неисключенной составляющей систематической погрешности;

k – коэффициент, определяемый принятой доверительной вероятностью (при Р=0,95 k=1,1);

8) Вычислить доверительные границы погрешности результата измерения: определить отношение неисключенной систематической погрешности к случайной погрешности θ/S.

1) Если , то НСП можно пренебречь и принять границы погрешности результата Δ = ±ε.

2) Если , то случайной погрешностью можно пренебречь и принять границы погрешности результата Δ = ±θ.

3) Если оба неравенства не выполняются, вычисляют СКО результата как сумму НСП и случайной составляющей. Границы погрешности результата измерения в этом случае вычисляются по формуле:

Δ=±К  S_Σ, (2.9)

, (2.10)