2.13. Запись и округление результата измерения

Погрешность результата рассчитывается по случайной выборке и сама содержит погрешность. Новое измерение (новая выборка) даст новую погрешность, отличную от первой. Можно считать, что объек­тивную информацию о величине погрешности несут лишь одна-две зна­чащие цифры в её численном выражении. Остальные значащие цифры можно считать случайными. Результат измерения также содержит лишь ограниченное число значащих цифр, несущих информацию о величине этого результата. В связи с этим численные значения результата и погрешности должны быть округлены. При округлении используют сле­дующие правила:

1. Предварительно результат и погрешность записывают в нор­мальном виде: общий показатель степени выносят за скобку или за­меняют соответствующей приставкой: микро, милли, кило, мега и др. Например,

x= 0.22 ± 0.03 м = (22 ± 3)10^-2м = 22 ± 3 см.

Запрещены записи вида x= 2210^-2± 3010^-3м илиx= 0.22 ± 310^-2м.

2. Если результат измерения является окончательным и не будет использован в вычислениях других величин, то доверительную пог­решность xокругляют до первой значащей цифры, если она равна или больше 2, или до двух значащих цифр, если первая равна 1.

Если результат будет в дальнейшем использован в вычислениях, то во избежание накопления погрешностей за счет округлений пог­решность округляют до двух значащих цифр при любой первой.

3. Среднее значение xокругляют до того разряда, которым оканчивается округленная погрешностьx:

Неокругленный результат	Округленный результат
1237.2 ±32	(12.4 ± 0.3)102
(7.854 ± 0.0476) 10-3	(7.85 ± 0.05) 10-3
83.2637 ± 0.0126	83.264 ± 0.013
2.48 ± 0.931	2.5 ± 0.9
2.48 ± 0.96	2.5 ± 1.0

Если погрешность округляется до двух значащих цифр, но вто­рая из них равна нулю, то этот нуль сохраняется, а в соответствующем этому нулю разряде результата записывается получающаяся там значащая цифра: x= 3.48 ± 0.10.

2.13. Алгоритм обработки данных прямых измерений по выборке

1. Устраняют из выборки очевидные промахи (описки).

2. Из результатов измерений исключают известные систематические погрешности.

3. Упорядочивают выборку в порядке возрастания ее элементов.

4. Проводят проверку выборки на наличие грубых погрешностей и ее связность.

5. Вычисляют выборочное среднее .

6. Вычисляют выборочное СКО среднего: .

7. Определяют случайную погрешность x = t_P,NS, где t_P,N – коэффициент Стьюдента. Значения t_95%,N для некоторых N приведены в таблице II.

8. Определяют оценочное значение случайной погрешности по размаху выборки x = _P,NR. Значения случайных погрешностей, рассчитанные разными способами, должны примерно совпадать.

9. Определяют верхнюю границу погрешности прибора .

10. Рассчитывают полную погрешность результата измерения: .

11. Вычисляют относительную погрешность x = (x/)100%.

12. Округляют численные значения погрешности и результата измерения.

13. Записывают окончательный результат в виде: .

Результаты расчетов могут быть сведены в таблицу:

xi	15.8	15.7		16.1		16.0		15.9	x=0.2
x↑i	15. 7	15. 8		15.9		16.0		16.1	= 15.9, R=x↑N–x↑1=0.4
Ui=(xi+1–xi)/R	0.25		0.25		0.25		0.25		Ui<UP,N=0.64
xi= xi –	-0.2	-0.1		0		0.1		0.2	xi=0
xi)2	0.04	0.01		0		0.01		0.04	xi)2=0.1

=0.071,

, ,,

, ,

.