6) Проверка отсчетов при прямых измерениях на наличие промахов
Обработку прямых измерений рекомендуется начинать с проверки отсчетов на наличие промахов. Существует много критериев выявления и отбрасывания промахов, но ни один из них не является универсальным. Выбор критерия зависит от цели измерений, но решение отбросить какие-то данные, в конечном счете, всегда субъективно.
Существует, так называемый, критерий Шовене [Тейлор Дж. Введение в теорию ошибок. М.: Мир, 1985.].
Из полученного ряда, содержащего N отсчетов, выбирается аномальный отсчет -- xk и вычисляется модуль его отклонения от среднего значения в долях выборочного среднего квадратического отклонения:
Затем вычисляется вероятность этого отклонения, а также ожидаемое число n
измерений, которые дадут отсчеты, имеющие отклонение Z не меньшее, чем
испытуемый. Если получено n<0.5 (при округлении до целого n=0), то отсчет
xk считается промахом. Эту процедуру можно изменить и вычислить ожидаемое число M отсчетов, среди которых будет хотя бы один аномальный.
Если M>N, то отсчет xk считается промахом. Связь между M и Z приведена в таблице
Критерий Шовене для отбора промахов
Z |
M |
Z |
M |
Z |
M |
Z |
M |
Z |
M |
1 |
2 |
1.4 |
3 |
1.8 |
7 |
2.2 |
18 |
2.6 |
54 |
1.02 |
2 |
1.42 |
3 |
1.82 |
7 |
2.22 |
19 |
2.62 |
57 |
1.04 |
2 |
1.44 |
3 |
1.84 |
8 |
2.24 |
20 |
2.64 |
60 |
1.06 |
2 |
1.46 |
3 |
1.86 |
8 |
2.26 |
21 |
2.66 |
64 |
1.08 |
2 |
1.48 |
4 |
1.88 |
8 |
2.28 |
22 |
2.68 |
68 |
1.1 |
2 |
1.5 |
4 |
1.9 |
9 |
2.3 |
23 |
2.7 |
72 |
1.12 |
2 |
1.52 |
4 |
1.92 |
9 |
2.32 |
25 |
2.72 |
77 |
1.14 |
2 |
1.54 |
4 |
1.94 |
10 |
2.34 |
26 |
2.74 |
81 |
1.16 |
2 |
1.56 |
4 |
1.96 |
10 |
2.36 |
27 |
2.76 |
87 |
1.18 |
2 |
1.58 |
4 |
1.98 |
10 |
2.38 |
29 |
2.78 |
92 |
1.2 |
2 |
1.6 |
5 |
2 |
11 |
2.4 |
30 |
2.8 |
98 |
1.22 |
2 |
1.62 |
5 |
2.02 |
12 |
2.42 |
32 |
2.82 |
104 |
1.24 |
2 |
1.64 |
5 |
2.04 |
12 |
2.44 |
34 |
2.84 |
111 |
1.26 |
2 |
1.66 |
5 |
2.06 |
13 |
2.46 |
36 |
2.86 |
118 |
1.28 |
2 |
1.68 |
5 |
2.08 |
13 |
2.48 |
38 |
2.88 |
126 |
1.3 |
3 |
1.7 |
6 |
2.1 |
14 |
2.5 |
40 |
2.9 |
134 |
1.32 |
3 |
1.72 |
6 |
2.12 |
15 |
2.52 |
43 |
2.92 |
143 |
1.34 |
3 |
1.74 |
6 |
2.14 |
16 |
2.54 |
45 |
2.94 |
152 |
1.36 |
3 |
1.76 |
6 |
2.16 |
16 |
2.56 |
48 |
2.96 |
163 |
1.38 |
3 |
1.78 |
7 |
2.18 |
17 |
2.58 |
51 |
2.98 |
173 |
z= |x - <x>|/Sx - относительное отклонение случайной величины x от её среднего значения в единицах среднеквадратического отклонения,
M - число ожидаемых измерений, начиная с которого отклонение Z не может считаться промахом.
Правило «3 стандартов»
В таблице приведены доверительные интервалы [x-∆x, x+∆x] для доверительной вероятности α (в долях ε).
-
α
0,68
0,90
0,95
0,990
0,997
0,999
ε
1,0
1,65
2,0
2,6
3,0
3,3
Видно, что результат измерения
с вероятностью 68% попадет в интервал 
,
т.е. примерно каждое третье измерение
даст результат за пределами этого
интервала. За пределами интервала 
окажется
один результат из двадцати, а для
интервала 
–
только один из трехсот. Значит, интервал
±3σ вокруг среднего значения
является почти достоверным,
так как подавляющее большинство отдельных
результатов многократного измерения
случайной величины окажется сосредоточенным
именно в нем.
При обработке результатов эксперимента часто используется «правило 3σ», или правило «трех стандартов», которое основано на указанном свойстве нормального распределения. С учетом проведенного выше анализа, можно установить наличие промаха в результате отдельного измерения, а значит, отбросить его, если результат измерения более чем на 3σ отличается от измеренного среднего значения случайной величины. Обычно так поступают при больших N.