Математическая обработка экспериментальных данных

1. Исключение промахов из выборки

Перед статистической обработкой экспериментальных данных необходимо выявить промахи и исключить их из числа рассматриваемых результатов. Одним из наиболее простых способов выявления промахов является метод с применением Q-критерия или Q - тест.

Сущность Q – теста: варианты выборки расположите в порядке их возрастания и путем деления разности подвергаемой сомнению и соседней с ней вариант на диапазон выборки (размах варьирования: ω = Х_max - X_min) найдите расчетное значение Q_р:

Выборка:

1,5

1,6

1,6

1,7

1,8

1,8

2,0

2,1

2,1

ω = Х_max - X_min = 2,1 – 1,5 = 0,6

Q_p1 = = 2,1 - 2,0 / 0,6 = 0,17

Q_p2 = = 2,0 – 1,8 / 0,6 =0,34

которое затем сравните с табличным значением Q_т (см. табл. 3). Если Q_р > Q_т, то проверяемый результат является промахом и его отбрасывают; если Q_р < Q_т, результат исключать нельзя – он принадлежит выборке. Для выборки их 3-х вариант проверку начинают с наименьшего значения. При n > 3 первой проверяют наибольшую варианту.

Таблица 3

Табличные коэффициенты Q_т

Число вариант	Значения Qт при Р (α)
	0,90	0,95
3	0,94	0,98
4	0,76	0,85
5	0,64	0,73
6	0,56	0,64
7	0,51	0,59
8	0,47	0,54
9	0,44	0,51
10	0,41	0,48

При 0,90 Q_т = 0,44, при 0,95 Q_т = 0,51

Сравнивая Q_p1 и Q_p2 с Q_т, то Q_р < Q_т, эти результаты принадлежат выборке

2. Оценка воспроизводимости (оценка случайных отклонений)

Результат единичного измерения не может служить надежной оценкой содержания определяемого компонента в образце. Для получения надежного результата проводят серию параллельных измерений в идентичных условиях. Результат единичного измерения в такой серии называют вариантой, а всю серию – выборочной совокупностью или выборкой.

2.1. Центр распределения выборки

Среднее значение Х_ср.: Х_ср. = = 16, 2 / 9 =1,8, где X_i – единичный результат серии (варианта); n – число вариант. При отсутствии систематических погрешностей Х_ср. = Х_ист. или μ.

2.2. Критерии воспроизводимости

Отклонение от среднего d_i: d_i = |X_i – X_ср.|

1. d_i = |1,5 - 1,8| = 0,3

2. d_i = |1,6 - 1,8| = 0,2

3. d_i = |1,6 - 1,8| = 0,2

4. d_i = |1,7 - 1,8| = 0,1

5. d_i = |1,8 - 1,8| = 0

6. d_i = |1,8 - 1,8| = 0

7. d_i = |2,0 - 1,8| = 0,2

8. d_i = |2,1 - 1,8| = 0,3

9. d_i = |2,1 - 1,8| = 0,3

Среднее отклонение d_ср.: d_ср. = = 1,6 / 9 =0,18.

Размах варьирования (диапазон выборки) ω: ω = Х_max. – X_min = 2,1 – 1,5 = 0,6.

Дисперсия S²: S² = , где (n – 1) это число степеней свободы k или ƒ, тогда S² = = 2,56 / 8 =0,32.

Если известно истинное значение (μ), то дисперсия рассчитывается по формуле:

V = S² = .

Cтандартное отклонение выборки (абсолютное) S:

S = √ S² = =0,57.

Если известно истинное значение (μ), то стандартное отклонение генеральной совокупности рассчитывается по формуле:

σ = S = .

Приближенно стандартное отклонение можно оценить по размаху варьирования:

S = = 0,6 / 3 =0,2.

Стандартное отклонение среднего S_Хср.: S_Хср. = =0,07.

Относительное стандартное отклонение S_r: S_r = =11,1 %_.