Математическая обработка экспериментальных данных

1. Исключение промахов из выборки

Перед статистической обработкой экспериментальных данных необходимо выявить промахи и исключить их из числа рассматриваемых результатов. Одним из наиболее простых способов выявления промахов является метод с применением Q-критерия или Q - тест.

Сущность Q – теста: варианты выборки расположите в порядке их возрастания и путем деления разности подвергаемой сомнению и соседней с ней вариант на диапазон выборки (размах варьирования: ω = Х_max - X_min) найдите расчетное значение Q_р:

Q_p = ,

которое затем сравните с табличным значением Q_т (см. табл. 3). Если Q_р > Q_т, то проверяемый результат является промахом и его отбрасывают; если Q_р < Q_т, результат исключать нельзя – он принадлежит выборке. Для выборки их 3-х вариант проверку начинают с наименьшего значения. При n > 3 первой проверяют наибольшую варианту.

Таблица 3

_{Табличные коэффициенты Q}т

Число вариант	Значения Qт при Р (α)
	0,90	0,95
3	0,94	0,98
4	0,76	0,85
5	0,64	0,73
6	0,56	0,64
7	0,51	0,59
8	0,47	0,54
9	0,44	0,51
10	0,41	0,48

2. Оценка воспроизводимости (оценка случайных отклонений)

Результат единичного измерения не может служить надежной оценкой содержания определяемого компонента в образце. Для получения надежного результата проводят серию параллельных измерений в идентичных условиях. Результат единичного измерения в такой серии называют вариантой, а всю серию – выборочной совокупностью или выборкой.

2.1. Центр распределения выборки

Среднее значение Х_ср.: Х_ср. = , где X_i – единичный результат серии (варианта); n – число вариант. При отсутствии систематических погрешностей Х_ср. = Х_ист. или μ.

2.2. Критерии воспроизводимости

Отклонение от среднего d_i: d_i = |X_i – X_ср.|

Среднее отклонение d_ср.: d_ср. = .

Размах варьирования (диапазон выборки) ω: ω = Х_max. – X_min.

Дисперсия S²: S² = , где (n – 1) это число степеней свободы k или ƒ, тогда S² = .

Если известно истинное значение (μ), то дисперсия рассчитывается по формуле:

V = S² = .

Cтандартное отклонение выборки (абсолютное) S:

S = √ S² = .

Если известно истинное значение (μ), то стандартное отклонение генеральной совокупности рассчитывается по формуле:

σ = S = .

Приближенно стандартное отклонение можно оценить по размаху варьирования:

S = .

Стандартное отклонение среднего S_Хср.: S_Хср. = .

Относительное стандартное отклонение S_r: S_r = _.

Таким образом, основными характеристиками воспроизводимости результатов химического анализа можно считать: дисперсию, абсолютное и относительное стандартные отклонения. Стандартное отклонение (абсолютное) имеет ту же размерность, что и среднее значение, а относительное стандартное отклонение – безразмерная величина.