I. Статистическая обработка

РЕЗУЛЬТАТОВ ХИМИЧЕСКОГО ЭКСПЕРИМЕНТА

Метрологические характеристики методов и результатов, получаемых при статистической обработке данных эксперимента, позволяют проводить оценку и сравнение как экспериментальных методик, так и изучаемых объектов и на этой основе решать ряд прикладных задач, связанных с определением статистической достоверности результатов исследования.

I.1. Основные статистические характеристики

ОДНОРОДНОЙ ВЫБОРКИ И ИХ ВЫЧИСЛЕНИЕ

Проверка однородности выборки. Исключение выпадающих значений вариант. Термином "выборка" обозначают совокупность статистически эквивалентных результатов (вариант). В качестве такой совокупности можно, например, рассматривать ряд результатов, полученных при параллельных определениях содержания какого-либо вещества в однородной по составу пробе.

Допустим, что отдельные значения вариант выборки объема n

обозначены через х (1 <= i <= n) и расположены в порядке

возрастания: i

х ; х ; ... х ; ... х ; х , (I.1.1)

1 2 i n - 1 n

Результаты, полученные при статистической обработке выборки, будут достоверны лишь в том случае, если эта выборка однородна, т.е. если варианты, входящие в нее, не отягощены грубыми ошибками, допущенными при измерении или расчете. Такие варианты должны быть исключены из выборки перед окончательным вычислением ее статистических характеристик. Для выборки небольшого объема (n < 10) идентификация вариант, отягощенных грубыми ошибками, может быть выполнена, исходя из величины размаха варьирования R (см. уравнения I.1.12, I.1.13 а, б). Для идентификации таких вариант в выборке большого объема (n >= 10) целесообразно проводить предварительную статистическую обработку всей выборки, полагая ее однородной, и уже затем на основании найденных статистических характеристик решать вопрос о справедливости сделанного предположения об однородности (см. выражение I.1.14).

_

В большинстве случаев среднее выборки х является наилучшей

оценкой истинного значения измеряемой величины "ми", если его

вычисляют как среднее арифметическое всех вариант:

n

SUM х

_ 1 i

х = --------- (I.1.2)

n

_

При этом разброс вариант х , вокруг среднего х характеризуется

i

величиной стандартного отклонения s. В количественном химическом

анализе величина s часто рассматривается как оценка случайной

ошибки, свойственной данному методу анализа. Квадрат этой величины

2

s называют дисперсией. Величина дисперсии может рассматриваться

как мера воспроизводимости результатов, представленных в данной

2

выборке. Вычисление величин s и s проводят по уравнениям I.1.5 и

I.1.6. Иногда для этого предварительно определяют значения

отклонений d и число степеней свободы (число независимых

i

вариант) f:

_

d = х - х; (I.1.3.)

i i

f = n - l; (I.1.4.)

n 2 n 2 - 2

SUM d SUM х - nх

2 1 i 1 i

s = --------- = ---------------; (I.1.5.)

f f

----

/ 2

s = \/ s . (I.1.6.)

Стандартное отклонение среднего результата S_ рассчитывают по

по уравнению: х

s

s_ = -------. (I.1.9.)

х ---

\/ n

Примечание I.1.1. При наличии ряда из g выборок с порядковыми

2

номерами k (l <= k <= g) расчет дисперсии s целесообразно

проводить по формуле:

i=n ┌ i=n ┐

k=g k 2 k=g 2 k=g │ k 2 _2 │

SUM SUM d SUM [(n - 1) s ] SUM │ SUM х - n х │

2 k=1 i=1 ik k=1 k k k=1 └ i=1 ik k k ┘

s = ------------- х ----------------- = ------------------------

f f f

(I.1.7.)

При этом число степеней свободы равно:

k=g

f = SUM (n - 1). (I.1.8.)

k=1 k

где х - среднее k - той выборки; n - число вариант в k-той

k k

2

выборке; х - i-тая варианта k-той выборки; s - дисперсия k-той

ik k

выборки; d - отклонение i-той варианты k-той выборки.

ik

Необходимым условием применения уравнений I.1.7 и I.1.8

является отсутствие статистически достоверной разницы между

2

отдельными значениями s . В простейшем случае сравнение крайних

k

2

значений s проводят, исходя из величины критерия F, которую

k

вычисляют по уравнению I.3.4 и интерпретируют, как указано в

разделе I.3.

Примечание I.1.2. Если при измерениях получают логарифмы искомых вариант, среднее выборки вычисляют как среднее геометрическое, используя логарифм вариант:

n

SUM lg х

_ 1 i

lg х = ------------, (I.1.10)

g n

откуда

_ ------------ _

х = n / х1х2... х = antilg (lg х ). (I.1.11)

g \/ n g

2

Значения s , s и s_ в этом случае также рассчитывают,

х

исходя из логарифмов вариант, и обозначают соответственно через

2 _

s , s и s х .

lg lg lg g

Пример I.1.1. При определении содержания стрептоцида в образце линимента были получены следующие данные.

Номер опыта i	1	2	3	4	5
х , % i	9,52	9,55	9,83	10,12	10,33

n = 5; f = n - 1 = 5 - 1 = 4

n

SUM х 9,52 + 9,55 + 9,83 + 10,12 + 10,33

1 i

х = ------- = ---------------------------------- = 9,87.

n 5

_

d = │x - x│ = │x - 9,87│, т.е. d1 = │9,52 - 9,87│ = 0,35 и т.д.

i i i

n n 2 _2

SUM d SUM х - nх

2 1 i 1 i

s = ------- = ------------- =

f f

2 2 2 2 2 2

(9,52 + 9,55 + 9,83 + 10,12 + 10,33 ) - 5 х 9,87

= ----------------------------------------------------- = 0,1252;

4

---

/ 2 -------

s = \/ s = \/ 0,1252 = 0,3538;

s 0,3538

s_ = ------- = ------- = 0,1582.

х ---- ----

\/ n \/ 5

2

Как было указано выше, значения х, s , s и s_ могут быть

х

признаны достоверными, если ни одна из вариант выборки не

отягощена грубой ошибкой, т. е. если выборка однородна. Проверка

однородности выборок малого объема (n < 10) осуществляется без

предварительного вычисления статистических характеристик, с этой

целью после представления выборки в виде I.1.1 для крайних вариант

х1 и x рассчитывают значения контрольного критерия Q, исходя из

n

величины размаха варьирования R:

R = [х1 - х ]; (I.1.12)

n

[х1 - х2]

Q1 = ----------; (I.1.13a)

R

[х - х ]

n n - 1

Qn = -------------; (I.1.13б)

R

Выборка признается неоднородной, если хотя бы одно из

_

вычисленных значений Q превышает табличное значение Q (Р, n),

_

найденное для доверительной вероятности Р (см. табл. 1

приложения). Варианты х1 или х , для которых соответствующее

n

_

значение Q > Q (P, n), отбрасываются, и для полученной выборки

уменьшенного объема выполняют новый цикл вычислений по уравнениям

I.1.12 и I.1.13 с целью проверки ее однородности. Полученная в

конечном счете однородная выборка используется для вычисления х,

2

s , s и s_.

х

Примечание I.1.3. При │х1 - х2│ < │х2 - х3│ и │х - х │ <

│ n n - 1│

│х - х │ уравнения I.1.13 а и I.1.13 б принимают

│ n - 1 n - 2│

соответственно вид:

│х - х │

│х2 - х3│ │ n - 1 n - 2│

Q1 = ------------; Qn = -----------------.

R R

Пример I.1.2. При проведении девяти (n = 9) определений содержания общего азота в плазме крови крыс были получены следующие данные (в порядке возрастания):

i	1	2	3	4	5	6	7	8	9
х ,% i	0,62	0,81	0,83	0,86	0,87	0,90	0,94	0,98	0,99

По уравнениям I.1.12 и I.1.13а находим:

R = │х1 - х │ = │0,62 - 0,99│ = 0,37;

n

│х1 - х2│ │0,62 - 0,81│

Q1 = --------------- = ------------- = 0,51.

R 0,37

По таблице 1 приложения находим:

Q(9; 95%) = 0,46 < Q1 = 0,51;

Q(9; 99%) = 0,55 > Q1 = 0,51.

Следовательно, гипотеза о том, что значение х1 = 0,62 должно быть исключено из рассматриваемой совокупности результатов измерений как отягощенное грубой ошибкой, может быть принята с доверительной вероятностью 95%, но должна быть отвергнута, если выбранное значение доверительной вероятности равно 99%.

Для выборок большого объема (n >= 10) проверку однородности

проводят после предварительного вычисления статистических

_ 2

характеристик х, s , s и s_. При этом выборка признается

х

однородной, если для всех вариант выполняется условие:

│di│ <= │3s│. (I.1.14)

Если выборка признана неоднородной, то варианты, для которых

│di │ > 3s, отбрасываются, как отягощенные грубыми ошибками с доверительной вероятностью Р > 99,0%. В этом случае для полученной выборки сокращенного объема повторяют цикл вычислений статистических характеристик по уравнениям I.1.2, I.1.5, I.1.6, I.1.9 и снова проводят проверку однородности. Вычисление статистических характеристик считают законченным, когда выборка сокращенного объема оказывается однородной.

Примечание I.1.4. При решении вопроса об однородности конкретной выборки небольшого объема также можно воспользоваться выражением I.1.14, если известна оценка величины s, ранее найденная для данного метода измерения (расчета) вариант.