0,69 0,77. Т.Е. (q’эксп. Qтабл)

Следует признать, что все результаты измерений оказались достоверными. Выброса нет, а разброс результатов объясняется наличием случайных погрешностей.

Обнаружение выбросов по "правилу трех сигма" (четырех сигма)

Обнаружить выбросы по Q критерию возможно только при малом объеме выборки (10 измерений).

Правило трех сигма пригодно и для малых и для больших выборок.

Ясно, что это правило можно применять, если анализ проводят по стандартизованной методике, для которой известно стандартное отклонение σ, полученное по большому числу измерений (более 30).

Результат однозначно признается выбросом, если его значение отличается от среднего больше, чем на 3 при доверительной вероятности Р = 0,95 и 4 при Р=0,999

Пример.

При определении концентрации кальция в водопроводной воде методом пламенной фотометрии получили четыре параллельных результата, мг/л: 0,53; 1,55; 1,58; 1,69.

Стандартное отклонение повторяемости методики _r равно 0,0208 (р=0,95). Оценить наличие выбросов.

Наибольшее подозрение на выброс вызывает результат 0,53 мг/л.

Проверим это предположение.

 = (0,53+1,55+ 1,58+ 1,69) / 4 = 1,338

1,338 - 0,53= 0,808

3_r = 0,0624

0,808› 0,0624.

Результат 0,53 мг/л отличается от больше, чем на 3_r. Следует признать этот результат при Р=0,95 выбросом. и из дальнейших расчетов исключить.

Теперь посмотрим, будет ли этот результат признан выбросом при Р=0,999.

4_r =0,0832

0,808›0,0832

И в этом случае результат измерения 0, 53 – выброс.

Теперь можно проверить на выброс и максимальное измерение – 1,69мг/л.

следует рассчитывать по трем измерениям, так как измерение,0,53 - выброс.

=(1,55+ 1,58+ 1,69)/3 =1,607

1,690-1,607=1,690-1,607=0,083

При Р=0,95 и этот результат является выбросом.

При Р = 0.999 результат 1,69 не является выбросом и его следует учитывать при дальнейших расчетах (Р=0,999)

7.2. Определение зависимости аналитического сигнала от концентрации

При выполнении количественного анализа в большинстве физических и физико-химических методов концентрацию аналита находят по градуировочному графику (Г.Г). Необходимость построения Г.Г возникает в том случае, если уравнение, отражающее зависимость аналитического сигнала от концентрации (ГУ), содержит коэффициенты, численное значение которых неизвестно. Например, количественный атомно-эмиссионный спектральный анализ, основан на зависимости интенсивности аналитической спектральной линии от концентрации (Уравнение 7.2).

_(7.2)

Коэффициенты

τ – время пребывания атомов аналита в зоне возбуждения

γ – вероятность попадания атомов аналита в зону возбуждения

V-объем зоны возбуждения

β_а- степень атомизации аналита.

Β_и- степень ионизации атомов аналита.

Е^-Е/КТ - поправка Больцмана - показывает какая часть атомов возбуждена до уровня Е;

КТ – средняя кинетическая энергия частиц в зоне возбуждения

α коэффициент, зависящий от условий испарения аналита.

Из уравнения (7.2) следует, что интенсивность линии зависит не только от концентрации. Численные значения коэффициентов (, , V, a, и, e^-E/kT, ) зависят от множества факторов, в том числе от условий получения спектра и от общего состава образца. В реальных условиях проведения анализа коэффициенты неизвестны, их нельзя найти в справочниках. Поэтому рассчитать концентрацию по уравнению 7.2. невозможно. Количественный АЭСА проводят с помощью стандартных образцов путем построения градуировочного графика или нахождения коэффициентов градуировочного уравнения Г.У.

Стандартные образцы должны по химическому составу, агрегатному состоянию, форме, массе и структуре близки анализируемым образцам. Спектры стандартных и анализируемых образцов получают в одинаковых условиях. В этом случае для стандартных и анализируемых образцов коэффициенты уравнения 7.2 будут одинаковые. Интенсивность и аналитический сигнал, аналитической линии будет зависеть только от концентрации аналита.

Если случайные погрешности невелики, то зависимость аналитического сигнала от концентрации легко увидеть, построив градуировочный график. Точки могут лежать на плавной кривой или на прямой линии.

Как правило, для небольшого диапазона концентраций (один, два порядка), при учете фона в спектре, градуировочный график представляет собой прямую линию. Иначе говоря, аналитический сигнал находится в линейной зависимости от концентрации, (Уравнение 7.3).

y = ax + b, (7.3)

y – аналитический согнал линии аналита.

х – концентрация аналита.

a - тангенс угла наклона прямой к оси абсцисс (х);

b - отрезок, отсекаемый прямой на оси ординат (аналитический сигнал фона).

В некоторых случаях, например в АЭСА, удается "спрямить" градуировочный график, построив его в логарифмических координатах,

На практике может наблюдаться значительный разброс точек из-за случайных погрешностей. Точки не лежат на графике, и возникает трудность в правильном построении графика.

Для того чтобы выявить насколько близка к линейной, зависимость аналитического сигнала (Y) от концентрации (Х), надо по экспериментальным данным рассчитать величину - коэффициента корреляции (r).: Полученное значение r сопоставить с табличными данными (Таблица 7.2). (f=n-1 P=95%).

(7.4)

Где – Х концентрация аналита.Y – аналитический сигнал

Если r = 0, - измеряемая величина Y не зависит от концентрации, и использовать ее в качестве аналитического сигнала не имеет смысла.

Если "r" по абсолютному значению меньше табличного, то зависимость между двумя величинами Х и Y линейной не признается.

Если коэффициент корреляции r  r_таб(Р,f), то зависимость аналитического сигнала от концентрации признается линейной.

Например. Для определения концентрации органического красителя в водном растворе фотометрическим методом измерили абсорбционность (оптическую плотность) пяти градуировочных растворов. Получили следующие данные:

№ п/п	Концентрация (С) мкг/мл	Абсорбционность (Оптическая плотность)
1	0,100	0,065
2	0,200	0,125
3	0,401	0,255
4	0,801	0,509
5	1,202	0,761

Требуется вычислить коэффициент корреляции.

Рассчитаем значение r по формуле 7.4, приняв доверительную вероятность – 0,95 и значение f = n-1.

Все расчеты выполним в программе «Excel»

0,065² +0,125² +0,255² +0,509²+0,761² =0,923

761=1.456

Подставим все значения в формулу 7.4 и рассчитаем коэффициент корреляции:

0,999

Сравним полученное значение r с табличным значением (Таблица

(Р=0,95,

f=5-1=4)

Табличное значение r_{таб(0,95;4f)} = 0,81

r  r_таб(Р,f) 0,999 0,81

Между аналитическим сигналом и концентрацией аналита – линейная зависимость.

Таблица 7.2. Границы r _(P,f) для проверки значимости коэффициента корреляции

f (n-1)	r (P,f)		f	r (P,f)		r	r (P,f)
	Р=0,95	Р=0,99		Р=0,95	Р=0,99		Р=0,95	Р=0,99
1	1	1,00	11	0,55	0,68	21	0,38	0,49
2	0.95	0,99	12	0,53	0,66	22	0,35	0,45
3	0,88	0,96	13	0,51	0,64	23	0,33	0,42
4	0,81	0,92	14	0,50	0,62	24	0,30	0.39
5	0,75	0,87	15	0,48	0,61	25	0,29	0,37
6	0,71	0,83	16	0,47	0,59	26	0,27	0,35
7	0,67	0,80	17	0,46	0,58	27	0,25	0,33
8	0,63	0,77	18	0,44	0,56	28	0,23	0,30
9	0,60	0,74	19	0,43	0,55	29	0,22	0,28
10	0,58	0,71	20	0,42	0,54	30	0,20	0,25

Можно определить коэффициент корреляции, используя статистические функции в программе «Excel».

Программа Excel содержит множество математических и статистических функций. Их можно использовать в готовом виде, не производя никаких расчетов. Рассмотрим применение одной статистической функции на примере автоматического вычисления коэффициента корреляции.

Открывают программу Excel и в первом столбце «А» набирают концентрации аналита в образцах, используемых для градуировки (Г.О)

В столбце «В» набирают аналитический сигнал для каждого стандартного образца.

Выделяют свободную ячейку и щелкают мышкой на символе «f». Открывается окно «Мастер функций».

В категории «Статистические» выбирают функцию «КОРРЕЛ»,

В строку «Массив 1» вводят концентрации всех стандартных образцов, выделив данные из столбца «А»

В строку «Массив 2» - вводят аналитические сигналы, выделив данные в столбце В. ОК.

В выбранной свободной ячейке появится значение коэффициента корреляции. Остается только сопоставить полученное значение коэффициента корреляции с табличным значением для принятой доверительной вероятности «Р».

Пример. Для разработки метода диагностики, попробовали установить, существует ли линейная зависимость между содержанием хрома в крови и некоторым заболеванием. Для этого проанализировали восемь проб больных людей и сопоставили их с результатами анализов контрольной группы здоровых людей.

Данные занесли в таблицу: А – результаты анализа здоровых людей

В – результаты анализа больных. r – коэффициент корреляции.

	А	В	r
1	15	25	0,63
2	23	20
3	12	35
4	18	32
5	9	15
6	28	40
7	11	16
8	10	10

Как Вы думаете, можно ли использовать рассмотренную методику для диагностики заболевания, если при Р=0,95 для n=8, r= 0,63. При Р=0,95 для n=8 r=0,77.

Практикой установлено:

Значение «r» (при Р=0,95 n= 3-5). в диапазоне 0,90 – 0,95 соответствует удовлетворительному совпадению с линейной зависимости аналитического сигнала от концентрации, - значение «r» в диапазоне 0,95 – 0,99 –хорошему,

- r - выше 0,99 – отличному.

В программе Excel вместо коэффициента корреляции «r» вычисляется «r или R² (Excel)» (достоверность аппроксимации), значение, которого так же указывает насколько рассматриваемая зависимость близка к линейной. Если R² близко к единице, можно с уверенностью считать – зависимость - линейная