Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Государственная фармакопея Союза Советских Социалистических Республик.doc
Скачиваний:
31
Добавлен:
20.03.2016
Размер:
1.94 Mб
Скачать

I.6. Расчет и статистическая оценка

ПАРАМЕТРОВ ЛИНЕЙНОЙ ЗАВИСИМОСТИ

При использовании ряда химических и физико - химических методов количественного анализа непосредственному измерению подвергается некоторая величина у, которая является линейной функцией искомой концентрации (количества) х определяемого вещества или элемента. Иными словами, в основе таких методов анализа лежит существование линейной зависимости:

у = bх + а, (I.6.1)

где у - измеряемая величина; x - концентрация (количество) определяемого вещества или элемента; b - угловой коэффициент линейной зависимости; a - свободный член линейной зависимости.

Для использования зависимости I.6.1 в аналитических целях,

т.е. для определения конкретной величины x по измеренному значению

у, необходимо заранее найти числовые значения констант Ь и а, т.е.

провести калибровку. Иногда константы функции (I.6.1) имеют тот

или иной физический смысл, и их значения должны оцениваться с

учетом соответствующего доверительного интервала. Если калибровка

проведена и значения констант а и Ь определены, величину х находят

по измеренному значению у ; i

i

1 а

х = --- у - ---. (I.6.2)

i b i b

При калибровке величину х рассматривают как аргумент, а величину у - как функцию. Наличие линейной зависимости между х и у не всегда является очевидным. По этой причине экспериментальные данные, полученные при калибровке, в первую очередь используют для оценки жесткости, т. е. степени неслучайности линейной связи между х и у, и лишь затем определяют значения констант а и b и их доверительные интервалы. В первом приближении судить о жесткости линейной связи между переменными х и у можно по величине коэффициента корреляции r, который вычисляют по уравнению:

m m m (I.6.3)

m SUM х у - SUM х SUM у

1 i i 1 i 1 i

r = ----------------------------------------------------------

------------------------------------------------

/┌ ┐ ┌ ┐ m

/ │ m 2 m 2 │ │ m 2 m 2 │

/ │m SUM х - (SUM х ) │ │m SUM у - (SUM у ) │

\ / │ 1 i 1 i │ │ 1 i 1 i │

\/ └ ┘ └ ┘

исходя из экспериментальных данных, представленных в табл. I.6.1.

Чем ближе │r│ к единице, тем менее случайна наблюдаемая линейная зависимость между переменными х и у. В аналитической химии в большинстве случаев используют линейные зависимости с

коэффициентом корреляции │r│ >= 0,98 и только при анализе следовых количеств рассматривают линейные зависимости с коэффициентом

корреляции │r│ >= 0,9. Применение уравнения I.6.2 оправдано только

при │r│ >= 0,95.

Коэффициенты a и b и другие метрологические характеристики зависимости I.6.1 рассчитывают с использованием метода наименьших квадратов по экспериментально измеренным значениям переменной у для заданных значений аргумента х. Пусть в результате эксперимента найдены представленные в табл. I.6.1 пары значений аргумента х и функции у.

Таблица I.6.1

┌───────┬────────┬────────┐

│ i │ x │ у │

│ │ i │ i │

├───────┼────────┼────────┤

│ 1 │ х │ у │

│ │ 1 │ 1 │

├───────┼────────┼────────┤

│ 2 │ х │ у │

│ │ 2 │ 2 │

├───────┼────────┼────────┤

│ ... │ ... │ ... │

├───────┼────────┼────────┤

│ m │ х │ у │

│ │ m │ m │

└───────┴────────┴────────┘

Тогда:

m m m

m SUM х у - SUM х SUM у

1 i i 1 i 1 i

b = ---------------------------- (I.6.4)

m 2 m 2

m SUM х - (SUM х )

1 i 1 i

m m

SUM у - b SUM х

1 i 1 i

а = ---------------------; (I.6.5)

m

f = m - 2. (1.6.6)

Если полученные значения коэффициентов a и b использовать для

вычисления значений у по заданным в табл. I.6.1 значениям

аргумента х согласно зависимости I.6.1, то вычисленные значения Y

обозначают через Y1, Y2, ... Yi, ... Yn. Разброс значений у

i

2

относительно значений Yi, характеризует величина дисперсии s0 ,

которую вычисляют по уравнению:

m 2 m 2 m m

SUM (у - Yi) SUM у - aSUM у - bSUM х у

2 1 i 1 i 1 i 1 i i

s0 = -------------- = -------------------------------. (I.6.7)

f f

В свою очередь дисперсии констант b и a находят по уравнениям:

2

2 ms0

s = --------------------; (I.6.8)

b m 2 m 2

mSUM х - (SUM х )

1 i 1 i

2

s

2 b m 2

s = ---- SUM х . (1.6.9)

а m 1 i

Стандартные отклонения s , и s и величины "ДЕЛЬТА"b и "ДЕЛЬТА"

b а

a, необходимые для оценки доверительных интервалов констант,

рассчитывают по уравнениям:

----

/ 2

s = / s ; (I.6.10)

b \/ b

----

/ 2

s = / s ; (I.6.11)

а \/ а

"ДЕЛЬТА"b = t(P; F)s ; (I.6.12)

b

"ДЕЛЬТА"а = t(P; F)s . (I.6.13)

а

Уравнению I.6.1 с константами a и b обязательно удовлетворяет

_ _

точка с координатами х и у, называемая центром калибровочного

графика:

m

SUM х

_ 1 i

х = --------; (I.6.14)

m

m

SUM у

_ 1 i

у = -------. (I.6.15)

m

Наименьшие отклонения значений у от значений Yi наблюдаются

i

в окрестностях центра графика. Стандартные отклонения s и s

у x

величины у и х, рассчитанных соответственно по уравнениям I.6.1 и

I.6.2 исходя из известных значений х и у, определяются с учетом

удаления последних от координат центра графика:

--------------------------------

/ _ 2

/ 2┌ 1 m(x - x) ┐

s = / s │--- + ----------------------│; (I.6.16)

y / 0└ m m 2 m 2 ┘

\ / mSUM х - (SUM х )

\/ 1 i 1 i

------------------------------------------

/ ┌ _ _ 2 ┐

/ │ m(у - у) │

/ 2 │ 1 1 j │

s = / s0 │--- + --- + ---------------------------│(I.6.17)

x / --- │ n m 2┌ m 2 m 2 ┐ │

\ / 2 │ j b │ mSUM х - (SUM х ) │ │

\/ b └ └ 1 i 1 i ┘ ┘

_

где у - среднее значение; n - число вариант, использованных

j _ j

при определении у .

j

_ _ _

При х = х и у = у:

j -----

/ 2

/ s0

s = \ / -----;

у \/ m

(I.6.16а)

----------------

/ 2 ┌ ┐

/ sa │ 1 1 │

s = / --- │--- + --- │.

x / 2 │ n m │

\ / b │ j │

\/ └ ┘

С учетом значений s и s могут быть найдены значения величин

у x

"ДЕЛЬТА"у и "ДЕЛЬТА"x .

"ДЕЛЬТА"у = s t(P; F); (I.6.18)

у

"ДЕЛЬТА"x = s t(P; F). (I.6.19)

x

Значения s и "ДЕЛЬТА"x, найденные при n = 1, являются

x j

характеристиками воспроизводимости аналитического метода, если х -

концентрация, а у - функция х.

Обычно результаты статистической обработки по методу наименьших квадратов сводят в таблицу (табл. I.6.2).

Таблица I.6.2

Результаты статистической обработки экспериментальных

данных, полученных при изучении линейной зависимости

вида y = bх + а

┌─┬─┬─┬─┬─┬───────┬──────┬──────┬──┬──┬───────┬──────┬────────────┐

│f│_│_│b│а│t(P, f)│"ДЕЛЬ-│"ДЕЛЬ-│ 2│r │ s │"ДЕЛЬ-│"ДЕЛЬТАх"100│

│ │x│у│ │ │ при │ТА"b │ТА"a │s0│ │ x │ТА"x │------------│

│ │ │ │ │ │Р = 95%│ │ │ │ │при │ │ _ │

│ │ │ │ │ │ │ │ │ │ │n = 1,│ │ x │

│ │ │ │ │ │ │ │ │ │ │ j _ │ │ │

│ │ │ │ │ │ │ │ │ │ │у = у │ │ │

│ │ │ │ │ │ │ │ │ │ │ j │ │ │

├─┼─┼─┼─┼─┼───────┼──────┼──────┼──┼──┼───────┼──────┼────────────┤

│1│2│3│4│5│ 6 │ 7 │ 8 │ 9│10│ 11 │ 12 │ 13 │

└─┴─┴─┴─┴─┴───────┴──────┴──────┴──┴──┴───────┴──────┴────────────┘

Примечание I.6.1. Если целью экспериментальной работы являлось

определение констант b и a, графы 11, 12 и 13 табл. I.6.2 не

заполняются.

Примечание I.6.2. Если у = blg x + a, вычисления, описанные в

разделе I.6, выполняют с учетом примечаний I.1.2 и I.2.2.

2

Примечание I.6.3. Сравнение дисперсий s0, полученных в разных

условиях для двух линейных зависимостей, может быть проведено, как

указано в разделе I.3 (см. выражения I.3.4, I.3.5 и I.3.5а).