- •Министерство здравоохранения ссср
- •I. Статистическая обработка
- •I.1. Основные статистические характеристики
- •I.2. Доверительные интервалы и оценка их величины
- •I.3. Метрологическая характеристика метода анализа.
- •I.4. Метрологическая
- •I.5. Интерпретация результатов анализа
- •I.6. Расчет и статистическая оценка
- •II. Статистическая обработка результатов
- •II.1. Определение активности препарата
- •II.2. Определение дозовой зависимости
- •II.3. Определение эквивалентных доз
- •II.4. Применение схемы латинского квадрата
- •II.5. Определение активности антибиотиков методом
- •III. Биологические испытания
- •III.1. Оценка и сравнение пороговых доз
- •III.2. Оценка биологической активности препарата
- •III.3. Сравнение ed50 двух препаратов
- •III.4. Качественное сравнение препаратов
- •I. Соотношение между плотностью водно - спиртового раствора
- •2. Количества (в миллилитрах при 20 град. С)
- •3. Таблица для получения спирта различной крепости при 20 град. С
- •4. Количества (в миллилитрах при 20 град. С) воды
- •5. Количества (в миллилитрах при 20 град. С) воды
I.6. Расчет и статистическая оценка
ПАРАМЕТРОВ ЛИНЕЙНОЙ ЗАВИСИМОСТИ
При использовании ряда химических и физико - химических методов количественного анализа непосредственному измерению подвергается некоторая величина у, которая является линейной функцией искомой концентрации (количества) х определяемого вещества или элемента. Иными словами, в основе таких методов анализа лежит существование линейной зависимости:
у = bх + а, (I.6.1)
где у - измеряемая величина; x - концентрация (количество) определяемого вещества или элемента; b - угловой коэффициент линейной зависимости; a - свободный член линейной зависимости.
Для использования зависимости I.6.1 в аналитических целях,
т.е. для определения конкретной величины x по измеренному значению
у, необходимо заранее найти числовые значения констант Ь и а, т.е.
провести калибровку. Иногда константы функции (I.6.1) имеют тот
или иной физический смысл, и их значения должны оцениваться с
учетом соответствующего доверительного интервала. Если калибровка
проведена и значения констант а и Ь определены, величину х находят
по измеренному значению у ; i
i
1 а
х = --- у - ---. (I.6.2)
i b i b
При калибровке величину х рассматривают как аргумент, а величину у - как функцию. Наличие линейной зависимости между х и у не всегда является очевидным. По этой причине экспериментальные данные, полученные при калибровке, в первую очередь используют для оценки жесткости, т. е. степени неслучайности линейной связи между х и у, и лишь затем определяют значения констант а и b и их доверительные интервалы. В первом приближении судить о жесткости линейной связи между переменными х и у можно по величине коэффициента корреляции r, который вычисляют по уравнению:
m m m (I.6.3)
m SUM х у - SUM х SUM у
1 i i 1 i 1 i
r = ----------------------------------------------------------
------------------------------------------------
/┌ ┐ ┌ ┐ m
/ │ m 2 m 2 │ │ m 2 m 2 │
/ │m SUM х - (SUM х ) │ │m SUM у - (SUM у ) │
\ / │ 1 i 1 i │ │ 1 i 1 i │
\/ └ ┘ └ ┘
исходя из экспериментальных данных, представленных в табл. I.6.1.
Чем ближе │r│ к единице, тем менее случайна наблюдаемая линейная зависимость между переменными х и у. В аналитической химии в большинстве случаев используют линейные зависимости с
коэффициентом корреляции │r│ >= 0,98 и только при анализе следовых количеств рассматривают линейные зависимости с коэффициентом
корреляции │r│ >= 0,9. Применение уравнения I.6.2 оправдано только
при │r│ >= 0,95.
Коэффициенты a и b и другие метрологические характеристики зависимости I.6.1 рассчитывают с использованием метода наименьших квадратов по экспериментально измеренным значениям переменной у для заданных значений аргумента х. Пусть в результате эксперимента найдены представленные в табл. I.6.1 пары значений аргумента х и функции у.
Таблица I.6.1
┌───────┬────────┬────────┐
│ i │ x │ у │
│ │ i │ i │
├───────┼────────┼────────┤
│ 1 │ х │ у │
│ │ 1 │ 1 │
├───────┼────────┼────────┤
│ 2 │ х │ у │
│ │ 2 │ 2 │
├───────┼────────┼────────┤
│ ... │ ... │ ... │
├───────┼────────┼────────┤
│ m │ х │ у │
│ │ m │ m │
└───────┴────────┴────────┘
Тогда:
m m m
m SUM х у - SUM х SUM у
1 i i 1 i 1 i
b = ---------------------------- (I.6.4)
m 2 m 2
m SUM х - (SUM х )
1 i 1 i
m m
SUM у - b SUM х
1 i 1 i
а = ---------------------; (I.6.5)
m
f = m - 2. (1.6.6)
Если полученные значения коэффициентов a и b использовать для
вычисления значений у по заданным в табл. I.6.1 значениям
аргумента х согласно зависимости I.6.1, то вычисленные значения Y
обозначают через Y1, Y2, ... Yi, ... Yn. Разброс значений у
i
2
относительно значений Yi, характеризует величина дисперсии s0 ,
которую вычисляют по уравнению:
m 2 m 2 m m
SUM (у - Yi) SUM у - aSUM у - bSUM х у
2 1 i 1 i 1 i 1 i i
s0 = -------------- = -------------------------------. (I.6.7)
f f
В свою очередь дисперсии констант b и a находят по уравнениям:
2
2 ms0
s = --------------------; (I.6.8)
b m 2 m 2
mSUM х - (SUM х )
1 i 1 i
2
s
2 b m 2
s = ---- SUM х . (1.6.9)
а m 1 i
Стандартные отклонения s , и s и величины "ДЕЛЬТА"b и "ДЕЛЬТА"
b а
a, необходимые для оценки доверительных интервалов констант,
рассчитывают по уравнениям:
----
/ 2
s = / s ; (I.6.10)
b \/ b
----
/ 2
s = / s ; (I.6.11)
а \/ а
"ДЕЛЬТА"b = t(P; F)s ; (I.6.12)
b
"ДЕЛЬТА"а = t(P; F)s . (I.6.13)
а
Уравнению I.6.1 с константами a и b обязательно удовлетворяет
_ _
точка с координатами х и у, называемая центром калибровочного
графика:
m
SUM х
_ 1 i
х = --------; (I.6.14)
m
m
SUM у
_ 1 i
у = -------. (I.6.15)
m
Наименьшие отклонения значений у от значений Yi наблюдаются
i
в окрестностях центра графика. Стандартные отклонения s и s
у x
величины у и х, рассчитанных соответственно по уравнениям I.6.1 и
I.6.2 исходя из известных значений х и у, определяются с учетом
удаления последних от координат центра графика:
--------------------------------
/ _ 2
/ 2┌ 1 m(x - x) ┐
s = / s │--- + ----------------------│; (I.6.16)
y / 0└ m m 2 m 2 ┘
\ / mSUM х - (SUM х )
\/ 1 i 1 i
------------------------------------------
/ ┌ _ _ 2 ┐
/ │ m(у - у) │
/ 2 │ 1 1 j │
s = / s0 │--- + --- + ---------------------------│(I.6.17)
x / --- │ n m 2┌ m 2 m 2 ┐ │
\ / 2 │ j b │ mSUM х - (SUM х ) │ │
\/ b └ └ 1 i 1 i ┘ ┘
_
где у - среднее значение; n - число вариант, использованных
j _ j
при определении у .
j
_ _ _
При х = х и у = у:
j -----
/ 2
/ s0
s = \ / -----;
у \/ m
(I.6.16а)
----------------
/ 2 ┌ ┐
/ sa │ 1 1 │
s = / --- │--- + --- │.
x / 2 │ n m │
\ / b │ j │
\/ └ ┘
С учетом значений s и s могут быть найдены значения величин
у x
"ДЕЛЬТА"у и "ДЕЛЬТА"x .
"ДЕЛЬТА"у = s t(P; F); (I.6.18)
у
"ДЕЛЬТА"x = s t(P; F). (I.6.19)
x
Значения s и "ДЕЛЬТА"x, найденные при n = 1, являются
x j
характеристиками воспроизводимости аналитического метода, если х -
концентрация, а у - функция х.
Обычно результаты статистической обработки по методу наименьших квадратов сводят в таблицу (табл. I.6.2).
Таблица I.6.2
Результаты статистической обработки экспериментальных
данных, полученных при изучении линейной зависимости
вида y = bх + а
┌─┬─┬─┬─┬─┬───────┬──────┬──────┬──┬──┬───────┬──────┬────────────┐
│f│_│_│b│а│t(P, f)│"ДЕЛЬ-│"ДЕЛЬ-│ 2│r │ s │"ДЕЛЬ-│"ДЕЛЬТАх"100│
│ │x│у│ │ │ при │ТА"b │ТА"a │s0│ │ x │ТА"x │------------│
│ │ │ │ │ │Р = 95%│ │ │ │ │при │ │ _ │
│ │ │ │ │ │ │ │ │ │ │n = 1,│ │ x │
│ │ │ │ │ │ │ │ │ │ │ j _ │ │ │
│ │ │ │ │ │ │ │ │ │ │у = у │ │ │
│ │ │ │ │ │ │ │ │ │ │ j │ │ │
├─┼─┼─┼─┼─┼───────┼──────┼──────┼──┼──┼───────┼──────┼────────────┤
│1│2│3│4│5│ 6 │ 7 │ 8 │ 9│10│ 11 │ 12 │ 13 │
└─┴─┴─┴─┴─┴───────┴──────┴──────┴──┴──┴───────┴──────┴────────────┘
Примечание I.6.1. Если целью экспериментальной работы являлось
определение констант b и a, графы 11, 12 и 13 табл. I.6.2 не
заполняются.
Примечание I.6.2. Если у = blg x + a, вычисления, описанные в
разделе I.6, выполняют с учетом примечаний I.1.2 и I.2.2.
2
Примечание I.6.3. Сравнение дисперсий s0, полученных в разных
условиях для двух линейных зависимостей, может быть проведено, как
указано в разделе I.3 (см. выражения I.3.4, I.3.5 и I.3.5а).