Добавил:
kiopkiopkiop18@yandex.ru Вовсе не секретарь, но почту проверяю Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

3 курс / Фармакология / Миронов_А_Н_,_Бунатян_Н_Д_и_др_Руководство_по_проведению_доклинических

.pdf
Скачиваний:
87
Добавлен:
24.03.2024
Размер:
4.71 Mб
Скачать

Вычисленное значение χ2 сопоставляют с табличными значениями (таблица 2) для разных уровней вероятности. Для таблиц сопряженности 2×2 (число степеней свободы равно 1) критические значения для χ2 равно 3,84 (для a=0,05) и 6,63 (для a=0,01). Нулевая гипотеза отвергается, если вычисленное значение превосходит табличное при данном уровне значимости.

Следует подчеркнуть, что в таком виде данный критерий может быть использован только при сопоставлении данных, представленных в альтернативной форме. Кроме того, правомерность его применения ограничивается в соответствии с условием Кокрена. Рекомендация Кокрена для таблиц 2×2 состоит в следующем: если сумма четырех частот меньше 20, следует использовать точный критерий Фишера. Если сумма между 20 и 40 и наименьшая ожидаемая частота меньше 5, то следует использовать точный критерий Фишера. Если сумма равна 40 и более, то можно применять критерий χ2 с поправкой на непрерывность [19].

Критерий Хи-квадрат может применяться к таблице сопряженности произвольной размерности (для множественных сравнений независимых групп при альтернативном распределении или в случае сравнения качественного признака с числом градаций больше 2) в случае, если все ожидаемые числа не меньше 1 и доля клеток с ожидаемыми числами меньше 5 не превышает 20 %. Подробнее об этом в [7, 13, 17–19, 21].

8.4. Точный критерий Фишера

Когда число наблюдений невелико и в таблицах ожиданий встречаются клетки со значениями, меньшими 5, критерий c2 не применим. В этом случае используют другой непараметрический критерий — точный критерий Фишера. Он основан на переборе всех возможных вариантов заполнения таблицы сопряженности при данной численности групп, поэтому чем она меньше, тем проще его применять. Критерий Фишера позволяет получать точные значения вероятности событий, столь же или еще менее вероятных, чем те, которые наблюдались в действительности. Подробнее с этим методом можно познакомиться, например, в книгах [4, 7, 17–19].

Нулевая гипотеза состоит в том, что между воздействием препарата и исходом нет никакой связи, а значит, показатели получавшей препарат и контрольной групп совпадают. Тогда вероятность Pf получить некоторую таблицу 2×2 вида:

n11

n12

n1.

n21

n22

n2.

n.1

n.2

N

равна

 

Pf =

n1.!n.1!n2.!n.2!

,

(33)

 

 

n11!n12!n21!n22!N !

 

где n1. и n2. — суммы по строкам (число животных в получавшей препарат и контрольной группах), n.1 и n.2 — суммы по столбцам (число животных с первым и вторым исходом в обеих группах), N — общее число наблюдений, ! обозначает факториал (n!=1×2×…× (n–1)×n; 0!=1). Построив все остальные варианты заполнения таблицы, возможные при данных суммах по строкам и столбцам, по этой же формуле рассчитывают их вероятность. Вероятности, которые не превосходят вероятность исходной таблицы (включая саму эту вероятность), суммируют. Надо заметить, что числитель данной формулы и величина N! зависят только от величин сумм по строкам и столбцам, которые остаются постоянными при изменении варианта заполнения таблицы, поэтому их значения можно не пересчитывать каждый раз. Другой способ уменьшить объем вычислений: выписать в числителе и знаменателе вместо факториалов соответствующие им произведения натуральных чисел, а затем произвести очевидные сокращения сомножителей.

911

Таким образом, алгоритм точного критерия Фишера может быть сформулирован следующим образом:

по полученной в эксперименте таблице сопряженности вычислить вероятность получить эту таблицу;

рассмотреть все остальные возможные варианты заполнения таблицы при неизменных суммах по строкам и столбцам (для этого в одной из клеток надо поставить все числа от нуля до максимально возможного, пересчитывая числа в остальных клетках так, чтобы суммы по строкам и столбцам сохранялись);

вычислить вероятность для всех полученных таблиц;

просуммировать вероятность получить исходную таблицу и все вероятности, которые ее не превышают.

Вычисленное значение Pf соответствует p-значению, обсуждавшемуся в разделе о проверки гипотез. А значит, данная гипотеза отвергается на заданном уровне значимости a при значении Pf<a. Необходимо обратить внимание на то, что предложенный в некоторых книгах по биометрии вариант данного критерия, учитывающий лишь вероятность получения исходной таблицы, дает заниженное значение Pf. А это, в свою очередь, приводит к тому, что делается вывод о наличии значимых различий в то время, когда их на самом деле нет. Кроме того, надо предупредить, что в различных учебниках и справочни-

ках предложены различные модификации данного критерия [4, 7, 17, 19, 21]. Для примера рассмотрим таблицу сопряженности 2×2 вида.

Исходы

Да

Нет

Всего

Группа животных, получавшая исследуемое вещество (no)

1

6

7

Контрольная группа (nk)

5

8

13

Всего

6

14

20

Так как некоторые значения в клетках таблицы меньше 5, пользоваться критерием c2 невозможно. Для точного критерия Фишера существует односторонний и двусторонний варианты критерия. Рассмотрим односторонний вариант критерия. Рассчитаем вероятность при тех же значениях сумм по строкам и столбцам получить такой же набор чисел в клетках, что и в исходной таблице:

Pf = 7!13!6!14! =0,23. 20!1!6!5!8!

Возьмем наименьшее из чисел в клетках, это единица на пересечении первой строки и первого столбца. Уменьшим это значение на 1, числа в остальных клетках изменим так, чтобы суммы по строкам и столбцам сохранялись. Получим таблицу следующего вида.

Исходы

Да

Нет

Всего

Группа животных, получавшая исследуемое вещество (no)

0

7

7

Контрольная группа (nk)

6

7

13

Всего

6

14

20

Для этой таблицы вероятность заполнения равна:

Pf = 7!13!6!14! =0,044. 20!0!7!6!7!

Наименьшее из чисел в таблице равно нулю, продолжать процесс уменьшения невозможно. Таким образом, односторонний вариант критерия дает значение вероятности Pf=0,23+0,044=0,274. Мы получили точное значение вероятности событий, столь же или менее вероятных, чем те, которые в действительности наблюдались. Рассчитанное зна-

912

чение вероятности достаточно высокое (если принять a=0,05), данные следует считать согласующимися с нулевой гипотезой, согласно которой распределения двух совокупностей одинаковы.

Чтобы воспользоваться двусторонним вариантом критерия, нужно было бы перебрать все остальные варианты заполнения таблицы при сохранении неизменными сумм по строкам и столбцам. В нашем случае, например, надо было бы увеличивать элемент на пересечении первой строки и первого столбца, пересчитывая все остальные клетки таблицы, пока какой-либо другой элемент таблицы не обратится в 0. При этом появляются еще 5 вариантов (кроме двух, показанных выше) заполнения таблицы, из которых только 3 дают вероятность заполнения соответствующей таблицы, меньше вероятности заполнения исходной таблицы. Суммарная вероятность в данном случае Pf=0,35. Таким образом, сделанный с помощью одностороннего критерия статистический вывод подтверждается.

Пример 10.

Сравним результаты в получавшей исследуемое вещество и контрольной группе из примера 9. Данные примера 9 представлены в альтернативной форме, и мы можем рассчитать соответствующие значения долей. Таблица 14 называется таблицей сопряженности 2×2.

Попробуем использовать критерий Стьюдента для проверки разности между выборочными долями 0,36 и 0,78 получавшей исследуемое вещество и контрольной групп (неравновеликие параллельные группы из таблицы 14). Определим средневзвешенную долю p=(9+28)/(25+36) = 0,61. Ошибка выборочной доли равна σp=0,13 (по формуле 29). Значение критерия t=(0,36–0,78)/0,13 = –3,23. По таблицам критерия Стьюдента для числа степеней свободы f=61–2=59 и уровня значимости 5 % определяем критическое значение, равное 2,001. Нулевая гипотеза о равенстве долей отвергается, так как рассчитанная нами статистика по модулю превосходит критическое табличное значение (p<0,05).

Применим поправку на непрерывность (угловая трансформация). Для значений долей 0,36 и 0,78 определим соответствующие значения j (j1=1,287; j2=2,165). Разность между значениями j1, j2 равна –0,878; значение критерия t в этом случае будет –3,37 (формула 31). Оно также по модулю превышает соответствующее табличное значение для 5% уровня значимости, а значит, нулевая гипотеза может быть отвергнута (p<0,05).

Проверим полученные выводы с помощью критерий c2 для таблиц сопряженности. Всего в получавшей исследуемое вещество и контрольной группе (таблица 14, объем двух групп N=61) в состояние сна перешло 37 животных или 61%. Если бы гепатопротектор не оказывал влияния, животные переходили бы в состояние сна с равной частотой в обеих группах. Рассчитав, сколько составляет 61% от 25 и 36 животных в разных группах, определим ожидаемые доли при справедливости нулевой гипотезы. Ожидаемая таблица сопряженности будет иметь вид:

Таблица 15

Исходы

Сон

 

Всего

да

нет

 

 

 

 

 

 

Группа животных, получавшая исследуемое вещество (no)

15,25

9,75

25

Контрольная группа (nk)

21,96

14,04

36

Всего

37,21

23,79

61

Для каждой из четырех клеток исходов найдем разницы между наблюдаемыми и ожидаемыми значениями (разницу между соответствующими значениями в таблицах 14 и 15). По формуле 32 рассчитаем величину статистики c2=9,14 (с учетом поправки). Табличное значение критерия (таблица 2), соответствующее одной степени свободы и

913

уровню значимости 5 % , равно 3,84. Рассчитанное нами значение тестовой статистики превзошло критическое табличное, поэтому с вероятностью более 95 % мы отклоняем нулевую гипотезу об отсутствии влияния гепатопротектора. Результаты согласуются с полученными раннее с помощью критерия Стьюдента.

Задача сравнения результатов в случае связанных пар наблюдений для альтернативного распределения решается с помощью критерия Мак-Нимара [4, 17, 18], множественные сравнения повторных дихотомических измерений выполняются с помощью критерия Кокрена [4, 17, 18].

9.Построение доверительного интервала для значений измеряемого признака

Все рассмотренные выше процедуры позволяли строить доверительные интервалы для различных параметров распределения: средних значений или долей. Однако часто возникает необходимость построить доверительный интервал для самих значений измеряемого признака. Например, наиболее известная задача: оценить диапазон, в который попадают 95% всех значений совокупности. Если речь идет о нормальном распределении и объем выборки достаточно большой, этот диапазон задается выборочным средним, плюс-минус два стандартных отклонения. Правило же трех сигм (выборочное среднее плюс-минус три стандартных отклонения) задает интервал, в который попадают практически все значения совокупности. В случае малых выборок для решения этой задачи надо брать более широкий диапазон, границы которого задаются соотношением X ±Ka×Sx, где X — выборочное среднее, Sx — выборочное стандартное (или среднее квадратичное) отклонение, Ka — коэффициент, который зависит от доли членов совокупности, которые должны попасть в интервал, от выбранной вероятности, что они туда действительно попадут 1–a, и от объема выборки № Таблицу для значений коэффициента Ka можно найти, например, в [12], а графики для Ka представлены в [4].Так для вычисления 95 % доверительного интервала (a=0,05), в который должно попадать 90 % членов совокупности, по выборке объемом 10–20 значение Ka равно 2,3–2,8. А 95 % интервал по выборке того же объема, в который должны попадать 99 % членов совокупности, определяется значениями Ka, равными 3,7–4,4. Если несколько увеличить объем выборки n=20–30, то для 95 % доверительного интервала (a=0,05), в который должно попадать 90 % членов совокупности Ka равно 2,14–2,3. А 95 % интервал по выборке того же объема, в который должны попадать 99 % членов совокупности, определяется значениями Ka, равными 3,4–3,7. Видно, что с ростом объема выборки значения коэффициентов убывают и в пределе (при бесконечно больших значениях n) стремятся к критическим значениям для стандартного нормального распределения.

При расчете доверительных интервалов для значений признака нужно обратить внимание, что в расчетную формулу входит именно выборочная дисперсия, а не стандартная ошибка среднего арифметического. Ошибочная подстановка в формулу стандартной ошибки среднего приводит к построению другого интервала, а именно интервала, в который с вероятностью 95 % попадет генеральное среднее совокупности.

10. Анализ корреляций

Одним из важных разделов статистики является корреляционный анализ. Понятие корреляции отражает главным образом степень выраженности линейной связи между вариационными рядами. Наглядно эта связь может быть отражена графически. На координатной плоскости по оси абсцисс откладывают значения одного вариационного ряда, а по оси ординат — другого. Совокупность таких точек на координатной плоскости (их число равно числу наблюдений) создает общую картину корреляции и обычно позволяет построить некоторую усредненную кривую (чаще — прямую) взаимозависимости параметров, составляющих оба вариационных ряда. В данном случае эти два вариационных ряда для нас равноправны в причинном смысле. Характеристикой тесноты связи между

914

двумя случайными величинами X1 и X2, имеющими нормальное распределение, является коэффициент корреляции Пирсона:

 

n

 

 

 

 

 

 

 

 

 

 

(X1i

X1)×(X2i X2)

,

 

 

(34)

r =

i=1

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

(X1i

X1)2 ×(X2i X2)2

 

 

 

 

 

 

i=1

 

 

 

 

 

где X1i и X2i — соответствующие значения параметра в i наблюдении,

 

 

 

— средние

X1,

 

X2

значения рядов, состоящих из n наблюдений. Вычисленный коэффициент корреляции является выборочной оценкой генерального коэффициент корреляции совокупности, а значит, как и любая случайная величина, имеет ошибку sr. Отношение выборочного коэффициента корреляции к своей ошибке является критерием для проверки нулевой гипотезы о равенстве нулю генерального коэффициента корреляции совокупности (или соответственно о независимости случайных величин X1 и X2):

tr =r ×

n −2

.

(35)

 

1−r 2

 

Число степеней свободы для проверки критерия равно f=n–2, гипотезу проверяют по таблицам распределения Стьюдента (таблица 1) в соответствии с выбранным уровнем значимости. Если вычисленное значение превзойдет или окажется равным соответствующему табличному, нулевую гипотезу отвергают.

Существуют и другие формулы для вычисления коэффициента корреляции, а также эти формулы могут уточняться по отношению к большим и малым выборкам [7, 9, 13, 18–20]. Так, было установлено, что при выборках малых объемов (n<30) расчет коэффициента по этим формулам дает заниженные оценки соответствующего генерального параметра. Для корректировки можно применять, например, z-преобразование Фишера:

 

1

 

1+r

 

(36)

z =

2 ln

1−r .

 

 

Значения z принимают свои значения в интервале от плюс до минус бесконечности, распределение этой величины приближенно нормальное. Тогда критерием достоверности является показатель:

tz = z× n −3 .

(37)

По таблице распределения Стьюдента (таблица 1) для выбранного a и числа степеней свободы f=n–2 проверяют нулевую гипотезу о том, что в генеральной совокупности этот параметр равен 0. Гипотезу отвергают на выбранном уровне значимости, если tz превзойдет соответствующее табличное значение.

Однако независимо от способа вычисления коэффициент корреляции обладает определенными свойствами. Величина коэффициента корреляции всегда заключена в пределах –1r1. Если r<0, то это означает, что с увеличением в вариационном ряду наблюдаемых величин X1 соответствующие им значения X2 второго вариационного ряда в среднем уменьшаются. Если r>0, то с увеличением одного параметра другой параметр также в среднем возрастает. Если r=0, то это означает, что параметры X1 и X2 абсолютно независимы. При r=1 между параметрами существует прямо пропорциональная функциональная зависимость (в медико-биологических исследованиях крайне редкий случай). Чем больше абсолютная величина коэффициента корреляции, тем при данном объеме выборки, больше доверительная вероятность того, что характер связи действительно соответствует полученному коэффициенту корреляции.

915

В медико-биологических приложениях часто встречаются случаи, когда характеристики взаимосвязанных структур оцениваются лишь качественно. При этом приходится оперировать так называемыми ранговыми коэффициентами корреляции [6, 7, 9, 18–20]. Кроме того, такой непараметрический подход применяется в случае малых выборок. Так, например, коэффициент корреляции рангов, предложенный К. Спирменом, вычисляется по формуле:

 

n

 

 

rs =1−

di2

,

(38)

i=1

n(n 2−1)

 

 

 

 

di — разность между рангами сопряженных признаков в обобщенном ряду, n — число парных членов ряда. При полной связи ранги признаков (при расстановке их в обобщенном ряду) совпадут, и разность между ними будет равна 0, соответственно, коэффициент корреляции будет равен 1. Если же признаки варьируются независимо, коэффициент корреляции получится равным 0.

Аналогично коэффициент корреляции рангов является оценкой соответствующего генерального параметра, его значимость оценивается с помощью статистики:

rst =

zα

(1−

m

),

(39)

n −1

 

 

 

n −1

 

где zα и m связаны соотношениями с уровнем значимости: для a=5 % Z=1,96 и m=0,16; для a=1 % Z=2,58, m=0,69. Нулевую гипотезу об отсутствии корреляции (коэффициент корреляции равен нулю) отвергают, если полученное значение rs превзойдет или окажется равным рассчитанному критическому значению rst.

В биометрии, кроме того, известны задачи, в которых требуется оценить зависимость некоторого признака Z сразу от нескольких других признаков: x1,x2,...,xm. Эти задачи решаются методами многомерного регрессионного анализа [7, 9, 13, 18, 19].

Важно понимать, что коэффициент корреляции Пирсона (а именно он подразумевается, когда говорят «коэффициент корреляции») удовлетворительно характеризует лишь связи, не слишком отклоняющиеся от прямолинейных (линейная зависимость). Первоначально оценить к какому типу относится данная связь: прямолинейному или криволинейному можно, построив эмпирическую линию регрессии. Более точно допустимая степень отклонения связи от прямолинейной определяется при помощи критериев криволинейности. Если изучаемая связь является криволинейной, силу такой связи можно оценивать с помощью корреляционных отношений дисперсий или методами дисперсионного анализа. Подробнее с соответствующими формулами можно познакомиться в справочниках или книгах [7, 9, 19].

Мы хотим обратить внимание читателей на принципиальные ошибки, которые достаточно часто возникают при оценке корреляционных зависимостей. Одна из наиболее распространенных ошибок — отсутствие проверки статистической значимости рассчитанного коэффициента корреляции. Часто имеющихся объемов выборок недостаточно для получения статистически значимого выборочного коэффициента корреляции. Если соответствующий критерий показал отсутствие значимости оцененного коэффициента корреляции, можно для полученного значения r оценить объем выборки n, достаточный для окончательного решения вопроса о статистической значимости выборочного коэффициента корреляции (то есть для опровержения нулевой гипотезы об отсутствии корреляции, если корреляция действительно существует):

z2

n = α +3, (40) z2

где величина zα задается по принятому уровню значимости (предельные точки распределения Стьюдента — таблица 1), а z — преобразование рассчитанного коэффициента корреляции r (формула 36).

916

Однако при обнаружении статистически достоверной корреляции между явлениями часто возникает другая ошибка — желание связать их непосредственной причинной связью. Неверная логическая цепочка выводов при этом приводит к ошибочному заключению: раз явления А и В находятся в тесной корреляционной связи и явление В возникает во времени позднее А, следовательно А является причиной В. Однако явления А и В могут быть не только не связаны друг с другом причинно-следственной связью, но и не иметь единой первопричины.

Пример 11.

Изучали зависимость между содержанием креатинфосфата в ткани сердца и приростом концентрации молочной кислоты в крови лабораторных животных (пример 1, 2-й и 7-й столбец таблицы 11). Прежде всего, построили линию регрессии для изучаемых параметров и убедились, что данная зависимость хорошо аппроксимируется прямой, то есть связь является линейной (рисунок 4). Для оценки тесноты такой связи рассчитаем коэффициент корреляции (параметрический). Так, значение коэффициента корреляции, оцененного по формуле 34, равно r=–0,91. Знак минус означает, что большим значениям одного признака соответствуют меньшие значения другого. Оценим значимость рассчитанного коэффициента корреляции, значение статистики tr=–6,17. Проверяем данную статистику по таблицам распределения Стьюдента (таблица 1) для числа степеней свободы f=10–2=8 и уровня значимости 5 %. Рассчитанное значение статистики (tr=–6,17) по модулю превосходит соответствующее табличное значение (2,31). Таким образом, нулевую гипотезу отвергают на уровне значимости 5 %, и рассчитанный коэффициент корреляции признается статистически значимым. Проверим нулевую гипотезу в отношении z преобразованного коэффициента корреляции. Преобразование Фишера для рассчитанного коэффициента корреляции z=–1,53; соответствующее значение статистики tz=–4,05. Это рассчитанное значение по модулю превосходит соответствующее табличное 2,31 (таблица 1, f=8, a=0,05). А значит, вывод о статистической значимости коэффициента корреляции подтверждается.

Оценим для нашего примера коэффициент корреляции рангов. Если бы отдельные варианты ряда не повторялись, их рангами были бы натуральные числа от 1 в порядке возрастания. Но одинаковым значениям вариант присваиваются ранги, равные средним арифметическим их рангов. Величина di представляет собой попарные разности рангов изучаемых выборок. В качестве правила для проверки правильности ранжирования используют равенство 0 суммы di.

 

 

 

 

 

Таблица 16

Параметр X1

Параметр X2

Ранг RX1

Ранг RX2

di=RX1–RX2

di2

 

 

 

 

 

 

8

4

4,5

5

-0,5

0,25

8

5

4,5

8,5

-4,0

16,0

9

4

7

5

2,0

4,0

10

3,5

9

2,5

6,5

42,25

7

5

2,5

8,5

-6,0

36,0

7

5

2,5

8,5

-6,0

36,0

9

3,5

7

2,5

4,5

20,25

9

4

7

5

2,0

4,0

11

2

10

1

9

81,0

6

5

1

8,5

-7,5

56,25

(По данным таблицы 11 из примера 1).

917

Сумма di2 равна 296, по формуле 38 для n=10 получаем ранговый коэффициент корреляции rs=-0,82. Критическая точка, рассчитанная по формуле 39 для уровня значимости 5% ( zα =1,96; m=0,16) равна 0,64. Так как значение рангового коэффициента корреляции по модулю превосходит соответствующее критическое значение, с вероятностью более 95% можно утверждать, что между сравниваемыми параметрами существует отрицательная корреляционная связь.

11. Задачи статистической обработки кривых «доза–эффект»

Для изучения влияния различных доз препарата в доклинических исследованиях обычно используется альтернативный способ описания данных эксперимента. При этом, как правило, исследование планируют так, чтобы дозы принимали определенные значения из изучаемого диапазона, такие значения дозы являются аргументом функции «доза–эффект». Значения такой функции, или «ответы» при альтернативном способе могут принимать лишь два противоположных значения — наличие или отсутствие эффекта (гибель, судороги, изменение положения, появление определенных симптомов и т.д.). Доля p тест-объектов, дающих положительный ответ, рассматривается как оценка вероятности реагирования при данной дозе. Эта доля может изучаться методами, описанными выше: построение доверительного интервала для доли, выяснение значимости различий долей для сравниваемых групп и т.д. Однако исследователя может интересовать связь между вероятностью реагирования p и интенсивностью воздействия (доза D). Обычно доля p возрастает с увеличением D, принимая значения от 0 до 1. Данная зависимость называется кривой эффекта или кривой «доза–эффект» и изображается несимметричной S-образной кривой (рисунок 5). Эта кривая может быть построена и в логарифмических координатах lg(D)–p.

Анализ кривой «доза–эффект « заключается в оценке с ее помощью обобщенных численных характеристик, отражающих наиболее существенные стороны изучаемого явления. Одной из таких характеристик может служить доза, вызывающая эффект у 50% тест-объектов. Ее называют 50%-ной эффективной дозой и обозначают ЭД50. Для некоторых лекарственных препаратов может употребляться показатель 50%-ная летальная доза ЛД50. Показателем широты фармакологического действия является индекс, равный отношению ЛД50 к ЭД50, подробнее об этом в [2]. Существует достаточно много методов оценки ЭД50 (метод Рида и Менча, метод Кербера, метод Беренса, формула Г.Н. Першина, графические методы пробит-анализа и другие), каждый из которых имеет свои преимущества и недостатки. Детальное изложение этих методов содержится в [2, 21]. Мы остановимся лишь на некоторых из них. Надо обратить внимание, что независимо от выбранного метода расчета величина ЭД50 оценивается по выборочным данным, поэтому для нее необходимо строить доверительные интервалы.

Метод Рида и Менча — один из наиболее простых и часто используемых методов определения ЭД50, однако условием его применения является изучение равноотстоящих доз в серии исследований и одинаковой численности тест-объектов для каждой дозы. Метод Кербера, например, свободен от этих недостатков, но имеет свои ограничения. Точность этого метода снижается из-за ошибок при вычислении площадей методом трапеций и из-за неточного экспериментального определения значения дозы, при которой приближенно достигается 100% положительный результат.

От указанных ограничений и недостатков можно избавиться, если допустить, что кривая «доза–эффект» генеральной совокупности после логарифмического преобразования координат приближенно описывается нормальным законом распределения. Это предположение и лежит в основе так называемого пробит-метода. Тогда доли p положительных ответов можно приравнять к накопленным частотам z нормального распределе-

ния, которые задаются соотношением:

 

 

 

 

 

 

 

 

x M

 

z

 

,

 

 

 

 

 

σ

 

(41)

 

 

 

918

где Ф — интеграл вероятностей, M и s — параметры нормального распределения.

В дальнейшем при описании данного метода будем обозначать буквой l величину lg(D) и для простоты называть ее дозой, тогда l50 доза, при которой половина тестобъектов дают положительный ответ. Эта величина и позволяет в дальнейшем оценить искомое значение ЭД50.

Заменяя в этой формуле z на p, x на l, и M на l50, получаем:

 

 

 

 

 

l l50

 

(42)

p

 

.

 

 

σ

 

 

 

 

 

Нам нужно получить зависимость доли p от дозы l, для этого будем строить график, откладывая по оси ординат вместо значений p значения

y' = Y(p),

(43)

где Y — функция, обратная интегралу вероятностей F, то есть p = F(y'), ее значения определяются по специальным таблицам [12, 13, 19]. Таким образом

y′=

l l50

=

1

×l

l50

,

(44)

σ

σ

σ

 

 

 

 

 

то есть получаем уравнение прямой линии. Значит, если откладывать по оси абсцисс значения l, а по оси ординат — значения y’ = Y(p), то точки будут представлять прямую линию с углом наклона 1/s. При значениях p<0,5 соответствующие значения y’ будут меньше нуля. Для исправления этой ситуации производится корректировка значений y’:

y = Y(p) + 5.

(45)

Получаемые значения y и называют пробитами. Обратим внимание, что значения пробитов для p=0 и p=1 нельзя найти по такой формуле. На практике часто применяют

замену p=0 на p = 15ni , а p=1 на p =1− 15ni .

Поскольку в доклинических исследованиях численность тест-объектов в группах невелика, удобно пользоваться специальной таблицей, в которой пробит для данного исследования находится непосредственно по общему числу тест-объектов в исследовании и числу положительных ответов (таблица 8), и уйти от использования таблиц интеграла вероятностей.

Значение l50 задается абсциссой точки, ордината которой равна 5 (соответствует p=0,5). Приближенно эту точку можно найти графически, проведя через нанесенные на график экспериментальные точки наилучшим образом описывающую их прямую. Известны более сложные методы определения значения l50, и они очень подробно разобраны, например, в [2].

Известны также различные методы оценки стандартной ошибки l50, так достаточно точной считается формула:

σl50

=

σ

,

(46)

n

 

 

 

2

где n' — число тест-объектов, для которых значения пробитов находятся в пределах от 3,5 до 6,5. Величина σ задается выражением и оценивается по построенному графику:

σ =

1

2

×(l(y =6)−l(y =4)).

(47)

 

 

 

Известны методы оптимизации, позволяющие достаточно точно построить распределение вероятности того, что случайно отобранное из совокупности животное дает положительную реакцию на данную дозу. Например, оценив с помощью метода макси-

919

мального правдоподобия параметры такого распределения, можно рассчитывать дозы, необходимые для получения любого заданного значения отклика [19].

Среди упрощенных методов, позволяющих осуществлять графический пробитанализ при необходимости даже на обычной миллиметровой бумаге без использования логарифмически-пробитной сетки, широкое распространение получил метод Литчфилда и Уилкоксона. Этот метод и его модификация З. Ротом детально изложены в [2], там же даны необходимые для расчетов номограммы и разобраны приемы вычислений. Мы лишь коротко рассмотрим основные принципы метода.

На первом этапе для каждой испытанной дозы заполняют соответствующую строку рабочей таблицы для последующей проверки критерия c2. Структура рабочей таблицы такова [2]:

 

 

 

 

 

Таблица 17

Дозы,

Наблю-

Наблю-

Ожидаемый

Разность между ожидае-

Слагаемые

мг/кг

давшийся

давшийся

эффект

мым и наблюдавшимся

для

 

эффект

эффект в %

в %

эффектом в %

c2

1

2

3

4

5

6

 

 

 

 

 

 

Если в исследовании несколько доз не вызвали эффекта ни у одного животного или, наоборот, вызвали эффект у всех животных в группе, то в таблицу вносят не более чем по две такие дозы. Однако в исследовании доходить до таких доз не обязательно.

На втором этапе на логарифмически-пробитную сетку наносят точки, используя данные 1–3 столбцов таблицы, при этом точки с 0 и 100 % эффектом не наносятся. С помощью прозрачной линейки нанесенные точки соединяются прямой линией. На третьем этапе по проведенной кривой оценивают % эффекта, соответствующего каждой из испытанных доз, получаются ожидаемые эффекты для столбца 4 таблицы. В таблицу не вносят ожидаемые эффекты, если они меньше 0,01 или больше 99,9 %. Эффекты для неэффективных доз или доз со 100 % эффектом корректируются с помощью специальных таблиц [2], а исправленные значения вносят в 3 колонку таблицы и на построенный график.

Далее проверяют, соответствует ли проведенная прямая новым точкам. В случае несоответствия прямая проводится заново. После этого пересчитывают и ожидаемые, и исправленные значения.

Четвертый этап начинается после того, как вы убедитесь зрительно, что точки на графике достаточно хорошо описываются проводимой прямой. Математически это соответствие проверяется по критерию c2 по формуле, аналогичной формуле (32). Однако

вданном случае величина критерия рассчитывается как сумма (по всем занесенным в таблицу 17 строкам) квадрата разности % ожидаемого и наблюдаемого эффектов (квадрат значения из столбца 5), деленного на произведение ожидаемого эффекта (столбец 4) и эффекта, обратного ожидаемому (100 % минус значение из столбца 4). Без дополнительных вычислений слагаемые для требуемой тестовой статистики могут быть оценены с помощью специальных номограмм [2]. Тогда величиной статистики критерия c2 будет сумма этих слагаемых для каждой дозы, умноженная на среднее число животных

вгруппе. Число степеней свободы для проверки данной гипотезы равно количеству доз на графике минус 2, обычно уровень значимости принимается равным 5 %. Статистику проверяют по таблицам распределения c2 (таблица 2). Проведенная прямая соответствует данным эксперимента, если рассчитанное значение меньше табличного. В противном случае прямую пытаются провести иначе. Если такие попытки не приводят к лучшей аппроксимации, формулы для дальнейших расчетов будут несколько отличаться [2].

Если же прямая достаточно хорошо описывает данные, следующий этап связан с определением ЭД50 и ее доверительных границ. Для этого из графика находят дозы,

920