Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Государственная фармакопея Союза Советских Социалистических Республик.doc
Скачиваний:
30
Добавлен:
20.03.2016
Размер:
1.94 Mб
Скачать

II.4. Применение схемы латинского квадрата

При биологическом испытании антибиотиков методом диффузии в агар на лотках наиболее употребительна схема латинского квадрата, позволяющая рандомизировать неоднородность бактериальной культуры по обоим направлениям поверхности питательной среды. Например, в случае испытания 2; 2 дозы могут располагаться следующим образом:

0 0

D1 D2 D1 D2

0 0

D2 D1 D2 D1

(II.4.1)

0 0

D1 D2 D1 D2

0 0

D2 D1 D2 D1

Здесь каждая доза встречается по одному разу в каждой строке и в каждом столбце. В данном случае последовательные строки получены циклической перестановкой из предыдущих строк, но это не единственный способ построения латинского квадрата. Например, можно переставлять столбцы или строки (или и то, и другое) из приведенной выше схемы по жребию. В руководствах по планированию эксперимента можно найти и другие схемы.

Если для стандартного и испытуемого препаратов используются по три дозы, то соответствующий латинский квадрат будет иметь шесть строк и шесть столбцов и т.д. При двух дозах стандартного и двух дозах испытуемого препарата можно построить латинский квадрат 8х8, располагая дозы так, чтобы каждая встречалась по два раза в каждой строке и в каждом столбце.

0

Введем следующие обозначения: k - число строк в квадрате; r и

r - соответственно число использованных доз стандартного и

0

испытуемого препаратов (например, при размещении четырех доз D1,

0 0

D2, D1, D2 в квадрате 8х8 будет k = 8, r = 2, r = 2, а для

0

квадрата II.4.1: k = 4, r = 2, r = 2); у - эффективность в

ij

ячейке квадрата на пересечении i-й строки и j-го столбца

(независимо от того, относится эта эффективность к стандартному

_ _

или испытуемому препарату); у = SUM у /k и у = SUM у / k -

i j ij j ij

средние эффективности соответственно для строки i и для столбца j;

2 _ _

у = SUM y /k = SUM у /k = SUM у / k

i,j i,j i i j j

- общая средняя эффективность для всего комплекса. Тогда

2 ┌ 2 2┐

SUM d - k │SUM d + SUM d │

j,i └ i i j j┘

V = -----------------------------, (II.4.2)

2 0

n(k - 2k - r - r + 2)

2 ┌ _ 2┐ ┌ _ 2┐

где SUM d = SUM │SUM (у - у ) │ = SUM │SUM (у - у ) │,

i └ j i,j i ┘ j └ i,j j ┘

2 _ _ 2 2 _ _ 2

SUM d = SUM (у - у ) , SUM d = SUM (у - у ) ,

i i i j j j

а n - число испытаний при каждой дозе стандартного или испытуемого

препарата. Остальные расчеты производятся по формулам предыдущего

параграфа, причем t(P, f) берутся из табл. II приложения для числа

степеней свободы f = (k -1)(k - 2).

Пример II.6. В табл. II.3.3 приведены результаты совместного

испытания стандартного и испытуемого препаратов неомицина при

дозах 100 и 200 мкг в 1 мл; активность характеризуется диаметром

зоны угнетения в миллиметрах. Использован латинский квадрат вида

(II.4.1). В этой же таблице показаны расчеты, приводящие к

2 2

величинам SUM d и SUM d , а в табл. II.4.2 показано вычисление

i i j j 2

средних дозовых эффективностей и величины SUM d .

i,j

2

Таким образом, SUM d = 14,00 + 28,75 + 5,00 + 8,75 = 56,50,

i,j

0

а так как в данном случае n = 4, k = 4, r = 2, r = 2, то по

формуле II.4.2 получаем:

56,50 - 4 x (5,125 + 2,125)

V = --------------------------- = 1,146.

4 x (16 - 8 - 2 - 2 + 2)

Данное испытание относится к типу 2;2, так что использование

соответствующего раздела табл. IV приложения вместе с формулами

II.3.4 - II.3.10 дает:

G = 219,0 - 230,75 - 221,50 + 232,75 = - 0,50;

---

V = 4 х 1,146 = 4,584; │G│ / / V = 0,233 < 2,447

G \/ G

(t(95%, f) для f = (4 - 1)(4 - 2) = 6), поэтому одинаковость

наклонов двух дозовых прямых не отвергается; далее:

Е = (- 219,0 + 230,75 - 221,50 + 232,75) / 2 = 11,50;

F = (- 219,0 - 230,75 + 221,50 + 232,75) / 2 = 2,25;

2

A = V = 1,146; I = lg 200 - lg 100 = 0,301; B = V/I = 12,65;

0

b = 11,50/0,301 = 38,2; M = 2,25/38,2 = 0,0589; D /D = 114,5%;

2 2

g = 12,65 х 2,447 /38,2 = 0,052; 1 - g = 0,948;

0,0589

M = ------- +/-

H, B 0,948

--------------------------------

2,447 / 2

+/- ------------ \/ 1,146 х 0,948 + 12,65 х 0,0589 =

38,2 х 0,948

= 0,062 +/- 0,0718 = [- 0,0097; 0,1340];

0

(D /D) = 97,8%; 136,1%.

H, B

При проведении испытания по методу латинского квадрата потеря отдельных результатов нарушает всю схему расчетов, поэтому необходимо "заместить" их надлежащими оценками. Проще всего это можно сделать, подставив на место выпавшего результата среднее из оставшихся результатов для той же дозы того же препарата. Применяемый в дисперсионном анализе более сложный способ оценки выпавшего значения не дает в задаче определения эквивалентных доз существенного повышения точности общих результатов испытания.

Таблица II.4.1

┌───────────────────────────────────────┬───────┬──────┬─────┬──────┐

│ _ │ │ │ │ 2 │

│ Результаты испытания, у │SUM у │ у │ d │ d │

│ ij │ j ij│ i │ i │ i │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у = 222 у = 229 у1 = 222 у2 = 235 │ 908 │227,00│1,00 │1,0000│

│ 1 2 │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у2 = 231 у = 217 у = 231 у1 = 220 │ 899 │224,75│-1,25│1,5625│

│ 1 2 │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у1 = 221 у2 = 233 у = 218 у = 228 │ 900 │225,00│-1,00│1,0000│

│ 1 2 │ │ │ │ │

│ │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у = 235 у1 = 223 у2 = 232 у = 219 │ 909 │227,25│1,25 │1,5625│

│ 2 1 │ │ │ │ │

├───────────────────────────────────────┼───────┴──────┴─────┴──────┤

│ │ 2 │

│SUM у 909 902 903 902 │ 3616 SUM d = 5,12 │

│ i i,j │ i i │

│ │ _ │

│у 227,25 225,50 225,75 225,50│ у = 226,00 │

│ j │ │

│d 1,25 - 0,50 - 0,25 - 0,50│ │

│ j │ │

│ 2 │ 2 │

│d 1,5625 0,2500 0,0625 0,2500│ SUM d = 2,125 │

│ j │ j j │

└───────────────────────────────────────┴───────────────────────────┘

Таблица II.4.2

┌───────┬──────┬───┬──┬──────┬──────┬───────┬──────┬─────┬────┬──────┬──────┬──────┐

│ │ 0 │ │ 2│ 0 │ │ 2 │ │ │ 2 │ │ │ 2 │

│ │ y │ d │d │ y │ d │ d │ y1 │ d │ d │ y │ d │ d │

│ │ 1 │ │ │ 2 │ │ │ │ │ │ 2 │ │ │

├───────┼──────┼───┼──┼──────┼──────┼───────┼──────┼─────┼────┼──────┼──────┼──────┤

│ │ 222 │ 3 │9 │ 229 │- 1,75│ 3,0625│ 222 │ 0,5 │0,25│ 235 │ 2,25 │5,0625│

│ │ 217 │- 2│4 │ 231 │ 0,25│ 0,0625│ 220 │- 1,5│2,25│ 231 │- 1,75│3,0626│

│ │ 218 │- 1│1 │ 228 │- 2,75│ 7,5625│ 221 │- 0,5│0,25│ 233 │ 0,25 │0,0625│

│ │ 219 │ 0 │0 │ 235 │ 4,25│18,0625│ 233 │ 1,5 │2,25│ 232 │- 0,75│0,5625│

├───────┼──────┼───┼──┼──────┼──────┼───────┼──────┼─────┼────┼──────┼──────┼──────┤

│Сумма │ 876 │ 0 │14│ 923 │ 0 │ 28,75 │ 886 │ 0 │ 5 │ 931 │ 0 │ 8,75 │

│Среднее│219,00│ │ │230,75│ │ │221,50│ │ │232,75│ │ │

└───────┴──────┴───┴──┴──────┴──────┴───────┴──────┴─────┴────┴──────┴──────┴──────┘