- •Г усак в.В., Господарьов д.В., Лущак в.І. Статистика в біології: обробка даних малих вибірок
- •Розділ 1. Сукупність, вибірка і типи даних
- •1.1. Генеральні та вибіркові сукупності
- •1.2. Уявлення про малу вибірку
- •1.3. Типи даних
- •1.4. Структура даних
- •1.5. Заокруглення даних
- •Розділ 2. Показники варіації
- •2.1. Середні величини та медіана
- •2.2. Стандартне відхилення, дисперсія та коефіцієнт варіації
- •2.3. Варіація і розподіл
- •Розділ 3. Похибки оцінювання параметрів вибірки
- •3.1. Помилка середньої арифметичної величини
- •3.2. Довірчий інтервал
- •3.3. Неузгодженості у записах при використанні стандартної похибки середнього
- •Розділ 4. Аналіз даних, які випадають в ході досліджень (промахи і систематичні похибки)
- •4.1. Критерій Шовене
- •4.3. Критерій Романовського
- •4.4. Критерій Ірвіна
- •4.5. Критерій Аббе
- •Розділ 5. Перевірка вибірки на нормальність розподілу даних
- •5.1. Загальні уявлення про критерії перевірки вибірки на нормальний розподіл даних
- •5.2. Складовий критерій d
- •5.3. Статистичний критерій w (критерій Шапіро-Уілка)
- •5.4. Коефіцієнт асиметрії та ексцесу
- •Асиметрії та ексцесу
- •1. Первинні дані та допоміжні величини оформлюємо у вигляді таблиці:
- •6.1. Вибір статистичного критерію
- •6.2. Порівняння двох груп між собою
- •6.2.1. Непарний та парний критерії Стьюдента
- •6.2.2. Тест Уелча як модифікація тесту Стьюдента та u-критерій Манна-Уітні як непараметричний аналог непарного критерію Стьюдента
- •6.3. Порівняння трьох і більше груп між собою: доцільність використання параметричних чи непараметричних критеріїв
- •6.3.1. Критерій Ньюмена-Коулса
- •6.3.2. Критерій Даннета: порівняння декількох груп з контрольною
- •6.3.3. Непараметричний критерій Данна для порівняння декількох груп між собою
- •Розділ 7. Взаємозв'язки між групами: кореляційно-регресійний аналіз
- •7.1. Кореляційний аналіз
- •7.2. Парний регресійний аналіз
- •1.1. Рівняння лінійної регресії
- •1.2. Лінійне рівняння з логарифмуванням факторної ознаки (напівлогарифмічне)
- •1.3. Рівняння гіперболічної регресії
- •1.4. Показникове рівняння кривої
- •Розділ 8. Програми для статистичної обробки даних
- •Узагальнення
- •Рекомендована література
- •Тлумачний словник термінів
6.3.2. Критерій Даннета: порівняння декількох груп з контрольною
Для порівняння груп з контрольною можна використати як критерій Ньюмена-Коулса, так і критерій Тюкі, порівнюючи лише дослідні групи з контрольною. Проте за наявності контрольної групи користуються спеціальним критерієм – критерієм Даннета (Dunnett's test).
Критерій Даннета можна обчислити наступним чином:
1. Спочатку середні значення для всіх груп впорядковують по абсолютній величині їх відмінності від контрольної групи.
2. Контрольну групу порівнюють з іншими, починаючи з тієї групи, яка найбільш відрізняється від неї.
3. Якщо відмінності контрольної групи з наступною не знайдені, обчислення припиняють.
4. Критерій Даннета q′ обчислюють за формулою:
(67),
де
і
-
середнє значення для контрольної та
дослідної груп, відповідно;
-
внутрішньогрупова дисперсія;
і
-
об’єм контрольної та дослідної груп,
відповідно.
5. Для того, щоб знайти критичне значення критерію Даннета qкр′ (таблиця 20), потрібно взяти до уваги величину m, яка є постійною і дорівнює числу груп, включаючи контрольну, ступінь свободи df = N – m (N – сума чисельності всіх груп, m – число груп) і величини l, яка називається інтервалом порівняння (див. детальніше в пункті 6.3.1).
Якщо q′> qкр′, то говорять про достовірну відмінність між дослідною та контрольною групами при рівні статистичної значущості p<0,05.
Таблиця 20. Критичні значення qкр′ при рівні статистичної значущості p<0,05
df |
Інтервал порівняння l |
||||||||
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
|
6 |
2,45 |
2,86 |
3,10 |
3,26 |
3,39 |
3,49 |
3,57 |
3,64 |
3,71 |
7 |
2,36 |
2,75 |
2,97 |
3,12 |
3,24 |
3,33 |
3,41 |
3,47 |
3,53 |
8 |
2,31 |
2,67 |
2,88 |
3,02 |
3,13 |
3,22 |
3,29 |
3,35 |
3,41 |
9 |
2,26 |
2,61 |
2,81 |
2,95 |
3,05 |
3,14 |
3,20 |
3,26 |
3,32 |
10 |
2,23 |
2,57 |
2,76 |
2,89 |
2,99 |
3,07 |
3,14 |
3,19 |
3,24 |
11 |
2,20 |
2,53 |
2,72 |
2,84 |
2,94 |
3,02 |
3,08 |
3,14 |
3,19 |
12 |
2,18 |
2,50 |
2,68 |
2,81 |
2,90 |
2,98 |
3,04 |
3,09 |
3,14 |
13 |
2,16 |
2,48 |
2,65 |
2,78 |
2,87 |
2,94 |
3,00 |
3,06 |
3,10 |
14 |
2,14 |
2,46 |
2,63 |
2,75 |
2,84 |
2,91 |
2,97 |
3,02 |
3,07 |
15 |
2,13 |
2,44 |
2,61 |
2,73 |
2,82 |
2,89 |
2,95 |
3,00 |
3,04 |
16 |
2,12 |
2,42 |
2,59 |
2,71 |
2,80 |
2,87 |
2,92 |
2,97 |
3,02 |
17 |
2,11 |
2,41 |
2,58 |
2,69 |
2,78 |
2,85 |
2,90 |
2,95 |
3,00 |
18 |
2,10 |
2,40 |
2,56 |
2,68 |
2,76 |
2,83 |
2,89 |
2,94 |
2,98 |
19 |
2,09 |
2,39 |
2,55 |
2,66 |
2,75 |
2,81 |
2,87 |
2,92 |
2,96 |
20 |
2,09 |
2,38 |
2,54 |
2,65 |
2,73 |
2,80 |
2,86 |
2,90 |
2,95 |
24 |
2,06 |
2,35 |
2,51 |
2,61 |
2,70 |
2,76 |
2,81 |
2,86 |
2,90 |
30 |
2,04 |
2,32 |
2,47 |
2,58 |
2,66 |
2,72 |
2,77 |
2,82 |
2,86 |
Приклад 24. Порівняймо дослідні групи із контрольною у прикладі 23 за критерієм Даннета.
1. Початкові дані оформляємо у вигляді таблиці:
Показник |
Контроль |
10 мг/л Ni2+ |
25 мг/л Ni2+ |
50 мг/л Ni2+ |
|
51,6 48,2 69,4 104 92,0 87,9 |
68,5 78,5 78,2 74,5 76,7 74,1 |
55,8 41,4 56,2 65,8 42,0 60,0 |
41,4 43,7 37,9 42,4 27,3 46,4 |
n |
6 |
6 |
6 |
6 |
m |
4 |
|||
N |
24 |
|||
|
75,5 |
75,1 |
53,5 |
39,9 |
|
518 |
13,7 |
97,0 |
45,6 |
|
169 |
|||
2. Порівнюємо з контрольною групою ту групу, яка найбільш від неї відрізняється (в даному випадку з групою риб, що які зазнали дії йонів нікелю з концентрацією 50 мг/л) (67):
Число ступенів свободи df дорівнює 20, а інтервал порівняння l=4. За таблицею 20 знаходимо критичне значення qкр′. Воно дорівнює 2,54. Оскільки обчислене нами значення більше за критичне, то дослідна група «50 мг/л Ni2+» достовірно відрізняється від контрольної при рівні статистичної значущості p<0,05. Продовжуємо порівняння.
3. Порівнюємо з контрольною групою групу риб, підданих дії йонів нікелю з концентрацією 25 мг/л Ni2+:
Число ступенів свободи df дорівнює 20, а інтервал порівняння l=3. За таблицею 20 знаходимо критичне значення qкр′. Воно дорівнює 2,38. Оскільки обчислене нами значення q=2,93 більше за критичне (2,38), то дослідна група «25 мг/л Ni2+» достовірно відрізняється від контрольної при рівні статистичної значущості p<0,05. Продовжуємо порівняння.
4. Порівнюємо з контрольною групою групу риб, експонованих до йонів нікелю концентрацією 10 мг/л Ni2+:
Обчислене нами значення q=0,05 менше за критичне (2,09) при df=20 і l=2, тому дослідна група не відрізняється від контрольної.
Отже, критерій Даннета є «м’якшим» порівняно з критерієм Ньюмена-Коулса, про що свідчать величини його критичних значень (таблиці 19 і 20), а також результати наших обчислень (приклади 23 і 24).
