Matematicheskaya_statistika_v_meditsine
.pdf
Пол |
1 |
1 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1 |
1 |
0 |
1 |
1 |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
N |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
0 |
1 |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
В данной таблице использованы следующие обозначения: «Пол»: «0» – мужской, «1» –
женский; «Дипломатичность»: «0» – нормальный уровень, «1» – высокий уровень. Есть ли связь между полом и данным фактором?
Решение:
Так как требуется выявить связь между двумя величинами заданными в дихотомической шкале, то будем использовать коэффициент корреляции φ.
Находим значение коэффициента первым способом:
Считаем, сколько в таблице случаев, в которых оба признака имеют значение равное «1», – таких случаев 4. Доля таких случаев будет равна Pxy 4 / 22 0.182 .
Считаем, сколько в таблице случаев, в которых первый признак («Пол») имеет значение равное «1», – таких случаев 11. Доля таких случаев будет равна Px 11/ 22 0.5 .
Считаем, сколько в таблице случаев, в которых второй признак («N (Дипломатичность)») имеет значение равное «1», – таких случаев 5. Доля таких случаев будет равна
Py
5 / 22
0.227
.
Так как
Px
0
,
Py
0
,
Px
1
,
Py
1
, то можно приступать к вычислению коэффициен-
та корреляции:
|
|
|
P |
P P |
|
|
|
|||
|
|
= |
xy |
|
x |
y |
|
|
|
|
эмп |
1 P |
P |
1 P |
|
|
|||||
|
P |
|
|
|||||||
|
|
|
|
|
|
|
|
|
||
|
|
x |
|
x |
y |
y |
|
|
|
|
|
|
0.182 0.5 0.227 |
|
0.327. |
||||||
0.5 1 0.5 0.227 1 0.227 |
||||||||||
|
|
|||||||||
Находим значение коэффициента вторым способом:
Составляем четырехпольную таблицу, подсчитывая возможные комбинации и занося их количество в соответствующие ячейки:
Пол |
0 |
|
1 |
|
Σ |
N |
|
|
|||
|
|
|
|
|
|
0 |
a=10 |
b=7 |
a+b=17 |
||
1 |
c=1 |
d=4 |
a+d=5 |
||
Σ |
a+c=11 |
b+d=11 |
a+b+c+d=22 |
||
Считаем суммы по строкам и по столбцам и заносим их в таблицу.
В ячейках для удобства дальнейших расчетов сохраняем буквенные обозначения, числа выделяем серым цветом.
Вычисляем коэффициент корреляции:
эмп = |
|
|
|
ad bc |
|
|||
|
|
|
|
|||||
a + c b + d a + d a + b |
||||||||
|
|
|
|
|||||
|
10 4 7 1 |
|
0.327 |
|
||||
|
|
|
|
|
|
|||
|
|
|
|
|
|
|||
11 11 17 |
5 |
|
||||||
|
|
|
|
|||||
Как видно, оба способа расчета дают одинаковый результат.
Находим критические значения данного коэффициента. Так как отдельной таблицы критических значений для него нет, то будем использовать таблицу критических значений t- критерия Стьюдента. Вычисляем эмпирическое значение t-критерия для данного значения коэффициента корреляции по формуле:
101
t |
|
= r |
n 2 |
||
эмп |
1 r |
2 |
|||
|
|
||||
|
|
|
|
||
,
t |
|
= 0.327 |
22 2 |
|
эмп |
2 |
|||
|
|
|||
|
|
|
1 0.327 |
= 1.54
.
По таблице критических значений t-критерия (см. таблицу 4) находим критические значения:
t t
0.05 0.01
(20)=
(20)=
2.09 2.85
,
.
Наносим критические значения на ось значимости, на нее же наносим эмпирическое значение.
Как видно из рисунка, эмпирическое значение коэффициента корреляции попадает в зону незначимости, поэтому принимаем гипотезу H0, о незначимости отличия коэффициента корреляции от 0, т. .е. о несущественности корреляции признаков «Пол» и «Дипломатичность».
Пример 35. Группа пациентов, страдающих психосоматическими заболеваниями, выполнила 16-факторный тест личности Кеттела. Результаты измерений по фактору А («Открытость») были занесены в таблицу:
Пол |
1 |
1 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1 |
1 |
0 |
1 |
1 |
1 |
A |
4 |
9 |
3 |
4 |
3 |
7 |
7 |
8 |
6 |
5 |
6 |
10 |
5 |
9 |
6 |
9 |
8 |
4 |
6 |
8 |
3 |
6 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
В данной таблице использованы следующие обозначения: «Пол»: «0» – мужской, «1» – женский.
Есть ли связь между полом и данным фактором?
Решение:
Формально данную задачу нужно решать с помощью бисериального коэффициента корреляции, однако в формулу его расчета входит оценка среднего квадратического отклонения, то есть данный коэффициент является параметрическим, и, следовательно, чувствительным к нормальности распределения признака. Чтобы обойти эту проблему, пожертвуем частью информации о признаке «А (Открытость)» и перейдем из шкалы стенов (интервальной) к ранговой шкале. Ранжируя признак «А», получаем готовую для расчетов таблицу:
Пол |
1 |
1 |
1 |
1 |
1 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1 |
1 |
0 |
1 |
1 |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ранг |
5 |
20 |
2 |
5 |
2 |
14.5 |
14.5 |
17 |
11 |
7.5 |
11 |
22 |
7.5 |
20 |
11 |
20 |
17 |
5 |
11 |
17 |
2 |
11 |
Так как теперь признак «А» задан в ранговой шкале, а признак «Пол» – в дихотомиче-
ской, то для решения можно использовать рангово-бисериальный коэффициент корреляции.
Находим средний ранг признака «А» для случаев, при которых признак «Пол» имеет значение равное «1»:
102
R |
5 20 2 5 2 20 17 5 17 |
|
|
1 |
11 |
|
Находим средний ранг признака «А» значение равное «0»:
R |
14.5 14.5 17 11 7.5 11 22 |
|
|
1 |
11 |
|
147 13.36
11
2 11 |
|
106 |
|
|
|
||
|
|
11 |
|
для случаев, 7.5 11 20
9.64 .
при которых признак «Пол» имеет
11
Находим эмпирическое значение критерия:
r |
|
|
2(R R ) |
|
рб эксп |
1 |
0 |
||
|
|
|
n |
|
|
|
|
|
|
|
2(9.64 13.36) |
|
|
|
22 |
0.34
.
Находим критические значения данного коэффициента. Так как отдельной таблицы критических значений для него нет, то будем использовать таблицу критических значений t- критерия Стьюдента. Вычисляем эмпирическое значение t-критерия для данного значения коэффициента корреляции по формуле:
t |
|
= r |
n 2 |
|
эмп |
1 r 2 |
|
||
|
|
|
||
|
|
|
|
,
t |
|
= 0.34 |
22 2 |
|
эмп |
2 |
|||
|
|
|||
|
|
|
1 0.34 |
=
1.61
.
По таблице критических значений t-критерия (см. таблицу 4) находим критические значения:
t t
0.05 0.01
(20)=
(20)=
2.09 2.85
,
.
Наносим критические значения на ось значимости, на нее же наносим эмпирическое значение.
Как видно из рисунка, эмпирическое значение коэффициента корреляции попадает в зону незначимости, поэтому принимаем гипотезу H0, о незначимости отличия коэффициента корреляции от 0, т.е. о несущественности корреляции признаков «Пол» и «Открытость».
Пример 36. В предположении о существовании связи между устойчивостью внимания (по результатам пробы Бурдона) и количеством ошибок при решении простых арифметических задач в группе из 11 испытуемых было проведено исследование и получены следующие результаты:
Испытуемые |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
11 |
|
Устойчивость вни- |
14 |
18 |
22 |
14 |
23 |
25 |
17 |
20 |
19 |
13 |
25 |
|
мания |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
||
К-во ошибок |
56 |
45 |
47 |
50 |
46 |
34 |
23 |
44 |
43 |
52 |
10 |
Определите величину и направление связи между переменными устойчивости внимания и количеством ошибок.
Решение:
Так как оба признака заданы как минимум в шкале отрезков, то для решения задачи
103
можно находить как коэффициент корреляции рангов Спирмена, так и коэффициент корреляции τ-Кендалла. Так как признак «Устойчивость внимания» имеет повторяющиеся значения, то при ранжировании появятся одинаковые ранги. Поэтому будем использовать для решения задачи коэффициент корреляции рангов Спирмена rs.
1.Признаки «устойчивость внимания» и «количество ошибок», которые участвуют в сопоставлении, назовем переменными А и В, соответственно.
2.Номера испытуемых занесем в первый столбец таблицы.
3.Проранжируем значения переменной А, начисляя ранг 1 наименьшему значению, в соответствии с правилами ранжирования. Второй столбец таблицы разделим на две части, куда занесем значения переменной A и соответствующие ранги, соответственно номерам испытуемых.
4.Проранжируем значения переменной В в соответствии с теми же правилами. Третий столбец таблицы разделим на две части, куда занесем значения переменной B и соответствующие ранги, соответственно номерам испытуемых.
5.Подсчитаем разности di между рангами А и В по каждой строке таблицы и занесем в четвертый столбец таблицы.
6.В пятом столбце таблицы запишем di2.
7. Подсчитаем сумму квадратов
d |
2 |
|
|
i |
|
i |
|
359
.
|
Переменная A |
Переменная B |
|
|
|
||
Испытуемый, |
(устойчивость |
|
|
|
|||
(количество ошибок) |
d |
d |
2 |
||||
№ |
внимания) |
|
|||||
|
|
|
|
|
|||
|
значения |
ранг |
значения |
ранг |
|
|
|
1 |
14 |
2.5 |
56 |
11 |
-8.5 |
72.25 |
|
2 |
18 |
5 |
45 |
6 |
-1 |
1 |
|
3 |
22 |
8 |
47 |
8 |
0 |
0 |
|
4 |
14 |
2.5 |
50 |
9 |
-6.5 |
42.25 |
|
5 |
23 |
9 |
46 |
7 |
2 |
4 |
|
6 |
25 |
10.5 |
34 |
3 |
7.5 |
56.25 |
|
7 |
17 |
4 |
23 |
2 |
2 |
4 |
|
8 |
20 |
7 |
44 |
5 |
2 |
4 |
|
9 |
19 |
6 |
43 |
4 |
2 |
4 |
|
10 |
13 |
1 |
52 |
10 |
-9 |
81 |
|
11 |
25 |
10.5 |
10 |
1 |
9.5 |
90.25 |
|
Σ |
|
66 |
|
66 |
|
359 |
|
a1
8. Так как в ранговом ряду переменной A имеется две группы одинаковых рангов, объемом
2 |
и a2 2 , рассчитаем поправку: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
T (a 3 |
a ) /12 (2 |
3 |
2) (2 |
3 |
2) 1 |
|||||||||||
|
|
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
a |
i |
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
12 |
|
|
|
|
|
|||
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
9. Подсчитаем эмпирическое значение рангового коэффициента корреляции: |
||||||||||||||||||
|
|
|
|
d |
|
2 |
T |
T |
|
|
359 1 |
|
|||||||
|
|
|
|
i |
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
a |
b |
|
|
|
|||||||
|
|
r |
1 6 |
i |
|
|
|
|
|
|
1 6 |
0,64 |
|||||||
|
|
|
|
|
2 |
|
|
|
|
2 |
|
|
|||||||
|
|
s, эмп |
|
N (N |
1) |
|
|
|
|
1) |
|
||||||||
|
|
|
|
|
|
|
11 (11 |
|
|||||||||||
|
10. Определим по таблице 23 критические значения rs для данного N=11: |
||||||||||||||||||
|
0.61 |
( p 0.05) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
rs,кр |
( p 0.01) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0.76 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
rs, эмп rs,кр , |
( p 0.05) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
H0 отвергается. Корреляция между устойчивостью внимания и количеством ошибок
104
статистически значима
( p 0.05)
и является отрицательной.
105
СТАТИСТИЧЕСКИЕ ТАБЛИЦЫ
Таблица 1 – Значения функции
(x) e |
x |
2 |
/ 2 |
2 |
|
||||
|
|
|
x |
0 |
1 |
2 |
3 |
4 |
5 |
|
6 |
|
|
|
7 |
|
8 |
9 |
|
0.0 |
0.3989 |
0.3989 |
0.3989 |
0.3988 |
0.3986 |
0.3984 |
0.3982 |
|
0.3980 |
|
0.3977 |
0.3973 |
||||
0.1 |
0.3970 |
0.3965 |
0.3961 |
0.3956 |
0.3951 |
0.3945 |
0.3939 |
|
0.3932 |
|
0.3925 |
0.3918 |
||||
0.2 |
0.3910 |
0.3902 |
0.3894 |
0.3885 |
0.3876 |
0.3867 |
0.3857 |
|
0.3847 |
|
0.3836 |
0.3825 |
||||
0.3 |
0.3814 |
0.3802 |
0.3790 |
0.3778 |
0.3765 |
0.3752 |
0.3739 |
|
0.3725 |
|
0.3712 |
0.3697 |
||||
0.4 |
0.3683 |
0.3668 |
0.3653 |
0.3637 |
0.3621 |
0.3605 |
0.3589 |
|
0.3572 |
|
0.3555 |
0.3538 |
||||
0.5 |
0.3521 |
0.3503 |
0.3485 |
0.3467 |
0.3448 |
0.3429 |
0.3410 |
|
0.3391 |
|
0.3372 |
0.3352 |
||||
0.6 |
0.3332 |
0.3312 |
0.3292 |
0.3271 |
0.3251 |
0.3230 |
0.3209 |
|
0.3187 |
|
0.3166 |
0.3144 |
||||
0.7 |
0.3123 |
0.3101 |
0.3079 |
0.3056 |
0.3034 |
0.3011 |
0.2989 |
|
0.2966 |
|
0.2943 |
0.2920 |
||||
0.8 |
0.2897 |
0.2874 |
0.2850 |
0.2827 |
0.2803 |
0.2780 |
0.2756 |
|
0.2732 |
|
0.2709 |
0.2685 |
||||
0.9 |
0.2661 |
0.2637 |
0.2613 |
0.2589 |
0.2565 |
0.2541 |
0.2516 |
|
0.2492 |
|
0.2468 |
0.2444 |
||||
1.0 |
0.2420 |
0.2396 |
0.2371 |
0.2347 |
0.2323 |
0.2299 |
0.2275 |
|
0.2251 |
|
0.2227 |
0.2203 |
||||
1.1 |
0.2179 |
0.2155 |
0.2131 |
0.2107 |
0.2083 |
0.2059 |
0.2036 |
|
0.2012 |
|
0.1989 |
0.1965 |
||||
1.2 |
0.1942 |
0.1919 |
0.1895 |
0.1872 |
0.1849 |
0.1826 |
0.1804 |
|
0.1781 |
|
0.1758 |
0.1736 |
||||
1.3 |
0.1714 |
0.1691 |
0.1669 |
0.1647 |
0.1626 |
0.1604 |
0.1582 |
|
0.1561 |
|
0.1539 |
0.1518 |
||||
1.4 |
0.1497 |
0.1476 |
0.1456 |
0.1435 |
0.1415 |
0.1394 |
0.1374 |
|
0.1354 |
|
0.1334 |
0.1315 |
||||
1.5 |
0.1295 |
0.1276 |
0.1257 |
0.1238 |
0.1219 |
0.1200 |
0.1182 |
|
0.1163 |
|
0.1145 |
0.1127 |
||||
1.6 |
0.1109 |
0.1092 |
0.1074 |
0.1057 |
0.1040 |
0.1023 |
0.1006 |
|
0.0989 |
|
0.0973 |
0.0957 |
||||
1.7 |
0.0940 |
0.0925 |
0.0909 |
0.0893 |
0.0878 |
0.0863 |
0.0848 |
|
0.0833 |
|
0.0818 |
0.0804 |
||||
1.8 |
0.0790 |
0.0775 |
0.0761 |
0.0748 |
0.0734 |
0.0721 |
0.0707 |
|
0.0694 |
|
0.0681 |
0.0669 |
||||
1.9 |
0.0656 |
0.0644 |
0.0632 |
0.0620 |
0.0608 |
0.0596 |
0.0584 |
|
0.0573 |
|
0.0562 |
0.0551 |
||||
2.0 |
0.0540 |
0.0529 |
0.0519 |
0.0508 |
0.0498 |
0.0488 |
0.0478 |
|
0.0468 |
|
0.0459 |
0.0449 |
||||
2.1 |
0.0440 |
0.0431 |
0.0422 |
0.0413 |
0.0404 |
0.0396 |
0.0387 |
|
0.0379 |
|
0.0371 |
0.0363 |
||||
2.2 |
0.0355 |
0.0347 |
0.0339 |
0.0332 |
0.0325 |
0.0317 |
0.0310 |
|
0.0303 |
|
0.0297 |
0.0290 |
||||
2.3 |
0.0283 |
0.0277 |
0.0270 |
0.0264 |
0.0258 |
0.0252 |
0.0246 |
|
0.0241 |
|
0.0235 |
0.0229 |
||||
2.4 |
0.0224 |
0.0219 |
0.0213 |
0.0208 |
0.0203 |
0.0198 |
0.0194 |
|
0.0189 |
|
0.0184 |
0.0180 |
||||
2.5 |
0.0175 |
0.0171 |
0.0167 |
0.0163 |
0.0158 |
0.0154 |
0.0151 |
|
0.0147 |
|
0.0143 |
0.0139 |
||||
2.6 |
0.0136 |
0.0132 |
0.0129 |
0.0126 |
0.0122 |
0.0119 |
0.0116 |
|
0.0113 |
|
0.0110 |
0.0107 |
||||
2.7 |
0.0104 |
0.0101 |
0.0099 |
0.0096 |
0.0093 |
0.0091 |
0.0088 |
|
0.0086 |
|
0.0084 |
0.0081 |
||||
2.8 |
0.0079 |
0.0077 |
0.0075 |
0.0073 |
0.0071 |
0.0069 |
0.0067 |
|
0.0065 |
|
0.0063 |
0.0061 |
||||
2.9 |
0.0060 |
0.0058 |
0.0056 |
0.0055 |
0.0053 |
0.0051 |
0.0050 |
|
0.0048 |
|
0.0047 |
0.0046 |
||||
3.0 |
0.0044 |
0.0043 |
0.0042 |
0.0040 |
0.0039 |
0.0038 |
0.0037 |
|
0.0036 |
|
0.0035 |
0.0034 |
||||
3.1 |
0.0033 |
0.0032 |
0.0031 |
0.0030 |
0.0029 |
0.0028 |
0.0027 |
|
0.0026 |
|
0.0025 |
0.0025 |
||||
3.2 |
0.0024 |
0.0023 |
0.0022 |
0.0022 |
0.0021 |
0.0020 |
0.0020 |
|
0.0019 |
|
0.0018 |
0.0018 |
||||
3.3 |
0.0017 |
0.0017 |
0.0016 |
0.0016 |
0.0015 |
0.0015 |
0.0014 |
|
0.0014 |
|
0.0013 |
0.0013 |
||||
3.4 |
0.0012 |
0.0012 |
0.0012 |
0.0011 |
0.0011 |
0.0010 |
0.0010 |
|
0.0010 |
|
0.0009 |
0.0009 |
||||
3.5 |
0.0009 |
0.0008 |
0.0008 |
0.0008 |
0.0008 |
0.0007 |
0.0007 |
|
0.0007 |
|
0.0007 |
0.0006 |
||||
3.6 |
0.0006 |
0.0006 |
0.0006 |
0.0005 |
0.0005 |
0.0005 |
0.0005 |
|
0.0005 |
|
0.0005 |
0.0004 |
||||
3.7 |
0.0004 |
0.0004 |
0.0004 |
0.0004 |
0.0004 |
0.0004 |
0.0003 |
|
0.0003 |
|
0.0003 |
0.0003 |
||||
3.8 |
0.0003 |
0.0003 |
0.0003 |
0.0003 |
0.0003 |
0.0002 |
0.0002 |
|
0.0002 |
|
0.0002 |
0.0002 |
||||
3.9 |
0.0002 |
0.0002 |
0.0002 |
0.0002 |
0.0002 |
0.0002 |
0.0002 |
|
0.0002 |
|
0.0001 |
0.0001 |
||||
|
|
|
|
|
|
|
|
1 |
|
|
z |
|
|
|
||
Таблица 2 – Таблица значений функции Лапласа (z) |
|
|
e u 2 / 2du , |
( z) (z) |
||||||||||||
|
|
|
|
|||||||||||||
|
2 |
|||||||||||||||
|
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
z |
0 |
1 |
2 |
3 |
4 |
5 |
|
6 |
|
|
|
7 |
|
8 |
9 |
|
0.0 |
0.0000 |
0.0040 |
0.0080 |
0.0120 |
0.0160 |
0.0199 |
0.0239 |
|
0.0279 |
0.0319 |
0.0359 |
|||||
|
|
|
|
|
106 |
|
|
|
|
|
|
|
|
|
|
|
0.1 |
0.0398 |
0.0438 |
0.0478 |
0.0517 |
0.0557 |
0.0596 |
0.0636 |
0.0675 |
0.0714 |
0.0753 |
0.2 |
0.0793 |
0.0832 |
0.0871 |
0.0910 |
0.0948 |
0.0987 |
0.1026 |
0.1064 |
0.1103 |
0.1141 |
0.3 |
0.1179 |
0.1217 |
0.1255 |
0.1293 |
0.1331 |
0.1368 |
0.1406 |
0.1443 |
0.1480 |
0.1517 |
0.4 |
0.1554 |
0.1591 |
0.1628 |
0.1664 |
0.1700 |
0.1736 |
0.1772 |
0.1808 |
0.1844 |
0.1879 |
0.5 |
0.1915 |
0.1950 |
0.1985 |
0.2019 |
0.2054 |
0.2088 |
0.2123 |
0.2157 |
0.2190 |
0.2224 |
0.6 |
0.2257 |
0.2291 |
0.2324 |
0.2357 |
0.2389 |
0.2422 |
0.2454 |
0.2486 |
0.2517 |
0.2549 |
0.7 |
0.2580 |
0.2611 |
0.2642 |
0.2673 |
0.2704 |
0.2734 |
0.2764 |
0.2794 |
0.2823 |
0.2852 |
0.8 |
0.2881 |
0.2910 |
0.2939 |
0.2967 |
0.2995 |
0.3023 |
0.3051 |
0.3078 |
0.3106 |
0.3133 |
0.9 |
0.3159 |
0.3186 |
0.3212 |
0.3238 |
0.3264 |
0.3289 |
0.3315 |
0.3340 |
0.3365 |
0.3389 |
1.0 |
0.3413 |
0.3438 |
0.3461 |
0.3485 |
0.3508 |
0.3531 |
0.3554 |
0.3577 |
0.3599 |
0.3621 |
1.1 |
0.3643 |
0.3665 |
0.3686 |
0.3708 |
0.3729 |
0.3749 |
0.3770 |
0.3790 |
0.3810 |
0.3830 |
1.2 |
0.3849 |
0.3869 |
0.3888 |
0.3907 |
0.3925 |
0.3944 |
0.3962 |
0.3980 |
0.3997 |
0.4015 |
1.3 |
0.4032 |
0.4049 |
0.4066 |
0.4082 |
0.4099 |
0.4115 |
0.4131 |
0.4147 |
0.4162 |
0.4177 |
1.4 |
0.4192 |
0.4207 |
0.4222 |
0.4236 |
0.4251 |
0.4265 |
0.4279 |
0.4292 |
0.4306 |
0.4319 |
1.5 |
0.4332 |
0.4345 |
0.4357 |
0.4370 |
0.4382 |
0.4394 |
0.4406 |
0.4418 |
0.4429 |
0.4441 |
1.6 |
0.4452 |
0.4463 |
0.4474 |
0.4484 |
0.4495 |
0.4505 |
0.4515 |
0.4525 |
0.4535 |
0.4545 |
1.7 |
0.4554 |
0.4564 |
0.4573 |
0.4582 |
0.4591 |
0.4599 |
0.4608 |
0.4616 |
0.4625 |
0.4633 |
1.8 |
0.4641 |
0.4649 |
0.4656 |
0.4664 |
0.4671 |
0.4678 |
0.4686 |
0.4693 |
0.4699 |
0.4706 |
1.9 |
0.4713 |
0.4719 |
0.4726 |
0.4732 |
0.4738 |
0.4744 |
0.4750 |
0.4756 |
0.4761 |
0.4767 |
2.0 |
0.4772 |
0.4778 |
0.4783 |
0.4788 |
0.4793 |
0.4798 |
0.4803 |
0.4808 |
0.4812 |
0.4817 |
2.1 |
0.4821 |
0.4826 |
0.4830 |
0.4834 |
0.4838 |
0.4842 |
0.4846 |
0.4850 |
0.4854 |
0.4857 |
2.2 |
0.4861 |
0.4864 |
0.4868 |
0.4871 |
0.4875 |
0.4878 |
0.4881 |
0.4884 |
0.4887 |
0.4890 |
2.3 |
0.4893 |
0.4896 |
0.4898 |
0.4901 |
0.4904 |
0.4906 |
0.4909 |
0.4911 |
0.4913 |
0.4916 |
2.4 |
0.4918 |
0.4920 |
0.4922 |
0.4925 |
0.4927 |
0.4929 |
0.4931 |
0.4932 |
0.4934 |
0.4936 |
2.5 |
0.4938 |
0.4940 |
0.4941 |
0.4943 |
0.4945 |
0.4946 |
0.4948 |
0.4949 |
0.4951 |
0.4952 |
2.6 |
0.4953 |
0.4955 |
0.4956 |
0.4957 |
0.4959 |
0.4960 |
0.4961 |
0.4962 |
0.4963 |
0.4964 |
2.7 |
0.4965 |
0.4966 |
0.4967 |
0.4968 |
0.4969 |
0.4970 |
0.4971 |
0.4972 |
0.4973 |
0.4974 |
2.8 |
0.4974 |
0.4975 |
0.4976 |
0.4977 |
0.4977 |
0.4978 |
0.4979 |
0.4979 |
0.4980 |
0.4981 |
2.9 |
0.4981 |
0.4982 |
0.4982 |
0.4983 |
0.4984 |
0.4984 |
0.4985 |
0.4985 |
0.4986 |
0.4986 |
3.0 |
0.4987 |
0.4987 |
0.4987 |
0.4988 |
0.4988 |
0.4989 |
0.4989 |
0.4989 |
0.4990 |
0.4990 |
3.1 |
0.4990 |
0.4991 |
0.4991 |
0.4991 |
0.4992 |
0.4992 |
0.4992 |
0.4992 |
0.4993 |
0.4993 |
3.2 |
0.4993 |
0.4993 |
0.4994 |
0.4994 |
0.4994 |
0.4994 |
0.4994 |
0.4995 |
0.4995 |
0.4995 |
3.3 |
0.4995 |
0.4995 |
0.4995 |
0.4996 |
0.4996 |
0.4996 |
0.4996 |
0.4996 |
0.4996 |
0.4997 |
3.4 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4997 |
0.4998 |
3.5 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
0.4998 |
3.6 |
0.4998 |
0.4998 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
3.7 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
3.8 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
0.4999 |
3.9 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
0.5000 |
Таблица 3 – Таблица значений коэффициента Стьюдента tγ(f)
f |
0.95 |
0.99 |
0.999 |
|
f |
0.95 |
0.99 |
0.999 |
1 |
12.706 |
63.657 |
636.619 |
|
20 |
2.086 |
2.845 |
3.850 |
2 |
4.303 |
9.925 |
31.599 |
|
21 |
2.080 |
2.831 |
3.819 |
3 |
3.182 |
5.841 |
12.924 |
|
22 |
2.074 |
2.819 |
3.792 |
4 |
2.776 |
4.604 |
8.610 |
|
23 |
2.069 |
2.807 |
3.768 |
5 |
2.571 |
4.032 |
6.869 |
|
24 |
2.064 |
2.797 |
3.745 |
6 |
2.447 |
3.707 |
5.959 |
|
25 |
2.060 |
2.787 |
3.725 |
|
|
|
107 |
|
|
|
|
|
7 |
2.365 |
3.499 |
5.408 |
26 |
2.056 |
2.779 |
3.707 |
8 |
2.306 |
3.355 |
5.041 |
27 |
2.052 |
2.771 |
3.690 |
9 |
2.262 |
3.250 |
4.781 |
28 |
2.048 |
2.763 |
3.674 |
10 |
2.228 |
3.169 |
4.587 |
29 |
2.045 |
2.756 |
3.659 |
11 |
2.201 |
3.106 |
4.437 |
30 |
2.042 |
2.750 |
3.646 |
12 |
2.179 |
3.055 |
4.318 |
40 |
2.021 |
2.704 |
3.551 |
13 |
2.160 |
3.012 |
4.221 |
45 |
2.014 |
2.690 |
3.520 |
14 |
2.145 |
2.977 |
4.140 |
50 |
2.009 |
2.678 |
3.496 |
15 |
2.131 |
2.947 |
4.073 |
55 |
2.004 |
2.668 |
3.476 |
16 |
2.120 |
2.921 |
4.015 |
60 |
2.000 |
2.660 |
3.460 |
17 |
2.110 |
2.898 |
3.965 |
100 |
1.984 |
2.626 |
3.390 |
18 |
2.101 |
2.878 |
3.922 |
120 |
1.980 |
2.617 |
3.373 |
19 |
2.093 |
2.861 |
3.883 |
∞ |
1.960 |
2.576 |
3.291 |
Таблица 4 – Таблица критических значений t-критерия Стьюдента
f |
0.1 |
0.05 |
0.01 |
f |
0.1 |
0.05 |
0.01 |
1 |
6.31 |
12.71 |
63.66 |
20 |
1.72 |
2.09 |
2.85 |
2 |
2.92 |
4.30 |
9.92 |
21 |
1.72 |
2.08 |
2.83 |
3 |
2.35 |
3.18 |
5.84 |
22 |
1.72 |
2.07 |
2.82 |
4 |
2.13 |
2.78 |
4.60 |
23 |
1.71 |
2.07 |
2.81 |
5 |
2.02 |
2.57 |
4.03 |
24 |
1.71 |
2.06 |
2.80 |
6 |
1.94 |
2.45 |
3.71 |
25 |
1.71 |
2.06 |
2.79 |
7 |
1.89 |
2.36 |
3.50 |
26 |
1.71 |
2.06 |
2.78 |
8 |
1.86 |
2.31 |
3.36 |
27 |
1.70 |
2.05 |
2.77 |
9 |
1.83 |
2.26 |
3.25 |
28 |
1.70 |
2.05 |
2.76 |
10 |
1.81 |
2.23 |
3.17 |
29 |
1.70 |
2.05 |
2.76 |
11 |
1.80 |
2.20 |
3.11 |
30 |
1.70 |
2.04 |
2.75 |
12 |
1.78 |
2.18 |
3.05 |
40 |
1.68 |
2.02 |
2.70 |
13 |
1.77 |
2.16 |
3.01 |
45 |
1.68 |
2.01 |
2.69 |
14 |
1.76 |
2.14 |
2.98 |
50 |
1.68 |
2.01 |
2.68 |
15 |
1.75 |
2.13 |
2.95 |
55 |
1.67 |
2.00 |
2.67 |
16 |
1.75 |
2.12 |
2.92 |
60 |
1.67 |
2.00 |
2.66 |
17 |
1.74 |
2.11 |
2.90 |
100 |
1.66 |
1.98 |
2.63 |
18 |
1.73 |
2.10 |
2.88 |
120 |
1.66 |
1.98 |
2.62 |
19 |
1.73 |
2.09 |
2.86 |
∞ |
1.65 |
1.96 |
2.58 |
108
Таблица 5 – Значения функций e–x и ex
x |
e--x |
ex |
x |
e–x |
ex |
x |
e–x |
ex |
0.0 |
1.000 |
1.00 |
2.1 |
0.122 |
8.17 |
5.0 |
0.0067 |
148.4 |
0.1 |
0.905 |
1.11 |
2.2 |
0.111 |
9.03 |
5.5 |
0.0041 |
244.7 |
0.2 |
0.819 |
1.22 |
2.3 |
0.100 |
9.97 |
6.0 |
0.0025 |
403.4 |
0.3 |
0.741 |
1.35 |
2.4 |
0.091 |
11.0 |
6.5 |
0.0015 |
665.1 |
0.4 |
0.670 |
1.49 |
2.5 |
0.082 |
12.2 |
7.0 |
0.0009 |
1096.6 |
0.5 |
0.607 |
1.65 |
2.6 |
0.074 |
13.5 |
7.5 |
0.0006 |
1808.0 |
0.6 |
0.549 |
1.82 |
2.7 |
0.067 |
14.9 |
8.0 |
0.0003 |
2981.0 |
0.7 |
0.497 |
2.01 |
2.8 |
0.061 |
16.4 |
8.5 |
0.0002 |
4914.8 |
0.8 |
0.449 |
2.23 |
2.9 |
0.055 |
18.2 |
9.0 |
0.00012 |
8103.1 |
0.9 |
0.407 |
2.46 |
3.0 |
0.050 |
20.1 |
9.5 |
0.00007 |
13359.7 |
1.0 |
0.368 |
2.72 |
3.1 |
0.045 |
22.2 |
10.0 |
0.00005 |
22026.5 |
1.1 |
0.333 |
3.00 |
3.2 |
0.041 |
24.5 |
|
|
|
1.2 |
0.301 |
3.32 |
3.3 |
0.037 |
27.1 |
|
|
|
1.3 |
0.273 |
3.67 |
3.4 |
0.033 |
30.0 |
|
|
|
1.4 |
0.247 |
4.06 |
3.5 |
0.030 |
33.1 |
|
|
|
1.5 |
0.223 |
4.48 |
3.6 |
0.027 |
36.6 |
|
|
|
1.6 |
0.202 |
4.95 |
3.7 |
0.025 |
40.4 |
|
|
|
1.7 |
0.183 |
5.47 |
3.8 |
0.022 |
44.7 |
|
|
|
1.8 |
0.165 |
6.05 |
3.9 |
0.020 |
49.4 |
|
|
|
1.9 |
0.150 |
6.69 |
4.0 |
0.018 |
54.6 |
|
|
|
2.0 |
0.135 |
7.39 |
4.5 |
0.011 |
90.0 |
|
|
|
109
Таблица 6 – Таблица критических значений критерия F-Фишера (для проверки ненаправленных гипотез) p=0.05
|
|
|
|
|
|
|
|
Число степеней свободы числителя |
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
11 |
12 |
13 |
14 |
15 |
16 |
17 |
18 |
19 |
20 |
|
|
2 |
38.5 |
39.0 |
39.2 |
39.2 |
39.3 |
39.3 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
39.4 |
|
знаменателя |
4 |
12.22 |
10.65 |
9.98 |
9.60 |
9.36 |
9.20 |
9.07 |
8.98 |
8.90 |
8.84 |
8.79 |
8.75 |
8.71 |
8.68 |
8.66 |
8.63 |
8.61 |
8.59 |
8.58 |
8.56 |
|
6 |
8.81 |
7.26 |
6.60 |
6.23 |
5.99 |
5.82 |
5.70 |
5.60 |
5.52 |
5.46 |
5.41 |
5.37 |
5.33 |
5.30 |
5.27 |
5.24 |
5.22 |
5.20 |
5.18 |
5.17 |
||
|
||||||||||||||||||||||
|
8 |
7.57 |
6.06 |
5.42 |
5.05 |
4.82 |
4.65 |
4.53 |
4.43 |
4.36 |
4.30 |
4.24 |
4.20 |
4.16 |
4.13 |
4.10 |
4.08 |
4.05 |
4.03 |
4.02 |
4.00 |
|
|
10 |
6.94 |
5.46 |
4.83 |
4.47 |
4.24 |
4.07 |
3.95 |
3.85 |
3.78 |
3.72 |
3.66 |
3.62 |
3.58 |
3.55 |
3.52 |
3.50 |
3.47 |
3.45 |
3.44 |
3.42 |
|
|
12 |
6.55 |
5.10 |
4.47 |
4.12 |
3.89 |
3.73 |
3.61 |
3.51 |
3.44 |
3.37 |
3.32 |
3.28 |
3.24 |
3.21 |
3.18 |
3.15 |
3.13 |
3.11 |
3.09 |
3.07 |
|
свободы |
14 |
6.30 |
4.86 |
4.24 |
3.89 |
3.66 |
3.50 |
3.38 |
3.29 |
3.21 |
3.15 |
3.09 |
3.05 |
3.01 |
2.98 |
2.95 |
2.92 |
2.90 |
2.88 |
2.86 |
2.84 |
|
16 |
6.12 |
4.69 |
4.08 |
3.73 |
3.50 |
3.34 |
3.22 |
3.12 |
3.05 |
2.99 |
2.93 |
2.89 |
2.85 |
2.82 |
2.79 |
2.76 |
2.74 |
2.72 |
2.70 |
2.68 |
||
|
||||||||||||||||||||||
|
18 |
5.98 |
4.56 |
3.95 |
3.61 |
3.38 |
3.22 |
3.10 |
3.01 |
2.93 |
2.87 |
2.81 |
2.77 |
2.73 |
2.70 |
2.67 |
2.64 |
2.62 |
2.60 |
2.58 |
2.56 |
|
степеней |
20 |
5.87 |
4.46 |
3.86 |
3.51 |
3.29 |
3.13 |
3.01 |
2.91 |
2.84 |
2.77 |
2.72 |
2.68 |
2.64 |
2.60 |
2.57 |
2.55 |
2.52 |
2.50 |
2.48 |
2.46 |
|
25 |
5.69 |
4.29 |
3.69 |
3.35 |
3.13 |
2.97 |
2.85 |
2.75 |
2.68 |
2.61 |
2.56 |
2.51 |
2.48 |
2.44 |
2.41 |
2.38 |
2.36 |
2.34 |
2.32 |
2.30 |
||
|
||||||||||||||||||||||
|
30 |
5.57 |
4.18 |
3.59 |
3.25 |
3.03 |
2.87 |
2.75 |
2.65 |
2.57 |
2.51 |
2.46 |
2.41 |
2.37 |
2.34 |
2.31 |
2.28 |
2.26 |
2.23 |
2.21 |
2.20 |
|
|
35 |
5.48 |
4.11 |
3.52 |
3.18 |
2.96 |
2.80 |
2.68 |
2.58 |
2.50 |
2.44 |
2.39 |
2.34 |
2.30 |
2.27 |
2.23 |
2.21 |
2.18 |
2.16 |
2.14 |
2.12 |
|
Число |
40 |
5.42 |
4.05 |
3.46 |
3.13 |
2.90 |
2.74 |
2.62 |
2.53 |
2.45 |
2.39 |
2.33 |
2.29 |
2.25 |
2.21 |
2.18 |
2.15 |
2.13 |
2.11 |
2.09 |
2.07 |
|
45 |
5.38 |
4.01 |
3.42 |
3.09 |
2.86 |
2.70 |
2.58 |
2.49 |
2.41 |
2.35 |
2.29 |
2.25 |
2.21 |
2.17 |
2.14 |
2.11 |
2.09 |
2.07 |
2.04 |
2.03 |
||
|
||||||||||||||||||||||
|
50 |
5.34 |
3.97 |
3.39 |
3.05 |
2.83 |
2.67 |
2.55 |
2.46 |
2.38 |
2.32 |
2.26 |
2.22 |
2.18 |
2.14 |
2.11 |
2.08 |
2.06 |
2.03 |
2.01 |
1.99 |
|
|
60 |
5.29 |
3.93 |
3.34 |
3.01 |
2.79 |
2.63 |
2.51 |
2.41 |
2.33 |
2.27 |
2.22 |
2.17 |
2.13 |
2.09 |
2.06 |
2.03 |
2.01 |
1.98 |
1.96 |
1.94 |
|
|
80 |
5.22 |
3.86 |
3.28 |
2.95 |
2.73 |
2.57 |
2.45 |
2.35 |
2.28 |
2.21 |
2.16 |
2.11 |
2.07 |
2.03 |
2.00 |
1.97 |
1.95 |
1.92 |
1.90 |
1.88 |
|
|
90 |
5.20 |
3.84 |
3.26 |
2.93 |
2.71 |
2.55 |
2.43 |
2.34 |
2.26 |
2.19 |
2.14 |
2.09 |
2.05 |
2.02 |
1.98 |
1.95 |
1.93 |
1.91 |
1.88 |
1.86 |
|
|
100 |
5.18 |
3.83 |
3.25 |
2.92 |
2.70 |
2.54 |
2.42 |
2.32 |
2.24 |
2.18 |
2.12 |
2.08 |
2.04 |
2.00 |
1.97 |
1.94 |
1.91 |
1.89 |
1.87 |
1.85 |
|
110