1nikitin_a_ya_sosunova_i_a_analiz_i_prognoz_v_ekologicheskikh
.pdf77
Приложение 2 Значения критерия Стьюдента (t p) при различных уровнях значимости
Число степеней сво- |
|
Уровни значимости (Р) |
|
|
боды(df) |
0,1 |
0,05 |
0,01 |
0,001 |
1 |
6,31 |
12,71 |
63,66 |
636,62 |
2 |
2,92 |
4,30 |
9,93 |
31,60 |
3 |
2,35 |
3,18 |
5,84 |
12,92 |
4 |
2,13 |
2,78 |
4,60 |
8,61 |
5 |
2,02 |
2,57 |
4,03 |
6,87 |
6 |
1,94 |
2,45 |
3,71 |
5,96 |
7 |
1,90 |
2,37 |
3,50 |
5,41 |
8 |
1,86 |
2,31 |
3,36 |
5,04 |
9 |
1,83 |
2,26 |
3,25 |
4,78 |
10 |
1,81 |
2,23 |
3,17 |
4,59 |
11 |
1,80 |
2,20 |
3,11 |
4,44 |
12 |
1,78 |
2,18 |
3,06 |
4,32 |
13 |
1,77 |
2,16 |
3,01 |
4,22 |
14 |
1,76 |
2,15 |
2,98 |
4,14 |
15 |
1,75 |
2,13 |
2,95 |
4,07 |
16 |
1,75 |
2,12 |
2,92 |
4,02 |
17 |
1,74 |
2,11 |
2,90 |
3,97 |
18 |
1,73 |
2,10 |
2,88 |
3,92 |
19 |
1,73 |
2,09 |
2,86 |
3,88 |
20 |
1,73 |
2,09 |
2,85 |
3,85 |
21 |
1,72 |
2,08 |
2,83 |
3,82 |
22 |
1,72 |
2,07 |
2,82 |
3,79 |
23 |
1,71 |
2,07 |
2,81 |
3,77 |
24 |
1,71 |
2,06 |
2,80 |
3,75 |
25 |
1,71 |
2,06 |
2,79 |
3,73 |
26 |
1,71 |
2,06 |
2,78 |
3,71 |
27 |
1,70 |
2,05 |
2,77 |
3,69 |
28 |
1,70 |
2,05 |
2,76 |
3,67 |
29 |
1,70 |
2,05 |
2,76 |
3,66 |
30 |
1,70 |
2,04 |
2,75 |
3,65 |
35 |
1,69 |
2,03 |
2,72 |
3,59 |
40 |
1,68 |
2,02 |
2,70 |
3,55 |
45 |
1,68 |
2,01 |
2,69 |
3,52 |
50 |
1,68 |
2,01 |
2,68 |
3,50 |
60 |
1,67 |
2,00 |
2,66 |
3,46 |
70 |
1,67 |
1,99 |
2,65 |
3,44 |
80 |
1,67 |
1,99 |
2,64 |
3,42 |
90 |
1,66 |
1,99 |
2,63 |
3,40 |
100 |
1,66 |
1,98 |
2,63 |
3,39 |
∞ |
1,65 |
1,96 |
2,58 |
3,29 |
78
Приложение 3 Критические границы отношения С= Р/σ (размаха к стандартному отклонению). Если С при
данном объеме наблюдений меньше нижней или больше верхней границы одной из граф «... надежности», то нормального распределения нет с использованным уровнем «надежности» ее анализа (отклонения нулевой гипотезы)
Объем вы- |
Нижние границы отношения |
Верхние границы отношения |
||||
борки (n) |
Малая |
Средняя |
Высокая |
Высокая |
Средняя |
Малая |
|
надеж- |
надеж- |
надежность |
надежность |
надеж- |
надеж- |
|
ность |
ность |
|
|
ность |
ность |
3 |
1,74 |
1,76 |
1,78 |
1,997 |
1,999 |
2,000 |
4 |
1,87 |
1,98 |
2,04 |
2,409 |
2,429 |
2,445 |
5 |
2,02 |
2,15 |
2,22 |
2,712 |
2,753 |
2,803 |
6 |
2,15 |
2,28 |
2,37 |
2,949 |
3,012 |
3,095 |
7 |
2,26 |
2,40 |
2,49 |
3,143 |
3,222 |
3,338 |
8 |
2,35 |
2,50 |
2,59 |
3,308 |
3,399 |
3,543 |
9 |
2,44 |
2,59 |
2,68 |
3,449 |
3,552 |
3,720 |
10 |
2,51 |
2,67 |
2,76 |
3,57 |
3,685 |
3,875 |
11 |
2,58 |
2,74 |
2,84 |
3,68 |
3,80 |
4,012 |
12 |
2,64 |
2,80 |
2,90 |
3,78 |
3,91 |
4,134 |
13 |
2,70 |
2,86 |
2,96 |
3,87 |
4,00 |
4,244 |
14 |
2,75 |
2,92 |
3,02 |
3,95 |
4,09 |
4,34 |
15 |
2,80 |
2,97 |
3,07 |
4,02 |
4,17 |
4,44 |
16 |
2,84 |
3,01 |
3,12 |
4,09 |
4,24 |
4,52 |
17 |
2,88 |
3,06 |
3,17 |
4,15 |
4,31 |
4,60 |
18 |
2,92 |
3,10 |
3,21 |
4,21 |
4,37 |
4,67 |
19 |
2,96 |
3,14 |
3,25 |
4,27 |
4,43 |
4,74 |
20 |
2,99 |
3,18 |
3,29 |
4,32 |
4,49 |
4,80 |
25 |
3,15 |
3,34 |
3,45 |
4,53 |
4,71 |
5,06 |
30 |
3,27 |
3,47 |
3,59 |
4,70 |
4,89 |
5,26 |
35 |
3,38 |
3,58 |
3,70 |
4,84 |
5,04 |
5,42 |
40 |
3,47 |
3,67 |
3,79 |
4,96 |
5,16 |
5,56 |
45 |
3,55 |
3,75 |
3,88 |
5,06 |
5,26 |
5,67 |
50 |
3,62 |
3,83 |
3,95 |
5,14 |
5,35 |
5,77 |
70 |
3,85 |
4,06 |
4,19 |
5,41 |
5,63 |
6,07 |
80 |
3,94 |
4,16 |
4,28 |
5,51 |
5,73 |
6,18 |
90 |
4,02 |
4,24 |
4,36 |
5,60 |
5,82 |
6,27 |
100 |
4,10 |
4,31 |
4,44 |
5,68 |
5,90 |
6,36 |
150 |
4,38 |
4,59 |
4,72 |
5,96 |
6,18 |
6,64 |
200 |
4,59 |
4,78 |
4,90 |
6,15 |
6,39 |
6,84 |
500 |
5,13 |
5,37 |
5,49 |
6,72 |
6,94 |
7,42 |
1000 |
5,57 |
5,79 |
5,92 |
7,11 |
7,33 |
7,80 |
79
Приложение 4
Некоторые возможные приемы преобразования данных, позволяющие получить нормальное распределение уровней ряда или привести аналитическое уравнение, его описывающее, к линейному виду
Цель |
трансформа- |
Случаи применения |
Рекомендуемые |
преобразо- |
ции |
|
|
вания |
|
|
|
Если уровни ряда относительные вели- |
|
|
Приведение распре- |
чины, например, проценты: |
1. Необходимо уровни ряда |
||
деления |
к нормаль- |
1. Большинство наблюдений либо < |
||
ному виду. Транс- |
30 %, либо > 70 % |
преобразовать: arcsin Χ i |
||
|
|
|||
формируются уров- |
2. Большинство наблюдений лежит в |
|
|
|
ни ряда (наблюде- |
2. Необходимо уровни ряда |
|||
ния): Х→ Х/ |
диапазоне от 30 до 70 % |
преобразовать: |
lg Xi |
|
|
|
(30 % < Xi < 70 %) |
или lg (Xi +3/8) |
|
|
|
Если уровни ряда абсолютные величины: |
1. Необходимо преобразо- |
|
|
|
1. Для многих временных рядов |
||
|
|
вание уровней: 1/ Xi |
||
|
|
|
||
|
|
2. Наблюдения характеризуют относи- |
2. Необходимо преобразо- |
|
|
|
тельно редкие события |
вание уровней: |
Χi +0,4 |
3.Наблюдения имеют малые по вели- 3. Необходимо преобразо-
|
|
|
|
чине значения, включающие нуль. |
вание уровней: |
lg (Xi + 1) |
|||
|
|
|
|
4. Значения наблюдений укладываются в |
|||||
|
|
|
|
4. |
Необходимо |
преобразо- |
|||
|
|
|
|
интервал между 0 и 1 |
вание уровней: |
Χ i |
|||
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|||
Приведение |
некото- |
Получено уравнение вида: |
|
|
|
|
|||
рых |
аналитических |
Υ = beax |
= ln Υi |
|
|||||
уравнений к линей- |
|
|
|
||||||
Υ = bxa |
= lg Υi |
|
|||||||
ному виду. |
|
|
|
|
|
|
|
||
Трансформируются |
Υ = b /(a + x) |
= |
|
Υ |
|
||||
уровни рядов (на- |
|
|
|
1/ i |
|
||||
|
|
|
|
|
|
||||
блюдения): |
|
Υ = b + a / x |
= 1/ Χi |
|
|||||
Х→ Х/ |
и / или |
Υ = be |
a / x |
= 1/ Χi и ln Υi |
|
||||
У→ |
У |
/ |
|
|
|
||||
|
|
|
|
|
|
|
|
80
Приложение 5 Верхние (l1) и нижние (l2) границы значения критерия Дарбина-Уотсона при положительной автокорреляции, различном количестве переменных (k) в аналитическом уравнении,
и Р= 0,05
Количество переменных в уравнении без свободного члена
|
|
k = 1 |
k = 2 |
|
|
|
|
|
|
|
l2 |
|
l1 |
l2 |
l1 |
||
|
|
|
|
|
1,54 |
|
1,08 |
1,36 |
0,95 |
|
|
|
|
|
|
|
1,54 |
|
1,10 |
1,37 |
0,98 |
|
|
|
|
|
|
|
1,54 |
|
1,13 |
1,38 |
1,02 |
|
|
|
|
|
|
|
1,53 |
|
1,16 |
1,39 |
1,05 |
|
|
|
|
|
|
|
1,53 |
|
1,18 |
1,40 |
1,08 |
|
|
|
|
|
|
|
1,54 |
|
1,20 |
1,41 |
1,10 |
|
|
|
|
|
|
|
1,55 |
|
1,29 |
1,45 |
1,21 |
|
|
|
|
|
|
|
1,57 |
|
1,35 |
1,49 |
1,28 |
|
|
|
|
|
|
|
1,58 |
|
1,40 |
1,52 |
1,34 |
|
|
|
|
|
|
|
1,60 |
|
1,44 |
1,54 |
1,39 |
|
|
|
|
|
|
|
1,62 |
|
1,48 |
1,57 |
1,43 |
|
|
|
|
|
|
|
1,63 |
|
1,50 |
1,59 |
1,46 |
|
|
|
|
|
|
|
1,68 |
|
1,60 |
1,65 |
1,57 |
|
|
|
|
|
|
|
1,72 |
|
1,65 |
1,69 |
1,63 |
|
|
|
|
|
|
|
|
k = 3 |
|
k = 4 |
|
||
|
|
|
|
|
|
l1 |
|
l2 |
l1 |
|
l2 |
0,82 |
|
1,75 |
0,69 |
|
1,97 |
|
|
|
|
|
|
0,86 |
|
1,73 |
0,74 |
|
1,93 |
|
|
|
|
|
|
0,90 |
|
1,71 |
0,78 |
|
1,90 |
|
|
|
|
|
|
0,93 |
|
1,69 |
0,82 |
|
1,87 |
|
|
|
|
|
|
0,97 |
|
1,68 |
0,86 |
|
1,85 |
|
|
|
|
|
|
1,00 |
|
1,68 |
0,90 |
|
1,83 |
|
|
|
|
|
|
1,12 |
|
1,66 |
1,04 |
|
1,77 |
|
|
|
|
|
|
1,21 |
|
1,65 |
1,14 |
|
1,74 |
|
|
|
|
|
|
1,28 |
|
1,65 |
1,22 |
|
1,73 |
|
|
|
|
|
|
1,34 |
|
1,66 |
1,29 |
|
1,72 |
|
|
|
|
|
|
1,38 |
|
1,67 |
1,34 |
|
1,72 |
|
|
|
|
|
|
1,42 |
|
1,67 |
1,38 |
|
1,72 |
|
|
|
|
|
|
1,54 |
|
1,71 |
1,51 |
|
1,74 |
|
|
|
|
|
|
1,61 |
|
1,74 |
1,59 |
|
1,76 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
81 |
|
|
|
|
|
|
|
|
|
|
Значения F статистики (F =σ12 /σ2 |
2 ) при уровне значимости Р=0,05 |
|
Приложение 6 |
|||||||||
|
|
|
|
|
|
||||||||||
|
|
(в числителе число степеней свободы для большей дисперсии, в знаменателе – для меньшей) |
|
|
|||||||||||
Число |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
|
9 |
10 |
12 |
15 |
20 |
30 |
∞ |
степеней |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
свободы |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
19,0 |
19,2 |
19,3 |
19,3 |
19,3 |
19,4 |
19,4 |
|
19,4 |
19,4 |
19,4 |
19,4 |
19,5 |
19,5 |
19,5 |
3 |
9,6 |
9,3 |
9,1 |
9,0 |
8,9 |
8,9 |
8,9 |
|
8,8 |
8,8 |
8,7 |
8,7 |
8,7 |
8,6 |
8,5 |
4 |
6,9 |
6,6 |
6,4 |
6,3 |
6,2 |
6,1 |
6,0 |
|
6,0 |
5,9 |
5,9 |
5,9 |
5,8 |
5,8 |
5,6 |
5 |
5,8 |
5,4 |
5,2 |
5,1 |
5,0 |
4,9 |
4,8 |
|
4,8 |
4,7 |
4,7 |
4,6 |
4,6 |
4,5 |
4,4 |
6 |
5,1 |
4,8 |
4,5 |
4,4 |
4,3 |
4,2 |
4,2 |
|
4,1 |
4,1 |
4,0 |
3,9 |
3,9 |
3,8 |
3,7 |
7 |
4,7 |
4,4 |
4,1 |
4,0 |
3,9 |
3,8 |
3,7 |
|
3,7 |
3,6 |
3,6 |
3,5 |
3,4 |
3,4 |
3,2 |
8 |
4,5 |
4,1 |
3,8 |
3,7 |
3,6 |
3,5 |
3,4 |
|
3,4 |
3,4 |
3,3 |
3,2 |
3,2 |
3,1 |
2,9 |
9 |
4,3 |
3,9 |
3,6 |
3,5 |
3,4 |
3,3 |
3,2 |
|
3,2 |
3,1 |
3,1 |
3,0 |
2,9 |
2,9 |
2,7 |
10 |
4,1 |
3,7 |
3,5 |
3,3 |
3,2 |
3,1 |
3,1 |
|
3,0 |
3,0 |
2,9 |
2,9 |
2,8 |
2,7 |
2,5 |
11 |
4,0 |
3,6 |
3,4 |
3,2 |
3,1 |
3,0 |
3,0 |
|
2,9 |
2,9 |
2,8 |
2,7 |
2,7 |
2,6 |
2,4 |
12 |
3,9 |
3,5 |
3,3 |
3,1 |
3,0 |
2,9 |
2,9 |
|
2,8 |
2,8 |
2,7 |
2,6 |
2,5 |
2,5 |
2,3 |
13 |
3,8 |
3,4 |
3,2 |
3,0 |
2,9 |
2,8 |
2,8 |
|
2,7 |
2,7 |
2,6 |
2,5 |
2,5 |
2,4 |
2,2 |
14 |
3,7 |
3,3 |
3,1 |
3,0 |
2,9 |
2,8 |
2,7 |
|
2,7 |
2,6 |
2,5 |
2,5 |
2,4 |
2,3 |
2,1 |
15 |
3,7 |
3,3 |
3,1 |
2,9 |
2,8 |
2,7 |
2,6 |
|
2,6 |
2,5 |
2,5 |
2,4 |
2,3 |
2,3 |
2,1 |
16 |
3,6 |
3,2 |
3,0 |
2,9 |
2,7 |
2,7 |
2,6 |
|
2,5 |
2,5 |
2,4 |
2,4 |
2,3 |
2,2 |
2,0 |
17 |
3,6 |
3,2 |
3,0 |
2,8 |
2,7 |
2,6 |
2,6 |
|
2,5 |
2,5 |
2,4 |
2,3 |
2,2 |
2,2 |
2,0 |
18 |
3,6 |
3,2 |
2,9 |
2,8 |
2,7 |
2,6 |
2,5 |
|
2,5 |
2,4 |
2,3 |
2,3 |
2,2 |
2,1 |
1,9 |
19 |
3,5 |
3,1 |
2,9 |
2,7 |
2,6 |
2,5 |
2,5 |
|
2,4 |
2,4 |
2,3 |
2,2 |
2,2 |
2,1 |
1,9 |
20 |
3,5 |
3,1 |
2,9 |
2,7 |
2,6 |
2,5 |
2,5 |
|
2,4 |
2,4 |
2,3 |
2,2 |
2,1 |
2,0 |
1,8 |
21 |
3,5 |
3,1 |
2,8 |
2,7 |
2,6 |
2,5 |
2,4 |
|
2,4 |
2,3 |
2,3 |
2,2 |
2,1 |
2,0 |
1,8 |
22 |
3,4 |
3,1 |
2,8 |
2,7 |
2,6 |
2,5 |
2,4 |
|
2,3 |
2,3 |
2,2 |
2,2 |
2,1 |
2,0 |
1,8 |
23 |
3,4 |
3,0 |
2,8 |
2,6 |
2,5 |
2,4 |
2,4 |
|
2,3 |
2,3 |
2,2 |
2,1 |
2,1 |
2,0 |
1,8 |
24 |
3,4 |
3,0 |
2,8 |
2,6 |
2,5 |
2,4 |
2,4 |
|
2,3 |
2,3 |
2,2 |
2,1 |
2,0 |
1,9 |
1,7 |
25 |
3,4 |
3,0 |
2,8 |
2,6 |
2,5 |
2,4 |
2,3 |
|
2,3 |
2,2 |
2,2 |
2,1 |
2,0 |
1,9 |
1,7 |
30 |
3,3 |
2,9 |
2,7 |
2,5 |
2,4 |
2,3 |
2,3 |
|
2,2 |
2,2 |
2,1 |
2,0 |
1,9 |
1,8 |
1,6 |
60 |
3,2 |
2,8 |
2,5 |
2,4 |
2,3 |
2,2 |
2,1 |
|
2,0 |
2,0 |
1,9 |
1,8 |
1,8 |
1,7 |
1,4 |
120 |
3,1 |
2,7 |
2,5 |
2,3 |
2,2 |
2,1 |
2,0 |
|
2,0 |
1,9 |
1,8 |
1,8 |
1,7 |
1,6 |
1,3 |
∞ |
3,0 |
2,6 |
2,4 |
2,2 |
2,1 |
2,0 |
1,9 |
|
1,9 |
1,8 |
1,8 |
1,7 |
1,6 |
1,5 |
1,0 |
81
Приложение 7
Минимальные значения коэффициентов корреляции Пирсона (r), при которых можно считать, что наблюдения в рядах изменяются взаимосвязано
Число степе- |
При уровне значимости |
Число степе- |
При уровне значимости |
||
ней свободы |
P=0,05 |
P=0,01 |
ней свободы |
P=0,05 |
P=0,01 |
|
|
|
|
0,413 |
|
3 |
0,878 |
0,959 |
21 |
0526 |
|
4 |
0,811 |
0,917 |
22 |
0,404 |
0,515 |
5 |
0,755 |
0,874 |
23 |
0,396 |
0,505 |
6 |
0,707 |
0,834 |
24 |
0,388 |
0,496 |
7 |
0,666 |
0,798 |
25 |
0,380 |
0,487 |
8 |
0,632 |
0,765 |
26 |
0,374 |
0,479 |
9 |
0,602 |
0,735 |
27 |
0,367 |
0,471 |
10 |
0,589 |
0,708 |
28 |
0,361 |
0,463 |
11 |
0,553 |
0,684 |
30 |
0,349 |
0,449 |
12 |
0,533 |
0,661 |
35 |
0,325 |
0,418 |
13 |
0,511 |
0,641 |
40 |
0,304 |
0,393 |
14 |
0,497 |
0,622 |
45 |
0,288 |
0,372 |
15 |
0,482 |
0,606 |
50 |
0,273 |
0,354 |
16 |
0,468 |
0,590 |
60 |
0,250 |
0,325 |
17 |
0,456 |
0,575 |
70 |
0,232 |
0,302 |
18 |
0,444 |
0,561 |
80 |
0,217 |
0,283 |
19 |
0,433 |
0,548 |
90 |
0,205 |
0,267 |
20 |
0,423 |
0,536 |
100 |
0,195 |
0,254 |
81
Алексей Яковлевия Никитин
старший научный сотрудник Иркутского научного исследовательского противочумного института Сибири и Дальнего Востока, кандидат биологических наук
Ирина Александровна Сосунова
доцент Иркутского государственного педагогического университета, кандидат биологических наук
АНАЛИЗ И ПРОГНОЗ ВРЕМЕННЫХ РЯДОВ В ЭКОЛОГИЧЕСКИХ НАБЛЮДЕНИЯХ И ЭКСПЕРИМЕНТАХ
Учебно-методическое пособие
Издается в авторской редакции
Издательство Иркутского государственного педагогического университета г. Иркутск, ул. Н.Набережная, 6