5.5.9.1. Вариационный анализ

При исследовании выборочной совокупности определяют среднее значение изучаемого таксационного показателя, стандартное отклонение, дисперсию, коэффициенты вариации, асимметрии и эксцесса, достаточно полно отражающие особенности варьированных (изменчивости) таксационного показателя (рис. 42).

В статистике среднее арифметическое определяется как частное, полученное делением суммы всех наблюдений на число наблюдений:

где: M – среднее значение;

– результаты конкретных измерений (в нашем примере значения диаметра деревьев);

N – общее число измерений таксационного показателя (равное числу измеренных деревьев).

Среднее арифметическое (среднее значение) определяет положение ряда распределения относительно точки пересечения координат (нулевого значения изучаемого таксационного показателя).

Рис. 42. Кривая нормального распределения

М – средняя арифметическая;

n– частоты (число наблюдений);

x – варианты (значения изучаемого признака).

Стандартное (среднеквадратическое) отклонение является основной статистической характеристикой изменчивости (варьирования) изучаемого таксационного показателя (изучаемой величины). За стандартное отклонение принята 1/6 часть амплитуды колебаний значений изучаемого таксационного показателя при распределении его по закону Лапласа-Гаусса (рис. 42). Стандартное отклонение равно корню квадратному из суммы квадратов отклонений, деленной на N – 1.

где: σ – стандартное отклонение;

x_i – значение показателя (велечина);

М – среднее значение;

N – число наблюдений.

В пределах 6 (от – 3 до + 3 ) расположено 99,7% всех единиц совокупности (числа наблюдений, числа деревьев), выражаемых на графике распределения площадью, заключенной под кривой. В распределении по закону Лапласа-Гаусса ординаты, ограничивающие – и + , совмещаются с точками перегиба кривой распределения.

Стандартное отклонение измеряется в тех же единицах, в которых измеряется изучаемая величина, в связи с чем стандартное отклонение не может служить средством сравнения размаха варьирования разнородных совокупностей (например, диаметра и объема ствола, диаметра и высоты ствола). Этой цели отвечает относительный параметр – коэффициент вариации – выражаемое в % частное от деления стандартного отклонения на среднее значение Мизучаемой величины:

где: V – коэффициент вариации.

Коэффициент вариации представляет собой нормированное стандартное отклонение; это относительная мера рассеяния при среднем значении, принятом за единицу.

Чем выше значение коэффициента вариации, тем выше изменчивость изучаемого таксационного показателя, выше амплитуда его индивидуальной изменчивости, следовательно, имеется возможность отбора выдающихся особей (деревьев), что имеет значение в лесной селекции. Наоборот, при низкой индивидуальной изменчивости возможность отбора высокопродуктивных особей снижается, селекционное ее значение уменьшается. При увеличении коэффициента вариации до величины более 50% его реальный смысл теряется, так как такой таксационный показатель не относится к числу сформировавшихся, генетически обусловленных (например, встречаемость подроста под пологом материнского полога древостоя).

Дисперсия – это квадрат стандартного отклонения, позволяющий избавиться от отрицательного знака стандартного отклонения. Дисперсия, как и стандартное отклонение и коэффициент вариации, является важнейшим параметром оценки изменчивости изучаемой величины, широко применяемым в статистическом исчислении.

Ошибка среднего значения (среднеквадратичная ошибка, стандартная ошибка, ошибка выборки) используется для вычисления показателя точности опыта (относительной ошибки)р, который оценивает точность определения среднего значения исследуемой величины. Он рассматривается как процентное отношение ошибки среднего значения исследуемой величины к самой средней величины:

где: P – показатель точности опыта;

m – ошибка среднего значения.

Сводка опытных данных. С целью получения представления о характере распределения изучаемого таксационного показателя производят сводку данных его измерений. В нашем примере производится группировка измерений диаметра ствола по ступени толщины (разрядам диаметров стволов). Число разрядов (ступеней толщины) принимается от 8 до 12 с возможным отклонением числа разрядов в большую сторону на 2 – 3 разряда. Величину разряда (ступени толщины) находят делением амплитуды колебания изучаемой величины на число разрядов, округляя величину разряда до наиболее удобного значения; при округлении величины разряда число разрядов может скорректироваться. Размер ступени толщины принимают обычно равным 4 см при изучении приспевающих, спелых и перестойных насаждений; при изучении более молодых насаждений с более низкими диаметрами деревьев соответственно должен быть снижен размер разряда до 2 см, а при изучении молодняков до 1 см.

Сводка данных может быть произведена непосредственно при измерении величин (при перечете древостоя) по заранее установленным разрядам методом точковки. В других случаях группировка данных по разрядам может производиться в камеральных условиях. В результате сводки данных получаются ряды распределения. Они могут быть изображены в виде многоугольников (рис. 43).

Рис. 43. Многоугольник частот (гистограмма распределения).

При увеличении числа наблюдений и разрядов многоугольники образуют плавную кривую распределения (рис. 44 а, б, в); площадь, заключенная под кривой (рис. 45), представляет собой интеграл, который выражает вероятность того, что отклонение от среднего значения случайной величины будет содержаться внутри определенных пределов. В пределах от – до + вероятность равна 68,3% (заключено 68,3% общего числа наблюдений, измерений), в пределах от – 2 до + 2 – 95,4% и в пределах от – 3 до + 3 – 99,7%. Эти показатели вероятности относятся к кривой нормального распределения Лапласа-Гаусса (рис. 45).

Рис. 44. Получение кривой нормального распределения.

Рис. 45. Кривая нормального распределения Лапласа-Гаусса

Кривую нормального распределения Лапласа-Гаусса иногда называют нормальной кривой; она имеет нулевые показатели асимметрии и эксцесса. Кривые распределения часто не отвечают в полном объеме этим требованиям. Задача исследователя заключается в математической оценке размаха изменчивости, асимметрии и эксцесса распределения, и лесобиологической их интерпретации.

В лесу симметричное распределение можно наблюдать в не сомкнувшихся молодняках, когда отсутствует взаимное боковое затенение молодых деревьев. По мере смыкания молодого древостоя возникает боковое затенение и конкуренция за солнечную радиацию; создаются неравные условия освещения деревьев, приводящие к асимметричности их распределения по основным таксационным показателям – диаметру, высоте ствола и др. Асимметричность распределения особенно сильно бывает выражена в фазе жердняка, когда возникает острая конкуренция деревьев за условия среды и наблюдается их интенсивный отпад.

Асимметричность распределений бывает положительной (рис. 46 а, б), когда вершина кривой скошена влево, в сторону низких значений признака, и отрицательной (рис. 46 в, г), когда вершина скошена вправо, в сторону высоких значений изучаемого таксационного показателя. В молодом возрасте сомкнутые древостои имеют положительнуюасимметрию распределения числа деревьев по основным таксационным показателям; с возрастом, после прохождения стадии жердняка, положительная асимметричность снижается и в фазе распада древостоя она может принять отрицательные значения.

При расчете коэффициента асимметрии необходимо иметь ввиду, что амплитуда его колебаний находятся в пределах от + 2 до – 2. Естественный ход изменения асимметрии может быть нарушен интенсивным действием антропогенных факторов (выборочные рубки, рубки ухода за лесом, проводимые низовым или верховым способами) и стихиогенные факторов (ветровал, лесной пожар), приводящих к гибели части древостоя.

Рис. 46. Асимметрия (а – отрицательная, б – положительная).

Эксцесс (в – положительный, г – отрицательный):

1 – теоретическая кривая распределения;

2 – эмпирическая кривая распределения.

Эксцесс распределения (рис. 46) является показателем сжатости ряда распределения. В нормальном распределении в пределах от – 3 до + 3 находится 99,7% (997 из 1000) числа деревьев. Выходят за эти пределы 0,3% (3 дерева из 1000). Если такое количество деревьев более 3, возникает сжатость ряда, которая усиливается по мере увеличения числа таких деревьев, что находит выражение в увеличении значения коэффициента эксцесса.

Когда сжатость ряда уменьшается (соответственно увеличивается растянутость ряда распределения), кривая теряет островершинность и в некоторых случаях (например, при изучении разновозрастных темнохвойных насаждений) кривая может быть не только приплюснутой, но и с выраженной двухвершинностью (рис. 47); последнее свидетельствует о наличии в древостое двух возрастных поколений деревьев. По правилам лесной таксации каждое возрастное поколение должно изучаться отдельно, поэтому исследователю следует повторить измерения с учетом данного методического положения. Смешение двух выборок может наблюдаться и в случае одновершинной кривой, которая имеет выраженный неправильный вид (рис. 48).

Рис. 47.Двухвершинное распределение деревьев по возрасту:

1 – распределение деревьев Iпоколения;

2 – распределение деревьев IIпоколения.

При анализе распределений необходимо иметь ввиду, что рассмотренные выше статистики распределения (коэффициенты вариации, крутости и косости) не стабильны и могут изменяться с увеличением возраста, с изменением ярусной структуры, полноты, породного состава древостоя, лесорастительных условий и др.

Рис. 48. Распределение деревьев ели по диаметруствола.

При расчете статистик вариационного ряда выборочной совокупности необходимо определять показатели их точности, которые свидетельствуют о степени сходства статистик выборочной совокупности с аналогичными параметрами генеральной совокупности. Для оценки точности вычислений среднего значения, как мы видели выше, используется показатель точности опыта Р. Для его исчисления необходимо знать основную ошибку среднего значения m, которая вычисляется по формуле:

Тогда среднее значение примет видM ± m. Среднее значение генеральной совокупности M лежит в пределах нормированной ошибки выборки. Значение t – критерия значимости при числе наблюдений более 50 равно 2, следовательно, формула примет вид:

Показатель точности опыта, как правило, не должен превышать 3%. Считается, что в этом случае среднее значение выборочной совокупности статистически достоверно, то есть соответствует среднему значению генеральной совокупности на 5% уровне значимости (95% уровне доверительной вероятности). Последнее заключение означает, что вероятность сделанного вывода о достоверности соответствия составляет 95%; В 5% случаев этот вывод может быть ошибочным.

Ошибка коэффициента вариациивычисляется по формуле:

ошибка коэффициента асимметрии:

ошибка коэффициента эксцесса:

Каждая статистика варьирования должны сопровождаться своей ошибкой:

M

Параметры генеральной совокупности, соответствующие статистикам , V, A и E, лежат в пределах нормированной ошибки выборки, как и в случае приведенного выше примера оценки среднего значения генеральной совокупности.

При оценке точности опыта (соответствия статистик выборочной совокупности M, , V,A, E соответствующим параметрам генеральной совокупности) встает задача выбора уровня значимости (или уровня доверительной вероятности). Обычно в лесоводственных исследованиях применяют уровень значимости 0,05 (5%), что соответствует уровню доверительной вероятности 0,95 (95%). При проведении более точных исследований используют уровень значимости 1%, а менее точных – 10%.

Показатель точности опыта имеет важное значение при сравнении двух независимых выборок относительно одной и той же случайной величины (диаметра ствола). Сравнение проводят с использованном t-критерия существенности различия:

Здесь за M₁ принимается большее среднее значение из двух выборок с целью получения положительного числа в числителе дроби. Если , то различие двух средних является существенным, статистически достоверным на 5% уровне значимости.

Определение существенности различия средних значений производится:

1) при сравнении роста двух древесных пород в одинаковых лесорастительных условиях;

2) при сравнении роста древесной породы в различных лесорастительных условиях;

3) при сравнении интенсивности плодоношения древесной породы в различных лесорастительных условиях;

4) при сравнении интенсивности плодоношения древесной породы в различных возрастных фазах роста и развития;

5) при сравнении числа семян в шишке при произрастании древесной породы в различных лесорастительных условиях;

6) при сравнении механических свойств древесины при произрастании древесной породы в различных лесорастительных условиях, и т.д.

Нормальное распределение Лапласа-Гаусса.Конечной целью исследования случайной величины является построение кривой распределения и установление закона изменчивости изучаемой величины. Наиболее часто используют сравнение фактической кривой с кривой нормального распределения Лапласа-Гаусса как наиболее общего закона распределения случайных величин. Напомним, распределение отвечает закону Лапласа-Гаусса в случае, когда исследуемая величина определяется действием и взаимодействием нескольких (двух и более) факторов и при этом отсутствуют системно действующие искажающие факторы (в лесу – неравные условия поглощения солнечной радиации).

Кривая нормального распределения (рис.45) определяется рядом критериев:

1. коэффициенты асимметрии и эксцесса равны нулю;

2. кривая строго симметрична;

3. ординаты, восстановленные до точек перегиба кривой, отмечают на оси абсцисса значения – и + ;

4. прямая, соединяющая две точки перегиба, параллельна оси абсцисс;

5. отношение ординаты точки перегиба (а) к наибольшей (срединной) ординате (б) равно 5/8 – основному соотношению «правила золотого сечения».

6. в пределах – + заключено 68,3%, –2 + 2 95,4%, –3 + 3 99,7% числа наблюдений (площади, заключенной под кривой).

Ниже приведен пример расчета статистик выборочной совокупности и теоретических (выровненных по закону Лапласа-Гаусса) частот, а так же критерия , определяющего степень соответствия фактического и теоретического распределений.

Нормальному распределению может соответствовать распределение размеров генеративных органов, измеренных на одном дереве, отражающее их эндогенную изменчивость (разнокачественность). Шишки хвойных деревьев характеризуются низкой изменчивостью (коэффициент вариации размеров шишек в пределах дерева близок 5%). Причинами столь низкой изменчивости являются два фактора: 1) хвойные породы прошли наиболее длительный путь филогенетического развития и являются наиболее сформировавшимися видами среди древесных растений с высоким уровнем наследственной обусловленности изменчивости; 2) низкий уровень эндогенной изменчивости является характерным для генеративных органов – наиболее сформировавшихся в сравнении с вегетативными. Низкий уровень эндогенной изменчивости генеративных органов обусловлен биологически – участие ее в формировании вида в сравнении с участием индивидуальной изменчивости организмов ограничено.

Рассмотрим применение закона Лапласа-Гаусса на примере изучения культур сосны в кв. 39 Верх-Исетского участка Северского лесничества.

Для вариационного ряда необходимо найти следующие статистические характеристики: среднее значение, стандартное отклонение, коэффициент вариации, меру косости (асимметрии) и меру крутости (эксцесса). Важно не только найти значения статистик выборочной совокупности, но и дать оценку степени их соответствия статистическим параметрам генеральной совокупности, под которой следует понимать все лесные культуры изучаемого района одного возраста и породного состава, произрастающие в одинаковых лесорастительных условиях и типах леса, созданных по одной и той же технологии с использованием идентичного посадочного материала. Для получениястатистических характеристик выборочной совокупности проводят предварительный расчет по табл. 46.

Таблица 46

Предварительный расчет данных для определения статистических характеристик вариационного ряда выборочной совокупности

x	n	xn	x2n	a	an	a2n	a3n	a4n
12	9	108	1296	-12	-108	1296	-15552	186624
16	29	464	7424	-8	-232	1856	-14848	118784
20	71	1420	28400	-4	-284	1136	-4544	18176
24	103	2472	59328	0	0	0	0	0
28	98	2744	76832	4	392	1568	6272	25088
32	43	1376	44032	8	344	2752	22016	176128
36	5	180	6480	12	60	720	8640	103680
Итого:	358	8764	223792	– –	172	9328	1984	628480

x – значение признака (диаметр ступени толщины, см);

n– число наблюдений (число деревьев, относящихся к данной ступени толщины, шт);

а – значение «x» при наибольшем числе наблюдений n

N – общеечисло наблюдений выборочной совокупности (число деревьев на пробной площади).

Статистические характеристики рассчитываются по следующим формулам:

1.Среднее значение М (положение вариационного ряда) по формуле:

2.Стандартное отклонение по рабочей формуле:

3.Коэффициент вариации V по формуле 43:

4.Коэффициент асимметрии А по формуле:

где – центральный момент

= 5,542 – 3 0,480 26,056+2 0,480 = 31,76

где – условные моменты вычесленные по формулам:

5.Коэффициент эксцесса Е по формуле:

где: – условный момент.

Показатели достоверности статистических характеристик (степень расхождения статистических характеристик выборочной совокупности и соответствующих им статистическим параметров генеральной совокупности) определяются через ошибку статистических характеристик и t-критерий Стьюдента:

при этом значения при болшом числе наблюдений должно быть больше 2.

а) для среднего значения ошибка выборки, по формуле 45:

Оценка достоверности среднего значения выборочной совокупности по t-критерию не имеет смысла, так как его значение в десятки раз превышает придел, равный 2. Более надежно осуществляется через показатель точности опыта (относительную ошибку выборочной средней) по формуле 44:

б) для стандартного отклонения ошибка по формуле:

в) для коэффициента вариации ошибка по формуле 47:

г) для коэффициента асимметрии ошибка по формуле 48:

д) для коэффициента эксцесса ошибка по формуле 49:

Достоверность стандартного отклонения, коэффициентов вариации, асимметрии и эксцесса оценивается по критерию Стьюдента:

При значении t – критерия больше 2 (отрицательный знак значения эксцесса здесь упускается) коэффициентов вариации, асимметрии и эксцесса являются статистически достоверными на уровне значимости 5% (уровне доверительной вероятности 95%). В приведенном примере статистически недоставерны значения коэффициентов асимметрии и эксцесса (в виду их малых значений, распологаемых в числителе дроби). В этом случае можно утверждать лишь о наличии тенденции стремления распределения к положительной асимметрии и отрицательному эксцессу.