Mashkovsky_Lesnaya_biometria

= ∑n (a1 x1,i (yi −a0 −a1 x1,i −K−am xm,1 ))−

i=1

−∑n ((a1 x1 (yi −a0 −a1 x1,i −K−am xm,1 ))+

i=1

L

+ ∑n (am xm,1 (yi −a0 −a1 x1,i −K−am xm,1 ))−

i=1

−∑n (am xm (yi −a0 −a1 x1,i −K−am xm,1 )).

i=1

Теперь представим правую часть равенства в виде отдельных

L

Каждое слагаемое полученного выражения равно нулю и, следовательно, все выражение также равно нулю, что и требовалось доказать.

Учитывая (136), выражение (135) можно представить в следующем виде:

наблюдения от общего среднего, то левая часть уравнения (138)

i=1

Таким образом, общая сумма квадратов отклонений от среднего состоит из двух частей: суммы квадратов отклонений относительно регрессии и суммы квадратов отклонений, обусловленной регрессией. Первая составляющая общей суммы квадратов отклонений – сумма квадратов отклонений относительно регрессии – обусловлена тем, что не все действительные наблюдения лежат на линии регрессии. Чем больше эта сумма, тем больше разброс экспериментальных данных относительно регрессии, и наоборот, чем меньше эта сумма, тем точнее ложатся точки на линию регрессии. Отсюда следует, что качество регрессионной модели тем выше, чем большая часть общей суммы квадратов отклонений относительно среднего приходится на сумму квадратов отклонений, обусловленную регрессией. Если сумма квадратов, обусловленная регрессией, будет много больше, чем сумма квадратов относительно регрессии, то регрессионная модель будет вполне приемлемой. Кроме того, критерием может служить отношение суммы квадратов, обусловленной регрессией, к сумме квадратов относительно среднего. Если эта величина будет близка к единице, то уравнение регрессии также можно считать удачным.

Каждая сумма квадратов связана с числом степеней свободы. Это число показывает, сколько независимых элементов информации участвует в образовании данной суммы квадратов.

В сумме квадратов отклонений относительно среднего имеется

163

полностью определяется n–1 независимой величиной и соотношением

( y1 − y) + ( y2 − y) +K+ ( yn − y) = 0 .

Теперь определим, сколько независимых элементов информации определяет сумму квадратов, обусловленную регрессией. Эту сумму можно вычислить с помощью формулы

в которой используется m параметров a1, a2, …, am, являющихся функциями от y1, y2, …, yn. Следовательно, данная сумма квадратов имеет m степеней свободы.

Сумма квадратов относительно регрессии может быть вычислена следующим образом:

При этом из n чисел y1, y2, …, yn имеется n–m–1 независимый элемент информации. Это связано с тем, что m + 1 коэффициент a0, a1, …, am, используемый при вычислении суммы квадратов относительно регрессии, вычислен по материалам выборки y1, y2, …, yn путем решения системы нормальных уравнений.

Таким образом, число степеней свободы, соответствующее сумме квадратов относительно регрессии, вместе с числом степеней свободы, соответствующим сумме квадратов, обусловленной регрессией, дает число степеней свободы, которое имеется при определении суммы квадратов отклонений относительно среднего:

С помощью уравнений (138) и (139) мы можем построить таблицу дисперсионного анализа (табл. 42).

164

Таблица 42. Таблица дисперсионного анализа. Основное разложение

Средний квадрат получается при делении каждой суммы квадратов на соответствующее ей число степеней свободы.

Более общая форма таблицы дисперсионного анализа получается при добавлении в таблицу корректирующего фактора для среднего игреков (SS(b0)) (табл. 43).

Средний квадрат относительно регрессии s2 дает оценку дисперсии относительно регрессии, основанную на n–m–1 степенях

свободы. Эту дисперсию часто называют остаточной ( σY2 X ). Если

уравнение регрессии будет оцениваться на основании бесконечно большого количества наблюдений, то квадратный корень из дисперсии относительно регрессии будет представлять собой стандартную ошибку, т. е. ошибку, с которой любое измеренное значение y предсказывается для данного значения x по регрессионному уравнению. Таким образом, стандартную ошибку уравнения регрессии можно вычислить с помощью формулы

Таблица 43. Таблица дисперсионного анализа, включающая SS(b0)

В связи с тем, что yi – это случайные величины, любая функция от них также является случайной величиной. Таким образом, MSR – средний квадрат, обусловленный регрессией, и s2 – средний квадрат, обусловленный остаточной вариацией, тоже будут случайными величинами. Можно показать, что эти случайные функции имеют следующие средние значения:

E(MSR ) = σ2 +β12 ∑(x1,i − x1)2 +K+β2m ∑(xm,i − xm )2 ;

E(s2 ) = σ2 ,

где E(Z) – это среднее или математическое ожидание случайной величины Z.

В предположении, что ошибки εi имеют распределение N(0, σ2), можно показать, что если β1 = β2 =…= βm = 0, то величины MSR, и s2, умноженные на свои числа степеней свободы, следуют распределению Пирсона χ2 с теми же самыми числами степеней свободы. Так как эти величины независимы, то отношение

F = MSs2 R (141)

подчиняется F-распределению Фишера с m и n–m–1 степенями свободы при условии, что β1 = β2 =…= βm = 0. В связи с этим статистику (141) можно использовать как статистический критерий для проверки гипотезы об отсутствии связи между зависимой переменной y и независимыми переменными x1, x2, …, xm. Эта гипотеза принимается, если вычисленное значение критерия Фишера

166

F меньше, чем квантиль F-распределения Фишера с γ1 = m и γ2 = n–m– 1 степенями свободы Fα, m, n−m−1 , который можно найти в табл. 8

приложения, и отвергается в противном случае.

Кроме F-критерия Фишера, используемого для проверки гипотезы об отсутствии связи между зависимой и независимыми переменными, для анализа соответствия регрессионной модели экспериментальным данным часто используется R2-статистика. Эта величина называется множественным коэффициентом детерминации и представляет собой квадрат коэффициента корреляции R между y и ~y , который обычно называют

множественным коэффициентом корреляции. Коэффициент детерминации показывает, какую долю общего разброса относительно среднего значения y объясняет регрессионная модель, и вычисляется как отношение суммы квадратов, обусловленной регрессией, к сумме квадратов относительно среднего:

i=1

Величина коэффициента детерминации может изменяться от нуля до единицы.

Множественный коэффициент детерминации не учитывает число степеней свободы. В связи с этим данная статистика может использоваться для сравнения между собой уравнений только с одинаковым количеством параметров. Для сравнения уравнений регрессии, построенных на базе наборов параметров разного размера, иногда используют приведенную R2 статистику. Эта величина учитывает число степеней свободы и определяется следующим образом:

Рассмотренные выше статистики характеризовали уравнение в целом. Вместе с тем можно проверить значимость оценок каждого коэффициента регрессии в отдельности. Для этого следует проверить нулевую гипотезу, заключающуюся в том, что коэффициент регрессии равен нулю или в более общем случае, любому числу H0 : aj = aj,0.

Чтобы проверить такую гипотезу, следует вычислить

167

где aj,0 – число, о равенстве которому коэффициента aj выдвинута нулевая гипотеза (для проверки значимости оценки коэффициента регрессии принимают aj,0 = 0), sa j – оценка стандартного отклонения

для регрессионного коэффициента aj.

Далее абсолютное значение вычисленного t-критерия сравнивают с квантилем t-распределения Стьюдента tn-m-1, α/2 для вероятности α/2 и n–m–1 степеней свободы, который можно найти в табл. 5 приложения. Если оно превышает табличное, то нулевая гипотеза отвергается, и если она состояла в равенстве коэффициента регрессии нулю, то оценку этого коэффициента следует считать значимой. Если t < tn−m−1, α/ 2 , то нет оснований отвергать нулевую

гипотезу и оценку коэффициента регрессии считают значимой.

Для того чтобы вычислить t-критерий, необходимо знать оценку стандартного отклонения sa j для коэффициента регрессии. Найдем

эти значения для случая, когда имеется одна независимая переменная. Для коэффициента a1 решение системы нормальных уравнений

приводит к выражению

i=1

Известно, что дисперсия линейной функции f = b1 y1 +b2 y2 +K+bn yn

может быть выражена через дисперсии составляющих ее слагаемых следующим образом:

a0. Сначала запишем выражение (137) для случая одной независимой переменной:

Теперь выразим из уравнения (148) коэффициент a0:

Учитывая (145), дисперсию для коэффициента a0 можно задать выражением

Используя (146) и учитывая, что V(yi) = σ2, преобразуем выражение (150) следующим образом:

V (a0 ) = σn2 + x12 ∑n (x1σ,i 2− x1)2 . i=1

Теперь вынесем за скобки σ2 в правой части равенства:

Объединяя выражение в скобках в одну дробь, получим

i=1

Теперь раскроем скобки в числителе дроби и представим его в виде отдельных сумм:

i=1

170

После преобразования второго и третьего слагаемого, как показано ниже

В том случае, когда σ2 неизвестна, предполагая, что модель корректна, вместо нее можно использовать оценку s2 – остаточный средний квадрат. Тогда дисперсию коэффициента регрессии a0 можно оценить следующим образом:

i=1

Теперь, зная дисперсию коэффициента a0 (151), вычислим t-критерий для проверки гипотезы о равенстве этого коэффициента заданному числу a0,0:

для проверки гипотезы о равенстве коэффициента регрессии a0 нулю.

171