Проверка существенности связи и статистической значимости уравнения регрессии
F-критерий Фишера
Чтобы оценить значимость полученного уравнения, рассчитывают критерий Фишера, который представляет собой отношение объясненной дисперсии к остаточной:
(3.13)
Или из формулы (3.9):
(3.14)
Пусть нулевая гипотеза (соответствующая несущественности построенного уравнения) состоит в том, что Qост. = Qобъясн.. Для этой гипотезы зададимся уровнем значимости, т.е. некоторой небольшой вероятностью, что она будет иметь место (обычно берут 0,01-0,05). Опровержение нулевой гипотезы будет состоять в том, что объясненная дисперсия значительно, во много раз, превышает остаточную (т.е. значение критерия Фишера должно быть большим). В таблицах статистического распределения Фишера3 указана максимальная величина отношения дисперсий F, которая с заданной малой вероятностью может иметь место случайно.
Если фактическое значение критерия Фишера, полученное по формулам (3.10) или (3.11), меньше табличного или равно ему (Fфакт. ≤ Fтабл.), то нулевую гипотезу отклонить нельзя, потому что ее вероятность выше заданного уровня. Это означает, что большое соотношение дисперсий получено случайно, и уравнение регрессии является статистически незначимым.
Если фактическое значение критерия Фишера больше табличного (Fфакт. > Fтабл..), то нулевая гипотеза отклоняется. Уравнение является значимым, и существенность связи доказана.
Чтобы по статистической таблице найти критическое значение распределения Фишера, необходимо знать уровень значимости и степени свободы k1 = m (число параметров регрессии минус единица) и k2 = n – m - 1 (число наблюдений минус число параметров регрессии).
Как правило, при оценке построенного уравнения регрессии оценивают не только значимость всего уравнения, но и отдельных его параметров. Для случая линейной регрессии необходимо оценить коэффициенты и свободный член регрессии. Оценку существенности параметров рассмотрим для множественной регрессии.
Оценка существенности параметров линейных уравнений множественной регрессии
Существенные и несущественные параметры
Суть проверки существенности параметров регрессии сводится к тому, что принимается либо отвергается нулевая гипотеза о равенстве нулю соответствующего параметра.
Если эта гипотеза принимается, то параметр считают несущественным. Это означает, что вероятность того, что отличие параметра от нуля является случайным, велика (больше заданного уровня значимости). При равенстве параметра нулю можно сделать вывод, что соответствующий фактор не следовало включать в модель.
Если нулевая гипотеза отвергается, то отличие параметра от нуля можно считать существенным, следовательно, получен существенный параметр.
Показатели существенности параметров
Для оценки существенности коэффициентов множественной регрессии можно использовать критерии Стьюдента и Фишера, а также рассчитывают доверительные интервалы.
Частный критерий Фишера
Рассмотрим частный критерий Фишера более подробно. Он рассчитывается для отдельных факторов и представляет собой сравнение прироста объясненной дисперсии под влиянием включения в модель нового фактора к остаточной дисперсии модели, включающей все факторы:
(3.15)
где xj – тот фактор, для которого рассчитывается частный критерий Фишера;
- коэффициент детерминации
для модели, включающей все факторы;
- коэффициент детерминации
для модели, включающей все факторы,
кроме xj.
Поскольку увеличение объясненной дисперсии в числителе связано с включением одного дополнительного фактора, число степеней свободы для нее будет равно единице. Отсюда число степеней свободы распределения Фишера k1 = 1 и k2 = n – m – 1.
Если фактическое значение критерия Фишера будет больше табличного при заданном уровне значимости, то соответствующий параметр множественной регрессии aj можно считать значимым, и включение в модель фактора xj является оправданным с точки зрения увеличения объясненной вариации результата.
При получении фактического значения, меньшего или равного табличному, придется сделать вывод о несущественности, статистической незначимости соответствующего параметра.