70 Множественная линейная регрессионная модель: оценка ковариационной матрицы мнк-оценок коэффициентов регрессии (на основе необъясненной дисперсии).

Обозначим:

,

В силу несмещенности оценки из

следует, что матрица

,является несмещенной оценкой ковариационной матрицы векторной МНК-оценки .

является несмещенной оценкой дисперсии МНК-оценки .

Обозначим:

оценку стандартного отклонения .

Отметим, что из

и :

72 Множественная линейная регрессионная модель: построение t-статистик для коэффициентов регрессии, проверка гипотез для коэффициентов регрессии.

t-статистика – это отношение стандартной ошибки оценки коэффициента к его абсолютной величине. Его конкретное значение можно сравнить с таблицами t-статистик, которые в зависимости от размера выборки показывают выраженные в процентах вероятности, что оно могло возникнуть случайно, когда истинная величина коэффициента была нулевой. Оценки эмпирически найденных параметров уравнений часто сопровождаются напечатанной ниже величиной t для каждого коэффициента непосредственно под ним, в скобках. Проверка линейного ограничения на параметры линейной регрессии

Проверка линейного ограничения на параметры линейной регрессии

С помощью t-теста можно также проверить произвольное (одно) линейное ограничение на параметры линейной регрессии, оцененной обычным методом наименьших квадратов. Пусть необходимо проверить гипотезу  . Очевидно, при выполнении нулевой гипотезы  . Здесь использовано свойство несмещенности МНК-оценок параметров модели  . Кроме того,  . Используя вместо неизвестной дисперсии ее несмещенную оценку   получаем следующую t-статистику:

Эта статистика при выполнении нулевой гипотезы имеет распределение  , поэтому если значение статистики выше критического, то нулевая гипотеза о линейном ограничении отклоняется.

Мы вывели модель, описывающую наши измерения, теперь надо определить, верна ли она. Для решения этого вопроса нужно проверить гипотезы:

Модель регрессионного анализа выглядит следующим образом: y_i=a+bx_i+ε_i, где i=1,2,...,n где а–параметр, характеризующий смещение по Y, b - коэффициент регрессии – параметр, характеризующий смещение графика функции по X; ε_i – некоррелированные ошибки случайной переменной. В регрессионном анализе проверяют гипотезы о значимости свободного члена а и о значимости коэффициента регрессии b.

Проверка гипотезы о значимости коэффициента регрессии b:  1. Определим гипотезы H₀ и H₁:  H₀: b=0 (между переменными нет линейной зависимости)  H₁: b₁≠0.  2. Зададим уровень значимости α.  3.    где    Статистика F имеет распределение Фишера с 1 и (n-1) степенями свободы.  4. Критические точки и критическая область K_кр=F_кр(α,1,n-2).  5. Если |F_набл|<f_{(α,1,n-2), то H0 отвергается, т.е. можно сделать вывод, что линейная зависимость – значима. Если |Fнабл|>F(α,1,n-2) то у нас нет оснований отвергать H0, т.е. можно сделать вывод, что линейная зависимость – незначима или что наши данные нельзя описать моделью линейной регрессии.</f}