Вопрос 18. Стандартная ошибка и значимость коэффициентов линейной регрессии.
Стандартная ошибка является оценкой среднего квадратичного отклонения коэффициента регрессии от его истинного значения. Позволяет получить некоторое представление о форме функции плотности вероятности, однако не несёт информации о том, находится ли полученная оценка в середине распределения (т.е. является точной) или в его «хвосте» (т.е. является относительно неточной).
Стандартные ошибки коэффициентов регрессии используются аналогично стандартной ошибке среднего — для нахождения доверительных интервалов и проверки гипотез. Используем, например, критерий Стьюдента для проверки гипотезы о равенстве коэффициента регрессии нулю, то есть о его незначимости для модели. Статистика Стьюдента: t=b/sb. Если вероятность для полученного значения и n−2 степеней свободы достаточно мала, например, <0,05 — гипотеза отвергается. Напротив, если нет оснований отвергнуть гипотезу о равенстве нулю, скажем b1 — есть основание задуматься о существовании искомой регрессии, хотя бы в данной форме, или о сборе дополнительных наблюдений. Если же нулю равен свободный член b0, то прямая проходит через начало координат и оценка углового коэффициента равна
,
а её стандартной ошибки
Вопрос 19. Адекватность линейной регрессионной модели и ее значимость.
Адекватность регрессионных моделей – это их соответствие фактическим статистическим данным. Регрессионная модель считается адекватной, если теоретические значения зависимой переменной (т.е. предсказанные на основе модели) согласуются с результатами наблюдений.
Исходное предположение для проверки адекватности регрессионной модели.
Зависимость между прогнозируемым (теоретическим) значением результативного признака (ŷ) и факторами (xi) имеет вид ŷ=f(xi)+,
где – некоторая случайная величина, связанная с влиянием неконтролируемых или неучтенных факторов, случайных ошибок измерения.
Из-завозникают ненулевые остатки, т.е. разности между теоретическими и эмпирическими значениями (yi–ŷi).
Предполагается, что эти остатки независимы (некоррелированны) и распределены по нормальному закону с нулевым средним и одинаковой дисперсией. Это предположение легко проверить путем построения диаграммы остатков.
Для адекватной модели, кроме некоррелированности остатков и их нормального распределения, должно выполняться условие гомоскедаксичности, т. е. постоянства дисперсии ошибок для всех наблюдений.
Оценка выполнимости этого условия проводится по графику остатков: если все остатки укладываются в симметричную относительно нулевой линии полосу, то, можно считать, что дисперсия ошибок наблюдений постоянна.
На графике распределения значений зависимой переменной от одной из независимых переменных не должно быть сильных «раздуваний».
Значительное отклонение от этого условия называется гетероскедастичностью. Для оценки гетероскедастичности разработаны и специальные статистические тесты.
Общий подход к проверке адекватности полученной модели
Нахождение остатков, т.е. значения суммы квадратов разностей между наблюдаемыми и предсказанными моделью значениями переменной y: SSe (от SumofSquares).
Остаточная дисперсия:
Скорректированная оценка остаточной дисперсии
Корень квадратный из этого показателя называется стандартной ошибкой оценки