4.6. Нормированный коэффициент регрессии и проверка значимости.

Нормированный коэффициент регрессии

Нормирование представляет собой процедуру, посредством которой исходные данные преобразуют в новые переменные со значением средней, равным нулю и дисперсией, равной единице. После нормирования данных, отрезок, отсекаемый на оси OY, принимает значение 0. Нормированный коэффициент регрессии обозначают как «бета»-коэффициент или взвешенный «бета»-коэффициент. В этом случае угловой коэффициент регрессии Y по Х, обозначаемый B_xy, тот же, что и угловой коэффициент регрессии Х по Y, обозначаемый B_yx. Более того, каждый из этих коэффициентов регрессии равен простому (линейному) коэффициенту корреляции между Х и Y.

B_yx = B_xy = r_xy

Существует простая связь между нормированным и ненормированным коэффициентами регрессии:

S_x

B_yx = b_yx 

S_y

Проверка значимости

Статистическую значимость линейной связи между Х и Y можно проверить, исследовав гипотезы:

H₀ : ₁ = 0

H₁ : _i  0

Нулевая гипотеза предполагает, что между Х и Y не существует линейной зависимости. Альтернативная гипотеза утверждает, что между Х и Y существует зависимость, либо положительная, либо отрицательная. Обычно проводят двустороннюю проверку. Можно использовать t-статистику с n-2 степенями свободы, где

b

t = 

SE_b

SE_b обозначает стандартное отклонение b, и этот показатель называют стандартной ошибкой коэффициента регрессии b.

Лекция 5

Вопросы лекции:

5.1. Теснота и значимость связи.

5.2. Точность предсказаний.

5.3. Допущения модели регрессионного анализа.

5.4. Факторный анализ.

5.1. Теснота и значимость связи

Соответствующий статистический вывод включает определение тесноты и значимости связи между Х и Y. Тесноту связи измеряют коэффициентом детерминации r² . В парной регрессии r² представляет собой квадрат линейного коэффициента корреляции. Коэффициент r² изменяется от нуля до единицы. Он показывает долю от полной вариации переменной Y, которая обусловлена вариацией переменной Х. Разложение полной вариации переменной Y аналогично разложению полной вариации в дисперсионном анализе. Как показано на рис.1, полная вариация SS_y раскладывается на вариацию, которую можно объяснить, исходя из линии регрессии SS_{регрессии} и вариацию ошибки или остаточную вариацию, SS_ошибки или SS_{остаточная}

Y

Остаточная вариация

YSS_res

Полная вариация Объяснимая вариация

SS_y SS_reg

Х

Рис.1 Разложение полной вариации в парной регрессии

SS_y = SS_{регрессии} + SS_{остаточная}

где

SS_y =

SS_{регрессии} =

SS_{остаточная} =

Тесноту связи вычислим следующим образом

SS_{регрессии}

r² = 

SS_y

SS_y - SS_{остаточная}

r² = 

SS_y

Другой равноценной проверкой значимости линейной зависимости между Х и Y (значимости b) является проверка значимости коэффициента детерминации. В этом случае гипотезы имеют следующий вид:

H₀:R²_{совокупности} = 0

H₁:R²_{совокупности} > 0

Соответствующей статистикой, лежащей в основе критерия, является F-статистика

SS_{регрессии}

F = ,

SS_{остаточная} /(n-2)

которая подчиняется F-распределению с 1 и n-2 степенями свободы. F-критерий представляет собой обобщенную форму t-критерия. При этом, если случайная переменная подчиняется t-распределению с n степенями свободы, то значения r² подчиняются F-распределению с 1 и n степенями свободы. Отсюда следует, что F-критерий для проверки значимости коэффициента детерминации эквивалентен проверке следующих гипотез:

H₀ : ₁ = 0

H₁ : ₁  0

или

H₀:  = 0

H₁:   0

Если зависимость между Х и Y статистически значима, то имеет смысл вычислить значение Y, исходя из значений Х, и оценить точность предсказания.