21. Оценка надежности результатов множественной регрессии и корреляции. Частный f-критерий

Значимость уравнения множественной регрессии в целом, также как и в пар­ной регрессии, оценивается с помощью F-критерия Фишера:

где D _факт - факторная сумма квадратов на одну степень свободы;

D _ост - остаточная сумма квадратов на одну степень свободы;

R² -индекс множественной детерминации;

m -число параметров при переменных х

п - число наблюдений.

Оценивается значимость не только уравнения в целом, но и фактора, допол­нительно включенного в регрессионную модель. Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличивать долю объясненной вариации результативного признака. Кроме того, при наличии в модели нескольких факторов они могут вводиться в модель в раз­ной последовательности. Ввиду корреляции между факторами значимость одного и того же фактора может быть разной в зависимости от последовательности его введения в модель. Мерой для оценки включения фактора в модель служит частный F-критерий.

Частный F-критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. Если оцениваем значимость влияния фактора x_i как дополнительно включенного в модель фактора, то используем следующую формулу:

где - коэффициент множественной детерминации для модели с пол­ным набором факторов; - тот же показатель, но без включения в модель фактора x_i; п - число наблюдений; т - число параметров в модели (без свободного члена).

В числителе формулы показан прирост доли объясненной вариации у за счет дополнительного включения в модель соответствующего фактора x_i .

В знаменателе доля остаточной вариации по регрессионной модели, вклю­чающей полный набор факторов. Если числитель и знаменатель F_x умножить на или, что то же самое, на nσ²_y, то получим соотношение прироста фак­торной (объясненной) суммы квадратов отклонений к остаточной сумме квадра­тов. Чтобы получить величину F-критерия, необходимо эти суммы квадратов от­клонений разделить на соответствующее число степеней свободы. Т.к. прирост факторной суммы квадратов отклонений обусловлен дополнительным включени­ем в модель одного исследуемого фактора х _i, то число степеней свободы для него равно 1. Для остаточной суммы квадратов отклонений по регрессионной модели число степеней свободы, как уже было рассмотрено ранее, равно: п - т - 1. Соот­ношение числа степеней свободы приведено в формуле частного F-критерия в ви­де дроби: (n - m - 1)/1.

Фактическое значение частного F-критерия сравнивается с табличным при заданном уровне значимости и числе степеней свободы: 1 и п - т - 1. Если факти­ческое значение F_x превышает F_крит то дополнительное включение фактора х_i в модель статистически оправданно и коэффициент чистой регрессии b_i , при факто­ре х_i статистически значим. Если же фактическое значение F_x меньше таблично­го, то дополнительное включение в модель фактора х_i не увеличивает существенно долю объясненной вариации признака у, следовательно, нецелесообразно его включение в модель; коэффициент регрессии при данном факторе в этом случае статистически незначим.

С помощью частного F-критерия можно проверить значимость всех коэффи­циентов регрессии в предположении, что каждый соответствующий фактор х_i вво­дился в уравнение множественной регрессии последним.

Оценка значимости коэффициентов чистой регрессии по t-критерию Стью-дента может быть проведена и без расчета частных F-критериев. В этом случае, как и в парной регрессии, для каждого фактора используется формула где b_i - коэффициент чистой регрессии при факторе х_i ;

S_bi - средняя квадратическая ошибка коэффициента регрессии b_i

Для уравнения множественной регрессии

средняя квадратическая ошибка коэффициента регрессии может быть определена по следующей формуле:

Где -коэффициент детерминации для зависимости фактора x_i со всеми

другими факторами уравнения множественной регрессии.

Чтобы воспользоваться данной формулой, необходимы матрица межфактор­ной корреляции и расчет по ней соответствующих коэффициентов детерминации . Так для уравнения

Для оценки значимости коэффициентов регрессии b₁, b₂, b₃ необходим расчет 3 межфакторных коэффициентов детерминации , , .

Если учесть, что ,то можно убедиться, что