6. Некоторые вопросы практического применения

регрессионных моделей

Ранее нами была изучена классическая линейная модель множественной регрессии. Однако мы не касались некоторых проблем, связанных с практическим использованием модели множественной регрессии. К их числу относится мультиколлинеарность.

Под мультиколлинеарностью понимается высокая взаимная коррелированность объясняющих переменных. Мультиколлинеарность может проявляться в функциональной и стохастической формах.

При функциональной форме мультиколлинеарности по крайней мере одна из парных связей между объясняющими переменными является линейной функциональной зависимостью. В этом случае матрица Х^TX особенная, так как содержит линейно зависимые векторы-столбцы и ее определитель равен нулю. Это приводит к невозможности решения соответствующей системы уравнений и получения оценок параметров регрессионной модели.

Однако в экономических исследованиях мультиколлинеарность чаще всего проявляется в стохастической форме, когда между хотя бы двумя объясняющими переменными существует тесная корреляционная связь. Матрица Х^TX в этом случае является неособенной, но ее определитель очень мал. В результате получаются значительные дисперсии оценок коэффициентов регрессии

Наличие мультиколлинеарности системы объясняющих переменных можно статистически проверить по тесту Глобера – Феррара.

При отсутствии мультиколлинеарности статистика

, (2.58)

где – объем выборки;

– количество объясняющих переменных;

det – определитель выборочной корреляционной матрицы объясняющих переменных , имеет – распределение с k(k-1)/2 степенями свободы.

Вычисленное значение сравнивается с табличным значением уровня значимости α для k(k-1)/2 степеней свободы.

Одним из методов снижения мультиколлинеарности системы объясняющих переменных X₁, X₂, …, X_k является выявление пар переменных с высокими коэффициентами корреляции (более 0,8). При этом одну из таких переменных исключают из рассмотрения. Какую из двух переменных удалить решают на основании экономических соображений или оставляют ту, которая имеет более высокий коэффициент корреляции с зависимой переменной.

Полезно также находить множественные коэффициенты корреляции между одной объясняющей переменной и некоторой группой из них.

Множественный коэффициент корреляции служит мерой линейной зависимости между случайной величиной Х_i и некоторым набором других случайных величин X₁, X₂, X₃, …,X_i-1,X_i+1,… X_k.

Множественный коэффициент корреляции определяется как обычный коэффициент парной корреляции между Х_i и Х_i^*, где Х_i^*− наилучшее линейное приближение Х_i случайными величинами X₁, X₂, X₃, …,X_i-1,X_i+1,… X_k.

Чем ближе значения коэффициента множественной корреляции к единице, тем лучше приближение случайной величины Х_i линейной комбинацией случайных величин X₁, X₂, X₃, …,X_i-1,X_i+1,… X_k.

Множественный коэффициент корреляции выражается через элементы корреляционной матрицы следующим образом:

, (2.59)

где │R│– определитель корреляционной матрицы R;

R_ii – алгебраическое дополнение элемента r_ii.

Если , то величина Х_i представляет собой линейную комбинацию случайных величин X₁, X₂, X₃, …,X_i-1,X_i+1,… X_k.

С другой стороны, только тогда, когда Х_i не коррелированна ни с одной из случайных величин X₁, X₂, X₃, …,X_i-1,X_i+1,… X_k.

В качестве выборочной оценки коэффициента множественной корреляции используется выражение

_{. (2.60)}

Наличие высокого множественного коэффициента корреляции (более 0,8) также свидетельствует о мультиколлинеарности.

Еще одним из методов уменьшения мультиколлинеарности является использование пошаговых процедур отбора наиболее информативных переменных с использованием скорректированного коэффициента детерминации.

Недостатком коэффициента детерминации R² для выбора наилучшего уравнения регрессии является то, что он всегда увеличивается при добавлении новых переменных в регрессионную модель. Поэтому целесообразно использовать скорректированный коэффициент детерминации , определяемый по формуле

.

В отличие от R² скорректированный коэффициент может уменьшаться при введении в модель новых объясняющих переменных, не оказывающих существенного влияния на зависимую переменную.

На первом шаге рассматривается лишь одна объясняющая переменная, имеющая с зависимой переменной Y наибольший коэффициент корреляции (детерминации). На втором шаге включается в регрессию новая объясняющая переменная, которая вместе с первоначальной дает наиболее высокий скорректированный коэффициент детерминации с Y и т. д.

Процедура введения новых переменных продолжается до тех пор, пока будет увеличиваться скорректированный коэффициент детерминации