4. Некоторые вопросы применения моделей множественной регрессии.

Линейная модель множественной регрессии имеет вид:

_, (4.1)

где - количество наблюдений, k- количество факторов, включенных в модель.

Для того что­бы регрессионный анализ, основанный на обычном методе наименьших квад­ратов, давал наилучшие из всех возможных результатов, дол­жны выполняться следующие условия (предпосылки), известные как условия Гаусса – Маркова.

Основные предпосылки метода наименьших квадратов.

Предполагается, что истинная зависимость (4.1) имеет линейный вид. Линейность по переменным и линейность по оценкам. В матричном это можно записать в следующем виде

.

• С помощью МНК оценивается регрессия y

. (4.2)

• Наблюдений больше, чем оцениваемых коэффициентов, т.е.

Предпосылки на остаточную компоненту

• Первое условие. Математическое ожидание случайной составляющей в любом наблюдении должно быть равно нулю.

. (4.3)

Фактически если уравнение регрессии включает постоянный член, то обыч­но это условие выполняется автоматичес­ки, так как роль константы состоит в определении любой систематической тенденции , которую не учитывают объясняющие переменные, включен­ные в уравнение регрессии.

• Второе условие. Дисперсия случайной составляющей должна быть постоянна для всех наблюдений.

Это условие гомоскедастичности составляющей (возмущения).

.

Или в матричном виде . (4.4)

 Третье условие предполагает отсутствие систематической связи между значени­ями случайной составляющей в любых двух наблюдениях.

Условная некоррелированность

(4.5)

Возмущения не коррелированы (условие независимости случайных составляющих в различных наблюдениях).

К предпосылкам на регрессоры относятся следующие:

• Среди регрессоров нет линейно зависимых, или, что то же самое матрица существует, или определитель не равен нулю . (4.6)

• Векторы отдельных наблюдений независимы и одинаково распределены.

 Предположение о нормальности

Наряду с перечисленными условиями обычно также предполагается нормаль­ность распределения случайного члена. Дело в том, что если случайный член нормально распределен, то так же будут распределены и коэффициенты регрессии.

Свойства оценок мнк.

В тех случаях, когда предпосылки выполняются, оценки, полученные по МНК, будут обладать свойствами несмещенности, состоятель­ности и эффективности.

Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Если оценки обладают свойством несме­щенности, то их можно сравнивать по разным исследованиям.

Для практических целей важна не только несмещенность, но и эффективность оценок. Оценки считаются эффективными среди линейных и несмещенных, ес­ли они характеризуются наименьшей дисперсией. Поэтому не­смещенность оценки должна дополняться минимальной диспер­сией.

Степень достоверности доверительных интервалов парамет­ров регрессии обеспечивается, если оценки будут не только не­смещенными и эффективными, но и состоятельными. Состоя­тельность оценок характеризует увеличение их точности с увели­чением объема выборки Метод наименьших квадратов дает оценки, имеющие наименьшую дисперсию в классе всех линейных оценок, если выполняются предпосылки нормальной линейной регрессионной модели.

Наиболее сложным и важным при построении модели множественной регрессии является отбор факторов для включения в модель. С возникающими при этом проблемами мультиколлинеарности факторов, гетероскедастичности остатков и автокорреляции остатков можно ознакомиться в работах [1], [2], [3], [4], [5], [6] и др. С построением моделей с фиктивными переменными можно ознакомиться в работах [5], [6], [9], [10].