Артамонов - Введение в эконометрику

3.2.4.Сравнение невложенных моделей

Рассмотрим вопрос о сравнении двух невложенных моделей регрессии (non-nested models) с одинаковыми зависимыми переменными. Приведем процедуру для тестирования модели

Xk

(A) : y = β0 + βjxj + u

j=1

против альтернативной модели

Xl

(B) : y = γ0 + γjzj + w,

j=1

причем в моделях могут быть совпадающие регрессоры.

Критерий ¯2 Выбирается та модель, для которой скорректиро-

R

ванный коэффициент R2 больше.

Тест Davidson – MacKinnon [7, 8, 20] Пусть ybi(B) – предсказан-

ные значения в модели (B). В рамках вспомогательной регрессии

Xk

y = β0 + βjxj + B · ybi(B) + error

j=1

проверяется значимость коэффициента B. Если коэффициент незначим, то данные согласованы с моделью (A).

Наоборот, пусть ybi(A) – предсказанные значения в модели (A). Если во вспомогательной регрессии

Xl

y = γ0 + γjzj + A · ybi(A) + error

j=1

коэффициент A незначим, то данные согласованы с моделью (B). Замечание. Тест Davidson – MacKinnon имеет следующие недостатки:

1. и в первом, и во втором случаях данные могут быть согласованы с моделями (A) и (B) соответственно;

2. и в первом и во втором случаях тест отвергает модели (A) и (B) соответственно.

В первом случае модели можно сравнить по ¯2 или на основе инфор-

R

мационных критериев (Akaike или Shwarz).

121

3.2.5.Выбор функциональной формы зависимости

Рассмотрим проблему выбора функционального вида модели регрессии при заданном наборе объясняющих переменных. При первичном анализе данных часто полезен визуальный анализ графиков рассеяния y vs объясняющие переменные.

Тест на функциональную форму

Для тестирования гипотезы о линейной спецификации модели регрессии (на необходимость включить в модель нелинейные слагаемые)

H0 : y = β0 + β1x1 + · · · + βkxk + u

часто используется RESET-тест (Regression Equation Specification Error Test, Ramsey [24])

Пусть yˆi – подогнанные значения в линейной модели регрессии, задаваемой нулевой гипотезой. Во вспомогательной модели регрессии (число M > 2 – параметр теста)

y = β0 + β1x1 + · · · + βkxk + 2yb2 + · · · + qybM + error

тестируется гипотеза

H00 : 2 = · · · = M = 0.

Исходная нулевая гипотеза отвергается если отвергается гипотеза H00.

Замечание. Обычно RESET-тест применяется при небольших значениях M = 2, 3, 4 (зависит от объемы выборки). Предпочтительней использовать значения M = 3, 4 [29].

Замечание. RESET-тест может отвергать нулевую гипотезу о линейной спецификации в случае невключения в линейную модель значимого регрессора.

y или ln y ?

Основная модели регрессии – линейная – характеризуется линейной зависимостью Myi от значений объясняющих переменных и постоянством маржинальных значений. Коэффициент βj есть средний эффект от увеличения на единицу значения регрессора xj. Выбор в пользу

122

этой модели можно сделать, если из экономических соображения можно ожидать постоянство маржинальных значений и диаграммы рассеяния y vs xj показывают в среднем линейную зависимость y от объясняющих переменных. Кроме того модель должна давать содержательный экономический прогноз. Например, во многих экономических задачах значения объясняющей переменной должны быть положительными.

Пример. Рассмотрим модели зависимость цены подержанного автомобиля P rice от его возраста Age. Так как (в среднем) цена автомобиля с возрастом уменьшается, то при оценке парной линейной модели регрессии

достаточно старых автомобилей мы можем получить предсказанные

дать, что эффект от увеличения возраста машины на один год будет непостоянен: +1 год для однолетней машины и для 10-ти летней будет давать (в среднем) разное уменьшение цены. Таким образом, предпочтительней использовать другу функциональную форму для описания зависимости цена автомобиля от его возраста.

В случае когда линейная модель из каких-либо соображения не подходит для описания зависимости (отрицательные предсказанные значения, непостоянство маржинальных значений или другое), то исправить ситуацию может помочь переход к логарифму зависимой переменной и рассмотрению полулогарифмических и лог-линейных моделей. В этих моделях предсказанные значения зависимой перемен-

Лог-линейная модель подходит для описания зависимости с постоянной эластичностью по объясняющим переменным. Напомним: это означает, что эффект от увеличения значения объясняющей переменной xj на 1% постоянен и приводит к изменению (в среднем) значения зависимой переменной на βj · 100%.

Полулогарифмическая модель подходит когда можно ожидать, что при увеличении значения влияющей переменной xj на единицу значение зависимой переменной увеличится в exp(βj) раз.

123

Существуют формальные тесты для сравнения линейной, полулогарифмической и лог-линейной моделей.

1. Так как полулогарифмическая

ln y = β0 + β1x1 + · · · + βkxk + u

и лог-линейная модели

ln y = β0 + β1 ln x1 + · · · + βk ln xk + w

являются невложенными моделями с одинаковой зависимой пе-

ременной, то для их сравнения можно применять критерий ¯2, тест

R

Davidson – MacKinnon, информационные критерии. 2. Для сравнения линейной

(Linear) : y = β0 + β1x1 + · · · + βkxk + u

и лог-линейной

(Loglin) : ln y = β0 + β1 ln x1 + · · · + βk ln xk + w

моделей тест Davidson – MacKinnon, ¯2 и информационные критерии

R

неприменимы, так как в этих моделях разные зависимые переменные. Приведем описание формального теста для сравнения этих моделей.

PE-тест (MacKinnon, White, Davidson) Пусть и d – предскаyˆi ln yi

занные значения в моделях (Linear) и (Loglin) соответственно. Во вспомогательной регрессии

· · · · − d

y = β0 + β1x1 + + βkxk + Lin ln (ˆy) ln y + error

проверяется значимость коэффициента Lin. Если коэффициент незначим, то данные согласованы с моделью (Linear).

Наоборот, во вспомогательной регрессии

проверяется значимость коэффициента Log. Если коэффициент незначим, то данные согласованы с моделью (LogLin).

124

3.3.Гетероскедастичность ошибок регрессии. Взвешенный метод наименьших квадратов

Определение. Гетероскедастичностью2 (heteroskedasticity) называ-

ется нарушение условия постоянства дисперсии ошибок в линейной модели регрессии

Var("i) 6= const или Var(u|x1, . . . , xk) 6= const,

но при этом считается, что остальные условия на ошибки регрессии (нулевое среднее и некоррелируемость в случае детерминированных регрессоров) выполнены.

Замечание. В случае постоянства дисперсий ошибок говорят о гомос-

кедастичности (homoskedasticity) или однородности ошибок модели регрессии.

Непостоянство ошибок регрессии означает, что для одних значений объясняющих переменных разброс значений зависимой переменной будет больше, а для других значений – меньше. Часто гетероскедастичность ошибок регрессии возникает при построении регрессионных моделей для неоднородных данных.

Пример. Рассмотрим регрессионную модель зависимости уровня оплаты труда от числа сотрудников в фирме. Тогда естественно ожидать, что чем больше число сотрудников, т.е. чем больше фирма, тем больше разброс зарплаты сотрудников. Таким образом, с возрастанием значения объясняющей переменной можно ожидать возрастание дисперсий ошибок регрессии.

Гетероскедастичность следующим образом влияет на статистические свойства OLS-оценок коэффициентов регрессии.

Теорема. Если в теореме Гаусса – Маркова Var("i) 6= const (в модели стохастических регрессоров Var(u|x) 6= const), то OLS-оценки коэффициентов регрессии будут несмещенными и состоятельными (в случаем стохастических регрессоров), но не наилучшими (не

BLUE оценки).

2Иногда употребляют термин неоднородность ошибок регрессии

125

Если ошибки регрессии нормально распределены, то в общем случае t- и F -статистики не имеют распределений Стьюдента и Фишера соответственно.

Замечание. Таким образом, при гетероскедастичности ошибок регрессии OLS-оценки по-прежнему остаются несмещенными и состоятельными, но не наилучшими, т.е. они вполне пригодны для вычисления предсказанных значений зависимой переменной. Самое важное, что при гетероскедастичности статистические выводы, основанные на использовании t- и F -статистик уже могут быть неверны. Например, доверительные интервалы для коэффициентов регрессии не соответствуют заявленным уровням значимости

Рассмотрим теперь две задачи: статистические тесты на обнаружение гетероскедастичности и разные способы корректировки модели регрессии на гетероскедастичность.

3.3.1.Тесты на гетероскедастичность

Приведем несколько наиболее употребительных тестов для выявления гетероскедастичности ошибок регрессии. Важно отметить, что большинство тестов ориентированы на выявление гетероскедастичности той или иной априорной структуры.

Графический анализ Достаточно эффективным методом предварительного анализа однородности ошибок модели регрессии в случае больших выборок является визуальный анализ графиков остатков. Как правило рассматриваются следующие графики:

1.остатки в зависимости от оцененных значений: e vs yˆ;

2.остатки в зависимости от отдельных объясняющих переменных: e vs x;

3.остатки в зависимости от номера наблюдений: et vs t (только в случае временных рядов).

Обычно на неоднородность ошибок указывает неравномерность разброса остатков на графике относительно оси абсцисс. Например, если с ростом значения объясняющей переменной xj увеличивается разброс остатков, это может указывает на то, что с увеличением значения объясняющей переменной растет и дисперсия ошибок в модели регрессии.

126

Тест Goldfeld – Quandt [17] Это тест применяется в случае, если есть априорные предположения о зависимости дисперсии ошибок от значения одной из объясняющих переменных3 (например, фактора xj) вида σi2 = σ2x2ij с неизвестным параметром σ. Такие предположения вполне обоснованы, например, в модели зависимости уровня зарплаты от числа сотрудников в фирме.

В модели с детерминированными регрессорами проверяется нулевая гипотеза

H0 : σ12 = · · · = σn2

против альтернативы

H1 : σi2 = σ2x2ij (i = 1, . . . , n),

где Var("i) = σi2.

Для применения теста вначале необходимо упорядочить выборочные данные по возрастанию фактора xj. После упорядочивания отбрасывается r центральных наблюдений и получаем разделение выборки на две группы, как мы предполагаем, с малыми и большими дисперсиями. Отбрасывание центральных значений проводится для более надежного разделения на две группы. Пусть n1 – число наблюдений в первой группе (с малыми дисперсиями), а n2 – число наблюдений во второй группе (с большими дисперсиями). Очевидно,

n1 = n2 = (n − r)/2

Далее, модель регрессии отдельно оценивается по первой и по второй группе наблюдений. Обозначим через RSS1 и RSS2 соответствующие остаточные суммы квадратов, а через SER1 и SER2 соответствующие стандартные ошибки регрессии. В качестве статистики для проверки нулевой гипотезы берется дисперсионное F -отношение

При справедливости нулевой гипотезы F -статистика имеет распределение Фишера

F s F (n1 − m, n2 − m).

H0

Следовательно, при заданном уровне значимости гипотезу H0 следует отвергается при F > Fкр (т.е. при больших значения статистики), где критическое значение Fкр = F ( ; n1 − m, n2 − m).

3В тесте неявно предполагается, что значения этой объясняющей переменной должны быть

положительными.

127

Замечание. Число r исключаемых наблюдений не должно быть очень большим и очень маленьким и нет формальных критериев выбора числа отбрасываемых наблюдений. Формально тест работает и в случае r = 0, но в этом случае его мощность ниже [17].

Замечание. Важно отметить, что это точный тест, т.е. применим при любом объеме выборки.

Замечание. Тест Goldfeld – Quandt применим также в ситуации, когда дисперсия ошибки принимает только два возможных значения. В этом случае очевидным образом происходит разделение всех выборочных данных на две группы4 (вообще говоря, разного) объема n1 и n2 соответственно (n1 + n2 = n). Пусть RSS1 < RSS2. Тогда F -статистика теста равна

Тест White [28] Этот тест применяется в случае когда есть априорные предположения, что гетероскедастичность обусловлена зависимостью дисперсии ошибки от объясняющих переменных. В случае стохастических регрессоров проверяется гипотеза

H0 : Var(u|x1, . . . , xk) σ2

против альтернативы

H1 : Var(u|x1, . . . , xk) = σ2(x1, . . . , xk).

В модели с детерминированными регрессорами проверяется нулевая гипотеза

H0 : σ12 = · · · = σn2

Для проверки нулевой гипотезы White (1980) предложил следующую двухшаговую процедуру:

1. находим OLS-остатки {ei}ni=1 в исходной модели регрессии;

4Легко понять, что в этой ситуации нет необходимости в отбрасывании значений для более надежного разделения на группы

128

2.Вычисляем коэффициент R02 во вспомогательной регрессии e2i на константу, регрессоры, их квадраты и попарные произведения:

δ0 + δ1x1 + · · · + δ11x21 + · · · + δ12x1x2 + · · · + error (3.4)

При справедливости нулевой гипотезы о гомоскедастичности ошибок статистика nR02 для проверки значимости вспомогательной регрессии (3.4) в целом асимптотически (т.е. при больших объемах выборки) имеет распределение хи-квадрат

nR02 t χ2K,

H0

где число степеней свободы K равно числу регрессоров во вспомогательной регрессии (3.4). Таким образом, при заданном уровне значимости (асимптотически) нулевая гипотеза о гомоскедастичности отвергается при nR02 > χ2кр, где критическое значение χ2кр = χ2( ; K).

Несложно показать, что K = (k2 + 3k)/2, где k, как обычно, число регрессоров в исходной модели регрессии.

Замечание. Важно отметить, что вспомогательная регрессия (3.4) не имеет никакой экономической интерпретации, а нужна только для вычисления коэффициента R02.

Тест White является наиболее общим тесто для проверки гетероскедастичности ошибки регрессии, однако он имеет следующие недостатки:

•даже при небольшом количестве регрессоров в исходной модели во вспомогательной модели, оцениваемой на втором шаге, может быть много (относительно объема выборки) оцениваемых коэффициентов, что уменьшает мощность теста;

•если нулевая гипотеза отвергается, то не дается указаний на функциональную форму гетероскедастичности (на вид функции

σ2(x)).

•тест не учитывает зависимость дисперсии ошибок от невключенных в модель регрессоров.

129