ЭКОНОМЕТРИКА и математическая экономика / Эконометрика. Учебник продвинутый (2005)

0 −

= Z (Z Z)−1 R R (Z Z)−1 R −1 R (Z Z)−1 Z ε.

Для вектора остатков e0 имеем

e0 = I − Z (Z Z)−1 Z ε.

Совместное распределение векторов δ и e0 является нормальным (так как они линейно выражаются через ошибки ε). Эти вектора некоррелированы:

рицы преобразования являются симметричными и идемпотентными. Ранг матрицы преобразования (другими словами, количество степеней свободы) равен k для δ и N − n − 1 для e0 . С учетом того, что ε N (0, σ2I), это означает:

причем эти две величины независимы. Частное этих величин, деленных на количество степеней свободы, распределено как Fk,N −n−1 , что и доказывает утверждение.

Проверяемая нулевая гипотеза имеет вид:

H0 : Rα = r,

Покажем, что F -критерий базового курса — это частный случай данного критерия. С помощью F -критерия для регрессии в целом проверяется нулевая гипотеза о том, что все коэффициенты α, кроме свободного члена (последнего, (n + 1)-го коэффициента), равны нулю:

H0 : α1 = 0, . . . , αn = 0.

Запишем эти ограничения на коэффициенты в матричном виде (Rα = r). Соответствующие матрицы будут равны

R = [In; 0n] и r = 0n.

Обозначим матрицу Z без последнего столбца (константы) через Z−. В этих

Подставим это выражение в (18.4), обозначая через a− = Ra0 вектор из первых n компонент оценок a0 (все коэффициенты за исключением константы):

а это стандартная форма F -статистики.

Более простой способ получения этого результата состоит в том, чтобы возвратиться к исходной задаче условной минимизации. Ограничение, что все коэффициенты, кроме свободного члена, равны нулю, можно подставить непосредственно в целевую функцию (сумму квадратов остатков). Очевидно, что решением задачи

x¯

Отсюда получаем, что остатки равны центрированным значениям зависимой пере-

В числителе стоит объясненная сумма квадратов, а в знаменателе — сумма квадратов остатков.

Покажем, что t-критерий также является частным случаем данного критерия. Нулевая гипотеза заключается в том, что j-й параметр регрессии равен нулю. Таким образом, в этом случае k = 1,

R = (0, . . . , 0, 1, 0, . . . , 0) и r = 0.

j

При этом R(Z Z)−1R = m−jj1 , где m−jj1 — j-й диагональный элемент мат-

sˆ2e = (X − Za0) (X − Za0) / (N − n − 1) .

Кроме того, Ra0 − r = a0j . Окончательно получаем

√

αj = 0 отвергается, если F c > F1, N −n−1, 1−θ , т.е. если |tj | = F c > tN −n−1, 1−θ . Видим, что два критерия полностью эквивалентны.

Рассмотрим регрессию, в которой факторы разбиты на два блока:

X= Z1α1 + Z2α2 + ε.

Вкачестве промежуточного случая между F -критерием для регрессии в целом

иt-критерием для одного фактора рассмотрим F -критерий для группы факторов. Требуется получить ответ на вопрос о том, нужна ли в регрессии группа факторов Z2 . Для проверки гипотезы H0 : α2 = 0 мы можем воспользоваться полученными выше результатами. В этом случае k = n2 , где n2 — количество факторов во второй группе, а матрицы, задающие ограничение, равны

Мы неявно рассматривали здесь тест на исключение факторов. Можно рассматривать его с другой точки зрения — как тест на включение факторов, при этом формулы не поменяются. То есть мы, оценив регрессию X = Z1α1 + ε, можем проверить, следует ли включать в нее дополнительные факторы Z2.

Тест на включение факторов особенно полезен для проверки того, не нарушаются ли предположения модели регрессии. Это так называемые диагностические тесты. Все они строятся по одному и тому же принципу: если модель X = Z1α1 + ε специфицирована корректно, то любые дополнительные факторы Z2 скорее всего будут незначимы в тесте на их включение (т.е. с большой вероятностью будет принята нулевая гипотеза α2 = 0). Факторы Z2 конструируются таким образом, чтобы тест имел бо´ льшую мощность против определенного класса нарушений предположений модели регрессии. Из сказанного следует, что во всех диагностических тестах нулевой гипотезой является то, что базовая модель корректно специфицирована. Если нулевая гипотеза будет отвергнута, то естественно искать другую модель, которая бы лучше описывала имеющиеся данные. Следует понимать, что регрессия X = Z1α1 + Z2α2 + ε в этом случае будет носить обычно вспомогательный характер, то есть оценки коэффициентов в ней, вообще говоря, не призваны нести смысловой нагрузки. Она нужна только для проверки базовой модели

X= Z1α1 + ε. (Хотя здесь есть, конечно, и исключения.)

18.2.1.Тест Годфрея (на автокорреляцию ошибок)

Оценим регрессию X = Z1α1 + ε. Для проверки отсутствия автокорреляции p-го порядка попытаемся ввести такой набор факторов:

Столбцы матрицы Z2 состоят из лагов остатков, дополненных нулями. Если нулевая гипотеза (α2 = 0) отвергается, то делается вывод о наличии автокорреляции. При p = 1 тест Годфрея представляет собой близкий аналог теста

Дарбина—Уотсона, однако при p > 1 помогает обнаруживать и автокорреляцию более высоких порядков, в чем и состоит его преимущество.

18.2.2.Тест RESET Рамсея (Ramsey RESET test) на функциональную форму уравнения

Рассмотрим модель X = Z1α1 + ε, которую можно записать в виде

X= X0 + ε, где X0 = Z1α1 . Можно рассмотреть возможность наличия между

Xи X0 более сложной нелинейной зависимости, например, квадратичной. Для проверки линейности модели против подобной альтернативы служит тест Рамсея.

Оценим регрессию X = Z1α1 + ε. Попытаемся ввести фактор

где Xc = Z1a1 — расчетные значения из проверяемой регрессии. Если α2 = 0, то зависимость линейная, если α2 = 0, то зависимость квадратичная.

Можно тем же способом проводить тест на 3-ю, 4-ю степени и т.д. Матрица

18.2.3. Тест Чоу (Chow-test) на постоянство модели

Часто возникает сомнение в том, что для всех наблюдений 1, . . . , N модель неизменна, в частности, что параметры неизменны.

Пусть все наблюдения в регрессии разбиты на две группы. В первой из них — N1 наблюдений, а во второй — N2 наблюдений, так что N1 + N2 = N . Без ограничения общности можно считать, что сначала идут наблюдения из первой группы, а потом из второй. Базовую регрессию X = Zα + ε можно представить в следующем блочном виде:

Требуется проверить, действительно ли наблюдения в обеих группах подчиняются одной и той же модели x = zα + ε.

1-я форма теста Чоу

В качестве альтернативы базовой модели рассмотрим регрессию

Фактически, это две разные регрессии:

X1 = Z1α1 + ε1 и X2 = Z2α2 + ε2,

но предполагается, что дисперсия в них одинакова.

Пусть e0 — вектор остатков в регрессии на всей выборке, e1 — вектор остатков в регрессии с наблюдениями 1, . . . , N1, e2 — вектор остатков в регрессии с N1 + 1, . . . , N наблюдениями. Требуется проверить нулевую гипотезу о равенстве коэффициентов по двум частям выборки:

H0 : α1 = α2.

Для того чтобы применить здесь тест добавления переменных, обозначим α2 − α1 = δ и подставим α2 = α1 + δ в рассматриваемую модель:

X2 = Z2α1 + Z2δ + ε2,

Таким образом, можно рассматривать следующую регрессию (для упрощения обозначений пишем α вместо α1 ):

Мы хотим проверить гипотезу H0 : δ = 0.

Если нулевая гипотеза принимается, то это означает, что α1 = α2 , т.е. коэффициенты постоянны.

Заметим, что в регрессии (18.5) с ограничениями остатки окажутся равными e0 ,

580 Глава 18. Классические критерии проверки гипотез

e0e0 и e1e1 + e2e2 , соответственно. В регрессии с ограничениями оценивается n + 1 параметров, без ограничений — 2 (n + 1). Всего проверяется k = n + 1 ограничений. Используя общую формулу (18.2), получим

Для того чтобы применить этот тест, нужно оценить модель по двум частям выборки. Это можно сделать, когда количество наблюдений превышает количество параметров, т.е. N1 n + 1 и N2 n + 1. Кроме того, если Nj = n + 1, то остатки ej = 0 (j = 1, 2). Таким образом, для применимости теста требуется, чтобы хотя бы в одной части количество наблюдений превышало количество параметров.

2-я форма теста Чоу

То, что модель в двух частях одна и та же, можно проверить и по-другому. Пусть сначала рассчитывается регрессия по N1 < N наблюдениям, а затем по всем N наблюдениям. Если полученные результаты существенно отличаются, то это должно означать, что во второй части модель каким-то образом поменялась.

Реализуем эту идею с помощью вспомогательной регрессии, к которой можно применить тест добавления переменных:

Эта регрессия с ограничением δ = 0 совпадает с регрессией по всем N наблюдениям по первоначальной модели, и остатки равны e0 .

Если же оценить (18.6, 18.5) без ограничений, то, как можно показать, оценки α совпадут с оценками по N1 < N наблюдениям, т.е. по регрессии X1 = Z1α1 + ε1 .

1Это связано с тем, что добавочные переменные являются фиктивными переменными, каждая из которых всюду равна нулю, за исключением одного из наблюдений второй части выборки. Такие фиктивные переменные приводят к «обнулению» остатков. Следовательно, задача минимизации суммы квадратов остатков по N наблюдениям здесь сводится к задаче минимизации суммы квадратов остатков по первым N1 наблюдениям.

Получаем следующую систему уравнений для оценок коэффициентов:

Умножив второе уравнение системы (18.7) слева на Z2 , получим

Z2Z2a + Z2d = Z2X2.

После вычитания из первого уравнения системы (18.7) получим

Z1Z1a = Z1X1.

Таким образом, оценки коэффициентов a являются оценками МНК по первой части выборки.

Далее, остатки второй части равны

e2 = X2 − Z2a − d = 0.

Последнее равенство следует из второго уравнения системы (18.7).

Суммы квадратов остатков в двух моделях равны e0e0 и e1e1 , соответственно. Количество ограничений k = N2 . Таким образом, получаем следующую статистику:

Статистика имеет указанное распределение, если выполнена нулевая гипотеза

H0 : δ = 0.

Если нулевая гипотеза принимается, это означает, что модель не менялась.

Заметим, что в случае, когда наблюдений в одной из частей выборки не хватает, чтобы оценить параметры, либо их столько же, сколько параметров, например, N2 n + 1, второй тест Чоу можно рассматривать как распространение на этот вырожденный случай первого теста Чоу.

Второй тест Чоу можно интерпретировать также как тест на точность прогноза. Поскольку Z2a — прогнозы, полученные для второй части выборки на основе оценок первой части (a), то из второго уравнения системы (18.7) следует, что оценки d равны ошибкам такого прогноза:

d = X2 − Z2a.

Таким образом, проверяя гипотезу δ = 0, мы проверяем, насколько точны прогнозы. Если модель по второй части выборки отличается от модели по первой части, то ошибки прогноза будут большими и мы отклоним нулевую гипотезу.

18.3.Метод максимального правдоподобия в эконометрии

18.3.1. Оценки максимального правдоподобия

Метод максимального правдоподобия — это один из классических методов оценивания, получивший широкое распространение в эконометрии благодаря своей универсальности и концептуальной простоте.

Для получения оценок максимального правдоподобия следует записать функцию правдоподобия, а затем максимизировать ее по неизвестным параметрам модели. Предположим, что изучаемая переменная x имеет распределение с плотностью fx(x), причем эта плотность зависит от вектора неизвестных параметров θ, что можно записать как fx(x|θ). Тогда для N независимых наблюдений за переменной x, т.е. x1, . . . , xN , функция правдоподобия, по определению, есть