- •Множественная регрессия.
- •Модель множественной регрессии
- •Тест – линейное ограничение на коэффициенты
- •Тест Чоу (Chow) – тест на структурные изменения
- •Различие между остатками регрессии и ошибками
- •Мультиколлинеарность
- •Фиктивные переменные
- •Гетероскедастичность
- •Тесты на гетероскедастичность
- •Автокорреляция остатков
- •Точечный прогноз
- •Статистика Дарбина-Уотсона (dw)
- •Причинность по Гренджеру
- •Модели с лагами
- •Геометрическая структура лага
- •Подбор параметра
- •Полиномиальная лаговая структура (Алмонд)
Тесты на гетероскедастичность
-
Тест White
Например, рассматривается регрессия: .
-
Применяем обобщенный метод наименьших квадратов.
-
Оцениваем вспомогательную регрессию:
.
Получаем вектор коэффициентов .
-
Оцениваем гипотезу . Можно использовать статистику Фишера. Лучше использовать асимптотически правильный тест. Вайт предложил следующий:
,
где q – количество регрессоров (в нашем примере 5). Плюсом этого теста является то, что он очень общий. А отрицательная сторона в том, что его мощность ниже, чем у других. Следовательно можно пропустить гетероскедастичность.
-
Тест Годфельд-Куандта
Здесь тестируется альтернативная гипотеза . Т.е. дисперсия растет с ростом регрессоров. Для этого все наблюдения упорядочиваются по x. Выбираем наблюдений вверх и вниз от середины. Далее эти наблюдения выбрасываются из рассмотрения. Остаются две группы наблюдений: верхняя с маленьким среднеквадратичным отклонением и нижняя с большим. Берем и вычисляем для каждой группы:
При этом известно, что ESS имеет распределение . Рассмотрим статистику:
.
Независимость достигается за счет независимости наблюдений. Здесь работает односторонняя альтернатива, если очень большое значение, то отвергаем нулевую гипотезу.
Проблемой является количество d. От этого зависит мощность теста. Эмпирически выбирают . Этот тест работает только для одной переменной.
-
Тест Бреуш –Пагана (Breush, Pagan)
В качестве альтернативной гипотезы принимается: . Для тестирования выполняются следующие этапы:
1) осуществляется регрессия обычным методом наименьших квадратов. В результате получаются оценки . Тогда можно получить оценку дисперсии: .
2) осуществляется вспомогательная регрессия . В результате получаем RSS. При выполнении нулевой гипотезы: . Здесь p – количество переменных z. Таким образом, если RSS маленькое, то принимается нулевая гипотеза. Для всех тестов нулевая гипотеза – наличие гомоскедастичности.
Другая формулировка этого же теста приводит к изменению второго этапа. Осуществляется регрессия: . При этом величина . Принятие гипотез аналогично предыдущему случаю.
Достоинство этого теста: готовый ответ при отвержении нулевой гипотезы. Недостаток – не знание формулы вспомогательной регрессии.
Автокорреляция остатков
В классической модели предикторы не случайны и определяют вид матрицы ковариаций. Рассмотрим:
Первое предположение – автокоррелированность остатков;
Второе предположение – отказ от неслучайности предикторов;
Третье предположение – предположение о дискретности модели (отказ от количественности модели;
Четвертое предположение – использование пространственны данных (панельные данные);
Далее: - отказ от линейности и по предикторам и по оцениваемым параметрам;
- оценивание модели по цензурированным выборкам.
Вернемся к классической модели:
.
k – число предикторов, включая свободный член.
- либо известна, либо оцениваема по исходным данным. Матрица X является матрицей полного ранга по столбцам. Применяя обобщенный метод наименьших квадратов, получим:
.
Далее решаем оптимизационную задачу. Получаем:
.
Тогда оценка матрицы ковариаций будет иметь вид:
.
.
Вся сложность данного метода заключается в матрице . В некоторых случаях она состоятельно оценивается.
Оценки, полученные методом наименьших квадратов остаются состоятельными, при увеличении числа наблюдений стремятся к нужным. Но эти оценки не будут эффективными, есть более предпочтительные с точки зрения точности оценивания.
Итак, рассмотрим модель:
Чаще всего такая модель имеет место во временных рядах.
Необходимо найти математичекое ожидание и матрицу ковариаций. Тогда можно перейти к обобщенной модели:
1)
.
(попарные произведения можно игнорировать в силу некоррелированности).
Следует из определения ковариации и того, что математическое ожидание равно нулю..
Тогда, , где , ,
- коэффициент корреляции. Таким образом возникает проблема оценивания параметра и его интерпретации.
2) Оценивание параметров модели.
Опишем процедуру Кохрейна-Оркатта. Она является итерационной.
Первым приближением являются оценки, получаемый методом наименьших квадратов . Далее строим первое приближение для невязок: . Исходя из это приближения оцениваем . . Отсюда получаем оценки для в явном виде . Строим матрицу ковариаций . Далее строим оценки обобщенного метода наименьших квадратов .
Далее строим следующее приближение: , и далее повторяем все шаги до достижения нужной точности. Этот метод требует правило останова.
Сходимость метода можно посмотреть в учебнике Айвазяна.
На выходе получим следующий набор параметров:
,
,
.
3) Оценки по методу Neway-West.
Рассматриваются оценки метода наименьших квадратов. Необходимо оценить матрицу ковариаций. Делаются следующие два допущения:
-
Гомоскедастичность не требуется, т.е. , т.е. дисперсия не обязательна постоянна.
-
при всех , а при ковариации равны 0. В нашем случае это условие выполняется.
,
- оценки по методу наименьших квадратов.
В данной формуле проблемным является нахождение весов. Существует несколько методов. Например, метод Барлета: