25. Взвешенный метод наименьших квадратов (вмнк). Простейшая модель гетероскедастичности случайного остатка. Практическая реализация вмнк.

Идея, заложенная в тест Голдфелда-Квандта, позволяет предложить простейшую модель случайного остатка в модели ЛММР:

- версия из лекции;

- версия из учебника (обратите внимание на разницу в числе слагаемых под знаком суммы).

В данной модели присутствуют две константы:

1. - дисперсия единицы веса (определение дано далее);

2. - показатель степени (априорно заданное число).

Параметр подбирается в итоге проведения теста Голдфелда-Квандта так, чтобы тест сигнализировал о гомоскедастичности остатка в преобразованной ЛММР (см. ниже).

Замечание Если остаток в модели гомоскедастичен, то , и const будет иметь смысл дисперсии случайного остатка.

Определение Весом случайной переменной u называется дробь, в числителе которой расположена произвольная положительная const , а в знаменателе – дисперсия случайной переменно u - :

- из лекции;

- из учебника.

Const имеет смысл дисперсии случайного остатка, вес которого равен 1. Такой остаток называют единицей веса.

Алгоритм взвешенного метода наименьших квадратов (ВМНК) состоит в предварительной трансформации ЛММР с гетероскедастичным остатком к модели с гомоскедастичным остатком, далее проверке гомоскедастичности остатка в трансформированной модели и, наконец, в применении процедуры МНК. Алгоритм базируется на свойстве:

(в лекции Бывшев просил это доказать, не знаю, стоит это делать на экзамене или нет).

Умножим поведенческое уравнение (см. ЛММР) модели на корень из веса случайного остатка ( ). В итоге получим трансформированную модель с гомоскедастичным остатком .

.

Трансформированную модель можно оценивать МНК. Соответствующие уравнения наблюдения имеют вид:

- обратите внимание, что в каждом уравнении наблюдения будет своё ( - в первом, - во втором, и так далее).

, . Процедура МНК выглядит следующим образом:

А) ,

где - квадратная диагональная матрица, по главной диагонали которой расположены веса случайных остатков в уравнениях наблюдений:

, где - вес остатка в -м уравнении наблюдений, .

B) Оценка дисперсии единицы веса (дисперсии остатка в преобразованной модели) вычисляется:

, где

, .

С) Утверждение C Т. Гаусса-Маркова принимает вид:

D) , где - оценка среднеквадратического отклонения единицы веса.

26. Обобщённый метод наименьших квадратов (ОМНК) и доступный обобщённый метод наименьших квадратов.

Базовая датированная модель эконометрики:

, где , - нумерация с 1!!! Функция регрессии - .

Предполагаем, что остаток модели является гомоскедастичным, но автокоррелированным (т.е. нарушена последняя предпосылка Т. Гаусса-Маркова).

Наиболее важной моделью автокорреляции остатка является авторегрессионная модель первого порядка AR(1):

, где - случайное возмущение с нулевым мат. ожиданием, некоторой постоянной дисперсией и попарно некоррелированными значениями. Его называют «белым шумом». Можно проверить, что датированная переменная имеет нулевое мат. ожидание, постоянную дисперсию. Соседние уровни коррелированы с коэф. корреляции .

Пусть в рамках исходной модели (ЛММР) остаток является гомоскедастичным, но автокоррелированным согласно модели AR(1), а также составлены уравнения наблюдений. Предполагаем, что справедливы 0, 1 и последняя предпосылки Т. Гаусса-Маркова.

,

, , ,

Ковариационная матрица вектора имеет общий вид:

, где - дисперсия единицы веса, матрица - симметричная, по главной диагонали которой расположены обратные веса случайных остатков.

A) При сделанных предположениях оптимальные коэффициенты:

B) Ковариационная матрица оценок коэффициентов

С) Оптимальные оценки коэффициентов обладают «замечательным =)» свойством обобщённых наименьших квадратов:

D) Несмещённая оценка дисперсии единицы веса:

- данная процедура была построена Артуром Эйткеном в 1935 году.

Доступный ОМНК (учебник, в лекциях такого не видел)

Рассмотрим следующую модель:

с автокоррелированным остатком , который интерпретируется как стационарный временной ряд ( ). Обычно в качестве стационарного временного ряда выбирают AR(1).

Обозначим (автокорреляционная функция случайного остатка ). Если данная функция известна, то она позволяет вычислить корреляционную матрицу из (которая в свою очередь позволит найти оценки всех параметров).

Функция известна в ситуации известных параметров модели (например, если , то . На практике чаще всего известна оценка , которую полагаем состоятельной для определения оценки . Далее рассчитываем оценку .

В итоге получаем процедуру доступного обобщённого метода наименьших квадратов:

(26.1),

(26.2).

Если существуют пределы:

, где матрица является невырожденной, а также

, то оценки (26.1) и (26.2) оказываются состоятельными.