58. Способы корректировки автокорреляции: алгоритм метода Хилдрета-Лу

Пусть исходное уравнение регрессии    содержит автокорреляцию случайных членов.

Допустим, что автокорреляция подчиняется автокорреляционной схеме первого порядка:  , где   - коэффициент автокорреляции, а   - случайный член, удовлетворяющий предпосылкам МНК.

Данная схема оказывается авторегрессионой, поскольку   определяется значениями этой же величины с запаздыванием, и схемой первого порядка, потому что в этом случае запаздывание равно единице.

Величина   есть коэффициент корреляции между двумя соседними ошибками. Пусть   известно. Преобразуем исходное уравнение регрессии следующим образом:

.

Обозначим:  .

Это преобразование переменных называется авторегрессионым (AR), или преобразованием Бокса-Дженкинса.

Тогда преобразованное уравнение  , где  ,  , не содержит автокорреляцию, и для оценки его параметров   используется обычный МНК.

Способ вычисления   и   приводит к потере первого наблюдения. Эта проблема при малых выборках обычно преодолевается с помощью поправки Прайса-Винстена:

Оценка коэффициента   из этой зависимости непосредственно используется и для исходного уравнения, а коэффициент рассчитывается по формуле:  .

На практике величина   неизвестна, ее оценка получается одновременно с оценками   в результате следующих итеративных процедур.

Процедура Хильдрата-Лу. Эта процедура, также широко применяема в регрессионных пакетах, основана на тех же самых принципах, но использует другой алгоритм вычислений:

1.   Преобразованное уравнение оценивают для каждого значения   из интервала (-1;1) с заданным шагом внутри его;

2.   Выбирают значение  , для которого сумма квадратов остатков в преобразованном уравнении минимальна, а коэффициенты регрессии определяются при оценивании преобразованного уравнения с использованием этого значения.

59. Способы корректировки автокорреляции: поправка Прайса-Уинстона в авторегрессионной схеме первого порядка

В связи с тем, что наличие в модели регрессии автокорреляции между остатками модели может привести к негативным результатам всего процесса оценивания неизвестных коэффициентов модели, автокорреляция остатков должна быть устранена.

Устранить автокорреляцию остатков модели регрессии можно с помощью включения в модель автокорреляционного параметра, однако на практике данный подход реализовать весьма затруднительно, потому что оценка коэффициента автокорреляции является величиной заранее неизвестной.

Авторегрессионной схемой первого порядка называется метод устранения автокорреляции первого порядка между соседними членами остаточного ряда в линейных моделях регрессии либо моделях регрессии, которые можно привести к линейному виду.

На практике применение авторегрессионной схемы первого порядка требует априорного знания величины коэффициента автокорреляции. Однако в связи с тем, что величина данного коэффициента заранее неизвестна, в качестве его оценки рассчитывается выборочный коэффициент остатков первого порядка.

Выборочный коэффициент остатков первого порядка рассчитывается по формуле:

В общем случае коэффициент автокорреляции порядка l рассчитывается по формуле:

где l – временной лаг;

T – число наблюдений;

t – момент времени, в который осуществлялось наблюдение;

– среднее значение исходного временного ряда.

Предположим, что на основе собранных наблюдений была построена линейная парная модель регрессии:

yt=

Рассмотрим применение авторегрессионной схемы первого порядка на примере данной модели.

Исходная линейная модель парной регрессии с учётом процесса автокорреляции остатков первого порядка в момент времени t может быть представлена в виде:

yt=.

где – коэффициент автокорреляции, |<1;

– независимые, одинаково распределённые случайные величины с нулевым математическим ожиданием и дисперсией G2(

Модель регрессии в момент времени (t-1) может быть представлена виде:

yt-1=

Если модель регрессии в момент времени (t-1) умножить на величину коэффициента автокорреляции и вычесть её из исходной модели регрессии в момент времени t, то в результате мы получим преобразованную модель регрессии, учитывающую процесс автокорреляции первого порядка:

Для более наглядного представления преобразованной модели воспользуемся методом замен:

Yt=yt

Xt=xt

Zt=1.

В результате преобразованная модель регрессии примет вид:

Yt= Zt* 

ли устранённой.

Авторегрессионную схему первого порядка можно применить ко всем строкам матрицы данных Х, кроме первого наблюдения. Однако если не вычислять Y1 и X1, то подобная потеря в небольшой выборке может привести к неэффективности оценок коэффициентов преобразованной модели регрессии. Данная проблема решается с помощью поправки Прайса-Уинстена. Введём следующие обозначения:

Тогда оценки неизвестных коэффициентов преобразованной модели регрессии (4) можно рассчитать с помощью классического метода наименьших квадратов:

Оценки коэффициентов исходной модели регрессии (1) определяются по формулам:

В результате оцененная модель регрессии будет иметь вид: