4.3. Регрессионные модели с автокоррелированными остатками

4.3.1.Общая схема мнк в случае автокорреляции первого порядка

Чаще других при построении прогнозных моделей регрессии используются данные, представляющие собой временные ряды. В случае временных рядов нарушение условия 3b) состоит в том, что случайные остатки коррелируют между собой и, следовательно, матрица становится недиагональной. Поэтому рассмотренный выше метод взвешенных наименьших квадратов к данной ситуации не применим, т.е. возникает необходимость в применении другого варианта обобщенной схемы МНК, отличного от случая гетероскедастичности. Начнем с рассмотрения простейшего случая, когда зависимость между остатками , выражается автокорреляцией первого порядка, т.е.

, (4.92)

где , а – случайная величина, удовлетворяющая условиям классической регрессии

, . (4.93)

Кроме того, будем считать, что соотношение (4.92) справедливо для любого t ().

Учитывая свойства случайной составляющей , описываемые соотношениями (4.93), вычислим основные ее числовые характеристики и . Для этого представим случайную величину в виде бесконечного ряда

. (4.94)

Используя полученное представление и свойство (4.93), получаем

, (4.95)

. (4.96)

При вычислении дисперсии было учтено, что между собой независимы и поэтому математические ожидания произведений при равны 0.

Чтобы вычислить ковариационную матрицу, вычислим произведение при произвольном , используя формулу (3.4). Для этого предварительно первый сомножитель представим в виде двух слагаемых.

. (4.97)

Произведение первого слагаемого и второго сомножителя равно 0 в силу того, что , т.е.

. (4.98)

Таким образом, если снова учесть, что независимы, то ковариация между и будет равна

, (4.99)

где дисперсия определяется соотношением (4.96).

Мы получили представление о структуре ковариационной матрицы случайной составляющей модели с автокоррелированными остатками. Выражение (4.96) задает ее диагональные элементы, а (4.98) – внедиагональные элементы ковариационной матрицы.

Обобщая проведенные исследования, можно записать условия, в которых строится регрессионная модель с автокоррелированными остатками:

1. Спецификация .

2. – детерминированная матрица с рангом .

3а. . 3b. .

Для удобства изложения материала введем обозначение

. (4.100)

Матрица симметрична и положительно определена (, -произвольный ненулевой вектор). Так как по определению коэффициент корреляции между остатками равен

, (4.101)

то можно сделать вывод о том, что в линейной модели с автокоррелированными остатками в такой математической форме реализована идея ослабления корреляционной связи между регрессионными остатками по мере их взаимного удаления во времени.

Так как в дальнейшем потребуется , то приведем ее общий вид

. (4.102)

Зная обратную матрицу (4.102), можно записать, используя схему обобщенного МНК, формулу для вычисления оптимальных оценок в классе несмещенных в следующем виде:

. (4.103)

Так как по условию симметрична и положительно определена, то и также симметрична и положительно определена. Следовательно, ее можно представить как

, (4.104)

где – диагональная матрица, на главной диагонали которой стоят собственные значения матрицы , а – ортогональная матрица, столбцы которой представляют собой собственные вектора , т.е. .

Поскольку положительно определенная матрица, ее собственные числа положительные и, следовательно, можно определить дробную степень в виде

, (4.105)

где – диагональная матрица с элементами по главной диагонали.

Введение дробной степени позволяет представить матрицу в виде произведения двух матриц

. (4.106)

Такое представление позволяет записать формулу обобщенного МНК в виде:

, (4.107)

где , .

Для рассматриваемого случая матрица может быть записана следующим образом:

. (4.108)

Преобразование данных с помощью этой матрицы приводит к следующим результатам:

; (4.109)

. (4.110)

Таким образом, если известно, что между остатками наблюдается автокорреляция и известен параметр , то после преобразования данных в соответствии с (4.109), (4.110) для оценки параметров регрессии можно применить обычный МНК, который, по сути, является частным случаем обобщенной схемы МНК.

Следовательно, чтобы принять решение о методе построения регрессионного уравнения по данным временных рядов, необходимо сначала установить наличие автокорреляции в остатках, а затем получить оценку параметра .