Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Диплом / suslov_ibragimov_ekonometrika

.pdf
Скачиваний:
42
Добавлен:
24.03.2015
Размер:
5.55 Mб
Скачать

462

 

 

 

Глава14.Линейные стохастические модели

ARIMA

По формуле(14.4),с одной стороны,

 

 

 

 

 

 

 

 

 

 

 

22

 

p(f ) = px(f ) = pη (f )21 − ϕ1e−i2πf − ϕ2e−i4πf − . . . − ϕp e−i2pπf

,

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

а с другой стороны,для процесса скользящего среднего

t } выполняется

η

 

 

 

 

 

 

 

ε2

 

 

 

 

 

 

 

 

 

 

 

p (f ) =

 

 

 

.

 

 

21 − θ1e−i2πf

− θ2e−i4πf − . . . − θq e−i2qπf 22

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

Таким образом,получаем

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

p(f ) = 2σε2

 

21 − θ1e−i2πf − θ2e−i4πf − . . . − θq e−i2qπf

2 .

 

 

(14.51)

 

 

21

 

 

 

 

 

 

 

 

 

 

 

 

2

2

 

 

 

 

 

 

 

ϕ1e

 

 

ϕ2e

 

 

. . .

 

ϕp e

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

2

2

 

 

i2πf

 

 

i4πf

 

 

 

 

 

i2pπf2

2

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

Представление процессаARMAв видеMA( )

и функция реакции на импульсы

Так же,как и в случае авторегрессии,стационарный процесс ARMA можно записать в виде модели линейного фильтра,или,другими словами,скользящего среднего бесконечного порядка MA(∞):

x

=

θ(L)

ε

= ε + ψ ε

+ ψ ε

+ . . . =

ψ ε

= ψ(L)ε , (14.52)

 

t

 

ϕ(L) t

t

1 t−1

2 t−2

 

!i

t

 

 

i t−i

 

 

 

 

 

 

 

 

=0

 

где ψ0

= 1.

 

 

 

 

 

 

 

Коэффициенты ψi

представляют собой функцию реакции на импульсы для

процесса ARMA,т.е. ψi является количественным измерителем того,как небольшое изменение(ÇимпульсÈ)в εt влияет на x через i периодов,т.е.на xt+i ,что можно символически записать как

ψi = dxt+i .

t

Один из способов вычисления функции реакции на импульсы сводится к использованию уравнения

ϕ(z)ψ(z) = θ(z),

или

(1 − ϕ1z − ϕ2z2 − . . . − ϕp zp )(1 + ψ1z + ψ2z2 + . . . ) = (1 − θ1z − . . . − θq zq ),

14.6.Модель ARIMA

463

из которого,приравнивая коэффициенты в левой и правой частях при одинаковых степенях z,можно получить выражения для ψi .

Более простой способ состоит в том,чтобы продифференцировать по εt урав-

нение ARMA-процесса,сдвинутое на

i

периодов вперед,

 

 

 

p

 

 

 

 

 

q

 

xt+i =

!

ϕj xt+i−j + εt+i

j!

 

 

θj εt+i−j ,

 

 

 

j =1

 

 

 

 

 

=1

 

 

 

p

 

 

 

 

 

 

 

dxt+i

=

j!

ϕj

dxt+i−j

− θi,

 

 

 

 

 

t

=1

 

t

 

 

 

 

 

 

 

 

 

 

 

где θ0 = −1 и θj = 0 при j > q.Таким образом,получим рекуррентную формулу

для ψi = dxt+i /dεt :

ψi = !p ϕj ψi−j − θi. j =1

При расчетах по этой формуле следует положить ψ0 = 1 и ψi = 0 при i < 0.

ЕслипроцессARMA являетсяобратимым5,тополученноепредставлениеввиде MA(∞) является разложением Вольда этого процесса.

14.6.Модель авторегрессииÑ проинтегрированного скользящего среднегоARIMA

Характерной особенностью стационарных процессов типа ARMA(p, q) является то,что корни λi характеристического уравнения ϕ(L) = 0 находятся вне единичного круга.Если один или несколько корней лежат на единичной окружности или внутри нее,то процесс нестационарен.

Теоретически можно предложить много различных типов нестационарных моделей ARMA(p, q),однако,как показывает практика,наиболее распространеннымтипомнестационарныхстохастическихпроцессовявляютсяинтегрированные процессы или,как их еще называют, процессы с единичным корнем.Единичным называют корень характеристического уравнения,равный действительной единице: λi = 1.

5Разложение Вольда необратимого процесса,у которого некоторые корни характеристического уравненияпомодулюбольшеединицы,такоеже,ка куэквивалентногообратимогопроцесса.Ошибки однопериодных прогнозов,лежащие в основе разложения Вольда,при этом не будут совпадать с ошибками модели εt .

464

Глава14.Линейные стохастические модели

ARIMA

 

 

4*&4,/

 

 

 

1

3,2')

 

 

 

 

 

 

 

 

"!12'$&'!()*,/

 

 

–1

 

3,2')

 

 

 

1

 

 

 

–1

 

 

 

 

 

 

 

Рис. 14.5.Корни характеристического уравнения процесса

 

 

xt = 2.8xt−1 − 3.1xt−2 + 1.7xt−3 − 0.4xt−4 + εt + 0.5εt−1 − 0.4εt−2

 

 

 

на комплексной плоскости

 

Рассмотрим в качестве примера следующий процесс ARMA(4, 2):

 

xt = 2.8xt−1 − 3.1xt−2 + 1.7xt−3 − 0.4xt−4 + εt + 0.5εt−1 − 0.4εt−2.

(14.53)

Характеристическое уравнение этого процесса имеет следующие корни: λ1 = 1 + + i, λ2 = 1 − i, λ3 = 1.25, λ4 = 1.Все корни лежат за пределами единичного круга,кроме последнего,который является единичным.Эти корни изображены на рисунке14.5.

Оператор авторегрессии этого процесса можно представить в следующемвиде:

1 − 2.8L + 3.1L2 − 1.7L3 + 0.4L4 = (1 − 1.8L + 1.3L2 − 0.4L3)(1 − L) =

= (1 − 1.8L + 1.3L2 − 0.4L3) ,

где = 1 − L Ñоператор первой разности.

Введем обозначение wt = xt = xt − xt−1.Полученный процесс {wt } является стационарным процессом ARMA(3, 2),задаваемым уравнением:

wt = 1.8wt−1 − 1.3wt−2 + 0.4wt−3 + εt + 0.5εt−1 − 0.4εt−2.

(14.54)

В общем случае,если характер истическое уравнение процесса ARMA(p + d, q) содержит d единичных корней,а все остальные корни по модулю больше единицы, то d-я разность этого временного ряда

wt = d xt = ϕ(L)(1 − L)d xt

 

может быть представлена как стационарный процесс ARMA(p, q):

 

ϕ(L) d xt = θ(L)εt или ϕ(L)wt = θ(L)εt .

(14.55)

14.6.Модель ARIMA

465

В развернутой форме модель14.55выглядит как

 

wt = ϕ1wt−1 + ϕ2wt−2 + . . . + ϕp wt−p +

(14.56)

+ εt − θ1εt−1 − θ2εt−2 − . . . − θq εt−q .

 

Из-за практического значения такую разновидность моделей ARMA выделяют в отдельный класс моделей авторегрессииÑпроинтегрированного скользяще-

го среднего и обозначают ARIMA(p, d, q).При d = 0 модель описывает стационарный процесс.Как и исходную модель ARMA,модель ARIMA также называют моделью БоксаÑДженкинса.

Обозначив f(L) = θ(L)(1 − L)d ,представим процесс ARMA(p + d, q) в виде:

f(L)xt = θ(L)εt .

f(L) называютобобщенным(нестационарным)операторомавторегрессии,таким, что d корнейхарактеристическогоуравнения f(z) = 0 равныединице,аостальные по модулю больше единицы.Такой процесс можно записать в виде модели ARIMA

ϕ(L)(1 − L)d xt = θ(L)εt .

(14.57)

Ряд {xt } называютинтегрированным,посколькуонявляется результатомприменениякстационарномуряду {wt } операциикумулятивной(накопленной)суммы d раз.Так,если d = 1,то для t > 0

xt = !t wi + x0.

i=1

Этим объясняется название процесса авторегрессииÑпроинтегрированного скользящего среднего ARIMA(p, d, q).

Этот факт можно символически записать как

xt = Sdwt ,

где S = −1 = (1 − L)−1 Ñоператор суммирования,обратный к оператору разности.Следует понимать,однако,что оператор S не определен однозначно, поскольку включает некоторую константу суммирования.

Простейшим процессом с единичным корнем является случайное блуждание:

xt = Sεt ,

где εt Ñбелый шум.

466

Глава14.Линейные стохастические модели ARIMA

14.7.Оценивание,распознавание и диагностика модели БоксаÑДженкинса

Для практического моделирования с использованием модели БоксаÑДженкинса требуется выбрать порядок модели(значения p, q и d),оценить ее параметры,а затем убедиться,правильно ли была выбрана модель и не нарушаются ли какие-либо предположения,лежащие в ее основе.

Заметим,что один и тот же процесс может быть описан разными моделями ARMA (14.41).Во-первых,неоднозначна компонента скользящего среднего θ(L)εt ,о чем говорилось выше.Из разных возможных представлений MA здесь следует предпочесть обратимое.Во-втор ых,характеристические многочлены авторегрессии и скользящего среднего могут содержать общие корни.Пусть ϕ(z) и θ(z) содержат общий корень λ.Тогда характеристические многочлены можно представить в виде ϕ(z) = (1 − z/λ)ϕ (z) и θ(z) = (1 − z/λ)θ (z).Соответственно,один и тот же процесс можно записать как

ϕ(L)xt = θ(L)εt

или как

ϕ (L)xt = θ (L)εt .

Ясно,что вторая запись предпочтительнее, поскольку содержит меньше параметров.Указанные неоднозначности могут создавать проблемы при оценивании.

Прежде,чем рассмотреть оценивание,укажем,что уравнение(14.41)задает модель в довольно ограничительной форме.А именно,стационарный процесс,заданный уравнением(14.41),должен иметь нулевое математическое ожидание.Для того чтобы сделать математическое ожидание ненулевым,можно ввести в модель константу:

xt = µ + ϕ1xt−1 + . . . + ϕp xt−p + εt − θ1εt−1 − − θq εt−q .. . .

 

Если процесс {xt } стационарен,то

 

µ

 

 

E(xt ) =

 

.

 

1 − ϕ1 −ááá− ϕp

 

Альтернативно можно задать xt как

 

xt = β + wt ,

(14.58)

где ошибка {wt } является стационарным процессом ARMA:

 

wt = ϕ1wt−1 + . . . + ϕp wt−p + εt − θ1εt−1 − − θq εt−q .. . .

(14.59)

14.7Оценивание,распознавание и диагностика модели ARIMA

467

При этом E(xt ) = β.Ясно,что для стационарных процессов два подхода являются эквивалентными.

Последнюю модель можно развить,рассматривая регрессию

xt = Ztα + wt ,

 

(14.60)

с ошибкой wt в виде процесса(14.59).В этой регрессии

Zt

не должны быть

коррелированы с процессом wt и его лагами.Составляющая

Zt

может включать

детерминированные тренды,сезонные переменные,фиктивные переменные для выбросов и т.п.

Метод моментов для оценивания параметров модели БоксаÑДженкинса

Опишем в общих чертах процедуру оценивания ARIMA(p, d, q).Предположим, что имеется ряд x1, . . . , xT ,по которому требуется оценить параметры процесса.Оценке подлежат три типа параметров:параметры детерминированной части модели(такие как β,α ,о которых речь шла выше),авторегрессионные параметры ϕ и параметры скользящего среднего θ.При оценивании предполагается,что порядок разности d,порядок авторегрессии p и порядок скользящего среднего q заданы.

Если ряд {xt } описывается моделью(14.58) (которая предполагает d = 0), то параметр β этой модели можно оценить с помощью среднего xø,а далее действовать так,как если бы процесс сразу з адавался моделью(14.59).В качестве wt рассматриваются центрированные значения,полученные какотклонения исходных уровней временного ряда от их среднего значения: wt = xt − xø.

Если ряд {xt } описывается более общей моделью(14.60),которая тоже предполагает d = 0,то можно оценить параметры α с помощью обычного МНК, который дает здесь состоятельные,но не эффективные оценки a.Далее можно взять wt = xt − Zta и действовать так,как если бы процесс задавался моделью

(14.59).

При d > 0 от ряда xt следует взять d-е разности: wt = d xt .Мы не будем рассматривать оценивание детерминированной составляющей в случае d > 0. Заметим только,что исходный ряд не нужно центрировать,поскольку уже первые разности исходных уровней ряда совпадают с первыми разностями центрированного ряда.Имеет смысл центрировать d-е разности d xt .

Проведя предварительное преобразование ряда,мы сведем задачу к оцениванию стационарной модели ARMA (14.59),где моделируемая переменная wt имеет нулевое математическое ожидание.Получив ряд w1, . . . , wT (при d > 0 ряд будет

468

Глава14.Линейные стохастические модели ARIMA

на d элементов короче),можно приступить к оцениванию параметров авторегрессии и скользящего среднего.

Выше мы рассмотрели,как можно оцен ивать авторегрессии на основе уравнений ЮлаÑУокера(14.21).Прямое использование этого метода для модели ARMA(p, q) при q > 0 невозможно,посколькувсоответствующиеуравнениябудут входитькросс-ковариациимеждуизучаемымпроцессомиошибкой(см.14.42).Од- накоможноизбавитьсяотвлиянияэлементовскользящегосреднего,еслисдвинуть уравнения на q значений вперед.Тогда уравнения для автокорреляций будут иметь вид(14.43).При k = q + 1, . . . , q + p получим следующую систему(т.е.используем здесь тот же подход,что и раньше:умножаем(14.59)на wt−q−1, . . . , wt−q−p и переходим к математическому ожиданию):

γq+1

γq+2

γq+p

= ϕ1γq + ϕ2γq−1 + . . . + ϕp γq−p+1,

 

= ϕ1γq+1 + ϕ2γq + . . . + ϕp γq−p+2,

(14.61)

ááá

 

= ϕ1γq+p−1 + ϕ2γq+p−2 + . . . + ϕp γq .

В итоге имеем систему,состоящую из p уравнений относительно p неизвестных параметров ϕj .Решение этих уравнений,в которых вместо γk берутся эмпирические значения автоковариаций ck для последовательности значений {wt },т.е.

1 !T

ck = T t=k+1 wt wt−k ,

дает нам оценки параметров ϕ1, . . . ,ϕ p 6.

С помощью оценок авторегрессионных параметров можно,с учетом(14.59) построить новый временной ряд ηp+1, . . . ,η T :

ηt = wt − ϕ1wt−1 − . . . − ϕp wt−p ,

и для него рассчитать первые q выборочных автокорреляций r1η , . . . , rqη .Полученные автокорреляции используются при расчете начальных оценок параметров скользящего среднего θ1, . . . ,θ q .

6На данный метод получения оценок параметров авторегрессии можно смотреть как на применение метода инструментальных переменных к уравнению регрессии:

wt = ϕ1wt−1 + . . . + ϕpwt−p + ηt,

где ошибка ηt является MA(q ) и поэтому коррелирована с лагами wt только вплоть до q -го. В качестве инструментов здесь используются лаги wt−q−1, . . . , wt−q−p .

14.7Оценивание,распознавание и диагностика модели ARIMA

469

Действительно, {ηt } фактически представляет собой процесс скользящего

среднего:

 

ηt = εt − θ1εt−1 −ááá− θq εt−q ,

(14.62)

для которого,какмызнаем,первые q автокорреляциймогут бытьвыраженычерез параметры модели(см. (14.36)):

ρkη =

−θk + θ1θk+1 + θ2θk+2 + . . . + θq−k θq

, k = 1, . . . , q.

 

1 + θ2

+ θ2

+ . . . + θ2

 

 

1

2

q

 

Заменив в этих выражениях ρηk на rkη ,решаем полученную систему q нелинейных уравнений относительно q неизвестных параметров θ и получаем их оценки.

Посколькусистемауравненийнелинейная,томогутвозникнутьнекоторыепроблемы с ее решением.Во-первых,систем а может не иметь решений.Во-вторых, решение может быть не единственным.

Рассмотрим в качестве примера случай q = 1.При этом имеем одно уравнение с одним неизвестным:

rη =

−θ1

.

1

1 + θ2

 

 

1

 

Максимальноепомодулюзначениеправойчасти 1 2 достигаетсяпри θ1 = ±1.Ес-

ли

η

| >

1

2

,

то уравнение не имеет действительного решения7

.Если

η

| <

1

2

,

 

|r1

 

 

 

 

"

 

 

 

|r1

 

 

то оценку

θ"1

получим,решая квадратное уравнение.А оно будет иметь два корня:

 

 

 

 

 

 

−1 ± G

 

 

 

 

 

 

 

 

"

 

 

 

 

 

 

 

θ1 =

1 −

4(r1η )2

.

 

 

 

 

 

 

 

 

 

 

 

 

 

η

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2r1

 

 

 

 

 

 

 

 

 

Один из корней по модулю больше единицы,а другой меньше,т.е.один соответствует обратимому процессу,а другойÑнеобратимому.

Такимобразом,изнескольких решенийданных уравнений следуетвыбиратьтакие,которые соответствуют обратимому процессу скользящего среднего.Для этого,если некоторые из корнейхарактеристического уравнения скользящегосреднего по модулю окажутся больше единицы, то их следует обратить и получить коэффициенты,которые уже будут соответствовать обратимому процессу(см. 14.40).

Для q > 1 следует применить какую-либо итеративную процедуру решения нелинейных уравнений8.

7Еслирешения несуществует,тоэто можетбыть признакомтого,чтопорядок разности d выбран неверно или порядок авторегрессии p выбран слишком низким.

8Например,метод Ньютона,состоящий в линеаризации нелинейных уравнений в точке текущих приближенных параметров(т.е.разложение в ряд Тейлора до линейных членов).

470

Глава14.Линейные стохастические модели ARIMA

Описанный здесь метод моментов дает состоятельные,но не эффективные (не самые точные)оценки параметров.Существует ряд методов,позволяющих повысить эффективность оценок.

Методы уточнения оценок

Система(14.61)при q > 1 основана на уравнениях для автоковариаций,которые сдвинуты на q.Поскольку более дальние в ыборочные автоковариации вычисляются не очень точно,то это приводит к не очень точным оценкам параметров авторегрессии.Чтобы повысит ь точность,можно предложить следующий метод.

С помощью вычисленных оценок θ1, . . . ,θ q ,на основе соотношения(14.62), находим последовательность значений {εt } по рекуррентной формуле:

εt = ηt + θ1εt−1 + . . . + θq εt−q .

В качестве εt−j при t ! j берем математическое ожидание ряда E(εt ) = 0.

Получив с помощью предварительных оценок ϕ и θ последовательность значений {εt } и имея в наличии ряд {wt },методом наименьших квадратов находим уточненные оценки параметров модели(14.59),рассматривая εt в этом уравнении как ошибку.

Можно также получить уточненные оценки параметров детерминированной компоненты α в модели(14.60).Для этого можно использовать обобщенный метод наименьших квадратов(см.гл. 8),основанный на оценке ковариационной матрицыошибок wt ,которуюможно получить,имея некоторыесостоятельные оценки параметров процесса ARMA.

Автоковариационную матрицу процесса ARMA можно представить в виде " = σε2Ω.Оценку матрицы Ω можно получить,имея оценки параметров авторегрессии и скользящего среднего(см. выше вывод автоковариационной функции процесса ARMA).Имея оценку Ω,воспользуемся обобщенным МНК для оценивания параметров регрессии:

aОМНК = (Z !Ω−1Z )−1Z !Ω−1X.

Можно использовать также автокорреляционную матрицу R:

aОМНК = (Z !R−1Z )−1Z !R−1X.

ВкачествепримераприведемрегрессиюспроцессомAR(1) вошибке.Матрица автокорреляцийдля стационарного процесса AR(1),соответствующего последова-

14.7Оценивание,распознавание и диагностика модели ARIMA

471

тельности значений w1, . . . , wT ,имеет вид:

 

 

 

 

 

 

 

1

 

ϕ

 

ϕ2

 

ááá

ϕT −1

 

 

 

 

 

 

 

 

 

 

ϕ

 

1

 

ϕ

 

ááá

ϕT −2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

R =

 

2

 

ϕ

 

1

 

 

 

T

3

.

 

 

 

 

 

 

 

 

 

ϕ

 

 

 

ááá

ϕ

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

.

 

.

 

.

 

.

..

.

 

 

 

 

 

 

 

 

 

 

..

 

..

 

..

 

 

..

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ϕ

ϕ

 

 

 

1

 

 

 

 

 

 

 

 

 

 

ϕ

 

 

ááá

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

T 1

T 2

 

T 3

 

 

 

 

 

 

 

 

 

Несложно убедиться,что обратная к

R матрица имеет вид:

 

 

 

 

 

 

1

 

−ϕ

 

0

ááá

 

0

 

 

0

 

 

 

 

 

ϕ (1 + ϕ2)

ϕ

ááá

 

0

 

 

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

 

ϕ

 

 

2

 

 

 

 

0

 

 

0

 

R

1

=

 

 

(1 + ϕ )

ááá

 

 

 

 

 

 

 

 

 

 

 

.

 

.

 

 

.

.

 

 

 

.

 

.

 

.

..

 

 

 

 

 

 

 

..

 

..

 

..

 

 

..

 

 

..

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

0

 

0

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

(1 + ϕ ) ϕ

 

 

 

 

 

 

 

 

 

 

 

 

ááá

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

0

 

0

 

 

 

 

ϕ

 

1

 

 

 

 

 

 

 

ááá−

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Матрицу R−1

легко представить в виде произведения: R−1 = D!D, где

 

 

Z

1 − ϕ2

 

 

 

ϕ

 

 

 

 

 

 

 

 

 

D =

 

 

0

 

 

 

 

 

 

 

 

.

..

0

0

0

ááá

1

0

ááá

−ϕ

1

ááá

.

. .

.

 

.

.

.

.

.

 

 

0

0

ááá

0.

...

1

Далее можем использовать полученную матрицу D для преобразования в пространстве наблюдений:

Z = DZ, X = DX,

(14.63)

тогда полученные в преобразованной регрессии спомощью обычного МНК оценки будут оценками обобщенного МНК для исходной регрессии:

aОМНК = (Z !Z )−1Z !X .

Соседние файлы в папке Диплом