diplom25 / suslov_ibragimov_ekonometrika
.pdf462 |
|
|
|
Глава14.Линейные стохастические модели |
ARIMA |
|||||||||||||||
По формуле(14.4),с одной стороны, |
|
|
|
|
|
|
|
|
|
|
|
22 |
|
|||||||
p(f ) = px(f ) = pη (f )21 − ϕ1e−i2πf − ϕ2e−i4πf − . . . − ϕp e−i2pπf |
, |
|||||||||||||||||||
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
а с другой стороны,для процесса скользящего среднего |
{ηt } выполняется |
|||||||||||||||||||
η |
|
|
|
|
|
|
|
2σε2 |
|
|
|
|
|
|
|
|
|
|
|
|
p (f ) = |
|
|
|
. |
|
|
||||||||||||||
21 − θ1e−i2πf |
− θ2e−i4πf − . . . − θq e−i2qπf 22 |
|
|
|||||||||||||||||
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
||
Таким образом,получаем |
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
||||
p(f ) = 2σε2 |
|
21 − θ1e−i2πf − θ2e−i4πf − . . . − θq e−i2qπf |
2 . |
|
|
(14.51) |
||||||||||||||
|
|
21 |
|
|
|
|
|
|
|
|
|
|
|
|
2 |
2 |
|
|
|
|
|
|
|
ϕ1e− |
|
|
ϕ2e− |
|
|
. . . |
|
ϕp e− |
|
|
|
|
|
|
|||
|
2 |
− |
|
|
− |
|
|
− |
|
− |
|
|
|
|
2 |
|
|
|
|
|
|
2 |
2 |
|
|
i2πf |
|
|
i4πf |
|
|
|
|
|
i2pπf2 |
2 |
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
Представление процессаARMAв видеMA( ∞)
и функция реакции на импульсы
Так же,как и в случае авторегрессии,стационарный процесс ARMA можно записать в виде модели линейного фильтра,или,другими словами,скользящего среднего бесконечного порядка MA(∞):
x |
= |
θ(L) |
ε |
= ε + ψ ε |
+ ψ ε |
+ . . . = |
∞ ψ ε |
= ψ(L)ε , (14.52) |
|
|
|||||||||
t |
|
ϕ(L) t |
t |
1 t−1 |
2 t−2 |
|
!i |
t |
|
|
|
i t−i |
|||||||
|
|
|
|
|
|
|
|
=0 |
|
где ψ0 |
= 1. |
|
|
|
|
|
|
|
|
Коэффициенты ψi |
представляют собой функцию реакции на импульсы для |
процесса ARMA,т.е. ψi является количественным измерителем того,как небольшое изменение(ÇимпульсÈ)в εt влияет на x через i периодов,т.е.на xt+i ,что можно символически записать как
ψi = dxt+i .
dεt
Один из способов вычисления функции реакции на импульсы сводится к использованию уравнения
ϕ(z)ψ(z) = θ(z),
или
(1 − ϕ1z − ϕ2z2 − . . . − ϕp zp )(1 + ψ1z + ψ2z2 + . . . ) = (1 − θ1z − . . . − θq zq ),
14.6.Модель ARIMA |
463 |
из которого,приравнивая коэффициенты в левой и правой частях при одинаковых степенях z,можно получить выражения для ψi .
Более простой способ состоит в том,чтобы продифференцировать по εt урав-
нение ARMA-процесса,сдвинутое на |
i |
периодов вперед, |
|||||||
|
|
|
p |
|
|
|
|
|
q |
|
xt+i = |
! |
ϕj xt+i−j + εt+i − |
j! |
|||||
|
|
θj εt+i−j , |
|||||||
|
|
|
j =1 |
|
|
|
|
|
=1 |
|
|
|
p |
|
|
|
|
|
|
|
dxt+i |
= |
j! |
ϕj |
dxt+i−j |
− θi, |
|
||
|
|
|
|||||||
|
dεt |
=1 |
|
dεt |
|
|
|||
|
|
|
|
|
|
|
|
|
где θ0 = −1 и θj = 0 при j > q.Таким образом,получим рекуррентную формулу
для ψi = dxt+i /dεt :
ψi = !p ϕj ψi−j − θi. j =1
При расчетах по этой формуле следует положить ψ0 = 1 и ψi = 0 при i < 0.
ЕслипроцессARMA являетсяобратимым5,тополученноепредставлениеввиде MA(∞) является разложением Вольда этого процесса.
14.6.Модель авторегрессииÑ проинтегрированного скользящего среднегоARIMA
Характерной особенностью стационарных процессов типа ARMA(p, q) является то,что корни λi характеристического уравнения ϕ(L) = 0 находятся вне единичного круга.Если один или несколько корней лежат на единичной окружности или внутри нее,то процесс нестационарен.
Теоретически можно предложить много различных типов нестационарных моделей ARMA(p, q),однако,как показывает практика,наиболее распространеннымтипомнестационарныхстохастическихпроцессовявляютсяинтегрированные процессы или,как их еще называют, процессы с единичным корнем.Единичным называют корень характеристического уравнения,равный действительной единице: λi = 1.
5Разложение Вольда необратимого процесса,у которого некоторые корни характеристического уравненияпомодулюбольшеединицы,такоеже,ка куэквивалентногообратимогопроцесса.Ошибки однопериодных прогнозов,лежащие в основе разложения Вольда,при этом не будут совпадать с ошибками модели εt .
464 |
Глава14.Линейные стохастические модели |
ARIMA |
||
|
|
4*&4,/ |
|
|
|
|
1 |
3,2') |
|
|
|
|
|
|
|
|
|
"!12'$&'!()*,/ |
|
|
–1 |
|
3,2') |
|
|
|
1 |
|
|
|
|
–1 |
|
|
|
|
|
|
|
|
Рис. 14.5.Корни характеристического уравнения процесса |
|
||
|
xt = 2.8xt−1 − 3.1xt−2 + 1.7xt−3 − 0.4xt−4 + εt + 0.5εt−1 − 0.4εt−2 |
|
||
|
|
на комплексной плоскости |
|
|
Рассмотрим в качестве примера следующий процесс ARMA(4, 2): |
|
|||
xt = 2.8xt−1 − 3.1xt−2 + 1.7xt−3 − 0.4xt−4 + εt + 0.5εt−1 − 0.4εt−2. |
(14.53) |
Характеристическое уравнение этого процесса имеет следующие корни: λ1 = 1 + + i, λ2 = 1 − i, λ3 = 1.25, λ4 = 1.Все корни лежат за пределами единичного круга,кроме последнего,который является единичным.Эти корни изображены на рисунке14.5.
Оператор авторегрессии этого процесса можно представить в следующемвиде:
1 − 2.8L + 3.1L2 − 1.7L3 + 0.4L4 = (1 − 1.8L + 1.3L2 − 0.4L3)(1 − L) =
= (1 − 1.8L + 1.3L2 − 0.4L3) ,
где = 1 − L Ñоператор первой разности.
Введем обозначение wt = xt = xt − xt−1.Полученный процесс {wt } является стационарным процессом ARMA(3, 2),задаваемым уравнением:
wt = 1.8wt−1 − 1.3wt−2 + 0.4wt−3 + εt + 0.5εt−1 − 0.4εt−2. |
(14.54) |
В общем случае,если характер истическое уравнение процесса ARMA(p + d, q) содержит d единичных корней,а все остальные корни по модулю больше единицы, то d-я разность этого временного ряда
wt = d xt = ϕ(L)(1 − L)d xt |
|
может быть представлена как стационарный процесс ARMA(p, q): |
|
ϕ(L) d xt = θ(L)εt или ϕ(L)wt = θ(L)εt . |
(14.55) |
14.6.Модель ARIMA |
465 |
В развернутой форме модель14.55выглядит как |
|
wt = ϕ1wt−1 + ϕ2wt−2 + . . . + ϕp wt−p + |
(14.56) |
+ εt − θ1εt−1 − θ2εt−2 − . . . − θq εt−q . |
|
Из-за практического значения такую разновидность моделей ARMA выделяют в отдельный класс моделей авторегрессииÑпроинтегрированного скользяще-
го среднего и обозначают ARIMA(p, d, q).При d = 0 модель описывает стационарный процесс.Как и исходную модель ARMA,модель ARIMA также называют моделью БоксаÑДженкинса.
Обозначив f(L) = θ(L)(1 − L)d ,представим процесс ARMA(p + d, q) в виде:
f(L)xt = θ(L)εt .
f(L) называютобобщенным(нестационарным)операторомавторегрессии,таким, что d корнейхарактеристическогоуравнения f(z) = 0 равныединице,аостальные по модулю больше единицы.Такой процесс можно записать в виде модели ARIMA
ϕ(L)(1 − L)d xt = θ(L)εt . |
(14.57) |
Ряд {xt } называютинтегрированным,посколькуонявляется результатомприменениякстационарномуряду {wt } операциикумулятивной(накопленной)суммы d раз.Так,если d = 1,то для t > 0
xt = !t wi + x0.
i=1
Этим объясняется название процесса авторегрессииÑпроинтегрированного скользящего среднего ARIMA(p, d, q).
Этот факт можно символически записать как
xt = Sdwt ,
где S = −1 = (1 − L)−1 Ñоператор суммирования,обратный к оператору разности.Следует понимать,однако,что оператор S не определен однозначно, поскольку включает некоторую константу суммирования.
Простейшим процессом с единичным корнем является случайное блуждание:
xt = Sεt ,
где εt Ñбелый шум.
466 |
Глава14.Линейные стохастические модели ARIMA |
14.7.Оценивание,распознавание и диагностика модели БоксаÑДженкинса
Для практического моделирования с использованием модели БоксаÑДженкинса требуется выбрать порядок модели(значения p, q и d),оценить ее параметры,а затем убедиться,правильно ли была выбрана модель и не нарушаются ли какие-либо предположения,лежащие в ее основе.
Заметим,что один и тот же процесс может быть описан разными моделями ARMA (14.41).Во-первых,неоднозначна компонента скользящего среднего θ(L)εt ,о чем говорилось выше.Из разных возможных представлений MA здесь следует предпочесть обратимое.Во-втор ых,характеристические многочлены авторегрессии и скользящего среднего могут содержать общие корни.Пусть ϕ(z) и θ(z) содержат общий корень λ.Тогда характеристические многочлены можно представить в виде ϕ(z) = (1 − z/λ)ϕ (z) и θ(z) = (1 − z/λ)θ (z).Соответственно,один и тот же процесс можно записать как
ϕ(L)xt = θ(L)εt
или как
ϕ (L)xt = θ (L)εt .
Ясно,что вторая запись предпочтительнее, поскольку содержит меньше параметров.Указанные неоднозначности могут создавать проблемы при оценивании.
Прежде,чем рассмотреть оценивание,укажем,что уравнение(14.41)задает модель в довольно ограничительной форме.А именно,стационарный процесс,заданный уравнением(14.41),должен иметь нулевое математическое ожидание.Для того чтобы сделать математическое ожидание ненулевым,можно ввести в модель константу:
xt = µ + ϕ1xt−1 + . . . + ϕp xt−p + εt − θ1εt−1 − − θq εt−q .. . . |
|
||
Если процесс {xt } стационарен,то |
|
||
µ |
|
|
|
E(xt ) = |
|
. |
|
1 − ϕ1 −ááá− ϕp |
|
||
Альтернативно можно задать xt как |
|
||
xt = β + wt , |
(14.58) |
||
где ошибка {wt } является стационарным процессом ARMA: |
|
||
wt = ϕ1wt−1 + . . . + ϕp wt−p + εt − θ1εt−1 − − θq εt−q .. . . |
(14.59) |
14.7Оценивание,распознавание и диагностика модели ARIMA |
467 |
При этом E(xt ) = β.Ясно,что для стационарных процессов два подхода являются эквивалентными.
Последнюю модель можно развить,рассматривая регрессию
xt = Ztα + wt , |
|
(14.60) |
с ошибкой wt в виде процесса(14.59).В этой регрессии |
Zt |
не должны быть |
коррелированы с процессом wt и его лагами.Составляющая |
Zt |
может включать |
детерминированные тренды,сезонные переменные,фиктивные переменные для выбросов и т.п.
Метод моментов для оценивания параметров модели БоксаÑДженкинса
Опишем в общих чертах процедуру оценивания ARIMA(p, d, q).Предположим, что имеется ряд x1, . . . , xT ,по которому требуется оценить параметры процесса.Оценке подлежат три типа параметров:параметры детерминированной части модели(такие как β,α ,о которых речь шла выше),авторегрессионные параметры ϕ и параметры скользящего среднего θ.При оценивании предполагается,что порядок разности d,порядок авторегрессии p и порядок скользящего среднего q заданы.
Если ряд {xt } описывается моделью(14.58) (которая предполагает d = 0), то параметр β этой модели можно оценить с помощью среднего xø,а далее действовать так,как если бы процесс сразу з адавался моделью(14.59).В качестве wt рассматриваются центрированные значения,полученные какотклонения исходных уровней временного ряда от их среднего значения: wt = xt − xø.
Если ряд {xt } описывается более общей моделью(14.60),которая тоже предполагает d = 0,то можно оценить параметры α с помощью обычного МНК, который дает здесь состоятельные,но не эффективные оценки a.Далее можно взять wt = xt − Zta и действовать так,как если бы процесс задавался моделью
(14.59).
При d > 0 от ряда xt следует взять d-е разности: wt = d xt .Мы не будем рассматривать оценивание детерминированной составляющей в случае d > 0. Заметим только,что исходный ряд не нужно центрировать,поскольку уже первые разности исходных уровней ряда совпадают с первыми разностями центрированного ряда.Имеет смысл центрировать d-е разности d xt .
Проведя предварительное преобразование ряда,мы сведем задачу к оцениванию стационарной модели ARMA (14.59),где моделируемая переменная wt имеет нулевое математическое ожидание.Получив ряд w1, . . . , wT (при d > 0 ряд будет
14.7Оценивание,распознавание и диагностика модели ARIMA |
469 |
Действительно, {ηt } фактически представляет собой процесс скользящего
среднего: |
|
ηt = εt − θ1εt−1 −ááá− θq εt−q , |
(14.62) |
для которого,какмызнаем,первые q автокорреляциймогут бытьвыраженычерез параметры модели(см. (14.36)):
ρkη = |
−θk + θ1θk+1 + θ2θk+2 + . . . + θq−k θq |
, k = 1, . . . , q. |
||
|
1 + θ2 |
+ θ2 |
+ . . . + θ2 |
|
|
1 |
2 |
q |
|
Заменив в этих выражениях ρηk на rkη ,решаем полученную систему q нелинейных уравнений относительно q неизвестных параметров θ и получаем их оценки.
Посколькусистемауравненийнелинейная,томогутвозникнутьнекоторыепроблемы с ее решением.Во-первых,систем а может не иметь решений.Во-вторых, решение может быть не единственным.
Рассмотрим в качестве примера случай q = 1.При этом имеем одно уравнение с одним неизвестным:
rη = |
−θ1 |
. |
1 |
1 + θ2 |
|
|
1 |
|
Максимальноепомодулюзначениеправойчасти 1 2 достигаетсяпри θ1 = ±1.Ес-
ли |
η |
| > |
1 |
2 |
, |
то уравнение не имеет действительного решения7 |
.Если |
η |
| < |
1 |
2 |
, |
|||||
|
|r1 |
|
|
|
|
" |
|
|
|
|r1 |
|
|
|||||
то оценку |
θ"1 |
получим,решая квадратное уравнение.А оно будет иметь два корня: |
|
||||||||||||||
|
|
|
|
|
−1 ± G |
|
|
|
|
|
|
|
|
" |
|
||
|
|
|
|
|
|
θ1 = |
1 − |
4(r1η )2 |
. |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
η |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
2r1 |
|
|
|
|
|
|
|
|
|
Один из корней по модулю больше единицы,а другой меньше,т.е.один соответствует обратимому процессу,а другойÑнеобратимому.
Такимобразом,изнескольких решенийданных уравнений следуетвыбиратьтакие,которые соответствуют обратимому процессу скользящего среднего.Для этого,если некоторые из корнейхарактеристического уравнения скользящегосреднего по модулю окажутся больше единицы, то их следует обратить и получить коэффициенты,которые уже будут соответствовать обратимому процессу(см. 14.40).
Для q > 1 следует применить какую-либо итеративную процедуру решения нелинейных уравнений8.
7Еслирешения несуществует,тоэто можетбыть признакомтого,чтопорядок разности d выбран неверно или порядок авторегрессии p выбран слишком низким.
8Например,метод Ньютона,состоящий в линеаризации нелинейных уравнений в точке текущих приближенных параметров(т.е.разложение в ряд Тейлора до линейных членов).
470 |
Глава14.Линейные стохастические модели ARIMA |
Описанный здесь метод моментов дает состоятельные,но не эффективные (не самые точные)оценки параметров.Существует ряд методов,позволяющих повысить эффективность оценок.
Методы уточнения оценок
Система(14.61)при q > 1 основана на уравнениях для автоковариаций,которые сдвинуты на q.Поскольку более дальние в ыборочные автоковариации вычисляются не очень точно,то это приводит к не очень точным оценкам параметров авторегрессии.Чтобы повысит ь точность,можно предложить следующий метод.
С помощью вычисленных оценок θ1, . . . ,θ q ,на основе соотношения(14.62), находим последовательность значений {εt } по рекуррентной формуле:
εt = ηt + θ1εt−1 + . . . + θq εt−q .
В качестве εt−j при t ! j берем математическое ожидание ряда E(εt ) = 0.
Получив с помощью предварительных оценок ϕ и θ последовательность значений {εt } и имея в наличии ряд {wt },методом наименьших квадратов находим уточненные оценки параметров модели(14.59),рассматривая εt в этом уравнении как ошибку.
Можно также получить уточненные оценки параметров детерминированной компоненты α в модели(14.60).Для этого можно использовать обобщенный метод наименьших квадратов(см.гл. 8),основанный на оценке ковариационной матрицыошибок wt ,которуюможно получить,имея некоторыесостоятельные оценки параметров процесса ARMA.
Автоковариационную матрицу процесса ARMA можно представить в виде " = σε2Ω.Оценку матрицы Ω можно получить,имея оценки параметров авторегрессии и скользящего среднего(см. выше вывод автоковариационной функции процесса ARMA).Имея оценку Ω,воспользуемся обобщенным МНК для оценивания параметров регрессии:
aОМНК = (Z !Ω−1Z )−1Z !Ω−1X.
Можно использовать также автокорреляционную матрицу R:
aОМНК = (Z !R−1Z )−1Z !R−1X.
ВкачествепримераприведемрегрессиюспроцессомAR(1) вошибке.Матрица автокорреляцийдля стационарного процесса AR(1),соответствующего последова-