книги / Эконометрика. Начальный курс
.pdf11.4. Модели Бокса-Дженкинса (ARIMA) |
291 |
Autocorrelation |
Partial Correlation |
|
АС |
РАС |
Q-Stat |
Prob |
|
|
ЯП |
1 |
0.977 |
0.977 |
382.92 |
0.000 |
|
|
2 |
0.970 |
0.329 |
760.97 |
0.000 |
||
|
■ |
3 |
0.964 |
0.159 |
1135.3 |
0.000 |
|
|
1 |
4 |
0.954 -0.009 |
1503.4 |
0.000 |
||
|
1 |
5 |
0.947 |
0.014 |
1666.6 |
0.000 |
|
|
1 |
6 |
0.939 -0.017 |
2224.4 |
0.000 |
||
|
1 |
7 |
0.929 -0.029 |
2576.1 |
0.000 |
||
|
1 |
8 |
0.924 |
0.075 |
2924.9 |
0.000 |
|
|
1 |
9 |
0.915 -0.041 |
3267.5 |
0.000 |
||
|
1 |
to |
0.905 -0.063 |
3603.5 |
0.000 |
||
|
» |
11 |
0.900 |
0.072 |
3936.6 |
0.000 |
|
|
1 |
12 |
0.692 |
0.000 |
4264.6 |
0.000 |
|
|
1 |
13 |
0.884 |
0.006 |
4588.1 |
0.000 |
|
|
ii |
14 |
0.879 |
0.041 |
4908.4 |
0.000 |
|
|
1 |
15 |
0.871 |
-0.023 |
5223.7 |
0.000 |
|
|
1 |
16 |
0.864 -0.006 |
5535.1 |
0.000 |
||
|
| |
17 |
0.855 -0.073 |
5840.6 |
0.000 |
||
|
1 |
18 |
0.847 -0.003 |
6141.0 |
0.000 |
||
|
'i |
19 |
0.841 |
0.036 |
6437.9 |
0.000 |
|
|
1 |
20 |
0.834 |
0.013 |
6730.7 |
0.000 |
|
|
|
1 |
21 |
0.824 -0.044 |
7017.6 |
0.000 |
|
|
» |
22 |
0.817 -0.003 |
7300.5 |
0.000 |
||
|
|
1 |
23 |
0.808 -0.032 |
7578.0 |
0.000 |
|
|
1 |
24 |
0.802 |
0.028 |
7851.4 |
0.000 |
|
|
|
I |
25 |
0.795 |
0.028 |
8121.1 |
0.000 |
|
1 |
26 |
0.786 -0.028 |
8385.5 |
0.000 |
||
Ряс. 11.5. Тренд (модельный пример) |
|
||||||
Autocorrelation |
Partial Correlation |
|
АС |
РАС |
Q-Stat |
Prob |
|
|
1 |
|
1 |
0.995 |
0.995 |
397.01 |
0.000 |
|
1I |
2 |
0.990 -0.027 |
790.84 |
0.000 |
||
|
11 |
3 |
0.984 -0.019 |
1181.4 |
0.000 |
||
|
4 |
1 |
4 |
0.978 -0.071 |
1568.1 |
0.000 |
|
|
4 |
1 |
5 |
0.971 |
-0.070 |
1950.4 |
0.000 |
|
11 |
6 |
0.965 |
0.068 |
2328.8 |
0.000 |
|
|
11 |
7 |
0.960 |
0.036 |
2703.7 |
0.000 |
|
|
11 |
8 |
0.954 |
0.003 |
3075.1 |
0.000 |
|
|
1 |
1 |
9 |
0.947 -0.098 |
3442.2 |
0.000 |
|
|
|| |
1 |
10 |
0.940 -0.044 |
3804.9 |
0.000 |
|
|
1 |
|
11 |
0.933 -0.019 |
4163.0 |
0.000 |
|
|
|| 1 |
12 |
0.925 -0.056 |
4516.1 |
0.000 |
||
|
1 1 |
13 |
0.916 -0.106 |
4863.1 |
0.000 |
||
|
|| |
1 |
14 |
0.907 |
-0.036 |
5204.1 |
0.000 |
|
|| |
1 |
15 |
0.897 -0.050 |
5536.5 |
0.000 |
|
|
11 |
16 |
0.887 -0.020 |
5666.3 |
0.000 |
||
|
>1 |
1 |
17 |
0.876 |
-0.037 |
6187.2 |
0.000 |
|
J |
1 |
18 |
0.866 |
0.030 |
6501.5 |
0.000 |
|
11 |
19 |
0.856 -0.001 |
6809.3 |
0.000 |
||
|
1| 1 |
20 |
0.845 -0.059 |
7110.2 |
0.000 |
||
|
1It |
21 |
0.835 |
0.049 |
7404.5 |
0.000 |
|
|
1|| |
22 |
0.825 |
0.034 |
7692.7 |
0.000 |
|
|
11 |
23 |
0.815 -0.001 |
7974.5 |
0.000 |
||
|
11 |
24 |
0.805 |
0.017 |
8250.1 |
0.000 |
|
|
11 |
25 |
0.795 |
0.015 |
8519.5 |
0.000 |
|
|
11 |
26 |
0.784 -0.046 |
8782.6 |
0.000 |
Рис. 11.в. Случайное блуждание (модельный пример)
292 |
Гл. 11. Временные ряды |
Autocorrelation |
Partial Correlation |
|
АС |
РАС |
Q-Stat |
|
Prob |
||
1 |
|
1 |
1 |
1 |
0.808 |
0.808 |
116.80 |
|
0.000 |
1 |
1 |
|
2 |
0.429 -0.642 |
149.96 |
|
0.000 |
||
1 |
| | |
1 |
3 |
0.031 -0.096 |
150.14 |
|
0.000 |
||
■ |
1 |
1 |
1 |
4 |
-0.261 -0.008 |
162.57 |
|
0.000 |
|
|
1 |
11 |
1 |
5 -0.398 -0.043 |
191.84 |
|
0.000 |
||
|
1 |
• |
1 |
6 -0.357 |
0.138 |
215.17 |
|
0.000 |
|
■ |
1 |
1 |
1> |
7 |
-0.174 |
0.114 |
220.79 |
|
0.000 |
1 |> |
1 |
|
8 |
0.097 |
0.213 |
222.54 |
|
0.000 |
|
1 |
|
1 |
1 |
9 |
0.343 |
0.035 |
244.56 |
|
0.000 |
1 |
|
1 | | |
10 |
0.490 |
0.096 |
289.92 |
|
0.000 |
|
1 |
|
1 || |
11 |
0.500 |
0.087 337.34 |
0.000 |
|||
1 |
|
1 |
1 |
12 |
0.374 -0.038 |
364.08 |
|
0.000 |
|
1 ■ |
J |
1 1 |
13 |
0.186 |
0.033 |
389.37 |
0.000 |
||
1 |
1 |
t |
11 |
14 -0.038 |
0.064 |
369.65 |
|
0.000 |
|
■ |
1 |
1 |
1 |
15 |
-0.183 -0.029 |
376.17 |
|
0.000 |
|
|
1 |
| | |
1 |
19 -0.251 -0.098 |
388.51 |
|
0.000 |
||
■ |
1 |
|| |
1 |
17 -0.243 -0.075 |
400.15 |
|
0.000 |
||
1 |
■ |
1 |
18 -0.193 -0.181 |
407.53 |
|
0.000 |
|||
|| |
1 |
1 |
1 |
19 |
-0.102 -0.002 |
409.62 |
|
0.000 |
|
1 |
1 |
1 |
1 |
20 |
0.010 -0.004 |
409.64 |
|
0.000 |
|
|
» |
1 |
1 |
21 |
0.121 |
0.034 |
412.58 |
|
0.000 |
1 |
■ |
1 11 |
22 |
0.201 |
0.052 420.77 0.000 |
||||
1 ■ |
1 |
1 |
23 |
0.202 -0.142 |
429.08 |
|
0.000 |
||
1 • |
1 |
1 |
24 |
0.122 -0.015 432.14 0.000 |
|||||
1 |
1 |
|| |
1 |
25 |
-0.013 -0.086 |
432.17 |
|
0.000 |
|
■ |
1 |
1 |
\ |
26 |
■0.160 -0.048 437.53 |
0.000 |
Рис. 11.7. Сезонность (солнечные пятна, числа Вольфа)
Autocorrelation |
Partial Correlation |
|
АС |
РАС |
Q-Stat |
Prob |
|||
I |
|
1 |
|
1 |
1 |
0.948 |
0.948 |
132.14 |
0.000 |
I |
|
■ |
|
2 |
0.876 |
-0.229 |
245.65 |
0.000 |
|
1 ■ ■ ■ ■ |
1 |
|
1 |
3 |
0.807 |
0.038 |
342.67 |
0.000 |
|
1 |
|
1 |
|| |
4 |
0.753 |
0.094 |
427.74 |
0.000 |
|
1 |
|
1 |
11 |
5 |
0.714 |
0.074 |
504.80 |
0.000 |
|
1 |
|
1 |
|
1 |
6 |
0.662 |
0.008 |
575.60 |
0.000 |
1 |
■ ■ ■ |
1 |
|| |
7 |
0.663 |
0.126 |
643.04 |
0.000 |
|
1 |
1 |
и |
8 |
0.656 |
0.090 |
709.48 |
0.000 |
||
1 |
■ ■ i |
1 |
■ |
9 |
0.671 |
0.232 |
779.59 |
0.000 |
|
1 |
|
1 |
■ |
10 |
0.703 |
0.166 |
857.07 |
0.000 |
|
1 |
|
1 |
в |
1 |
11 |
0.743 |
0.171 |
944.39 |
0.000 |
1 |
шшт |
« |
|
12 |
0.760 |
-0.135 |
1036.5 |
0.000 |
|
1 |
1, |
|
1 |
13 |
0.713 |
-0.540 |
1118.0 |
0.000 |
|
1 |
шшяш |
|
1 |
14 |
0.646 |
-0.027 |
1165.6 |
0.000 |
|
1 |
н ■ |
1 |
а< |
15 |
0.566 |
0.091 |
1241.5 |
0.000 |
|
1 |
шш |
1 |
|
1 |
16 |
0.538 |
0.025 |
1289.0 |
0.000 |
1 |
шшш |
1 1 |
17 |
0.500 |
0.033 |
1330.4 |
0.000 |
||
1 |
|
1 |
|| |
18 |
0.469 |
0.073 |
1367.0 |
0.000 |
|
1 |
|
111 |
19 |
0.450 |
0.048 |
1401.1 |
0.000 |
||
1 |
|
11 |
1 |
20 |
0.442 |
-0.046 |
1434.1 |
0.000 |
|
1 |
|
111 |
21 |
0.457 |
0.046 |
1469.9 |
0.000 |
||
t |
|
'I |
|
1 |
22 |
0.482 -0.100 |
1510.0 |
0.000 |
|
1 |
|
t |
11 |
23 |
0.517 |
0.052 |
1556.5 |
0.000 |
|
1 |
|
1 |
1) |
24 |
0.532 |
0.048 |
1608.1 |
0.000 |
|
1 |
|
а |
|
1 |
25 |
0.494 -0.163 |
1649.2 |
0.000 |
|
1 р * |
1 |
1 |
26 |
0.438 -0.036 |
1683.3 |
0.000 |
Рис. 11.8. Тренд и сезонность (объем авиаперевозок)
11.4. Модели Бокса-Дженкинса (ARIMA) |
293 |
Третье — можно использовать формальные тесты на нали чие единичного корня (тест Дики-Фуллера DF, расширенный тест Дики-Фуллера ADF, тест МакКинли) и др., часть из которых рас смотрена выше в разделе 11.3.
Модели авторегрессии и скользящего среднего
(A R M A )
Рассмотрим следующий класс моделей стационарных временных рядов:
Vt — ФгУг-1 —• • • —ФрУг-р = 8 + £t — 6 i£ t- l--------- |
Qq^t-q, |
|
et ~ iid(Q,<T2), |
|
(11.65) |
или в более короткой записи |
|
|
Ф (L)yt = 6 + в (L )e t , |
et ~ i« i(0 ,c r2 ), |
(11 .66) |
где Ф (Ь) = 1 —ф \Ь — • • • —фр1Р и в (L) = 1 —в \Ь — ••• — QqLfl
— полиномы от оператора сдвига. Такая модель называется моде лью авторегрессии и скользящего среднего (autoregressive moving average) или ARMA(p,g).
Рассмотрим сначала простые примеры ARMA моделей.
AR(1) |
|
|
Процесс ARMА(1,0) |
|
|
yt = 6 + Фш -г + £t, |
£t ~ iid(0,<т2) |
(11.67) |
является AR(1) процессом и подробно рассмотрен ранее (п. 11.3), (11.35)-(11.42). Перечислим кратко его свойства:
7fc = $i70, Pk = 7fc/7o = $1 - |
(11.68) |
Неравенство |(^i| < 1 является необходимым условием стационар ности процесса yt.
Частная автокорреляционная функция процесса AR(1) равна нулю для значений k > 1. (По определению ACF(1)=PACF(1).)
11.4. Модели Бокса-Дженкинса (ARIMA) |
295 |
Отсюда, учитывая, что дисперсия должна быть положительна, получаем условия стационарности AR(2) процесса:
\<h\ < 1» <А2 + 0 1 < 1 , Ф2 Ф\ < 1- |
(11.76) |
Можно показать, что при выполнении условий стационарности автокорреляционная функция процесса убывает экспоненциаль но в случае, когда корни характеристического полинома Ф(L) = 1 - ф\Ь- faL2 действительны, или изменяется по синусоиде с экс поненциально убывающей амплитудой, если корни комплексные.
Опишем схему вычисления частной автокорреляционной функции для процесса AR(2). Запишем три уравнения Ю лаУолкера (типа (11.72)) для AR(3) процесса. Коэффициент фз ра вен коэффициенту частной корреляции между yt и yt-з- Для AR(2) процесса из (11.71) получаем рз = ф\ръ + <hpi- Подстав ляя это выражение в третье уравнение Юла-Уолкера, получаем фз = 0. Таким образом, PACF(fc)=0 для к > 2. Аналогично, мож но показать, что для AR(р) процесса частная автокорреляционная функция PACF(fc) равна нулю, начиная с к = р+1. Следует иметь в виду, что этот результат верен для теоретической частной авто корреляционной функции и может не выполняться для выбороч ной частной автокорреляционной функции. Однако на практике следует ожидать резкое убывание PACF до значений, близких к нулю, за порогом, равным порядку авторегрессионного процесса.
Процессы скользящего среднего (МА)
Моделью скользящего среднего (moving average) порядка q назы вается модель ARMA(0, q)
yt = S+ &(L)et
= 6 + — dl£t—l —• • • —6q£t-qi £f ~ twf(0,<7^), |
(11.77) |
которая обозначается MA(g). Из (11.77) видно, что процесс MA(g) стационарен при любом q и любых
Сформулируем условие обратимости процесса, т.е. возмож ности его представления в виде AR процесса.
296 |
Гл. 11. Временные ряды |
Рассмотрим в качестве примера модель скользящего среднего первого порядка МА(1)
2Л = <$+ 0{L)et = 6 + £t — |
£t ~ iid(0,o2). |
(11.78) |
Представим MA(1) процесс в виде авторегрессионного процесса: |
||
e (L ) - 1yt = Q (L)-l6 + et, |
(11.79) |
|
или |
|
|
yt = ^ _ g - OiVt-i — |
2 --------1- £t- |
(11.80) |
Ясно, что такое AR(oo) представление MA(1) процесса (11.78) воз можно только в случае обратимости оператора Q(L) = \ — в\Ь, т.е. когда выполняется условие обратимости |#i| < 1.
Нетрудно вычислить среднее и дисперсию процесса МА(1):
Е Ы = <5, |
V(yt) = <т2(1 + в2). |
(11.81) |
Найдем автокорреляционную функцию МА(1) процесса:
7 i = Cov(yt,yt_i) = E((et —0i£t-i)(£t-i - ^i^t-2))- |
(11.82) |
Если раскрыть скобки, то только одио слагаемое из четырех будет отлично от нуля: Е(—0I£2_J ) = —6i<r2. Поэтому
7 i = Cov(yt,yt_i) = - 9 I <T2. |
(11.83) |
Аналогичные вычисления показывают, что 7* = 0 при к > 1. Получаем:
P i= 7 i/7 o = - 0 i/( l + *i), |
Рк = 0, к> 1. |
(11.84) |
Проделав аналогичные вычисления для МА(д) процесса, полу чим, что его автокорреляционная функция ACF(к) равна 0 для к > q, т.е. ее вид аналогичен виду PACF для AR(g) процесса.
Частная автокорреляционная функция PACF(fc) для МА(д) процесса, аналогично ACF(fc) для AR(y) процесса, экспоненци ально убывает. Таким образом, имеет место некоторая симметрия: пара графиков (ACF, PACF) для MA(q) процесса имеет такой же вид, как пара графиков (PACF, ACF) для AR(g).
11.4. Модели Бокса-Дженкинса (ARIMA) |
297 |
Отметим, что подобно AR(oo) представлению (11.80) для МА(1) процесса (11.78) существует МА(оо) представление для AR(1) процесса (11.67):
Vt = (l~</,ib )- I (<J+et) = i—T“ +£t + 0i£t-i +0?£t-2H---- • (11.85) l - 0 i
Смешанные процессы
Рассмотрим простейший смешанный ARMA(1,1) процесс (11.66) с Ф(L) = 1 —0iL и 8 (L) = 1 - в\Ь:
Vt ~ Ф т - i = S + et - Oiet-i, £t ~ iid(0,a2). |
(11.86) |
Будем считать, что |0i| < 1 и |0i| < 1. Как и в случае AR(1) и МА(1) процессов, можно показать, что тогда процесс ARMA(1,1) является стационарным и обратимым.
Применяя те же методы, что и ранее, получим следующие вы ражения для среднего, дисперсии и ковариации ARMA(1,1) про цесса:
Е(ш) = |
|
|
(11.87а) |
1 - Ф 1’ |
|
|
|
\ г / \ |
2 1 + 0 ? —2 0 1 ^ 1 |
(11.876) |
|
70 = У Ы |
= <т2 - / - 0 ? |
’ |
|
71 = Cov(yt,yt-\) = 0i7o - |
0iа2. |
(11.87в) |
Для автокорреляций порядка больше 1 получаем рекуррент ное соотношение
7 * = Cov(yt,yt-i) = 0i7fc-b |
к> 1. |
|
Применяя рекуррентно это соотношение, получаем: |
||
Р к = 0? V b к > 1, |
(1 - 0i#i)(0i —0\)1 |
|
1 + |
(11.88) |
|
|
—20x^1 |
Из (11.88) видно, что ACF для ARMA(1,1) процесса ведет себя так же, как ACF для AR(1) процесса (ср.(11.68)). Хотя значение Pi другое, но соотношение между р\ и последующими значениями ACF точно такое же.
298 Гл. 11. Временные ряды
Этот вывод можно обобщить на случай ARMA(p, q) процес са. Первые q значений ACF определяются взаимодействием AR и МА компонент, а дальнейшее поведение автокорреляционной функции такое же, как в AR(p) процессе.
Аналогичный вывод справедлив для частичной автокорреля ционной функции ARMA(p, q) процесса. Она убывает подобно PACF для МА(д) процесса.
Методология Бокса—Дженкинса (AR1MA)
ARIMA модели
Как мы видели выше, некоторые нестационарные временные ря ды могут быть приведены к стационарным при помощи опера тора последовательной разности. Предположим, что временной ряд yt после того, как к нему применили d раз оператор по следовательной разности, стал стационарным рядом Дdyt, удо влетворяющим ARMA(p, q) модели (11.65). Тогда процесс yt на зывается интегрированным процессом авторегрессии и сколь зящего среднего (integrated autoregression and moving average),
ARIMA(p, d, q). (Заметим, из модели, например, для ряда Ayt лег ко получить модель для исходного ряда yt, используя соотношение
yt = Vt-1+ Aj/t-)
Методология Бокса-Дженкинса (Box, Jenkins, 1976) подбора ARIMA модели для данного ряда наблюдений состоит из трех этапов.
I. Идентификация модели
1.1. Первый шаг — получение стационарного ряда. Мы тестируем ряд на стационарность, используя описанные выше методы: визу альный анализ графика, визуальный анализ ACF и PACF, тесты на единичные корни. Если получается стационарный ряд, то пе реходим к следующему пункту, если нет, то применяем оператор взятия последовательной разности и повторяем тестирование. На практике последовательная разность берется, как правило, не бо лее двух раз.