Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

ЭКОНОМЕТРИКА и математическая экономика / Эконометрика. Учебник продвинутый (2005)

.pdf
Скачиваний:
512
Добавлен:
20.04.2015
Размер:
4.02 Mб
Скачать

14.3. Процессы авторегрессии

433

Это же представление можно получить с использованием оператора лага. Уравнение (14.8) запишется в виде

(1 − ϕL)xt = εt.

Применив к обеим частям уравнения (1 − ϕL)1 , получим

xt = (1 − ϕL)1εt = (1 + ϕL + ϕ2L2 + . . . )εt = εt + ϕεt−1 + ϕ2εt−2

В терминах модели линейного фильтра (14.1) для марковского ψi = ϕi . Поэтому

+ . . . .

процесса

1

 

 

 

|ψi| = i=0 |ϕ|i =

 

< ∞,

(14.9)

i=0

1 − |ϕ|

т.е. условие стационарности модели линейного фильтра (14.2) выполняется при |ϕ| < 1.

Можно сделать вывод, что условие стационарности процесса Маркова имеет следующий вид:

|ϕ| < 1.

Свойства стационарного процесса AR(1):

1) Если процесс xt слабо стационарен, то его математическое ожидание неизменно, поэтому, беря математическое ожидание от обеих частей (14.8), получим E(xt) = ϕE(xt), откуда

E(xt) = 0.

Если добавить в уравнение (14.8) константу:

xt = µ + ϕxt−1 + εt,

то E(xt) = µ + ϕE(xt) и

µ

E(xt) = 1 − ϕ .

2) Найдем дисперсию процесса Маркова, используя полученное выше уравнение σx2 = ϕ2σx2 + σε2 :

 

 

 

σ2

 

 

var(xt) = γ0

= σx2 =

 

ε

.

(14.10)

 

− ϕ2

 

1

 

 

434 Глава 14. Линейные стохастические модели ARIMA

Можно также применить общую формулу для автоковариаций в модели линейного фильтра (14.3) с k = 0:

 

 

 

 

 

 

 

σ2

γ

= σ2

= σ2

ψ2

= σ2

(1 + ϕ2

+ ϕ4 + . . . ) =

 

ε

.

 

 

0

x

ε

i

ε

 

1

− ϕ2

 

 

i=0

 

 

 

При |ϕ| 1 дисперсия процесса {xt}, вычисляемая по этой формуле, неограниченно растет.

3) Коэффициент автоковариации k-го порядка по формуле (14.3) равен

 

 

 

 

 

 

 

γ

= σ2

ψ ψ

= σ2

ϕiϕi+k =

 

 

 

k

ε

i

i+k

ε

 

 

 

 

 

 

i=0

 

i=0

 

 

 

 

 

 

 

 

σ2

 

 

 

 

 

= σε2

ϕ2i+k = σε2ϕk

ϕ2i =

ε

ϕk .

 

 

 

 

1 − ϕ2

 

 

 

 

 

i=0

i=0

 

Можно вывести ту же формулу иным способом. Ошибка εt некоррелирована не только с xt−1, но и с xt−2, xt−3 и т.д. Поэтому, умножая уравнение процесса (14.8) на xt−k при k > 0 и беря математическое ожидание от обеих частей, получим

E(xtxt−k ) = ϕE(xt−1xt−k )

или

γk = ϕγk−1, k > 0.

Таким образом, учитывая (14.10), получим

σ2

γk = γ0ϕk = ε ϕk . (14.11)

1 − ϕ2

4) Коэффициент автокорреляции, исходя из (14.11), равен:

ρk = γk = ϕk . γ0

При 0 < ϕ < 1 автокорреляционная функция имеет форму затухающей экспоненты (рис. 14.1а), при 1 < ϕ < 0 — форму затухающей знакопеременной экспоненты (рис. 14.1б).

Если ϕ > 1, процесс Маркова превращается во «взрывной» процесс.

В случае ϕ = 1 имеет место так называемый процесс случайного блуждания, который относится к разряду нестационарных.

14.3. Процессы авторегрессии

 

435

а)

 

ρ

б)

ρ

 

 

 

 

 

k

 

k

 

 

1

 

1

 

 

 

k k

0 < ϕ < 1

−1 < ϕ < 0

1

1

–1

Рис. 14.1

Процесс Юла

Процессом Юла называют авторегрессию второго порядка AR(2):

xt = ϕ1xt−1 + ϕ2xt−2 + εt,

(14.12)

или, через лаговый оператор:

(1 − ϕ1L − ϕ2L2)xt = εt.

Для стационарности процесса авторегрессии AR(2) необходимо, чтобы корни λ1, λ2 характеристического уравнения

1 − ϕ1z − ϕ2z2 = 0,

которые, вообще говоря, могут быть комплексными, находились вне единичного круга на комплексной плоскости, т.е. 1| > 1, |λ2| > 1.

Неформально обоснуем условия стационарности AR(2), разложив характеристический полином ϕ(z) на множители (по теореме Виета λ1λ2 = 1 ϕ2 ):

ϕ(z) = −ϕ2(λ1 − z)(λ2 − z) =

1

z

1

 

z

 

= (1 − G1z)(1

− G2z),

λ1

 

λ2

где мы ввели обозначения G1 = 1

λ1

и G2 = 1

 

.

 

 

 

 

 

 

 

λ2

 

 

Такое разложение позволяет представить уравнение AR(2) в виде:

 

(1 − G1L)(1 − G2L)xt

= εt.

 

(14.13)

436

Глава 14. Линейные стохастические модели ARIMA

Введем новую переменную:

 

 

vt = (1 − G2L)xt ,

(14.14)

тогда уравнение (14.13) примет вид:

 

 

(1 − G1L)vt = εt.

 

Видим, что ряд vt

является процессом Маркова:

 

 

vt = G1vt−1 + εt.

 

Для того чтобы процесс vt был стационарным, коэффициент G1 по модулю должен быть меньше единицы, т.е. 1| > 1.

С другой стороны, из (14.14) следует, что xt имеет вид процесса Маркова с ошибкой vt :

xt = G2xt−1 + vt.

Условие стационарности такого процесса имеет аналогичный вид: 2| > 1.

Приведенные рассуждения не вполне корректны, поскольку vt не является белым шумом. (Укажем без доказательства, что из стационарности vt следует стационарность xt .) Кроме того, корни λ1, λ2 могут быть, вообще говоря, комплексными, что требует изучения свойств комплексного марковского процесса. Более корректное обоснование приведенного условия стационарности будет получено ниже для общего случая AR(p).

Условия стационарности процесса AR(2), 1| > 1, |λ2| > 1, можно переписать в эквивалентном виде как ограничения на параметры уравнения авторегрессии:

 

ϕ2 + ϕ1

< 1,

 

 

ϕ2 − ϕ1

< 1,

(14.15)

 

1 < ϕ2 < 1.

 

Проверим эти условия. Для этого рассмотрим два случая.

 

1) Пусть

корни характеристического

уравнения вещественные,

то есть

ϕ12 + 4ϕ2

0. Тогда для выполнения условий 1| > 1, |λ2| > 1 необходимым

требованием является 1λ2| > 1 или

1

> 1. В таком случае один из корней

ϕ2

обязательно лежит вне отрезка [1, 1]. Для того чтобы и второй корень не попал в этот отрезок, необходимо и достаточно, чтобы значения характеристического полинома ϕ(L) = 1 − ϕ1L − ϕ2L2 в точках 1 и 1 были одного знака. Это условие можно описать неравенством:

ϕ(1) · ϕ(1) > 0, или (1 + ϕ1 − ϕ2)(1 − ϕ1 − ϕ2) > 0.

14.3. Процессы авторегрессии

 

a)

ϕ

 

 

2

 

 

1

 

–1

1

ϕ

 

 

 

 

1

 

–1

 

Рис. 14.2

437

б)

ϕ

 

 

2

 

 

1

 

–1

1

ϕ

 

 

 

 

1

 

–1

 

Таким образом, случай вещественных корней описывается системой:

ϕ21 + 4ϕ2 0,

2| < 1,

(1 + ϕ1 − ϕ2)(1 − ϕ1 − ϕ2) > 0.

Если связать ϕ1 и ϕ2 с координатными осями, то область, соответствующую данной системе, можно изобразить на рисунке (см. рис. 14.2а).

2) Если корни комплексные, то они имеют одинаковую абсолютную величину:

1

1| = 2| = ϕ2 .

И тогда вместе с отрицательностью дискриминанта достаточно условия:

2| < 1 (область решений см. на рис. 14.2б).

Если объединить случаи 1) и 2), то общее решение как раз описывается системой неравенств (14.15) и соответствующая область на координатной плоскости представляет собой треугольник, ограниченный прямыми:

ϕ2 = ϕ1 + 1, ϕ2 = −ϕ1 + 1, ϕ2 = 1.

Автокорреляционная и автоковариационная функция AR(p)

Для стационарного процесса авторегрессии:

 

xt = ϕ1xt−1 + ϕ2xt−2 + · · · + ϕpxt−p + εt

(14.16)

438

Глава 14. Линейные стохастические модели ARIMA

можно вывести формулу автокорреляционной функции. Умножив обе части уравнения на xt−k :

xt−k xt = ϕ1xt−k xt−1 + ϕ2xt−k xt−2 + . . . + ϕpxt−k xt−p + xt−k εt,

и перейдя к математическим ожиданиям, получим уравнение, связывающее коэффициенты автоковариации различного порядка:

γk = ϕ1γk−1 + ϕ2γk−2 + . . . + ϕpγk−p, k > 0.

(14.17)

Это выражение является следствием того, что соответствующие кроссковариации между процессом и ошибкой равны нулю: E(xt−k εt) = 0 при k > 0, т.к. xt−k может включать лишь ошибки εj для j t − k.

Делением уравнения (14.17) на γ0 получаем важное рекуррентное соотношение для автокорреляционной функции:

ρk = ϕ1ρk−1 + ϕ2ρk−2 + . . . + ϕpρk−p, k > 0.

(14.18)

Подставляя в выражение (14.18) k = 1, . . . , p, получаем, с учетом симметричности автокорреляционной функции, так называемые уравнения Юла—Уокера (Yule—Walker) для AR(p):

ρ1 = ϕ1 + ϕ2ρ1 + . . . + ϕpρp−1,

ρ2 = ϕ1ρ1 + ϕ2 + . . . + ϕpρp−2,

(14.19)

· · ·

ρp = ϕ1ρp−1 + ϕ2ρp−2 + . . . + ϕp.

Мы имеем здесь p линейных уравнений, связывающих p автокорреляций, ρ1, . . . , ρp. Из этой системы при данных параметрах можно найти автокорреляции. С другой стороны, при данных автокорреляциях из уравнений Юла—Уокера можно найти параметры ϕ1, . . . , ϕp. Замена теоретических автокорреляций выборочными дает метод оценивания параметров процесса AR(p).

В частности, для процесса Юла получим из (14.19)

 

ϕ1

 

 

ϕ12

ρ1 =

 

, ρ2

=

 

+ ϕ2.

1 − ϕ2

1 − ϕ2

Зная ρ1, . . . , ρp, все последующие автокорреляции ρk ( k > p) можем найти по рекуррентной формуле (14.18).

Для нахождения автоковариационной функции требуется знать γ0, дисперсию процесса xt. Если умножить обе части (14.16) на εt и взять математические ожидания, получим, что E(εtxt) = E(ε2t ) = σε2 . Далее, умножая обе части (14.16) на xt и беря математические ожидания, получим

γ0 = ϕ1γ1 + ϕ2γ2 + . . . + ϕpγp + σε2.

14.3. Процессы авторегрессии

 

 

 

 

439

Значит, если известны автокорреляции, то дисперсию

xt можно вычислять по

формуле:

 

 

 

 

 

 

 

 

σ2

 

 

 

γ0 = σx2 =

 

 

ε

 

.

(14.20)

 

− ϕ1ρ1

− ϕ2ρ2 − . . . −

 

1

ϕpρp

 

Автоковариации затем можно вычислить как γj = ρj σx2 .

С учетом полученного дополнительного уравнения можно записать вариант уравнений Юла—Уокера для автоковариаций:

γ

= ϕ γ

+ ϕ γ

+ . . . + ϕ γ + σ2

,

0

1

1

2 2

p p

ε

 

γ1 = ϕ1γ0 + ϕ2γ1 + . . . + ϕpγp−1,

 

 

γ2

= ϕ1

γ1

+ ϕ2γ0

+ . . . + ϕpγp−2,

 

(14.21)

 

· · ·

 

 

 

 

 

γp = ϕ1γp−1 + ϕ2γp−2 + . . . + ϕpγ0.

В этой системе имеется p + 1 уравнений, связывающих p + 1 автоковариацию, что позволяет непосредственно вычислять автоковариации при данных параметрах.

Заметим, что 14.17 и 14.18 имеют вид линейных однородных конечноразностных уравнений, а для подобных уравнений существует общий метод нахождения решения. Решив уравнение 14.18, можно получить общий вид автокорреляционной функции процесса авторегрессии. Проведем это рассуждение более подробно для процесса Юла, а затем рассмотрим общий случай AR(p).

Вывод формулы автокорреляционной функции процесса Юла

Из соотношения (14.18) для p = 2 получаем:

ρk = ϕ1ρk−1 + ϕ2ρk−2, k > 0.

(14.22)

или, используя лаговый оператор, который в данном случае действует на k, ϕ(L)ρk = 0, где ϕ(z) = 1 − ϕ1z − ϕ2z2 — характеристический полином процесса Юла. Как мы видели, этот характеристический полином можно представить в виде:

 

 

 

 

ϕ(z) = (1 − G1z)(1 − G2z),

 

где G1

= 1

λ1

и G2 = 1

, а λ1, λ2 — корни характеристического уравнения.

 

 

 

λ2

 

Таким образом, ρk удовлетворяет уравнению:

 

 

 

 

 

(1 − G1L)(1 − G2L)ρk = 0.

(14.23)

440

Глава 14. Линейные стохастические модели ARIMA

Найдем общее решение этого уравнения. Введем обозначение:

 

 

 

ωk = (1 − G2L)ρk .

 

(14.24)

Для ωk

имеем (1 − G1L)ωk = 0 или ωk = G1ωk−1. Поэтому

 

ω

k

= G ω

k−1

=

· · ·

= Gk−1

ω

.

 

 

1

 

1

1

 

В свою очередь, из (14.24), с учетом того, что ρ0 = 1 и ρ1 = ϕ1(1 − ϕ2), следует, что

 

 

ω1 = ρ1 − G2ρ0 =

ϕ1

 

 

 

 

 

− G2.

 

 

 

1 − ϕ2

 

Поскольку, по теореме Виета, G1

+ G2 = ϕ1 , G1G2 = −ϕ2 , получаем выра-

жение для ω1 через корни характеристического уравнения:

 

ω

 

=

G1 + G2

G =

G1(1 − G22)

.

(14.25)

 

1 + G1G2

 

 

1

 

2

 

1 + G1G2

 

Возвращаясь к формуле (14.24), имеем, исходя из рекуррентности соотношения:

ρk = G2ρk−1 + ωk = G2(G2ρk−2 + ωk−1) + ωk = . . . =

 

 

 

 

 

 

 

 

 

 

 

 

k−1

 

 

 

= G2k + G2k−1ω1 + G2k−2ω2 + . . . + G2ωk−1 + ωk = G2k + G2k−1−sωs+1.

 

 

 

 

 

 

 

 

 

 

 

 

s=0

 

 

 

Подставляя сюда ωk = G1k−1ω1, получим

 

 

 

 

 

 

ρk

= Gk + ω1Gk−1 k−1

 

G1

s = Gk

+ ω1Gk−1

(G1/G2 )k 1

=

 

 

 

 

 

 

 

2

2

 

G2

 

 

2

 

2

(G1/G2)

1

 

 

 

 

s=0

 

 

 

 

 

 

 

 

= Gk + ω

 

G1k − G2k

=

ω1

 

 

Gk + 1

 

ω1

 

 

Gk .

 

1 G1 − G2

G1 − G2

G1 − G2

 

2

 

 

1

2

Таким образом, общее решение уравнения (14.22) имеет вид:

 

 

 

 

 

 

ρ

k

= A Gk + A Gk ,

 

 

 

 

(14.26)

 

 

 

 

 

1

1

 

 

2 2

 

 

 

 

 

где коэффициенты A1 и A2 вычисляются по формулам:

 

 

 

A =

G1(1 − G22)

 

,

A

=

G2(1 − G12)

,

(14.27)

1

(G1 − G2)(1 + G1G2)

2

 

(G1 − G2)(1 + G1G2)

 

причем A1 + A2 = 1.

14.3. Процессы авторегрессии

 

 

 

441

 

ϕ

 

 

 

 

2

 

 

1

 

 

 

 

2

1

 

 

 

 

 

ρ

 

 

ρ

1

k

 

 

 

 

 

k

 

 

 

 

1

 

 

 

 

k

 

 

k

1

3

 

 

4

ϕ

 

 

 

 

1

 

 

 

ρ

 

 

 

1

k

 

 

 

 

 

 

 

 

k

 

Рис. 14.3

 

В стационарных процессах корни характеристического уравнения лежат вне единичного круга. Следовательно, |G1| < 1 и |G2| < 1, и автокорреляционная функция состоит из совокупности затухающих экспонент, что на рисунке 14.3

соответствует областям 1, 2, 3 и 4, лежащим выше параболической границы

ϕ21 + 4ϕ2 0.

При этом, если оба корня положительны или доминирует по модулю отрицательный корень (соответственно, положительное G), автокорреляционная функция затухает, асимптотически приближаясь к экспоненте (области 1 и 4 на рис. 14.3). Когда же оба корня отрицательны или доминирует по модулю положительный корень (или отрицательное G), автокорреляционная функция затухает по экспоненте знакопеременно (области 2 и 3 на рис. 14.3).

Если корни разного знака и совпадают по модулю, то затухание ρk происходит в области положительных значений, но имеет колебательный характер:

G1 = −G2 , следовательно A1 = A2 = 0.5 и

0,

если k — нечетное,

ρk =

 

Gk ,

если k — четное.

1

 

Рассмотрим случай, когда корни

λ1 = G11 и λ2 = G21 — комплексные.

Тогда автокорреляционная функция процесса авторегрессии второго порядка будет представлять собой затухающую синусоиду:

ρk = dk · sin(+ β) , sin β

442

 

 

Глава 14. Линейные стохастические модели ARIMA

 

 

α = arccos

ϕ1

 

β = arctg

1

+ d2

tg α .

 

 

 

где d =

−ϕ2,

2

 

,

 

 

 

1

− d2

−ϕ2

Подтвердим справедливость формулы. Поскольку коэффициенты характеристического многочлена — действительные числа, то λ1 и λ2 — комплексносопряженные, поэтому G1 и G2 тоже являются комплексно-сопряженными. Далее, G1, как и любое комплексное число, можно представить в виде:

G1 = de= d cos α + i d sin α,

где d = |G1| ( = |G2|) — модуль, а α — аргумент комплексного числа G1 . Соответственно, для G2 как для сопряженного числа верно представление:

 

 

 

G2 = de−iα = d cos α − i d sin α.

 

Для нахождения d воспользуемся тем, что

 

 

 

 

 

 

−ϕ2 = G1· G2 = de· de−iα = d2.

 

Значит, d =

 

 

. Кроме того, cos α =

e+ e−iα

=

G1 + G2

, поэтому, учиты-

ϕ

 

 

 

2d

 

2

 

2

 

 

 

вая, что G1 + G2 = ϕ1 , получаем:

 

 

 

 

 

 

 

 

 

 

cos α =

 

ϕ1

 

 

 

 

 

 

2

 

.

 

 

 

 

 

 

−ϕ2

 

 

 

Подставим теперь G1 = de

и G2 = de−iα в выражения (14.27) для A1 и A2 :

A1 =

de(1 − d2e2)

=

e− d2e−iα

 

=

 

 

 

 

 

 

(de− de−iα)(1 + d2ee−iα)

(e− e−iα)(1 + d2)

 

1

+ d2

 

 

 

 

 

 

 

 

 

 

 

(1 − d2) cos α + i(1 + d2) sin α

 

1

+ i

tg α

 

 

=

=

1

 

d2

.

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

2i(1 + d ) sin α

 

 

 

 

 

2i

 

 

 

Пусть β — такой угол, что

1 + d2

tg β = 1 − d2 tg α.

Тогда

A1 =

1 + i tg β

=

cos β + i sin β

=

e

 

 

 

.

2i

2i sin β

e− e−iβ

Отсюда найдем A2 :

e−iβ

A2 = 1 A1 = e− e−iβ .