Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Диплом / suslov_ibragimov_ekonometrika

.pdf
Скачиваний:
42
Добавлен:
24.03.2015
Размер:
5.55 Mб
Скачать

452

Глава14.Линейные стохастические модели ARIMA

14.4.Процессы скользящего среднего

Другой частный случай модели линейного фильтра,широко распространенный в анализе временных рядов, Ñмодель скользящего среднего,когда xt линейно зависит от конечного числа q предыдущих значений ε:

xt = εt − θ1εt−1 − θ2εt−2 − . . . − θq εt−q .

(14.33)

Модель скользящего среднего q-го порядка обозначают MA(q) (от английского moving average).

Данную модель можно записать и более сжато:

xt = θ(L)εt ,

 

через оператор скользящего среднего:

 

θ(L) = 1 − θ1L − θ2L2 − . . . − θq Lq .

(14.34)

Легко видеть,что процесс MA(q) является стационарным без каких-либо ограничений на параметры θj .

Действительно,математическое ожидание процесса

E(xt) = 0,

а дисперсия

γ0 = (1 + θ12 + θ22 + . . . + θq2ε2,

т.е.равна дисперсии белого шума,умноженной на конечную величину (1 + θ12 + + θ22 + . . . + θq2).

Остальные моменты второго порядка (γk , ρk ) также от времени не зависят.

Автоковариационная функция и спектр процессаMA(q)

Автоковариационная функция MA(q)

γk =

 

(−θk + θ1θk+1 + . . . + θq−k θq ε2,

k = 1, 2, . . . , q,

(14.35)

 

 

 

 

 

 

 

0,

k > q.

 

 

 

 

 

 

 

 

 

 

 

В частном случае для MA(1) имеем:

γ0 = (1 + θ12ε2,

γ1

= −θ1σε2,

γk

= 0, k > 1,

14.4.Процессы скользящего среднего

 

 

 

 

 

 

 

 

 

453

и автоковариационная

матрица,соответствующая

последовательности

x1,

x2, . . . , xT ,будет иметь следующий трехдиагональный вид:

 

 

 

 

 

1 + θ12

−θ1

0

 

ááá

0

 

 

 

 

 

 

θ1

1 + θ12

θ1

ááá

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

" = σε

 

0

 

θ1

1 +

2

 

 

0

 

 

.

 

 

 

θ1

ááá

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

.

.

.

 

.

..

.

 

 

 

 

 

..

..

..

 

 

..

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

0

0

 

 

 

1 +

θ

2

 

 

 

 

 

ááá

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

В общем случае автоковариационная матрица процесса скользящего среднего порядка q имеет q ненулевых поддиагоналей и q ненулевых наддиагоналей,все же остальные элементы матрицы равны нулю.

Автокорреляционная функция имеет вид:

 

k

 

 

 

−θk + θ1θk+1 + . . . + θq−k θq

, k = 1, 2, . . . , q,

 

 

 

 

 

 

 

 

 

 

 

 

1 + θ12 + . . . + θq2

 

ρ

 

=

 

 

(14.36)

 

 

 

 

0,

k > q.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Таким образом,автокорреляционная функция процесса MA(q) обрывается на задержке q, ивэтомотличительная особенность процессов скользящегосреднего.

С другой стороны,частная автокорреляционная функция,в отличие от авторегрессий,не обрывается изатухает экспоненциально.Например,для MA(1) частная автокорреляционная функция имеет вид

θp

1 − θ12

.

1

1 − θ12p+2

Ясно,что модель скользящего среднего является частным случаем модели ли-

нейного фильтра(14.1),где ψj = −θj при j = 1, . . . , q и ψj = 0 при j > q. Фактически модель линейного фильтра является моделью MA(∞).

Формула спектра для процесса скользящего среднего следует из общей формулы для модели линейного фильтра(14.6):

p(f ) = 2σε221 − θ1e−i2πf − θ2e−i4πf − . . . − θq e−i2qπf

2 .

2

2

2

2

2

454

Глава14.Линейные стохастические модели ARIMA

Соответственно,для MA(1):

2

 

= 2σε2

(1 + θ12

− 2θ1 cos 2πf );

p(f ) = 2σε2

21 − θ1e−i2πf

2

 

2

2

 

 

 

 

для MA(2):

2

2

 

 

 

 

p(f ) = 2σε2

21 − θ1e−i2πf − θ2e−i4πf 22 =

 

 

cos 4πf .

= 2σ2

2

1 + θ2

+ θ2

2θ (1

θ2

) cos 2πf

 

ε

(

1

2

1

22

 

 

2

)

2

 

 

 

 

 

 

Обратимость процессаMA( q)

Авторегрессию,как мы видели выше,можно представить как MA(∞).С другой стороны,процесс скользящего сред него можно представить в виде AR(∞).

Рассмотрим,например, MA(1) (будем для упрощения писать θ вместо θ1):

xt = εt − θεt−1,

(14.37)

Сдвигом на один период назад получим εt−1 = xt−1 + θεt−2

и подставим в(14.37):

xt = εt − θxt−1 − θ2εt−2.

 

Далее, εt−2 = xt−2 + θεt−3, поэтому

 

xt = εt − θxt−1 − θ2xt−2 − θ3εt−3.

 

Продолжая,получим на k-м шаге

 

xt = εt − θxt−1 − θ2xt−2 −ááá− θk xt−k − θk+1εt−k−1.

Если |θ| < 1, то последнее слагаемое стремится к нулю при k → ∞.Переходя к пределу,получаем представление AR(∞) для MA(1):

 

 

 

 

xt = −

j!

+ εt .

 

 

θj xt−j

(14.38)

 

 

 

=1

 

 

С помощью лагового оператора можем записать это как

 

π(L)xt = εt ,

 

 

где

 

 

 

 

 

 

 

 

 

 

π(L) = (1

 

 

θL)−1 =

j!

 

 

 

=0

 

 

 

 

 

 

14.4.Процессы скользящего среднего

455

В то время как процесс(14.37)стационарен при любом

θ,процесс(14.38)

стационарен только при |θ| < 1.При |θ| " 1 веса −θj в разложении(14.38) растут(при |θ| = 1 не меняются)по абсолютной величине по мере увеличения j . Тем самым,нарушается разумная связь те кущих событий с событиями в прошлом. Говорят,что при |θ| < 1 процесс MA(1) является обратимым,а при |θ| " 1 Ñ необратимым.

В общем случае уравнение процесса MA(q) в обращенной форме можно записать как

εt = θ−1(L)xt = π(L)xt = !πj xt−j .

j =0

ПроцессMA(q) называется обратимым,еслиабсолютные значения весов πj в обращенном разложении образуют сходящийся ряд.Стационарным процесс MA(q) является всегда,но для того,чтобы он обл адал свойством обратимости,параметры процесса должны удовлетворять определенным ограничениям.

Выведем условия,которым должны удовлетворять параметры θ1, θ2, . . . ,θ q процесса MA(q),чтобы этот процесс был обратимым.

Пусть Hi−1, i = 1, . . . , q Ñкорни характеристического уравнения θ(L) = 0 (будем предполагать,что они различны).Оператор скользящего среднего θ(L) через обратные корни характеристического уравнения можно разложить на множители:

θ(L) = 4q (1 − HiL).

i=1

Тогда обратный к θ(L) оператор π(L) можно представить в следующем виде:

 

 

 

 

 

 

 

 

1

 

q

Mi

 

 

 

 

 

 

 

 

 

 

 

!i

 

 

 

π(L) = θ−1(L) =

q

(1

HiL)

=

 

 

.

(14.39)

 

 

 

 

 

i3

 

 

=1 1

 

HiL

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=1

 

 

 

 

 

 

 

 

Каждое слагаемое(14.39)можно,по аналогии с MA(1),представить в виде беско-

нечного ряда:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Mi

 

 

 

 

 

 

 

 

 

 

 

 

 

 

= Mi

j!

Hij Lj , i

= 1, . . . , q,

 

 

1

HiL

 

 

 

 

 

 

 

 

 

 

=0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

который сходится,если

|Hi| < 1.

 

 

 

 

 

 

 

 

 

 

456

Глава14.Линейные стохастические модели ARIMA

Тогда процесс MA(q) в обращенном представлении выглядит как

 

 

q

 

 

!i

 

 

!

 

εt =

Mi

Hij Lj xt ,

 

 

=1

j =0

и он стационарен,если корни характеристического уравнения θ(L) = 0 лежат вне единичного круга.Иными словами, MA(q) обладает свойством обратимости,если для всех корней выполнено |Hi−1| > 1,т.е. |Hi| < 1 i.Если же для одного из корней |Hi| " 1, то ряд не будет сходиться,и процесс MA(q) будет необратимым.

Для каждого необратимого процесса MA(q),у которого корни характеристического уравнения не равны по модулю единице,существует неотличимый от него обратимый процесс того же порядка.Например,процесс MA(1) (14.37)с |θ| >1 можно записать в виде

 

 

xt = ξt

1

ξt−1,

 

 

 

 

 

θ

где ξt =

1 − θL

εt является белым шумом.Мы не будем доказывать,что ξt

 

1 − 1/θ á L

 

 

 

являетсябелымшумом,посколькуэтотехническисложно.Вместоэтогомыукажем напростойфакт:пусть ξt Ñнекоторыйбелыйшум.Тогдапроцесс ξt 1θ ξt−1 имеет такую же автоковариационную функцию,как и процесс xt ,заданный уравнением (14.37),если дисперсии связаны соотношением σξ2 = θ2σε2.Для того чтобы в этом убедиться,достаточно проверить совпадение дисперсий и автоковариаций первого порядка(остальные ав токовариации равны нулю).

В общем случае процесса MA(q),чтобы сделать его обратимым,требуется обратить все корни характеристического уравнения,которые по модулю меньше

единицы.А именно,пусть θ(L) = 3q (1−HiL), Ñхарактеристическиймногочлен

i=1

где |Hi| < 1 при i = 1, . . . , m и |Hi| > 1 при i = m + 1, . . . , q.Тогда

 

m

 

q

 

 

θ÷

i4

(1 − HiL)

4

(1 − Hi−1L)

 

(L) =

 

(14.40)

 

=1

 

i=m+1

 

Ñхарактеристический многочлен эквивалентного обратимого процесса.

Заметим,что хотя уравнение(14.33)по форме напоминает разложение Вольда процесса xt ,оно будет таким,только если все корни характеристического уравнения по модулю будут не меньше единицы.Для получения разложения Вольда произвольного процесса MA(q) требуется проделать описанную операцию обращения корней,которые по модулю меньше единицы.

14.5.Смешанные процессы авторегрессииÑскользящего среднего

457

14.5.Смешанные проце ссы авторегрессииÑ скользящего среднегоARMA

(модель БоксаÑДженкинса)

На практике иногда бывает целесообразно ввести в модель как элементы авторегрессии,так и элементы скользящего сре днего.Это делается для того,чтобы с использованием как можно меньшего числа параметров уловить характеристики исследуемого эмпирического ряда.Такойпроцесс называется смешанным процес-

сом авторегрессииÑскользящего среднего и обозначается ARMA(p, q):

xt = ϕ1xt−1 + . . . + ϕp xt−p + εt − θ1εt−1 − . . . − θq εt−q ,

(14.41)

или,с использован ием оператора лага,

(1 − ϕ1L − ϕ2L2 − . . . − ϕp Lp )xt = (1 − θ1L − θ2L2 − . . . − θq Lq t .

В операторной форме смешанная модель выглядит так:

ϕ(L)xt = θ(L)εt ,

где ϕ(L) Ñоператор авторегрессии, θ(L) Ñоператор скользящего среднего.

Модель(14.41)получиланазвание модели БоксаÑДженкинса,посколькубыла популяризирована Дж.Боксом и Г.Дженкинсом в их известной книгеÇАнализ временных рядовÈ [3].Методология моделирования с помощью(14.41)получила название методологии БоксаÑДженкинса.

Автокорреляционная функция и спектр процессаARMA( p, q)

Рассмотрим,как можно получить авток овариационную и автокорреляционную функции стационарного процесса ARMA(p, q),зная параметры этого процесса. Для этого умножим обе части уравнения(14.41)на xt−k ,где k " 0,и перейдем к математическим ожиданиям:

E(xt−k xt ) = ϕ1E(xt−k xt−1) + ϕ2E(xt−k xt−2) + . . . + ϕp E(xt−k xt−p ) +

+ E(xt−k εt ) − θ1E(xt−k εt−1) − θ2E(xt−k εt−2) − . . . − θq E(xt−k εt−q ).

Обозначим через δs кросс-ковариацию изучаемого ряда xt и ошибки εt с задержкой s,т.е.

δs = E(xtεt−s ).

458

Глава14.Линейные стохастические модели ARIMA

Посколькупроцессстационарен,то этакросс-ковариационная функция не зависит от момента времени t.В этих обозначениях

E(xt−k εt−j ) = δj −k .

 

Получаем выражение для автоковариационной функции:

 

γk = ϕ1γk−1 + . . . + ϕp γk−p + δ−k − θ1δ1−k − . . . − θq δq−k .

(14.42)

Так как xt−k зависит только от импульсов,к оторые произошли до момента t − k,то

δj −k = E(xt−k εt−j ) = 0 при j < k.

 

Для того чтобы найти остальные нужные нам кросс-ковариации,

δ0, . . . ,δ q ,

необходимо поочередно умножить все члены выражения(14.41)на εt ,

εt−1, . . . ,

εt−q и перейти к математическим ожиданиям.В итоге получится следующая система уравнений:

δ0 = σε2, δ1 = ϕ1δ0 − θ1σε2,

δ2 = ϕ1δ1 + ϕ2δ0 − θ2σε2,

. . .

Общая формула для всех 1 ! s ! p имеет вид:

δs = ϕ1δs−1 + ááá + ϕs δ0 − θsσε2.

При s > p (такой случай может встретиться,если p < q)

δs = ϕ1δs−1 + ááá + ϕp δs−p − θsσε2.

Отсюда рекуррентно,предполагая σε2 и параметры ϕ и θ известными,найдем δs .

Далее,зная δs ,по аналогии с уравнениями ЮлаÑУокера(14.21)по формуле (14.42)при k = 0, . . . , p с учетом того,что γ−k = γk найдем автоковариации γ0, . . . ,γ p .Остальные автоковариации вычисляются рекуррентнопо формуле

(14.42).

Автокорреляции рассчитываются как ρk = γk 0.Заметим,что если требуется найти только автокорреляции,то без потери общности можно взять ошибку εt с единичной дисперсией: σε2 = 1.

Еслив уравнении(14.42) k > q,то все кросс-корреляцииравны нулю,поэтому

γk = ϕ1γk−1 + . . . + ϕp γk−p, k > q.

(14.43)

14.5.Смешанные процессы авторегрессииÑскользящего среднего

459

Поделив это выражение на γ0,выводим уравнение автокорреляционной функции для k > q:

ρk = ϕ1ρk−1 + . . . + ϕp ρk−p,

(14.44)

или

 

ϕ(L)ρk = 0, k > q.

 

Такимобразом,начиная снекоторойвеличины задержки,аточнее,когда

q < p,

поведение автокорреляционной функции стационарного процесса ARMA(p, q) определяется,как и в случае чистой авторегрессии AR(p),однородным конеч- но-разностным уравнением(14.44).В свою очередь,решение этого конечноразностного уравнения определяется корнями характеристического уравнения ϕ(z) = 0.То есть при q < p автокорреляционная функция будет состоять из комбинации затухающих экспонент и экспоненциально затухающих синусоид4.

По аналогии с AR(p) условия стационарности ARMA(p, q) определяются корнями характеристического уравнения ϕ(L) = 0:если эти корни лежат вне единичного круга,то процесс стационарен.

В качестве примера рассмотрим процесс ARMA(1, 1):

xt = ϕxt−1 + εt − θεt−1,

(14.45)

или через лаговый оператор:

 

(1 − ϕL)xt = (1 − θL)εt .

 

Процесс стационарен,если −1 < ϕ< 1,и обратим,если

−1 <θ< 1.

Для вывода формулы автокорреляционной функции умножим(14.45)на xt−k и перейдем к математическим ожиданиям:

E(xt−k xt ) = ϕE(xt−k xt−1) + E(xt−k εt ) − θE(xt−k εt−1),

 

или

 

γk = ϕγk−1 + δ−k − θδ1−k .

(14.46)

Исследуем поведение автоковариационной функции при различных значениях параметра k.

4Заметим,что граничныеусловия у AR(p) другие,поэтому автокорреляционные функции небудут совпадать.

460

Глава14.Линейные стохастические модели

ARIMA

При k = 0

 

 

 

γ0 = ϕγ−1 + δ0 − θδ1.

(14.47)

Чтобы найти второе слагаемое,умнож им уравнение процесса(14.45)на εt

и возьмем математическое ожидание:

 

δ0 = E(xt εt ) = ϕE(xt−1εt ) + E(εt εt ) − θE(εtεt−1) = σε2.

(14.48)

Аналогичным способом распишем E(xtεt−1):

 

δ1 = E(xt εt−1) = ϕE(xt−1εt−1) + E(εt−1εt ) − θE(εt−1εt−1) = (ϕ − θ)σε2.

Равенство E(x

ε

) = σ2

подтверждается так же,как(14.48).

 

 

t−1 t−1

ε

 

= γ−k ,выражение для дисперсии запи-

Итак,принимая во внимание,что γk

сывается как

 

 

 

 

 

 

 

γ0

= ϕγ1 + σε2

− θ(ϕ − θ)σε2.

(14.49)

При k = 1 равенство(14.46)преобразуется в

γ1 = ϕγ0 + δ−1 − θδ0.

Используя ранее приведенные доводы относительно математических ожиданий, стоящих в этом уравнении,имеем:

 

 

γ1 = ϕγ0 − θσε2.

 

 

(14.50)

При k " 2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

γk = ϕγk−1.

 

 

 

 

Выразим автоковариации в(14.49)и( 14.50)через параметры модели

ϕ и θ.

Получим систему уравнений

 

 

 

 

 

 

 

 

 

 

\

γ0 = ϕγ1 + σε2 − θ(ϕ − θ)σε2;

 

γ1 = ϕγ0

θσε2;

 

 

 

 

и решим ее относительно γ0 и γ1.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Решение имеет вид:

 

 

 

 

 

 

 

 

 

 

 

 

γ0

=

1 − 2ϕθ + θ2

σ2

,

 

 

 

 

 

1

 

− ϕ2

ε

 

 

 

 

 

 

 

 

 

 

 

 

 

γ1

=

(ϕ − θ)(1 − ϕθ)

σε2.

 

 

 

 

 

 

1 − ϕ2

 

 

 

 

14.5.Смешанные процессы авторегрессииÑскользящего среднего

461

 

 

 

θ1

 

 

 

 

 

1

 

 

 

 

 

 

ρ

 

ρ

 

 

 

 

k

 

 

 

 

 

1

1

k

 

 

 

 

 

 

 

 

 

 

 

k

 

 

 

 

k

 

ρ

 

 

 

 

 

 

k

 

 

 

 

 

 

1

 

 

 

 

1

 

 

k

 

−1

 

ρ

 

 

1

ϕ1

 

 

k

 

ρ

 

 

 

1

 

 

 

 

 

 

 

k

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

k

 

 

 

 

 

 

ρ

 

 

 

 

 

1

k

 

 

 

 

 

1

 

 

 

 

 

 

 

 

k

 

 

 

 

 

 

 

 

 

k

 

 

 

 

 

 

1

 

 

 

 

 

 

−1

 

 

 

 

Рис. 14.4.График автокорреляционной функции процесса

ARMA(1, 1)

 

С учетом того,что ρk = γk 0,получаем выражения для автокорреляционной функции процесса ARMA(1, 1):

 

 

1

1

2ϕθ + θ2

 

ρ

 

=

 

θ)(1

− ϕθ)

,

 

 

 

k

1

 

 

 

 

 

 

 

 

 

 

k " 2.

 

ρk = ϕ ρ1,

 

 

 

 

 

 

 

 

 

На рисунке14.4изображены графики автокорреляционной функции процесса ARMA(1, 1) при различных сочетаниях значений параметров ϕ и θ.

ПоаналогииспроцессамиAR(p) иMA(q) выводится формуласпектрапроцесса ARMA(p, q).Пусть {ηt } Ñтакой процесс,что

ηt = εt − θ1εt−1 − . . . − θq εt−q .

Тогда xt ,описываемый уравнением(14.41),можно записать в виде xt = ϕ1xt−1 + . . . + ϕp xt−p + ηt .

Соседние файлы в папке Диплом