
книги из ГПНТБ / Хеннан, Э. Многомерные временные ряды
.pdf20 |
Гл. I . Вводные сведения |
3. НЕКОТОРЫЕ СПЕЦИАЛЬНЫЕ МОДЕЛИ
(і) Важный класс образуют скалярные временные ряды, поро даемые линейным механизмом вида
2 |
ß0')a:(tt — /) = У ] а ( і ) е ( и - к), ß0 = l, |
(3.1) |
о |
о |
|
где ß(/) и а(к) вещественны, а г(п) удовлетворяет условию
Е (е (т) е (/г)) = а26{?, х).
Такого рода механизм, основанный на идее, что х (п) определяется своими значениями в ближайшем прошлом и прошлыми возмущения ми, часто оказывается хорошим приближением к реальности. Конеч но, линейность является удобным математическим упрощением. Как показывает опыт, модели типа (3.1) пригодны для широкого класса данных. Если s = 0, то (3.1) называется уравнением авторегрессии.
При s > 0 иногда используется термин смешанная модель авторегрес сии и скользящего среднего. Если q = 0, то говорят о (конечном) скользящем среднем.
Ясно, что если заданы g начальных значений х (—д), . . ., х (—1), то соотношение (3.1) позволяет определить х (п) через е (п). Мы хотим исследовать структуру соотношения, выражающего х (п) через 8 (п), е (п — 1), . . . . Рассмотрим однородное уравнение, которое получается, если заменить правую часть (3.1) нулем, и будем искать его решения в виде zn. Это приводит к характеристическому уравнению
2 ß (/) z " j = 0. |
(3.2) |
о |
|
Каждому простому корню zu отвечает решение blLz^. Если корень zu имеет кратность р и, то, как легко проверить, решениями будут bu,7-nsZu при / = 0, 1, . . ., р и — 1. Если zu — комплексный корень,
то каждому из таких решений, очевидно, отвечает, комплексно сопряженное решение. Таким образом, мы получаем общее решение однородного уравнения в виде
г |
Ри-1 |
(3.3) |
2 |
S bu,jH3zl, |
|
u=1 |
І=0 |
|
где g констант bu.j определяются g начальными условиями. Конечно, выражение (3.3) можно записать также как сумму слагаемых вида
n3pZ(b'u, і cos Ѳц7і-|- b'ü, j sin Ѳцп), |
(3.4) |
Ц Мы всегда будем считать, сс.чп пе оговорено противное, что е(») — процесс с такими ковариационными свойствами. Здесь, конечно, — символ Кронекера.
|
3. Некоторые специальные .модели |
|
21 |
|
где |
zl4 = puexpi011, а |
Ъи, j = 1/2 (b'u>j — ib'i,j), если |
0и^ О , я. |
(Если |
0и = |
0, я, то, конечно, |
Ьа, j = b'Uj j и b"a, j = 0.) |
выражение |
(3.3) |
Постоянные buj могут быть выбраны так, что |
будет принимать любые заданные значения в q фиксированных точ
ках, например в точках п = — q -\- к, к = 0, . . ., q — 1. |
В самом |
|
деле, если бы это было не так, то q последовательностей |
nh™ были |
|
бы линейно зависимы в этих q точках, |
откуда следовало бы, |
что нену |
левой многочлен степени не выше q — |
1имеет q корней, а это иевоз- |
мояшо. При условии, что ни один из корней zu не равен по модулю единице, можно найти последовательность / (гі), удовлетворяющую уравнению
|
|
|
S |
ß (/') / (га— /) = Ö” |
|
|
|
о |
|
и такую, что |
I / |
(гг) | экспоненциально стремится к нулю при | п | |
||
—г- оо. В самом |
деле, |
при этом условии ряд Лорана функции |
||
( S ß O V ) - 1 |
сходится |
в |
некотором кольце, содержащем внутри |
|
единичную окружность. |
Если |
ОО
2/ (л)zn
—со
—этот ряд, то / (гг) удовлетворяет требуемому соотношению, посколь
ку 2 ß (/) zJ2 / (п) z" = 1 для всех z в этом кольце. Очевидно,
/(?г) экспоненциально стремится к нулю, как и требуется.
Те о р е м а 4. Если е (гг) — последовательность случайных вели чин с ковариациями Е (в (яг) в (п)) — б„о2, а х (—q), . . ., х (—1) — заданные начальные значения, то существует единственная случайная последовательность х (/г), удовлетворяющая соотггошению (3.1) и принимающая указангіые начальные значения. Если ни один из кор ней zu не равен по модулю единице, то это решение имеет вид
г Ги ~~ ^ s оо
х(гг) = 2 |
2 Ьи. X z" + 2 a (k) |
2 |
f(n — v)&(v — k). |
|
ti=l |
j= 0 |
0 |
D=-00 |
|
Д о к а з а т е л ь с т в о . |
Очевидно, |
что |
если заданы начальные |
значения, то х (п) однозначно определяется по этим значениям и по
последовательности |
е (гг); если, |
например, ß (q) ф 0, то |
х ( Q 1) = |
ß (?)-1 2 ß С?) ^ (— /) + 2 а (&) е ( — Я— 1— Щ, |
|
|
і |
о |
и X (гг) для п < —q может быть определено путем итерации этого соотношения. Сумма
N
2 / (п — ѵ) е (ѵ— к),
ѵ=-М
22 Гл. I. Вводные сведения
очевидно, |
сходится в |
среднеквадратичном, когда |
М, Ат стремятся |
|||
к бесконечности, так как |
| / |
(га) | экспоненциально убывает при |
||||
возрастании | га |. |
Поэтому выражение для х (п) |
корректно опреде |
||||
лено. Кроме того, |
нетрудно проверить, что |
|
||||
|
|
s |
|
со |
|
|
|
|
2 |
а (*) |
2 |
f{n~v)&(v — k) |
|
|
|
J i = 0 |
|
V ~ — со |
|
|
удовлетворяет (3.1). В самом деле, |
|
|||||
2 ßO') |
{ 2 |
— j — |
е(н-/ѵ)} = |
|
||
Ü |
V ~ — со |
|
|
|
|
|
|
|
|
со |
q |
|
|
|
|
= 2 |
( 2 |
ß (/)/(« — V —/)} e(ra — k) = e(n — k), |
||
|
|
|
V ~ — CO ü |
|
|
так как выражение в фигурных скобках равно нулю при га — ѵ =^0 и единице при ѵ = п. Поскольку как мы знаем, можно выбрать так, чтобы удовлетворить любым q начальным условиям, доказа тельство завершено.
Полагая
|
|
Ч Л = |
2 |
— |
|
|
|
|
|
к=О |
|
|
|
мы можем переписать решение в виде |
|
|
|
|||
|
|
|
|
со |
|
|
х(п) = 2 |
2 reJPu(fru, j cos0un+t;;,jsin ѳин) + 2 |
Ч / ) е («—/)• |
(3.5) |
|||
и |
3 |
|
|
- |
00 |
|
Для решения а: (га) вида |
|
|
|
|
||
|
|
х ( п )= 2 Ч Л е (га — І) |
|
(3.6) |
||
имеем |
|
|
—00 |
|
|
|
|
|
|
|
|
|
|
Е (X (га) X (гаг)) = |
о2 2 |
А, (/) А, (/ + |
1гаг — га |) = у (гаг — га). |
|
||
|
|
—00 |
|
|
|
|
Случайный процесс |
я (?г), |
ковариации которого зависят |
только |
от (гаг — га), называется стационарным в широком смысле (или ста ционарным второго порядка) х).
Наиболее важный случай теоремы 4 — это случай, когда ри < 1 для всех га, ибо в этом случае / (гг) = 0 при га < 0, т. е. А, ()) = 0 при І < 0. Тогда стационарное решение (3.6) уравнения (3.1) представ-
х) Таким образом, в стационарном случае у (т, п) — у (0, п — т ), и мы полагаем, несколько непоследовательно, у (п — т) = у (0, п — т). Подобные
обозначения используются всюду в дальнейшем. D скалярпом случае, конечно,
у (и — т) = у (т — п).
3. Некоторые специальные модели- |
23 |
ляет собой (бесконечное) скользящее среднее прошлых значений процесса е (п). Этот случай, очевидно, должен быть наиболее интере сен, ибо если мы «моделируем» уравнением (3.1) какую-либо реальную систему, то мы обычно предполагаем, что е (п) — возмущение, впер вые воздействующее на систему в момент п. Кроме того, в этом слу чае решения однородного уравнения стремятся к нулю при п оо, так что любое решение сближается с временным рядом (3.6) х).
Случай, когда ри = 1 для некоторых и, также представляет инте рес в связи с задачами экономики и системного планирования (см.
Оркут |
[1948]; |
Бокс и Дженкинс [1962]). |
Разложим многочлен |
||||||
2 ß (/) zq~3 на |
два |
множителя, |
первый |
из |
которых |
соответствует |
|||
корням, равным по модулю единице, а |
второй — всем остальным. |
||||||||
Пусть д, и д2 — степени этих многочленов, |
так что |
q — qx + q2. |
|||||||
Пусть |
ß' (/) и |
ß"(/) — коэффициенты |
этих |
многочленов, причем |
|||||
ß' (0) = |
ß" (0) = 1. |
Для уравнения |
|
|
|
|
|||
|
|
2 |
ß" (У) 0г — ;) = |
І]а(Лс)в(и — k) |
(3.7) |
||||
|
|
о |
|
|
о |
|
|
|
|
можно найти стационарное решение вида (3.6). |
|
|
|||||||
Первый многочлен можно записать в виде |
|
|
|
||||||
|
|
|
S ß '(/)*«-'■= |
П ( * - « * 4 |
|
|
|||
|
|
|
0 |
|
и = і |
|
|
|
|
где, в силу вещественности ß' |
(/), |
вместе с Ѳ!4 |
содержится и —Ѳи, |
||||||
если Ѳ1( ФО, я. Обозначим через |
Sx оператор, |
который преобразует |
|||||||
последовательность вида у (п) в |
|
|
|
|
|
|
|||
|
|
|
71 |
|
|
|
|
|
|
|
yi(n) = S1y(n)= 2 |
У (І)еІѲ'<-п- і \ |
|
?г> — qt. |
|||||
Тогда |
|
|
|
|
|
|
|
|
|
|
Уі (п) — еІѲіуі (п— I) — у (п), |
п > — qL+ 1. |
Определяя теперь S u через ехр іѲи подобно S±, мы можем обра зовать последовательность у2 (п) = S2yt (11), которая удовлетворяет соотношению
Уг (п) — (еІѲі + еі02) уг (п — 1) + е^Н-0^ (п — 2) = у (п),
п > — qj + 2.
Повторяя эту операцию г/, раз, мы видим, что
?і
(П Su)y(n)
и= 11
1)Если s 0) = 0 при / <; 0, то говорят, что преобразование (3.6) является неупреждающим (или физически осуществимым).— Прим-, ред.
24 Гл. I . Вводные сведения
является решением (3.1) при п ^ 0. Таким образом, при подходящем
выборе |
&It,j последовательность |
|
|
|
2 |
|
Чі |
77> 0, |
( 3. 8) |
S |
COS Ѳ ц « + & ; , , - s in 0lt/i) + ( I [ S u ) y ( n ) , |
|||
u |
j |
u= l |
|
|
будет удовлетворять уравнению (3 1) при / і ^ О и любым q началь ным условиям при п = —q, —q + 1 , ■• —1. Теперь уравнение (3.1) уже не имеет стационарного решения. Ситуацию в общем случае можно пояснить на простом примере. Полагая
Ах (п — 1) = X (п) — X (п — 1) |
(3.9) |
п рассматривая уравнение
Да: (/г — 1) = е (п),
мы получаем решение
71
X ( п ) = х ( — 1) + 2 6 (/)> 77 > 0 .
О
Вэтом случае
Е{(а: (тг) — X (—1)) (X (т) — х (—1))} = о2 min (т, п).
Таким образом, коэффициент корреляции между х (п) и х (т) стремится к единице, если т и п стремятся к бесконечности так, что п — /тг остается постоянным. В силу этого реализация процесса будет выглядеть относительно гладкой. Обсуждение характера поведения подобных реализаций читатель может найти во второй главе книги Кокса и Миллера [1965].
(іі) Рассмотрим теперь случай, когда х (п) — вектор. Задад модель уравнением
|
2 В (])х(п — ]')= 2 А (к) е(п— к), |
В(0) — І р, |
(3.10) |
|
|
o'- |
о |
|
|
где |
В (j) — квадратные матрицы, но А (к) |
произвольны х). |
Пред |
|
положим, что е (п) |
удовлетворяет условию |
|
|
|
|
|
Е (е (тг) е' (тт7)) = бIG. |
|
(3.11) |
Мы будем использовать ту же терминологию, |
что в скалярном слу |
|||
чае |
(авторегрессия, |
скользящие средние и т. п.). |
|
Возможны более общие формулировки (представляющие интерес, в част ности, в экономке); однако если х (п) однозначно определяется по своему про шлому и по величинам е (п — к), то система должна приводиться к указанному
виду.
3. Некоторые специальные модели |
25 |
Теперь мы ищем решение однородной системы в виде Ъ(и) z", где Ъ (и) — вектор, удовлетворяющий соотношению
О
а za удовлетворяет уравнению
d e t[ i] ß ( 7 ) z r 5] = 0. |
(3.12) |
о |
|
Если zu — кратный корень, то мы сможем найти более нем одно решение Ъ (и), отвечающее одному и тому же zu. Обозначим эти решения Ъ (і, и). В общем случае, однако, мы должны будем также
включить дополнительные члены вида n}z™b (г, и). Далее рассужде ния проходят по прежнему плану, так что мы можем сформулиро вать теорему 4', доказательство которой помещено в приложении к этой главе.
Т е о р е м а 4'. Если е (п), /г = 0, +1, . . . , — последователь ность случайных векторов, удовлетворяющая условию (3.11), то реше ние уравнения (3.10) однозначно определяется заданием q начальных значений х (—q), . . х (—1). Если ни один из корней za уравне ния (3.12) не лежит на единичной окружности, то решение (3.10) имеет вид
а;(?г) = 2 2 2 с (^> |
|
00 |
||
/> u)Zun3b(i, |
u )+ 2 Л (/с) е (п — к), |
|||
и |
г |
j |
|
h——со |
где элементы Хі}- |
(к) матрицы Л (к) |
экспоненциально стремятся |
||
к нулю при I k I |
|
оо. |
|
|
Вновь, если |
I zu \ < 1 |
для всех и, |
то первый член в выражении |
|
для X (п) в конечном счете становится сколь угодно малым и мы |
||||
получаем решение |
вида |
|
|
ОО
ж(н) = 2 А (7 )е (п -7 ),
Ü
к которому приближается любое решение уравнения (3.10). Для этого решения имеем
со
Е (х (т) х' (п)) = 2 Л (/) GA' (п ~m-\- j) = T (п — т).
о
Легко видеть, что Г (п — т) = Г' (т — п). Если матрицы ковариа ции процесса х (п) зависят только от (?г — иг), то мы вновь будем говорить, что X (и) стационарен в широком смысле х).
-1) Сы. примечание на стр. 22. Мы вновь полагаем Г (п) = Г (0, п) в стацио
нарном случае.
26 |
Гл. I . Вводные сведения |
(ііі) Теперь мы можем построить модель, основанную на дифф ренциальном уравнении, во многом аналогичную примерам (і) и (іі). Мы не будем сейчас стремиться к общности и обсудим пример, кото рый приведет к простой модели, важной для некоторых приложений. Процесс (с непрерывным временем), для которого Е (в (s) е (t)) = = ö (s — t), называют обычно белым шумом :). Если е (s) и е (I) независимы, то иногда говорят о чистом белом шуме. Предыдущие рассмотрения приводят к модели
X (і) + ß (t) X (t) = а (i) e (t). |
(3.13) |
Действуя формально и полагая
t
X (t) = exp { — j ß (t) dx I , u
мы получаем общее решение в виде |
|
|
I |
t |
|
X (/) = b \(t)-г ^ о (т) exp I |
— j ß (u) du j e (x) dx. |
(3.14) |
0T
Ксожалению, эти выкладки математически неприемлемы, так как процесс е (t) не является интегрируемым в обычном смысле. Однако мы можем придать строгий смысл интегралу в (3.14), записав его в виде
it
I а (т) exp { — j ß (u) du } £ {dx),
|
о |
X |
|
|
|
|
|
|
где \ {t) — процесс с ортогональными |
приращениями, |
для которого |
||||||
|
|
t |
|
|
|
|
|
|
|
Е (|*2 (і)) = j а2 (т) dx, |
t > |
0. |
|
|
|||
|
|
u |
|
|
|
|
|
|
[Если |
I (t) — гауссовский процесс и |
a (t) == 1, |
то | |
{£) называется |
||||
процессом броуновского движения 2).] |
|
|
|
|
|
|||
Соотношение (3.14) |
принимает вид |
|
|
|
|
|
||
|
|
|
t |
|
|
|
|
|
|
x(t) = bk(t)+ |
j - j $ L z ( d x ) , |
|
(3.15) |
||||
|
|
|
о |
|
|
|
|
|
и его |
еле ует интерпретировать |
как |
решение |
интегрального урав |
||||
нения |
|
t |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x(t)+ |
[ ß (х) X (т) dx —£ {t), |
t>0 . |
(3.16) |
||||
|
|
ü |
|
|
|
|
|
|
x) |
Здесь |
6 (s |
— t) — дельта-функция Дирака,— Прим, перев. |
2) |
Часто |
его |
называют также винеровскіш процессом. |
3. Некоторые специальные модели |
27 |
Если ß(£) = ß, то (3.15) принимает вид
і
x(t) = bX{t)+ [ l{t — x)l(dx), Л(*) = еН»,
b
и при ß = 0 это равно | (/) -|- Ъ. Если ß > 0 и
і
J А.2 (t — т) а2 (т) dx <С оо,
— оо
то |
решение приближается |
в среднеквадратичном |
к |
|
|
|
і |
|
|
|
|
J |
Л(і — x) l(dx). |
(3.17) |
|
|
— oo |
|
|
Если, наконец, а2 (<) = |
а2, то ковариационная |
функция процес |
||
са |
(3.17) равна |
|
|
|
|
|
ОО |
|
|
|
а2 |
j |
А,(т) А, (£ — s + т) dx, |
|
|
|
о |
|
|
т. е. процесс (3.17) является стационарным в широком смысле г). Очевидно, что можно рассмотреть дифференциальные уравнения более высоких порядков и получить множество решений, которые в случае постоянных коэффициентов будут аналогичны рассмотрен
ным в примере (і). Можно рассмотреть и |
системы уравнений, как |
||||
в пункте (іі). |
|
|
|
||
(іѵ) Робинсон [1962] называет импульсом (wavelet) функцию |
|||||
времени w (t), —оо < і < |
оо, такую, |
что |
|
||
|
ОО |
|
|
|
|
(a) |
j |
w2 (t) dt < оо, |
|
|
|
|
— оо |
|
|
|
|
(b) |
w (t) = 0, і <Г 0. |
|
|
|
|
Тогда если £ (£) — процесс с ортогональными приращениями, |
|||||
такой, что Е (I2 (dt)) = dt, |
то процесс |
|
|
||
|
|
|
і |
|
|
|
|
|
j w(t — x)\(dx) |
(3.18) |
|
|
|
|
— ОО |
|
|
является |
стационарным. |
Функция |
w (t) |
= Л (t), t 0, где Л (t) |
такая же, как в примере (Ш), очевидно, является импульсом. К подоб ной терминологии приводит интерпретация процесса (3.18) как суперпозиции импульсов, испускаемых в последовательные моменты
х) См. примечание на стр. 22.
28 |
Гл. Г. Вводные сведения |
времени, причем все импульсы имеют одинаковую форму, но разные амплитуды l) I (dr). Вообще, мы могли бы рассмотреть функции w (t), удовлетворяющие условию (а), но не удовлетворяющие (Ь), и
СО |
|
^ w(t — т) £ (dr) |
(3.19) |
—со |
|
по-прежнему будет корректно определенным стационарным в широ ком смысле процессом; однако, чтобы интерпретировать его как суперпозицию импульсов, теперь потребуется предположение (кото рое для временных рядов неправдоподобно), что импульсы распро страняются в обоих направлениях времени. Мы часто называем (3.19) скользящим средним, добавляя эпитет «одностороннее», если w (і) — импульс. Односторонний случай, как мы увидим, чрезвычайно важен в теории прогнозирования.
Эта же (импульсная) терминология очевидным образом перено сится на дискретный случай. Подобные определения можно обоб щить и на векторный случай; например, назовем (р х д) -матрично значную функцию W (t) импульсом, если
СО
(a)j W(t)W*(t)dt<oo,
—оо |
|
(b) W(t)=0, |
t c o . |
Интеграл в (а) следует понимать как матрицу, элементы которой
получаются поэлементным |
интегрированием матрицы W (t) W* (/). |
||
Если |
I (t) — векторный процесс с ортогональными приращениями, |
||
такой, |
что Е (£ (dt) |
(dt)) |
— G dt, то |
|
|
t |
W (t — x) £ (dt) |
|
|
j |
—oo
— векторный стационарный процесс. Мы можем вновь интерпрети ровать его как суперпозицию вкладов векторных импульсов, испу скаемых в каждый момент времени и отличающихся друг от друга только благодаря случайным изменениям | (dr). Примером такой системы с конкретной W (п) = Л (п) в многомерном случае для дискретного времени является (3.10). Конечно, мы можем также рассмотреть двусторонние средние
ОО
JW ( t - r ) l ( d r ) ,
—ОО
когда выполняется только (а), однако смысл физической интерпрета ции вновь теряется из-за того, что импульсы должны распростра няться в двух направлениях времени.
J) На самом деле правильнее называть амплитудой | | (dx) |.
4, Стационарные процессы и их ковариационная структура |
29 |
(ѵ) Выше мы рассмотрели процесс второго порядка с дискретным временем, для которого Ачх (п) является конечным скользящим средним. Аналогичное определение можно дать и для непрерывного времени; следуя Яглому [1952], скажем, что процесс х (і) имеет стационарные приращения порядка q, если процесс
Д Ы 0 = 2 (*) ( - У 1-* x (t + jb)
о
стационарен для любого положительного /г.
Если (скалярный) процесс х (t) непрерывно дифференцируем q раз, то, поскольку его производная порядка q является среднеквадратич
ным пределом величин h~qAqx (t) и имеет ковариационную функцию
|
929 |
у (s, t) = lim |
E{h zqAqx (s) Aqx (t)}, |
|
(ds)Q {dt)Ч |
||
|
Л-+0 |
|
|
|
|
|
|
процесс x ^ |
(t) стационарен, ибо его |
ковариационная функция зави |
|
сит только |
от (s — t). |
|
|
Представляет, однако, интерес и тот случай, когда этой производ ной не существует, как, например, для броуновского движения, когда процесс (очевидно) имеет стационарные приращения первого порядка, но не дифференцируем.
Мы закончим этот параграф следующим замечанием. Иногда делают вывод, что уравнение вида
X (п ) = ра: ( п — 1) I е (/г), р > 1,
не имеет стационарных решений. Это не верно, как показывает
00
решение х (п) == — 2 Р_;_1е {п + 7 + 1)- Верно же, конечно, то, что
о
не существует стационарных решений, выражающихся только через настоящие и прошлые значения е (/г). Часто физический смысл имеют только такие решения. Поэтому в дальнейшем, говоря, что х (п) — стационарное решение уравнения вида (3.10), мы имеем в виду стацнонариое решение, выражающееся через е (т), т ^ 7г; таким образом, употребляя этот термин, мы предполагаем, что все нули уравнения (3.12) лежат внутри единичного круга.
4.СТАЦИОНАРНЫЕ ПРОЦЕССЫ II ИХ КОВАРИАЦИОННАЯ СТРУКТУРА
Стационарным в узком смысле мы называем процесс х (t), такой, что для всех N, tu . . ., tN п h (в случае дискретного времени все эти числа целые, но для непрерывного времени только первое из них должно быть целым) распределения вероятностей семейств х (Ц), . . .
. . ., X (tN) и X (Ц -ф /г), . . ., X {tN + h) одинаковы. Если х (t)