
книги / Статистический анализ временных рядов
..pdf?.5. ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ 44£
по абсолютной величине меньше 1, то, решая уравнение (38), получаем
(40) |
у, |
2 |
|
|
|
г=О |
|
что является |
процессом скользящего среднего. Если f(K) |
спек- |
|
тральная плотность процесса |
{yt}, то |
|
(41) |
i k r |
|
г=0 |
||
|
так как правая часть (41) — спектральная плотность процесса {и,}. Таким образом,
(42) |
f{%) = - |
|
л 2 |
$reiX(p- r> |
|
2я 2 Р/ |
J k r |
||
|
2 |
|||
|
г=0 |
|
г=0 |
|
Как показано в разд. 5.2.1, из стационарности процесса {yt} и о2 > О следует, что ни один корень уравнения (39) не может иметь абсолют ное значение, равное 1. Это эквивалентно тому, что знаменатель в выражении (42) не обращается в нуль, и, следовательно, / (к) ин тегрируема.
Если р — 1, |
yt 4- f$i</*-i = ut. |
|
|
|
||
(43) |
|
|
|
|
||
(44) |
/(Ч |
2я | eik + pt р |
2л (1 + pjf + 2рх cos Я,) |
|
|
|
|
|
|
|
|||
Если |
> 0, то / (к) достигает минимума, равного <х2/[2я (1 |
+ Pi)2], |
||||
в точке к = 0 , и максимума, равного о2/[2 я (1 |
— Pi)2], |
в |
точках |
|||
к — ± |
я. Функция / (А,) убывает на отрезке [—я, 0] и возрастает на |
|||||
отрезке [0, я]. Основную роль в спектре играют |
верхние |
частоты. |
||||
Если Pi <с 0 , то максимум достигается в точке к |
= 0 , а минимум — |
в точках к = ± я ; |
в этом случае основную роль в спектре играют |
нижние частоты. |
|
Если р — 2, то |
yt + Piг/г-i + РгУг-г = Щ, |
(45) |
(46)f(k) = i
2л | еГЛ + P / X+ Р212
2л {1 + Pf + Щ + |
2Pi (1 + |
р2) cos к + 2ftj cos 2к] |
|
__________________ of__________________ |
|||
2л [Р| -f- (1 — Ра)3+ |
2Pi (1 + |
рг) cos А. -+• 4р2cos2X] |
|
|
|
rs2 |
|
2л |4pa|cos к |
Pi(» + Pa) l 2 , (1 - Р 2)2(4Р2 — РГ) |
||
4р2 |
4Р* |
||
|
-444 |
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ |
Гл. 7. |
||||||
Если Pi (1 + |
Ра) > 4 | |
Ра |, |
то |
/ (0 ) = <т2/[2 я |
(1 |
+ Рх + |
Р2)2] |
есть |
минимум функции f (X), |
a / (± я) = <х2/[2 я (1 |
— рх + ($2)2] — мак |
||||||
симум; если pi (1 + Р2) < —4 | Ра |, то/(0 ) — максимум, а / ( ± я ) — |
||||||||
минимум. Если | Pi (1 + |
Р2) | < 4 |
| Р2 | , то cos X = |
—Pi (1 |
+ Р2)/(4Р2) |
||||
для значения |
X — А,0 на [0, |
л] |
и в точке X = |
—Х0; если Р2 > 0 |
||||
(при pi < 4Ра корни комплексные), то / (±Я0) — максимум, a f |
(± я ) |
|||||||
и / (0) — относительные минимумы; если Р2 < |
0 (при 4ра < р2 |
кор |
||||||
ни действительные), то / (± |
Х0) — минимум, |
a f (± л) |
и / (0) — |
относительные максимумы. Если корни комплексно сопряжены, •скажем ре±е'4>, То
2я [(1 — р2)2+ 4р2(cos ij) — cos к)2 — 4р (1 — р)2cos \|) cos >.]'
Если р близко к единице, то f (X) принимает максимальное значе ние в окрестности X = ± ф.
В общем случае спектральная плотность есть произведение вы
ражений вида (44) и (47). Если корень х;- = р,ё^, причем р/ близко к 1, то функция f (X) принимает максимум при значении X из окрест ностей точек ± ф/.
Спектральную плотность (42) можно записать в виде
(48) /(*,) = 2
2л I ^ Рre‘Mp- ' )
Каждый множитель \ё %— х, | в выражении (48) можно заменить на
| X j | - 1 1 — ёЧх,- | = | х ;-1 • | е ‘ к |
— l/х,- | . Существуют различные спо |
собы представления / (X), как |
и для процесса скользящего среднего; |
здесь, однако, нет корней, равных по абсолютной 'величине 1. Если все корни выражения (39) по абсолютной величине меньше 1,
| \/xj | > 1 ,тогда только формула (48) является выражением, ко торому соответствует уравнение со всеми корнями, меньшими •единицы по абсолютной величине.
7.5.4.Процессы авторегрессии с остатками в форме скользящего среднего
Предположим, что возмущение в стохастическом разностном урав нении является процессом скользящего среднего, а именно
(49) |
Р |
Я |
2 |
hvt-r = 2 asvts , |
|
|
r=0 |
s=0 |
7.5 . |
ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ |
445 |
||||||
где |
%vt = 0 |
(для удобства), Bv/ = |
a2, Bvtvs |
— 0, t Ф s, Р0 |
= а 0 = |
|||
= 1. Если |
/ (А.) — спектральная |
плотность |
процесса (г/,), |
то |
||||
(50) |
|
2 |
№ |
f (А) — а2 |
|
/(2 я), |
|
|
|
|
г=О |
|
|
s=0 |
|
|
|
так как а2/ |
(2 я) — спектральная плотность процесса {vt}. Тогда спек |
|||||||
тральная плотность для |
{у(} представляется в виде |
|
||||||
(51) |
/(А) =<х2 |
2 |
\(* |
V |
$геа {р~г) |
|
||
|
|
|
s= 0 |
|
\ \ |
г=0 |
|
|
Это выражение является рациональной функцией от ё х. Числитель и знаменатель можно записывать различными способами. Потребу ем, чтобы корни полинома, соответствующего знаменателю, были меньше 1 по абсолютной величине, а корни полинома, соответству ющего числителю, были не больше 1 по абсолютной величине. (Например, 1 может быть корнем числителя, но не знаменателя, если а2 > 0; см. теорему 5.2.2.) Мы также предположим, что эти два полинома не имеют общих корней. (Если существуют общие кор ни, то числитель и знаменатель можно сократить на соответствую щие множители.)
Произвольную непрерывную спектральную плотность можно аппроксимировать рациональной спектральной плотностью. Дей ствительно, любую непрерывную спектральную плотность можно аппроксимировать спектральной плотностью процесса скользящего среднего. Это следует из теоремы Вейерштрасса об аппроксимации тригонометрическими функциями. Эта теорема утверждает, что если к (А) — непрерывная функция на отрезке [—я, я], причем k (я) =
= k (—я), то для любого е > |
0 существует тригонометрический по |
|||||
лином с действительными значениями |
|
|||||
(52) |
hm(А) = 2 |
cf |
%i = |
«о + |
2 |
(а/ cos V + bi sin Я/)> |
|
j = — m |
|
|
|
l —l |
|
где |
коэффициенты a0, |
alt |
..., |
am, |
blt |
..., bm действительны, такой, |
что |
|
|
|
|
|
|
(53) |
| k (A) — hm(A) | < e, |
|
— я <, A < я. |
(См., например, Лукач (1960, Приложение С).] Если k (А) = к (—А), то hm (А) можно считать симметричным (так, если бы аппроксими
рующий полином h*m (А) не был симметричен, то можно было выбрать
К (к) = y - th*m (А) + hm (—А)]). |
Тогда Ьг = • • • = Ьт = 0, а Cj = |
— c^i действительны, / = 0 , 1 , 2 |
...... т. |
446 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.
Т еорема 7.5.2. Если спектральная плотность /(А) непрерывна. то для произвольного г ~> 0 существует спектральная плотность
(54) |
|
hm(А) = |
т |
' |
т |
ct cos X/, |
|
||
|
2 |
c/e&f = |
2 |
|
|||||
|
|
|
/ = — т |
j = — m |
|
|
|
||
где |
с/ — |
действительны, |
hm (А.) > |
е/2 « |
| / (А) — |
(А) | < е, |
|||
—л < А ^ |
я. |
|
k (X) = k (—А) = |
|
|
||||
Д оказательство. Пусть |
/ (А) + Зе/4 и пусть |
||||||||
hm (А) = ftm (—А) удовлетворяет теореме |
Вейерштрасса |
об аппрок |
|||||||
симации с заменой в (53) е |
на е/4. Тогда |
|
|
|
|||||
(55) |
|/(А) — hn}(X)\ < |
|/(А) — /г(А)| + |
\k (А)- |
hm(А)|< |
|
||||
|
|
< |
3 |
|
1 |
— Я < А, < Я. |
|
||
|
|
~4~е Н— 4~ е |
|
||||||
Следствие 7.5.1. Если спектральная плотность f(%) непрерывна, |
|||||||||
то |
для произвольного |
г > |
0 |
существует |
такой конечный процесс |
скользящего среднего (17) с положительной спектральной плотнос
тью |
(18), обозначаемой hQ(>„), |
что будет выполняться |
условие |
|||
| / (Я) — hQ(А) | < |
е для —я < |
X < я. |
|
|
||
Д оказательство. В разд. 7.5.1 |
было показано, |
что произволь |
||||
ная |
ковариационная последовательность, которая |
имеет конечное |
||||
число ненулевых |
ковариаций, |
является ковариационной |
последо |
|||
вательностью конечного процесса |
скользящего среднего. |
Исполь |
зуя теорему 7.5.2, произвольную непрерывную спектральную плот ность можно аппроксимировать положительной спектральной плот ностью (54).и
С ледс тви е. 7.5.2. Если спектральная плотность f (А,) непрерыв на, то для произвольного г >* О существует такой процесс авторег
рессии {yt}> удовлетворяющий (38), |
со спектральной плотностью |
|||
(42), обозначаемой gp{h)yчто выполняется условие | / |
(X) — g0 (X) | <; |
|||
< е, когда —я < |
< я. |
|
|
|
Д оказательство. Пусть fc (X) = |
/ Ш, если / (X) > |
с, и fc (Ч = с, |
||
если / (А) < с (—я |
< А < я), |
т а щ |
0 < с < е/2 . |
Тогда | / (А) — |
— fc (ЧI < е/2. Так как плотность fc(А) непрерывна и положительна на отрезке [—я, я], то 1lfc (А) = g (А) тоже непрерывна, положитель на и ограничена и представляет собой спектральную плотность стационарного процесса. Из следствия 7.5.1 вытекает существование такой положительной спектральной плотности процесса скользящего
среднего, обозначаемой |
kq (А), |
что выполняется условие | g (А) — |
— kq (А) | < е'для —я |
<, А < |
я. Тогда выражение \Ikq (А) = gp (А) |
представляет собой спектральную плотность процесса авторегрес сии с р = q и
(66) I f c W - f o W I - f r k — T n H - и £ (Г м Г < т « -
ГЛ |
ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ |
447 |
|
если |
|
|
|
( 5 7 ) |
е ' < ---------------------------- |
j— . |
|
|
maxf (к) + |
— г |
|
Это доказывает следствие.
Таким образом, непрерывную спектральную плотность можно сколь угодно точно аппроксимировать спектральной плотностью процесса скользящего среднего или спектральной плотностью про цесса авторегрессии. Аналогично соответствующую ковариацион ную последовательность можно также аппроксимировать сколь угодно точно (см. упр. 28).
7.5.5. Линейные операции
Линейные операции, такие, как дифференцирование и сглажи вание, были рассмотрены в гл. 3. Влияние этих операций на кова риационную структуру процесса можно изучать с помощью спект ральных плотностей.
|
Q |
crzr, то |
спектральная плот- |
С ледствие |
7.5.3. Если Р ( г ) = 2 |
||
|
г—О |
|
|
ноешь h (X) процесса |
|
|
|
(58) |
zt = P № y t |
|
|
представляет собой выражение |
|
|
|
(59) |
h(i) = \ p m f ( k ) , |
|
|
где f (Я) — спектральная плотность |
процесса |
{yt} и ££ — оператор |
|
сдвига. |
|
|
|
Рассмотрим процесс, полученный с помощью r-кратного приме нения разностного оператора А = ^ — 1 к процессу {г/,}, т. е.
(60)г, = A'yt = (1 - <£)' у,+, = (1 — «К 9*у,.
Тогда |
если h (Я) — спектральная плотность процесса {zt}, то |
||
(61) |
M L = |
11 — е* I* «= | e'V2 — |
|Яг = |
|
Г(А) |
|
|
|
= |
2 2r sin2' ~ Х = | ^ — 2 + |
е-к \' = 2 '( 1 — cos Я/. |
Вычитание приводит к поднятию высоких частот.
448 |
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ |
Гл. 7. |
Добавление соседних членов представляет собой оператор ^ +
+1; пусть эта операция повторяется г раз.
(62) |
дг, = (1 + Str У,+г = (1 + f£f 9>yt. |
|
||||
Если k |
(Я,) — спектральная плотность процесса {xt}, то |
|
||||
(63) |
=11 + сл | 2г = | е‘г/2 + е~а/2|* = |
|
||||
|
= 22' cos2'' - i-Я, = \еа + 2 + ё~‘%|' = 2 ^ (1 + |
cos А,)'. |
||||
Суммирование приводит к поднятию низких частот. |
выполнены. |
|||||
Предположим, |
что |
и вычитание, |
и |
сглаживание |
||
Если |
|
|
|
|
|
|
(64) |
|
г, = (1 - £ ) ' ( ! |
+ |
£ ) V |
|
|
то |
|
|
|
|
|
|
(65) |
7 |
$ Г = |
2'+$(1 — cos Я)'( 1 + cos Я)1 . |
|
||
Обозначим это через <р (Я). Отсюда |
|
|
|
|||
(6 6 ) |
ф (Я) = |
2r+s (1 — cos Я Г 1 (1 + |
cos Я)5-1 sin Я х |
|
||
|
|
X [г(1 + соэЯ)— s ( l — cos Я)), |
г > 1 , s > l , |
(67)-Цг ф (Я) =
= |
2r+s (1 — cos Я)л-2(1 -f cos Я)5 -2 sin2 Я {[г (1 + |
cos Я) — |
||
|
— s(l — cos Я)]2 — cos Я [г (1 + cos Я) — |
|
||
|
— s(l — соэЯ)]— (r + s)sinH}, |
r > 2 , s > 2 . |
||
Первая производная равна нулгогкогда |
|
|||
(68) |
cos Я = s — г |
_ |
1 — r/s |
|
|
S + г |
~ |
1 + гjs |
|
при |
этом значении Я = Я0 вторая производная принимает |
вид |
|
(69) |
— 2 '+s (1 — cos Я0)г_2(1 + cos X0f ~ 2(r + s) sinH 0 = |
|
|
|
__ |
4r+ V s s |
|
|
|
(r + |
sY+s- ' |
Таким образом, h (Я)// (Я) имеет максимум в точке Я0. Остальные нулевые значения первой производной есть нули выражения h (Я) / If (к). Выбирая должным образом г и s, мы можем сделать Я0 произ вольно близким к любой заданной частоте. Если г и s большие, то максимум (65) будет четко выраженным. Тогда h (Я) будет иметь мак-
450 |
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ |
Гл. 7. |
|||||
добавим все |
случайные |
величины, |
которые |
являются |
пределами |
||
в среднеквадратичном |
последовательностей |
случайных |
величин, |
||||
уже принадлежащих пространству. |
|
|
пространства, то %ху |
||||
Если х и у — два элемента гильбертова |
|||||||
назовем скалярным произведениемЛV&X2—нормой |
а V& (х — у)2— |
||||||
расстоянием |
между х и у. Если 8 |
(х — у)2 = |
0, |
то будем считать |
|||
х и у совпадающими. Последовательность |
элементов (x<n>, п = 1, |
||||||
2 , ..'.} сходится тогда и только тогда, когда |
она удовлетворяет кри |
терию Коши, |
а именно: |
для любого заданного е > 0 существует |
|
N (е), такое, что для m > |
N (е) и я > iV (е) выполняется неравен |
||
ство |
|
|
|
(1) |
] /g ( * (n) — Х(т))2< |
8 . |
|
Гильбертово пространство, порожденное |
последовательностью [yt], |
является полным в том смысле, что любая последовательность Коши имеет предел, принадлежащий этому пространству. Мы будем писать
.\<n>-> .V, подразумевая, |
что 8 (а,<п>— х)2- у 0, |
когда |
п - у |
оо. |
||||
|
Теорема 7.6.1. |
Если |
8 (х<п>— х( т >)2 |
0 |
при п, |
т —>■ |
О О, |
|
то существует случайная величина х, такая, |
что 8 (*<"> — х)2 - у |
|||||||
- у 0 при п-У оо. |
|
|
|
|
|
|
|
|
|
Д оказательство. Из неравенства Чебышева |
следует, |
что х<п>— |
|||||
— |
х ( т ) сходится к 0 |
по вероятности при п, т - |
у |
о о . |
Тогда существу |
|||
ет |
последовательность nk и случайная величина х, |
такие, что х(Пк) |
сходится к х с вероятностью 1 [Лоэв (1963, § 6.3)]. Для каждого фик
сированного т разность x("ft) — x<m> сходится к х — х<т>с вероят ностью 1 . Тогда из уравнения теоремы Фату — Лебега [Лоэв (1963, § 7.2)] и из условия 8 (х{Пк) — х<т >)2 -> 0 при пк, т -у оо следует
(2)8 (х— х(т))2< Шп 8 (х<Пк)— х(т))2 - у0,
когда т |
оо.ш |
k-*-oo |
|
||
Полезным критерием |
для сходимости является |
|
Теорема |
7.6.2. Если |
8 x(n)x<m>->• а2 ■< оо^ при п, т -у оо, то |
8(х<п) — х<т))2 -у 0 .
До к а за тел ьс тво ,
(3) |
8 (х(п) - х{т])2= Sx(n)*+ 8 х(т)‘- 2%х{п)х(т)- у |
0 . л |
|
С л е д с тв и е 7.6.1. Если 8x<n>x<m>- у |
а2< оо при |
п, т - у оо, |
|
то существует случайная величина х, |
такая, что 8 (х<п>— х)2 -у 0 |
||
при П - У |
оо. |
|
|
452 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.
Последнее |
неравенство (неравенство треугольника) следует из |
|||
неравенства Коши — Шварца: |
|
|||
(9) |
\x + |
y f = |
\ x f + Ы 2 + |
2(х, «/)< |
|
|
< |
il*f +1Ы12 + |
2J*|| • ||#| = (||*|| + 1|#|)2. |
Норма || л: — у \ задает расстояние между х и у и называется метри кой пространства.
Последовательность {*<">} называется последовательностью Ко
ши, если |
|
(10) |
lim й*(л)— *(т)|| = 0. |
|
n-fOO |
|
т - и » |
Элемент д: есть предел последовательности {*(п>}, если |
|
(11) |
lim |х (п)— xj = 0 . |
|
n-юо |
Нормированное |
линейное векторное пространство полно, если |
в нем существует предел любой последовательности Коши, при надлежащей пространству.
Для любого гильбертова пространства скалярное произведение
двух |
элементов является |
непрерывной функцией |
этих элементов. |
Т еорема 7.6.4. Если xln) |
х и # п) ->■ у при п -> |
оо, то |
|
( 12) |
(xin\ y in))-+(x,y). |
|
Д оказательство. Из неравенства Коши — Шварца имеем
(13) |(*<"\ у(п)) - ( х , у)\ = \{х(п)- х , у(п)- у ) +
+(*, у{п) — у) + (Х(п) — х,у)\<с
<| ( j f (n)— X, у(п) — у) I +
|
+ |
I (*. у(п) — У) I + |
I (Х<я)—VJC, у) I < |
|
|
+ |
M 4 l 0 (n)- « /ll + |
ll*(n)— * 1Н Ы - |
|
Правая часть в (13) сходится к 0 .в |
|
|
||
С ледствие 7.6.2. Если |
-*■ х, то || |
Ц |
Цх ||. |
Если в гильбертовом пространстве, порожденном последова тельностью {у(}, скалярное произведение (х, у) определяется как Илт/, то теорема 7.6.4 подтверждает существование пределов дисперсий и ковариаций в § 7.4 и 7.5.