Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
14
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

?.5. ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ 44£

по абсолютной величине меньше 1, то, решая уравнение (38), получаем

(40)

у,

2

 

 

 

г

 

что является

процессом скользящего среднего. Если f(K)

спек-

тральная плотность процесса

{yt}, то

 

(41)

i k r

г=0

 

так как правая часть (41) — спектральная плотность процесса {и,}. Таким образом,

(42)

f{%) = -

 

л 2

$reiX(p- r>

 

2я 2 Р/

J k r

 

2

 

г=0

 

г=0

 

Как показано в разд. 5.2.1, из стационарности процесса {yt} и о2 > О следует, что ни один корень уравнения (39) не может иметь абсолют­ ное значение, равное 1. Это эквивалентно тому, что знаменатель в выражении (42) не обращается в нуль, и, следовательно, / (к) ин­ тегрируема.

Если р — 1,

yt 4- f$i</*-i = ut.

 

 

 

(43)

 

 

 

 

(44)

/(Ч

2я | eik + pt р

2л (1 + pjf + 2рх cos Я,)

 

 

 

 

 

 

Если

> 0, то / (к) достигает минимума, равного <х2/[2я (1

+ Pi)2],

в точке к = 0 , и максимума, равного о2/[2 я (1

— Pi)2],

в

точках

к — ±

я. Функция / (А,) убывает на отрезке [—я, 0] и возрастает на

отрезке [0, я]. Основную роль в спектре играют

верхние

частоты.

Если Pi <с 0 , то максимум достигается в точке к

= 0 , а минимум —

в точках к = ± я ;

в этом случае основную роль в спектре играют

нижние частоты.

 

Если р — 2, то

yt + Piг/г-i + РгУг-г = Щ,

(45)

(46)f(k) = i

2л | еГЛ + P / X+ Р212

2л {1 + Pf + Щ +

2Pi (1 +

р2) cos к + 2ftj cos 2к]

__________________ of__________________

2л [Р| -f- (1 — Ра)3+

2Pi (1 +

рг) cos А. -+• 4р2cos2X]

 

 

rs2

|4pa|cos к

Pi(» + Pa) l 2 , (1 - Р 2)2(4Р2 — РГ)

4р2

4Р*

 

-444

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

Гл. 7.

Если Pi (1 +

Ра) > 4 |

Ра |,

то

/ (0 ) = <т2/[2 я

(1

+ Рх +

Р2)2]

есть

минимум функции f (X),

a / (± я) = <х2/[2 я (1

— рх + ($2)2] — мак­

симум; если pi (1 + Р2) < —4 | Ра |, то/(0 ) — максимум, а / ( ± я ) —

минимум. Если | Pi (1 +

Р2) | < 4

| Р2 | , то cos X =

—Pi (1

+ Р2)/(4Р2)

для значения

X — А,0 на [0,

л]

и в точке X =

Х0; если Р2 > 0

(при pi < 4Ра корни комплексные), то / (±Я0) — максимум, a f

(± я )

и / (0) — относительные минимумы; если Р2 <

0 (при 4ра < р2

кор­

ни действительные), то / (±

Х0) — минимум,

a f (± л)

и / (0) —

относительные максимумы. Если корни комплексно сопряжены, •скажем ре±е'4>, То

2я [(1 — р2)2+ 4р2(cos ij) — cos к)2 — 4р (1 — р)2cos \|) cos >.]'

Если р близко к единице, то f (X) принимает максимальное значе­ ние в окрестности X = ± ф.

В общем случае спектральная плотность есть произведение вы­

ражений вида (44) и (47). Если корень х;- = р,ё^, причем р/ близко к 1, то функция f (X) принимает максимум при значении X из окрест­ ностей точек ± ф/.

Спектральную плотность (42) можно записать в виде

(48) /(*,) = 2

2л I ^ Рre‘Mp- ' )

Каждый множитель \ё %х, | в выражении (48) можно заменить на

| X j | - 1 1 ёЧх,- | = | х ;-1 • | е ‘ к

l/х,- | . Существуют различные спо­

собы представления / (X), как

и для процесса скользящего среднего;

здесь, однако, нет корней, равных по абсолютной 'величине 1. Если все корни выражения (39) по абсолютной величине меньше 1,

| \/xj | > 1 ,тогда только формула (48) является выражением, ко­ торому соответствует уравнение со всеми корнями, меньшими •единицы по абсолютной величине.

7.5.4.Процессы авторегрессии с остатками в форме скользящего среднего

Предположим, что возмущение в стохастическом разностном урав­ нении является процессом скользящего среднего, а именно

(49)

Р

Я

2

hvt-r = 2 asvts ,

 

r=0

s=0

7.5 .

ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ

445

где

%vt = 0

(для удобства), Bv/ =

a2, Bvtvs

— 0, t Ф s, Р0

= а 0 =

= 1. Если

/ (А.) — спектральная

плотность

процесса (г/,),

то

(50)

 

2

f (А) — а2

 

/(2 я),

 

 

 

г

 

 

s=0

 

 

 

так как а2/

(2 я) — спектральная плотность процесса {vt}. Тогда спек­

тральная плотность для

{у(} представляется в виде

 

(51)

/(А) =<х2

2

\(*

V

$геа {р~г)

 

 

 

 

s= 0

 

\ \

г=0

 

 

Это выражение является рациональной функцией от ё х. Числитель и знаменатель можно записывать различными способами. Потребу­ ем, чтобы корни полинома, соответствующего знаменателю, были меньше 1 по абсолютной величине, а корни полинома, соответству­ ющего числителю, были не больше 1 по абсолютной величине. (Например, 1 может быть корнем числителя, но не знаменателя, если а2 > 0; см. теорему 5.2.2.) Мы также предположим, что эти два полинома не имеют общих корней. (Если существуют общие кор­ ни, то числитель и знаменатель можно сократить на соответствую­ щие множители.)

Произвольную непрерывную спектральную плотность можно аппроксимировать рациональной спектральной плотностью. Дей­ ствительно, любую непрерывную спектральную плотность можно аппроксимировать спектральной плотностью процесса скользящего среднего. Это следует из теоремы Вейерштрасса об аппроксимации тригонометрическими функциями. Эта теорема утверждает, что если к (А) — непрерывная функция на отрезке [—я, я], причем k (я) =

= k (—я), то для любого е >

0 существует тригонометрический по­

лином с действительными значениями

 

(52)

hm(А) = 2

cf

%i =

«о +

2

(а/ cos V + bi sin Я/)>

 

j = — m

 

 

 

l —l

 

где

коэффициенты a0,

alt

...,

am,

blt

..., bm действительны, такой,

что

 

 

 

 

 

 

(53)

| k (A) — hm(A) | < e,

 

— я <, A < я.

(См., например, Лукач (1960, Приложение С).] Если k (А) = к (—А), то hm (А) можно считать симметричным (так, если бы аппроксими­

рующий полином h*m (А) не был симметричен, то можно было выбрать

К (к) = y - th*m (А) + hm (—А)]).

Тогда Ьг = • • • = Ьт = 0, а Cj =

c^i действительны, / = 0 , 1 , 2

...... т.

446 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.

Т еорема 7.5.2. Если спектральная плотность /(А) непрерывна. то для произвольного г ~> 0 существует спектральная плотность

(54)

 

hm(А) =

т

'

т

ct cos X/,

 

 

2

c/e&f =

2

 

 

 

 

/ = — т

j = — m

 

 

 

где

с/ —

действительны,

hm (А.) >

е/2 «

| / (А) —

(А) | < е,

—л < А ^

я.

 

k (X) = k (—А) =

 

 

Д оказательство. Пусть

/ (А) + Зе/4 и пусть

hm (А) = ftm (—А) удовлетворяет теореме

Вейерштрасса

об аппрок­

симации с заменой в (53) е

на е/4. Тогда

 

 

 

(55)

|/(А) — hn}(X)\ <

|/(А) — /г(А)| +

\k (А)-

hm(А)|<

 

 

 

<

3

 

1

— Я < А, < Я.

 

 

 

~4~е Н— 4~ е

 

Следствие 7.5.1. Если спектральная плотность f(%) непрерывна,

то

для произвольного

г >

0

существует

такой конечный процесс

скользящего среднего (17) с положительной спектральной плотнос­

тью

(18), обозначаемой hQ(>„),

что будет выполняться

условие

| / (Я) — hQ(А) | <

е для —я <

X < я.

 

 

Д оказательство. В разд. 7.5.1

было показано,

что произволь­

ная

ковариационная последовательность, которая

имеет конечное

число ненулевых

ковариаций,

является ковариационной

последо­

вательностью конечного процесса

скользящего среднего.

Исполь­

зуя теорему 7.5.2, произвольную непрерывную спектральную плот­ ность можно аппроксимировать положительной спектральной плот­ ностью (54).и

С ледс тви е. 7.5.2. Если спектральная плотность f (А,) непрерыв­ на, то для произвольного г >* О существует такой процесс авторег­

рессии {yt}> удовлетворяющий (38),

со спектральной плотностью

(42), обозначаемой gp{h)yчто выполняется условие | /

(X) — g0 (X) | <;

< е, когда —я <

< я.

 

 

 

Д оказательство. Пусть fc (X) =

/ Ш, если / (X) >

с, и fc (Ч = с,

если / (А) < с (—я

< А < я),

т а щ

0 < с < е/2 .

Тогда | / (А) —

fc (ЧI < е/2. Так как плотность fc(А) непрерывна и положительна на отрезке [—я, я], то 1lfc (А) = g (А) тоже непрерывна, положитель­ на и ограничена и представляет собой спектральную плотность стационарного процесса. Из следствия 7.5.1 вытекает существование такой положительной спектральной плотности процесса скользящего

среднего, обозначаемой

kq (А),

что выполняется условие | g (А) —

kq (А) | < е'для —я

<, А <

я. Тогда выражение \Ikq (А) = gp (А)

представляет собой спектральную плотность процесса авторегрес­ сии с р = q и

(66) I f c W - f o W I - f r k — T n H - и £ (Г м Г < т « -

ГЛ

ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СТАЦИОНАРНЫМИ ПРОЦЕССАМИ

447

если

 

 

 

( 5 7 )

е ' < ----------------------------

j— .

 

 

maxf (к) +

— г

 

Это доказывает следствие.

Таким образом, непрерывную спектральную плотность можно сколь угодно точно аппроксимировать спектральной плотностью процесса скользящего среднего или спектральной плотностью про­ цесса авторегрессии. Аналогично соответствующую ковариацион­ ную последовательность можно также аппроксимировать сколь угодно точно (см. упр. 28).

7.5.5. Линейные операции

Линейные операции, такие, как дифференцирование и сглажи­ вание, были рассмотрены в гл. 3. Влияние этих операций на кова­ риационную структуру процесса можно изучать с помощью спект­ ральных плотностей.

 

Q

crzr, то

спектральная плот-

С ледствие

7.5.3. Если Р ( г ) = 2

 

г—О

 

ноешь h (X) процесса

 

 

(58)

zt = P № y t

 

представляет собой выражение

 

 

(59)

h(i) = \ p m f ( k ) ,

 

где f (Я) — спектральная плотность

процесса

{yt} и ££ оператор

сдвига.

 

 

 

Рассмотрим процесс, полученный с помощью r-кратного приме­ нения разностного оператора А = ^ — 1 к процессу {г/,}, т. е.

(60)г, = A'yt = (1 - <£)' у,+, = (1 — «К 9*у,.

Тогда

если h (Я) — спектральная плотность процесса {zt}, то

(61)

M L =

11 — е* I* «= | e'V2 —

|Яг =

 

Г(А)

 

 

 

=

2 2r sin2' ~ Х = | ^ — 2 +

е-к \' = 2 '( 1 — cos Я/.

Вычитание приводит к поднятию высоких частот.

448

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

Гл. 7.

Добавление соседних членов представляет собой оператор ^ +

+1; пусть эта операция повторяется г раз.

(62)

дг, = (1 + Str У,+г = (1 + f£f 9>yt.

 

Если k

(Я,) — спектральная плотность процесса {xt}, то

 

(63)

=11 + сл | 2г = | е‘г/2 + е~а/2|* =

 

 

= 22' cos2'' - i-Я, = \еа + 2 + ё~‘%|' = 2 ^ (1 +

cos А,)'.

Суммирование приводит к поднятию низких частот.

выполнены.

Предположим,

что

и вычитание,

и

сглаживание

Если

 

 

 

 

 

 

(64)

 

г, = (1 - £ ) ' ( !

+

£ ) V

 

то

 

 

 

 

 

 

(65)

7

$ Г =

2'+$(1 — cos Я)'( 1 + cos Я)1 .

 

Обозначим это через <р (Я). Отсюда

 

 

 

(6 6 )

ф (Я) =

2r+s (1 — cos Я Г 1 (1 +

cos Я)5-1 sin Я х

 

 

 

X [г(1 + соэЯ)— s ( l — cos Я)),

г > 1 , s > l ,

(67)г ф (Я) =

=

2r+s (1 — cos Я)л-2(1 -f cos Я)5 -2 sin2 Я {[г (1 +

cos Я) —

 

— s(l — cos Я)]2 — cos Я (1 + cos Я) —

 

 

— s(l — соэЯ)]— (r + s)sinH},

r > 2 , s > 2 .

Первая производная равна нулгогкогда

 

(68)

cos Я = s — г

_

1 — r/s

 

 

S + г

~

1 + гjs

 

при

этом значении Я = Я0 вторая производная принимает

вид

(69)

2 '+s (1 — cos Я0)г_2(1 + cos X0f ~ 2(r + s) sinH 0 =

 

 

 

__

4r+ V s s

 

 

(r +

sY+s- '

Таким образом, h (Я)// (Я) имеет максимум в точке Я0. Остальные нулевые значения первой производной есть нули выражения h (Я) / If (к). Выбирая должным образом г и s, мы можем сделать Я0 произ­ вольно близким к любой заданной частоте. Если г и s большие, то максимум (65) будет четко выраженным. Тогда h (Я) будет иметь мак-

1.6.

ГИЛЬБЕРТОВО ПРОСТРАНСТВО И ТЕОРИЯ ПРОГНОЗИРОВАНИЯ

44»

симум в окрестности точки Я0 и соответствующий процесс будет пре­ имущественно волной косинуса с этой частотой.

Рассмотрим следующий пример скользящего среднего

(70)

 

 

 

I

j

 

 

 

 

 

 

 

*

*____Ж

 

Тогда

 

 

 

 

 

 

 

 

(71)

h (А.)

1

 

 

iXs

 

1

 

 

(2m +

I)a

2

*

 

 

 

fQ)

(2m + 1)

s=0

 

 

s= — т

 

 

 

 

 

1

 

j _

eiX<2m+l)

2

 

 

 

 

 

 

 

 

 

 

 

(2m +

1)а

 

 

 

 

 

 

 

|

|

g fX (2 m + l)/ 2 _ e- < M 2 m + l)/2

2

 

=

(2m +

1)2 I

 

 

g»'V2 _

g—ik/2

= *

 

_

f sin X (m +

1/2)

l a

 

 

 

 

~

[(2m +

1) sin Я/2 J

 

 

 

Сглаживание необходимо для увеличения спектральной плотности

вблизи К — 0

(низкие частоты) и для уменьшения ее вблизи К =

= k2n/(2m +

1), k = 1, 2...........

7.6.ГИЛЬБЕРТОВО ПРОСТРАНСТВО

ИТЕОРИЯ ПРОГНОЗИРОВАНИЯ

7.6.1. Гильбертово пространство

Материал последних двух параграфов станет более прозрач­ ным, если ввести в рассмотрение гильбертово пространство. Конеч­ номерное евклидово пространство есть гильбертово пространство; общая теория гильбертова пространства переносит многие идеи и результаты евклидовой геометрии на бесконечномерные простран­ ства.

Для определения гильбертова пространства введем бесконечную последовательность случайных величин (yt}, t = ..., —1, 0 , 1, ... .

Эту последовательность случайных величин будем считать слу­ чайным стационарным процессом в широком смысле. Для удобства положим %yt = 0 : нас будут интересовать только моменты второго порядка. Пусть $ytya = a (t — s). Будем считать случайные пе­ ременные yt, t = ..., —1, 0 , 1, ..., элементами или точками нашего

гильбертова пространства. Конечные линейные комбинации 2 otyt,

l£S

где о есть конечное множество (положительных или отрицательных) целых чисел, также являются точками этого пространства. Наконец

450

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

Гл. 7.

добавим все

случайные

величины,

которые

являются

пределами

в среднеквадратичном

последовательностей

случайных

величин,

уже принадлежащих пространству.

 

 

пространства, то %ху

Если х и у — два элемента гильбертова

назовем скалярным произведениемЛV&X2нормой

а V& у)2—

расстоянием

между х и у. Если 8

(х — у)2 =

0,

то будем считать

х и у совпадающими. Последовательность

элементов (x<n>, п = 1,

2 , ..'.} сходится тогда и только тогда, когда

она удовлетворяет кри­

терию Коши,

а именно:

для любого заданного е > 0 существует

N (е), такое, что для m >

N (е) и я > iV (е) выполняется неравен­

ство

 

 

 

(1)

] /g ( * (n) — Х(т))2<

8 .

Гильбертово пространство, порожденное

последовательностью [yt],

является полным в том смысле, что любая последовательность Коши имеет предел, принадлежащий этому пространству. Мы будем писать

.\<n>-> .V, подразумевая,

что 8 (а,<п>х)2- у 0,

когда

п - у

оо.

 

Теорема 7.6.1.

Если

8 (х<п>— х( т >)2

0

при п,

т —>■

О О,

то существует случайная величина х, такая,

что 8 (*<"> — х)2 - у

- у 0 при п-У оо.

 

 

 

 

 

 

 

 

Д оказательство. Из неравенства Чебышева

следует,

что х<п>

х ( т ) сходится к 0

по вероятности при п, т -

у

о о .

Тогда существу­

ет

последовательность nk и случайная величина х,

такие, что х(Пк)

сходится к х с вероятностью 1 [Лоэв (1963, § 6.3)]. Для каждого фик­

сированного т разность x("ft) — x<m> сходится к х — х<т>с вероят­ ностью 1 . Тогда из уравнения теоремы Фату — Лебега [Лоэв (1963, § 7.2)] и из условия 8 (х{Пк) х<т >)2 -> 0 при пк, т оо следует

(2)8 (х— х(т))2< Шп 8 (х<Пк)х(т))2 - у0,

когда т

оо.ш

k-*-oo

 

Полезным критерием

для сходимости является

Теорема

7.6.2. Если

8 x(n)x<m>->• а2 ■< оо^ при п, т -у оо, то

8(х<п) х<т))2 -у 0 .

До к а за тел ьс тво ,

(3)

8 (х(п) - х{т])2= Sx(n)*+ 8 х(т)‘- 2%х{п)х(т)- у

0 . л

С л е д с тв и е 7.6.1. Если 8x<n>x<m>- у

а2< оо при

п, т - у оо,

то существует случайная величина х,

такая, что 8 (х<п>х)2 -у 0

при П - У

оо.

 

 

7.6.

ГИЛЬБЕРТОВО ПРОСТРАНСТВО И ТЕОРИЯ ПРОГНОЗИРОВАНИЯ

451

В общем случае гильбертово пространство есть полное линейное векторное пространство со скалярным произведением. Линейное векторное пространство состоит из элементов (иногда говорят точек, векторов) х, у, z, . . . , для которых определены операция сло­ жения, ставящая в соответствие двум элементам х и у третий эле­ мент х + у, и операция умножения на действительное число а !>; эти операции удовлетворяют следующим условиям:

 

х + у = у + х,

х +

+ г) = +

у) +

г,

(4)

а(х + у) = ах + ау,

+ 0) х = ах +

Р*,

 

 

а фх) = (оф) х,

 

= х.

 

 

Соотношения (4) выполняются для

любых элементов х,

у, z век­

торного пространства и для любых действительных чисел а и р . Кроме того, существует единственный элемент 0, называемый нулем (не путайте с числом 0 !), такой, что для любого х из векторного про­ странства х + 0 х и 0 - х = 0.

Скалярное произведение есть действительная функция {х, у) двух элементов, для которой выполняются следующие условия:

(х, У) =

(У, х),

(х + у, г) =* (х, г) + (у, г),

(ах, у) =

а (х, у),

(х, х) > О,

 

(х, х) > 0

при хфО .

В евклидовом пространстве скалярное произведение есть х'у. Для конечных линейных комбинаций множества случайных величин и их пределов скалярное произведение есть %ху.

Теорема 7.6.3. (Неравенство Коши — Шварца.)

(6)

(*, У) < У (х, х) У (у, у ) .

Д оказательство. Теорема следует из неравенства

(7) 0 < (ах + Р</, ах + Рг/) = а2 (х, х) + 2ар (х, у) + Р2 (у, у)

при а = VWTy) и р = — У(х7х)-я

Норма элемента определяется при помощи скалярного произ­

ведения как У (х, х); часто ее записывают в виде || х ||. Она удовлет­ воряет следующим условиям:

,8ч

1*1 > О,

И > 0 при хф О ,

 

||ах I = | а |! х |,

\х + у \ < \ х \ + \у{.*

** В комплексном гильбертовом пространстве — соответственно комплексное число.

452 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.

Последнее

неравенство (неравенство треугольника) следует из

неравенства Коши — Шварца:

 

(9)

\x +

y f =

\ x f + Ы 2 +

2(х, «/)<

 

 

<

il*f +1Ы12 +

2J*|| • ||#| = (||*|| + 1|#|)2.

Норма || л: — у \ задает расстояние между х и у и называется метри­ кой пространства.

Последовательность {*<">} называется последовательностью Ко­

ши, если

 

(10)

lim й*(л)— *(т)|| = 0.

 

n-fOO

 

т - и »

Элемент д: есть предел последовательности {*(п>}, если

(11)

lim |х (п)— xj = 0 .

 

n-юо

Нормированное

линейное векторное пространство полно, если

в нем существует предел любой последовательности Коши, при­ надлежащей пространству.

Для любого гильбертова пространства скалярное произведение

двух

элементов является

непрерывной функцией

этих элементов.

Т еорема 7.6.4. Если xln)

х и # п) ->■ у при п ->

оо, то

( 12)

(xin\ y in))-+(x,y).

 

Д оказательство. Из неравенства Коши — Шварца имеем

(13) |(*<"\ у(п)) - ( х , у)\ = \{х(п)- х , у(п)- у ) +

+(*, у{п) — у) + (Х(п) — х,у)\<с

<| ( j f (n)— X, у(п) — у) I +

 

+

I (*. у(п) У) I +

I (Х<я)—VJC, у) I <

 

+

M 4 l 0 (n)- « /ll +

ll*(n)— * 1Н Ы -

Правая часть в (13) сходится к 0

 

 

С ледствие 7.6.2. Если

-*■ х, то ||

Ц

Цх ||.

Если в гильбертовом пространстве, порожденном последова­ тельностью {у(}, скалярное произведение (х, у) определяется как Илт/, то теорема 7.6.4 подтверждает существование пределов дисперсий и ковариаций в § 7.4 и 7.5.