книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdfИз теории линейных интегральных уравнений известно [8], что
интегральное уравнение Фредгольма
Ц К { ( , П ц ( Г ) с 1 Г = < р (/) |
( 1 9 ) |
о
с неотрицательно определенным эрмитово-симметрическим ядром имеет счетное множество положительных собственных зна
чений
/■1, /12, • • •, /'•£, ■• •,
которым соответствуют собственные функции
Ф1 (0. фг(0, •■■, Ф а (0, •••,
удовлетворяющие условию ортонормированностн
l'-?k(i)b(t )dt = |
bia. |
(20) |
п |
|
|
Теорема Мерсера утверждает, что в этом случае ядро K ( t , t ' ) |
||
представимо в виде билинейной комбинации |
|
|
/с (/,0 = i |
>-k |
(2 i) |
* = i |
|
причем ряд (2 1 ) сходится абсолютно и равномерно.
Сравнив (21) с (18), заключаем, что любой случайный центри рованный процесс X (() с корреляционной функцией K(l,t') можно на конечном отрезке [0, Т] представить в виде ряда (16) с некорре лированными коэффициентами по собственным функциям инте грального оператора (19).
Представление (16) |
при этом удобно записать в виде |
||||
|
= |
£ |
К |
, |
(22) |
где в силу (17), (18) и |
(21) |
имеем |
|
|
|
|
M [ v y t\ = b kl . |
|
|||
Из (22) и (20) следует |
|
|
|
|
|
vk= V K f XVWkV)di. |
( 23) |
||||
|
|
|
о |
|
|
Распределение вероятностей |
для |
Vk по распределению вероят |
|||
ностей для X ( t ) находится из (23). В частности, |
если процесс X ( t ) |
||||
нормальный, то в силу (23) нормальный Vk (£ = |
1,2,...). |
||||
Пример. Рассмотрим случайный |
процесс X ( t ) с корреляцион |
||||
ной функцией |
|
|
|
|
|
K x ( t , /')= |
a2 m i n (t, t' ), |
|
|||
где a2 - const. |
|
|
|
|
|
70
Здесь (19) примет вид |
t j Ф (/') <//'j= if (0■ |
|
|
Ха2| | 1'ч> (П dt' + |
( 2 4 ) |
||
|
|
|
|
Дифференцируя (24) дважды по /, найдем |
|
||
Ха2j (p(t')dt' — ф'(0 |
(25) |
||
— ла-ф(/) = |
ф"(0 - |
(26) |
|
|
|||
Если добавим к уравнению |
(26) |
вытекающие из (24) |
и (25) |
граничные условия |
|
|
|
ф (0 ) =0 , |
<р'(7')=^0, |
(27) |
|
то получим так называемую граничную задачу Штурма |
Лиувнл- |
ля (26) — (27), для которой собственные значения и собственные функции соответственно
Я2 ( k + -
, ?*(/) = sin
Отсюда в силу (22) для рассматриваемого случайного процесса следует каноническое разложение
|
и | k |
x ( t ) = £ |
sin —— |
v„,t -------— |
|
* —1 |
k -\— — |
где Vk (k— 1, 2 , . . . ) — центрированные некоррелированные случай
ные величины с единичными дисперсиями.
Л е к ц и я Ю. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
Строго стационарные и стационарные случайные процессы. Спектральное разложение корреляционной функции стационар
ного случайного процесса.
Спектральное разложение стационарного случайного процесса.
Строго стационарные и стационарные процессы
Случайный процесс X(t) называется строго стационарным, если все его п-мерные законы распределения не меняются при любом
сдвиге |
всей |
группы |
точек |
tu 12,..., tn по оси /, |
т. |
е. если |
при |
||
любых |
п их |
|
|
|
|
|
|
||
/„ |
х2, ■■ |
хп\ i\,t2, ..., tn) |
f п ( X\ , x2, ..., |
xnI tx-f- r, t2+ |
t , .. ., tn-f- r ) . |
||||
|
В частности, если |
переобозначнть х, |
= х, х2 = х' |
и |
= t, t2 |
± t\ |
|||
то |
|
|
|
fi(x\t) = fi(x\t-j-r)^fi(x) |
|
|
|
||
11 |
|
/ 2 |
(х, х |/, /') = /2 (х, х \t -f- т, V-)- т) = f2 (х, х' |i — t'), |
|
т. е. одномерная плотность вероятности строго стационарного Х(1)
не зависит от /, а двумерная — зависит по времени лишь от |
раз |
||||
ности ( — ('. Поэтому |
|
|
|
||
|
|
ос |
|
|
( 1) |
|
|
mx( t ) = j xfi(x)dx^ const, |
|
||
K.r (t, l') = |
jj (x — tnx) (x' — mx)f2 (x, x'\ t — l') dxdx' = |
kx(l — ('). |
(2 ) |
||
|
— oe |
|
|
|
|
Из (2) |
следует |
|
|
|
|
|
|
АЛО - Kx(t, 0 = МО) - const. |
|
(3) |
|
Итак, если X(t) строго стационарен, то его математическое |
|||||
ожидание шх и дисперсия Dx постоянны, |
а корреляционная функ |
||||
ция Kx(t,t') |
зависит лишь от разности |
t — t', т. |
е. Kx(t,t') |
есть |
|
функция kx(x) |
одного аргумента т = t — ?. |
|
|
Равенство (3) следует из (2). Поэтому в рамках корреляцион ной теории случайных процессов строгая стационарность прояв ляется лишь в выполнении равенств (1) и (2). В силу этого, чтобы
72
не выходить за рамки корреляционной теории случайных процес
сов, дадим определение.
Случайный процесс Х(() называется стационарным, если его математическое ожидание постоянно, а корреляционная функция
зависит лишь от разности / — Г |
т. |
Если X(t) строго стационарен |
и имеет конечные шх и kx(x), то |
он стационарен. Но из стационарности еще не следует строгая стационарность.
Для нормальных случайных процессов эти две стационарности совпадают, что очевидно.
Из теорем 1 и 4 лекции 8 следует:
1. Стационарный Х(1) непрерывен в ср. кв. тогда и только тогда, когда его нецентрированная корреляционная функция Rx(т) непре рывна в точке т - t — /' = 0.
2. Стационарный X'(/) дифференцируем в ср. кв. тогда и только
тогда, когда Rx" (т) существует в точке т = 0. |
При этом для X'(t) |
||||
имеем: |
mX'(t) = 0; |
|
|
||
|
|
|
|||
|
RX' (т) - |
— ЯДт). |
|
|
|
Повторив 2-е утверждение п раз, получим, |
что л-я производная |
||||
в ср. кв. |
стационарного X (i) существует тогда и только тогда, когда |
||||
/?!?“> (т) |
существует в точке |
т — 0. |
При этом |
для |
Y(1) s 2П'!) (/) |
имеем: |
m„(t) |
0; |
|
|
|
|
|
|
|||
|
/СДт) -= (— 1 ) |
(г). |
|
|
|
Отсюда следует, что если п-я производная в ср. кв. стационар |
|||||
ного X (t) существует, то она |
гоже стационарна. |
стационарно за |
|||
Случайные процессы X(t) |
и Y(t) называются |
||||
висимыми, если их взаимная корреляционная функция |
|||||
|
t' ) - M\X{t)Y*{t')\ |
|
|
||
зависит лишь от разности / — /', т. |
е. /СА7/(/,/') |
есть функция kxy(r) |
|||
одного аргумента х - t — V. |
|
|
|
|
Спектральное разложение корреляционной функции стационарного процесса
Свойство неотрицательной определенности для корреляционной функции стационарного процесса принимает вид
£ b x ( t j - t t) z r f > 0 |
' |
(4) |
i.i-1 |
|
|
при любом п и любых вещественных tu t2, ..., ta и |
комплексных |
|
г \, г 2, . . zn числах. |
|
|
73
Свойство (4) трудно проверить непосредственно. Сравнительно
простой признак выполнения свойства (4) дает теорема |
1. |
||
Т е о р е м а 1 (Бохнер). |
Непрерывная функция |
к(т) |
неотрица |
тельно определена тогда |
и только тогда, когда |
она |
разложима |
в интеграл Фурье — Стилтьеса |
|
|
|
/г(т)— [ e‘mzdS(M) |
|
(5) |
по некоторой вещественной, неубывающей, ограниченной функции
S (со).
Доказательство. Д о с т а т о ч н о с т ь. Из (5) имеем
£ щ |
- |
f 1 "Сz .eMj dS (со) О, |
|
|
/=1 |
т. е. из (5) следует (4). |
Из (4) при гу — e~im1j |
|
Н е о б х о д и м о с т ь . |
||
в силу непрерывности k(r) имеем |
|
|
J J k (t — t’) е ~ ыи- ‘">didV > |
0. |
|
ОII |
|
|
Введем функцию (/„(со) по определению |
|
|
(/„(to) = —— |
a\ \ k ( t — |
dtdV |
2~а |
иб |
|
Произведем замену переменных
(' =
т = t — ('
и проинтегрируем по /'. Тогда
1 |
“ I . |
|т jk (т) e ~ lwTdz |
|
2п |
|
а |
|
1 |
|
k (т) е |
dz, |
2тс |
|
||
|
а |
|
илюбом а ]>0
>0.
=
(6)
где |
!*(*) = |
1 |
- 1х | |
при х е [— 1 ; |
1], |
|
|
|
|||||
|
|
0 |
при *ёТ — 1 ; |
1], |
|
|
|
|
|
|
|||
|
Можно показать, что (/„(со) интегрируема на всей оси со [9, |
§ 7. 4]. |
||||
|
Итак, при любом сг > 0 |
непрерывные функции (/„(со) и р |
/е(т) |
|||
|
|
|
|
|
а |
|
интегрируемы на всей оси и связаны преобразованием Фурье (6).
Но при этих условиях существует обратное ему преобразование Фурье
( — ) £ (* )= j' qa(to)elu>zdm. |
(7) |
74
Отсюда при т = О
I' qu(i<>)dw — к ( 0 ) ,
— .-ч.
т. е. неотрицательную функцию
1
к(0) </«М
можно считать плотностью вероятности, для которой в силу (7) характеристическая функция равна
к (т)
ш/5(0)
При а ^- о о эта функция стремится к непрерывной функции
Ш _
~Н0)'
По известно [7, § 38], что непрерывная функция, являющаяся пределом последовательности характеристических функций, сама, является характеристической.
Отсюда в силу формулы |
(4) лекции |
7 следует справедливость |
|||||
разложения (5) для k(т). Теорема доказана. |
|
|
|
||||
Пример 1. Функция k (т) = |
соьат нрн |
0 |
разложима в ин |
||||
теграл |
Фурье.— Стилтьеса |
по |
функции |
S(w-), |
изображенной на |
||
рис. 14. |
Это очевидно. Поэтому согласно теореме Бохнера функция |
||||||
/г(т) = созат неотрицательно |
определенная, |
т. |
е. |
она является |
|||
корреляционной функцией некоторого стационарного |
процесса. |
Из теоремы Бохнера следует, что для корреляционной функции k(т) любого стационарного процесса имеем так называемое спект ральное разложение
k(x) = j‘ e ‘™dS(o>), |
(8) |
— оо
где 5 (со) называется спектральной функцией.
75
Если существует s(d))~S'(w), то интеграл (8) переходит в
обычный интеграл Фурье
|
|
£ ( т ) = |
I' e iw-'s(o>)db}, |
(9) |
|
где s(w) называется |
спектральной плотностью. |
|
|||
Из (8) |
и (9) следует: |
|
|
|
|
|
|
А ( 0) = ? dS(h)); |
|
||
|
|
k ( 0) = |
j s (со) d со, |
|
|
т. е. 5(d)) |
и s(co) дают распределения дисперсии |
/г(0) стационар |
|||
ного процесса по спектру частот. |
|
||||
Обратные преобразования Фурье для (8) и (9) |
выражают S (со) |
||||
и х(со) через /г(т), т. |
е. вместо k(x) можно пользоваться 5 (со) или |
||||
s (со), если s (со) существует. |
|
|
|
||
Пример 2. Дано |
|
s*(cd) — «о, |
|
||
где |
|
|
|
||
|
|
s0 |
const. |
|
|
Найдем А,(т). |
|
|
|||
|
представление дельта-функции |
||||
Учитывая интегральное |
|||||
|
|
о(т) |
|
— Гeiw'd®, |
|
|
|
|
|
2тс |
|
по формуле (9) получим |
|
|
|
||
|
К (т) = |
(' е1ая s0dw — 2л s06 (т). |
|
Стационарный случайный процесс X(t) с постоянной спектраль ной плотностью sx(со) const называется стационарным белым шумом.
Распространяя понятие белого шума на любой процесс, дадим определение.
Случайный процесс X(t) называется белым шумом, если
mx( t ) = 0, Kx(t, t') = G ( t ) 6 ( t - f ) ,
где G(t) называется интенсивностью белого шума. Следовательно, сечения белого шума некоррелированны.
Спектральное разложение стационарного процесса
Т е о р е м а 2. Случайный |
центрированный процесс X(t) |
раз |
лагается в интеграл Фурье — Стилтьеса в ср. кв. |
|
|
X ( t ) = |
jV~t/<D((o) |
(10) |
7G
Ьй случайному ЦеНтрирОванкоМу йроцессу Ф(со) с Некоррелирован
ными приращениями
|
М [*Т>((„)Лр*(о/)] = |
|
|
О |
|
при |
со у- |
со', |
(П) |
||||
|
|
dS (со) |
при |
со = |
со' |
||||||||
|
|
|
|
|
|
|
|||||||
тогда и только тогда, когда Х(1) |
стационарен. |
|
X(i) |
разлагается |
|||||||||
Доказательство. Н е о б х о д и м о с т ь . |
Если |
||||||||||||
в интеграл ( 10) |
с дополнительным условием ( 1 1 ), |
то |
|
||||||||||
Kx(t, |
t') = |
Af [Z(/)X* (/')] = |
i’f ем - |
‘тЧ'М [с7ф(со)с/Ф* (со') ] = |
|||||||||
|
|
-- |
f |
dS((o)= kx(t — t'), |
|
|
|
||||||
t . e. X(i) |
стационарен. |
|
|
|
|
|
|
|
|
|
|
||
Д о с т а т о ч н о с т ь . |
По аналогии |
с |
формулой |
(5) |
лекции 7 |
||||||||
рассмотрим процесс |
|
|
|
|
|
|
|
|
|
|
|
||
|
Ф (.о )~ |
|
1 |
г |
р |
- Ы |
__ 1 |
|
|
|
( 12) |
||
|
1. i. т , — |
\ |
- |
----------— X(t)dt, |
|||||||||
|
|
|
|
2тс |
|
|
|
it |
|
|
|
|
|
где X(t ) — некоторый стационарный центрированный случайный процесс, а интеграл понимается в ср. кв.
Докажем, что так определенный процесс Ф(со) существует на всей оси со, центрирован и удовлетворяет равенствам ( 10) и ( 1 1 ).
Используя теорему 8 лекции 8, можно показать, что интеграл
(12) существует. Докажем, что определенный этим интегралом про цесс от со при Т >- оо сходится в ср. кв. к некоторому процессу Ф(со). Действительно, при Г > Г в силу (8) имеем
■г; е - ы _ 1 |
т р—Ш_1 |
X(t)dt |» |
М |
X ( t ) d t - \ |
|
_ г — 2кИ |
— 2Kit |
|
|
Щ |
|
f |
|
|
- |
о |
|
|
7’<|C|<7''J |
т<щ<’т' |
— 2icit |
|
|
|
|
|||
e~‘mt — 1 |
eimt' — 1 M\X(1) X*(i’)\didt'-- |
||||||||
T< \tчj j > |
— 2tcit |
.f |
21СЙ' |
|
|
|
|||
|
» |
g—Ш |
1 |
|
gW __ 1 |
|
|
|
|
-r<|C|<r Г<|,fГ|<7" -<* |
2irrt |
|
|
.ei»‘'(t-ndS{iX)didt' = |
|||||
|
2.fvit' |
|
J |
|
|||||
|
= I |
е—ш — j |
e*'*dt 2dS( со'). |
(13) |
|||||
|
|
|
2т:it |
||||||
|
T<\!\<T' |
|
|
|
|
|
|||
Существование предела |
( 12) согласно критерию |
( 10) |
лекции 7 |
||||||
равносильно |
стремлению к |
нулю |
интеграла |
(13) |
при |
Т,Т'-*-оо, |
77
что в свою очередь равносильно существованию числового предела
Чг (о/, |
и |
|
|
1 |
т. |
е ‘тЧ |
- |
|
|
,, |
- |
|
1 |
”. |
sinu>7 |
,, |
Пт----| ------------------- dt |
|
— 1 |
|
dt |
||||||||||||
|
|
т- °° |
2тс |
i j |
|
it |
|
|
|
|
|
it о |
|
|
||
|
|
|
|
|
1 |
“ sln(u)' |
<•>) t |
dt. |
|
|
|
|
(14) |
|||
1 lo известно, |
что |
|
|
t. |
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
— |
при |
со > |
0, |
|
||||
|
|
1 |
“ |
sinu>£ dt = |
|
О |
при |
to = |
0, |
|
||||||
|
|
|
|
|
t |
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
------- при (О |
|
|
|
||||||
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
Поэтому предел |
(14) |
существует и равен |
|
|
|
|
||||||||||
|
|
|
1 |
при |
0 < |
о /•< со, |
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
при о/ = |
(I) ]> 0 |
или |
о / — О, |
(о |
О, |
|
||||||
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Чг((»', с») = |
|
|
О |
при о / О , с о ' с о |
или |
|
со' = |
со = О |
(15) |
|||||||
|
|
|
|
|
|
или |
со'<[ 0, |
|
со'<С со, |
|
||||||
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
------- при |
со'= со <С 0 или |
со' = |
|
О, |
|
О, |
|
|||||||
|
|
|
1 |
при |
0 > со '> со . |
|
|
|
|
|
|
|
|
|
||
Следовательно, (12) действительно определяет на всей осп со |
||||||||||||||||
некоторый случайный процесс Ф(со), |
который центрирован |
|||||||||||||||
так как по условию |
|
Л4 [Ф (со) 1= |
О, |
|
|
|
|
|
|
|||||||
|
М[Х(/)] = |
0. |
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Далее из (12), (8) и (14) получим |
|
|
|
|
|
|
|
|||||||||
|
|
М [{Ф(сой) — Ф (со,)){Ф(со,) — Ф(о»з)}*] = |
|
|||||||||||||
= |
i |
Ч'(о>— СО,, 0)2 — |
СО,)Ч'*(о)— |
СОз, |
СО, — 0)з)сД > (со) . |
|||||||||||
Отсюда в силу |
(15) |
при соi = соз<С<02 = |
о), найдем |
|
||||||||||||
|
|
|
М\ |
Ф(со2) — Ф(со,) Iя = |
S(coa)— S(co,), |
(16) |
||||||||||
а при со, <С со2 |
соз <С со, найдем |
|
|
|
|
|
|
|
|
|
||||||
|
|
М [{Ф (со2) - Ф(со,)}(Ф(со,) - |
Ф (соз)}*] = 0. |
(17) |
||||||||||||
Из (16) и (17) следует, что процесс (12) |
удовлетворяет усло |
|||||||||||||||
вию ( 1 1 ). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
7S
Д а л е е |
и з |
|
( 1 2 ) , |
|
( 8 ) |
и |
( 1 4 ) |
п ол уй й М |
||||
М [X (/) {Ф (юг) — Ф (<')|) } 1] = |
|
1 Чг(0)2 — (о, oi2— о)1) eimidS (01). |
||||||||||
Отсюда в силу (15) |
при 012 > |
со, |
найдем |
|
|
|
||||||
|
|
М [X(/)(Ф(о>2) — Ф (о),)}*]= |
f eM dS{о,.). |
|
( 1 8 ) |
|||||||
1 1о определению |
|
|
|
|
|
|
|
|
|
|||
“ |
еш d<f>(ш) = |
|
I |
|
п |
и» t |
|
|
I |
(19) |
||
- |
1. i. m. 1. i. ш |
е к |
[Ф (шА) — Ф (ю* _ 1)] I, |
|||||||||
' « о |
|
|
|
|
|
k = |
1 |
|
|
|
|
|
1 |
— |
о |
('1(1 <С 0)| <с 0)2 |
|
. . . <С 0)л“ " а , |
0)^G [<П* _ 1, |
шД |
|
||||
и |
ОО. |
|
|
|
max [со* |
|
щ ..., I -* о |
|
|
|
||
при п |
|
|
|
|
|
|
|
|
|
|
|
|
Из |
(19), |
(18) |
и (8) |
получим |
|
|
|
|
|
С |
||
|
|
( о о |
|
|
|
|
e>“'l‘-t')dS{ui)=kx(t — 1'). |
|||||
М |
*(/) (' еы 'йф(ы) |
|
(20) |
|||||||||
Из |
(19), |
(16), (17) |
и (8) получим |
|
l |
|
|
|||||
|
|
М |
| |
|' |
|
j |
j |
'( |
|
|
|
|
|
|
|
е ы d(\)(u>) |
|
|
е 1т'г dCp(M') Г |
|
|
||||
|
|
|
i—00 |
j {— |
|
|
J |
|
|
|||
|
|
- |
= |
( et"U-ndS(io)=fix(t — Г). |
|
( 21) |
—oe
Из (20) и (21) следует
M\ X( t ) — f е ы я'Ф(о )I2 = 0,
т. е. (10) верно. Теорема доказана.
Разложение (10) называется спектральным. Это частный случай канонического разложения, если координатная функция
<р(/, о)) = eimt.
Можно показать, что реализация процесса Ф(оз) с вероят ностью 1 имеет неограниченную вариацию. Следовательно, для отдельной реализации интеграл ( 10) с вероятностью 1 не сущест вует, т. е. интеграл ( 10) нельзя понимать в смысле почти наверное.
Далее, k(x) обычно быстро убывает с ростом | т|. Поэтому в силу (9)
s((o)=:-S'(to)
чобычно существует. При этом из (11) имеем
■j |
М\ t/Ф (со) |2 = dS (со) = s (со) rfco, |
Т‘ 6’ |
4Ф(со |
79