![](/user_photo/_userpic.png)
книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdfПо если бы Ф(со) был дифференцируем, +. ё.
^Ф((о) = Ф'(м)^м,
го f/Ф (о) был бы пропорционален d(о, а не ]Лг/м.
Следовательно, если s(o>) существует, то никакой производной
вср. кв. или п. и. процесс Ф(от) не имеет, т. е. интеграл Стилтьеса
(10)не сводится к интегралу Римана.
Если X(t) вещественный, то из (10) имеем
X ( t ) ~ X * ( t ) = ] |
(со). |
Сравнив это с (10), получим условие вещественности Х(1) |
|
£/ф(,о.)==«*Ф*(— о»), |
(22) |
Если положим |
|
Ф (о) = — [Ф| (со) — гф2((.)) 1,
то в силу (22) спектральное разложение (10) вещественного X(t) приведем к вещественному виду
X (/) = j cos о>/ d([)i (со) -)- j sin e)t г/Ф2(to).
о |
о |
Если X(I) вещественный, то k(x) |
четная, так как |
к л < , 0 ^ м \ Х ( 1 ) Х * ( П ) .
При этом в силу (8) и (9) четными будут и dS(M), *(«>), и раз ложения (8) и (9) для вещественного X(t) можно привести к веще
ственному виду
k (т) = 2 j* cos (от d S (со), / г ( т ) = |
2 f cos o)TS(ti))r/w. |
о |
о |
Л е к ц и я 11 ОЦЕНКА МАТЕМАТИЧЕСКОГО ОЖИДАНИЯ И КОРРЕЛЯЦИОННОЙ ФУНКЦИИ СЛУЧАЙНОГО ПРОЦЕССА
Эргоднческая теорема Хинчина и ее следствия. .
Оценка математического ожидания случайного процесса. Эргодическая теорема Слуцкого.
Оценка корреляционной функции случайного процесса.
Оценка математического ожидания
Согласно лекции 1 для математического ожидания mt (t) = M\X(t)\
любого случайного процесса X(t) имеем несмещенную и состоя тельную оценку
— |
О) |
п * = i |
|
где xk (t)— k-я реализация процесса X(t).
Точность оценки (1) определяется ее дисперсией
D[m„(t)\ |
1 D 2 *k(t) |
= — **(', t). |
|
k = i |
n |
Для стационарных процессов в силу их «однородности» во вре мени кажется естественным заменить осреднение (Т) по множеству реализаций (осреднение «поперек процесса») осреднением одной реализации x(t) по времени (осреднением «вдоль процесса»), т. е.
вместо ( 1) написать
Л
т г = -1 -Г x(t)di, |
(2 ) |
Т 'll .
2
где априори интеграл (2 ) понимается в смысле почти наверное.
Стационарный случайный |
процесс X(t) |
называется эргодичес- |
ким, если |
|
|
1. |
i. m. тпт— тх. |
(3) |
Т~+ оо
Q 1319 |
81 |
![](/html/65386/283/html_lXAoy1VeHT.Ieur/htmlconvd-W1tX8883x1.jpg)
Суть эргодичности состоит в том, что любая достаточно длин ная реализация эргодического процесса выражает свойства множе
ства всех его реализаций. |
|
как в силу |
стационарности X (() |
Оценка (2) несмещенная, так |
|||
имеем |
т |
|
|
|
|
|
|
~ |
I f *2 |
М [x(t) ] dt = |
mx. |
|
— \ |
_ .L
2
Для эргодического X(t) оценка (2) и состоятельна, так как из сходимости в ср. кв. (3) следует сходимость по вероятности
рlim mT — mx.
т°°
Теоремы об |
условиях |
выполнения равенства (3) называются |
||||||
эргодическими. |
|
|
|
|
|
|
|
|
Э р г о д и ч е с к а я т е о р е м а |
Х и н чин а. |
Для |
любого стацио |
|||||
нарного случайного процесса X(t) |
предел |
|
|
|
||||
|
|
1. i. m. |
mT |
|
|
(4) |
||
|
|
оо |
|
|
|
|
|
|
существует и равен скачку |
|
|
|
|
|
|||
d<D,(0)E=<Di(-l-0) — Ф , (— 0 ) = |
1. i. щ. [Ф,(А) — Ф,(— А)] |
|||||||
|
|
|
|
h -*■+0 |
|
|
|
|
преобразования |
Фурье — Стилтьеса ФДы) |
процесса X(i), т. е. |
||||||
|
1. i. m. mT — cKbi (0). |
|
|
(5) |
||||
|
T~+oo |
|
|
|
|
s |
||
Доказательство. Для любого стационарного X(t) |
||||||||
имеем преоб |
||||||||
разование Фурье — Стилтьеса |
|
|
|
|
|
|||
|
X ( t ) = J |
|
<*Ф,(<а). |
|
|
|||
Используя это, из (2) получим |
|
|
|
|
|
|||
ГПт■ -Lj |
|
|
Т . |
о. г |
ш |
-/ш- |
ЙФ] (со) = |
|
|
|
со Т |
|
|
|
|
||
|
|
sin |
|
|
|
|
|
|
|
= |
J --------------- йФМ |
■ |
|
( 6 ) |
|||
|
|
0)Г |
|
|
' |
|
|
82
Но при Г . Г - уоо разность |
|
|
|
|
|
|
|
|
||
|
sin |
и>Т |
|
sin |
|
>F |
|
|
|
|
|
|
(ОГ |
|
>F |
|
|
|
|
||
|
|
2 |
|
|
2 |
|
|
|
|
|
стремится к нулю при любом со ф 0 |
и при со —=«- 0. |
Поэтому |
|
|||||||
|
1. i. m. (тт— гпТ’) |
|
0. |
|
|
|
|
|||
|
т, Т'-* ~ |
|
|
|
|
|
|
|
|
|
Отсюда в силу леммы 2 лекции 7 имеем |
|
|
|
|
||||||
|
lim |
М | тт— тт |2 ^ -0, |
|
|
|
|||||
|
т, |
|
|
|
|
|
|
|
|
|
т. е. критерий существования предела |
(4) выполняется. Следова |
|||||||||
тельно, предел (4) существует. |
0 |
для |
(6) |
имеем |
|
|||||
Далее при фиксированном |
|
|||||||||
ш Т |
с/Ф )((о)=( J |
+ |
|
J |
+sin |
шГ |
|
|
||
sin |
А |
|
J |
с/Ф,(ы). |
(7) |
|||||
(ОТ |
|
оо |
-Л |
|
и) Т |
|
|
|
При Т —►оо крайние интегралы в скобке (7) стремятся к нулю. Средний же интеграл при этом не превосходит величины
|
| Ф, (/г) — Ф, (— /г)|, |
так как |
sin х ^ ^ |
х
Но он больше величины
(1 — е)| Ф,( А) — ФД — h)\
при любом сколь угодно малом е О, если
,23
/2 < — ,
где 8 = 6 (e) — достаточно малое число.
Следовательно, при Л-> 0 и Г о о средний интеграл стремится к скачку с1Фу (0), т. е. (5) верно. Теорема доказана.
Из этой теоремы следует, что равенство (3) выполняется, т. е.
процесс Х(/) эргодический тогда |
и только тогда, |
когда |
d(bl ( 0 ) = m x. |
(8) |
|
Для флюктуации X(t) — mx имеем спектральное разложение |
||
X(t) — mx = |
j е1ш‘ с1ф(ы), |
|
--00 |
|
83
6*
т. е. |
X (/) = |
тх+ \ еш с1ф(со) = |
f е‘ш( с/ф, (со). |
||||
|
|||||||
Отсюда |
|
Фс (ю) = |
Ф (<о) -f- tnx I(со) , |
||||
где |
|
||||||
|
__( |
0 |
при |
со < Д |
|||
|
|
||||||
|
|
1(с |
1 |
при |
со > 0. |
||
|
|
|
|||||
Поэтому |
</ф, (0) = |
с/Ф (0) + |
т х, |
||||
и условие |
(8) принимает вид |
|
|
|
|
|
|
|
|
с/Ф (0) = |
0. |
|
|||
Но |
|
М | с/ф (0) |2 = |
dS (0), |
||||
где S(co)~-- спектральная функция процесса X(t). |
|||||||
В силу |
(10) условие (9) равносильно условию |
||||||
|
|
dS (0 )= |
0, |
|
(9)
( 10)
что заведомо выполняется, если существует спектральная плотность s'(w)^:S'((o), так как в этом случае
c /S (0 )::Нгп[5(/г)— S( — /?)] = lim |
f s (со) c/co = |
0. |
||||
/i~* hn |
|
|
h-^+0 _ft |
|
|
|
Если же dS (0) Ф 0, то в силу (10) |
Ф (со) имеет скачок в нуле, т. е. |
|||||
с/Ф (0) |
1. i. m. [Ф (/г) — Ф (— h) ] |
ш, ф 0. |
||||
При этом |
Л-*-Ь0 |
|
|
|
|
|
|
X ( t ) = m , + |
Ге'»'</Ф2(м), |
|
|||
где |
( |
|
- 0 |
при |
со = 0, |
|
|
|
|
||||
|
с/Фг (со) |
|
|
при со ф 0; |
|
|
|
Ыф(о)) |
|
||||
т , = с/ф(0) — случайная величина, |
которую |
можно |
выбрать так, |
|||
чтобы М [СП)] = 0. |
|
|
то процесс X(t) |
|
||
Таким образом, |
если с/Ф(0)=^- |
0, |
содержит по |
стоянную случайную центрированную составляющую Ш!ееес/Ф (0),
которая изменяется от реализации к реализации, но для каждой отдельной реализации принимает постоянное не зависящее от / значение.
Итак, из эргодической теоремы Хинчина получили следствия: 1. Стационарный процесс эргодический тогда и только тогда,
когда
dS (0) = 0,
что заведомо выполняется, если спектральная функция 5 (со) непрерывна в нуле или существует спектральная плотность
s (© )= S'(со).
•84
2. Стационарный процесс эргодический тогда и только тогда, когда он не содержит постоянной случайной составляющей.
Выразим условие эргодичности стационарного процесса X(t)
через его корреляционную функцию kx(т). |
|
|||
Э р г о д и ч е с к а я |
т е о р е м а С л у ц к о г о . Стационарный слу |
|||
чайный процесс X(t) |
эргодический тогда и только тогда, когда |
|||
|
|
lim — |
f kx(x)dx — 0. |
(И ) |
Доказательство. |
Г о |
|
||
Д о с т а т о ч н о с т ь . Среднеквадратическую |
||||
ошибку оценки |
(2 ) |
|
|
|
преобразуем так: |
Ет^ М \ т т— mx I® |
( 12) |
||
|
г |
г |
||
|
г |
|
||
Ет= М т |
[X(t) — mx] dt |
kx(t — s)dtds' |
||
. |
|
|
1 |
|
|
2 |
|
2 |
2 |
|
|
= |
(kx(r)dxdo, |
(13) |
|
|
Т2 оо |
|
где произвели замену переменных
т = t — s o = t +
и в силу четности функции kx(x) и независимости ее от а интеграл по параллелограмму (рис. 15) заменили удвоенным интегралом по правой части этого параллелограмма.
Пусть условие (11) выполняется. Оно равносильно условию
\kx(x)dx<^eo |
(14) |
о |
|
85
при любом сколь угодно малом е > 0 |
и о > |
Г0(е). |
|
|
||||||
Кроме того, |
|
в |
|
|
|
|
|
|
||
|
|
|
|
kx( x ) d x < k x(0)e |
|
|
|
(15) |
||
при а ^.Т0(е). |
|
|
|
|
и (15): |
|
|
|||
Оценим интеграл (13) с помощью (14) |
|
|
||||||||
Ej |
---- |
т |
|
т |
|
1 |
|
|
|
|
f kx(0)oda -}- f coda |
y*2 {Ь.ЛЪ)Т1+ъТ*-гТ1]. |
|||||||||
|
7 2 |
о |
|
т0 |
|
|
|
|
|
|
Отсюда |
|
|
lim Ет— 0. |
|
|
|
(16) |
|||
|
|
|
|
|
|
|
||||
Поэтому в силу |
(12) |
Т-+со |
|
|
|
|
|
|||
1. i. m. |
mT — mx, |
|
|
|
|
|||||
|
|
|
|
|
|
|
(17) |
|||
|
|
|
|
T-*■OO |
|
|
|
|
|
|
t . e. если |
условие |
( 1 1 ) |
выполняется, |
то |
стационарный |
процесс |
||||
X (t) — эргодический. |
|
|
|
|
процесс X(i) |
|
||||
Н е о б х о д и м о с т ь . |
Если |
стационарный |
эргоди |
|||||||
ческий, т. е. выполняется (17), |
то в силу (16) |
и (13) условие (11) |
||||||||
выполняется. Теорема доказана. |
|
|
|
|
|
|||||
Условие |
(11) проверяется сложно. |
Поэтому на практике вместо |
||||||||
( 1 1 ) |
часто используют простое, но более сильное достаточное усло |
|||||||||
вие эргодичности |
|
lim kx(x)— 0. |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|||
|
|
|
|
Ы ~~ |
|
|
|
|
|
|
Смысл всех условии эргодичности состоит в том, |
что зависимость |
|||||||||
между сечениями X(i\) |
и X (t2) эргодического X(i) |
должна доста |
||||||||
точно |
быстро убывать |
при 112— Л |->оо. |
Только |
в этом |
случае |
одну длинную реализацию можно рассматривать как совокупность нескольких независимых коротких.
Итак, если X (() — эргодический, то вместо (1) можно пользо ваться более экономичной оценкой (2 ), использующей лишь одну
реализацию x(t).
Оценка корреляционной функции
Согласно лекции 1 для корреляционной функции
Kx(t, s ) ~ М [{X(t)~ mx(t)}{X(s)— m*(s)}]
любого случайного вещественного процесса X(t) имеем несметен ные и состоятельные оценки
Kn ( t , s ) ^ — £ |
\xk (/)— mx(t)]\xk(s) — mx(s)], |
|
n ft = i |
|
|
если mx(t) известно,и |
|
|
Kn{ t , s ) ~ — Ц - |
£ [**(0 — |
— "*„(«)]> |
n — l k = i |
|
-если mx(t) неизвестно.
86
Пусть |
теперь процесс X (t) — стационарный и для него тх |
|
известно. |
Тогда можно считать, что тх = |
6. При этом |
|
kx(xy = M[ X( t ) X( t + |
r)], |
т. е. kx(x) есть математическое ожидание процесса |
||
|
Yx( t ) — X(t)X(t + |
%), |
где х — параметр. |
|
|
Имеем |
M[Yx {t)) = kx(x), |
|
т. е. М [Y. |
(^)] не зависит от t. Поэтому процесс Yx (t) будет стацио |
нарным, если его второй начальный момент зависит лишь от разности аргументов, т. е.
M[Yx{t) Yx (f + s)'] = |
M[X(0X(* + T ) X ( f + s)X(/ + s + t)] = |
|
||||
|
|
|
= v 4(t , s), |
|
|
|
где V4(т, s) — начальный момент 4-го порядка процесса X(t). |
|
|||||
Так как kx(x) |
есть математическое ожидание процесса Yx (t), то |
|||||
оценку для kx(x) |
стационарного Ут (t) можно получить осреднением |
|||||
по времени |
|
|
|
|
|
|
|
|
^ ( X)==— L _ ]:' t * (* )* (* + |
т)*И, |
|
( 18) |
|
если |
|
|
Т— т& |
|
|
|
|
|
~ |
|
|
(19) |
|
|
|
|
\ . \ . mkT{x) = kx(x). |
|
|
|
|
|
|
Т-*■«в |
|
|
|
Здесь |
x(t)— реализация стационарного |
X(t), |
известная |
на |
||
отрезке [0; Г ]. |
|
|
которого |
выполняется |
||
Стационарный случайный процесс, для |
||||||
условие |
(19), называется эргодическим по отношению к корреля |
|||||
ционной функции. |
|
|
|
|
||
Условие для |
сходимости (19) получим, применив условие |
(11) |
||||
к стационарному процессу Yx(t). Это дает |
|
|
|
|||
|
|
lim -|r ГЬ 40с, s) — k2x'{x)]ds = 0, |
|
(20) |
||
|
|
г-~ |
Т о |
|
|
|
где под интегралом стоит корреляционная функция процесса Ут (0 .
так как
Л1 [{^(0 Х(# + г ) - М [ Х ( 0 Х(^ + т)]}{^ (/ + 5)Х(# + |
5 + т ) - |
|
|
- M [ * ( / + s ) X ( / + s + t ) ] } 1 = v 4 (t , s ) - # ( t ) . |
|
Оценка (18) очевидно несмещенная. Если |
выполняется |
|
условие |
(20), то она и состоятельная, так как из сходимости в ср. |
|
кв. (19) |
следует сходимость по вероятности |
|
р lim kT (т )= kx(x).
87
Па практике условие (20) обычно выполняется, но проверяется
сложно.
Для нормальных стационарных процессов все моменты высших порядков выражаются через гпх и kx(x). Например,
v4(t,s) = k2K(т) + /г* ( s ) + M t + s) M | t — s|).
Поэтому условие (20) для нормального стационарного X (I) упрощается и принимает вид
lim |
[kx (s) -)- kx(т Н" х)/гЛ.(| %— s |)] ds 0. |
(2 1 ) |
Из (21) при т — 0 получим условие
liin |
| kl(x)dx — 0, |
(22) |
|
Г Ь |
|
при котором осреднением по времени можно вычислить дисперсию Dx — kx(0) нормального стационарного X(i).
Но условие (22) не менее общее, чем (21), так как из (22) следует (2 1 ), т. е.
|
|
1 |
т |
|
«) £д| т — s |)ds = 0. |
|
lim— |
(Ж-(т + |
|||
|
г - . » |
т 6 |
|
|
|
В этом |
убедимся, |
если |
к неравенству Шварца |
||
Г M t + |
s ) M | t — s|)rfs |
< |
2 |
||
J kl (т - f s) ds | kl ( | x — s | )ds |
применим (22).
Итак, для нормального стационарного X(i) сходимость (19) имеет место тогда и только тогда, когда выполняется условие (22).
Л е к ц и я 12 ОЦЕНКА СПЕКТРАЛЬНОЙ ПЛОТНОСТИ
И ЗАКОНА РАСПРЕДЕЛЕНИЯ СЕЧЕНИЯ СТАЦИОНАРНОГО ПРОЦЕССА
Оценка спектральной плотности стационарного процесса. Периодограмма.
Оценка закона распределения сечения стационарного процесса.
Оценка спектральной плотности
Пусть стационарный процесс X(t) имеет тх = |
0 и спектральную |
||
плотность s*(o)). Тогда, как уже известно, |
|
||
М т ) = 1 |
е‘ш' sx(<i>)di,y, |
( 1) |
|
kr (t) = ---- ------ Т ( x(t)x(t + j)dt. |
( 2) |
||
Т — - |
о |
|
|
Ради упрощения вычислений опенку |
(2) приближенно заменим |
||
упрощенной оценкой |
|
|
|
^ ’(т) = — |
\ ' x(t)x(t |
\-T)dt. |
(3) |
Ть
Будем считать, что
*(/)ssiO при |
/6 [0 ; Т); |
(4) |
при |
11 1> Г, |
(5) |
где Т — время наблюдения.
Оценку для s.t(w) обозначим h (м) и в силу (1) получим ее, применив к (3) обратное преобразование Фурье, т. е.
I f (to) |
—^— |
Г |
Г е~ы~x(t)x(t + x)dtdx, |
2я JT |
2*Т |
} т |
Й |
где учли (5).
В двойном интеграле произведем замену переменных
89