![](/user_photo/_userpic.png)
книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdfПример. Значение случайного |
телеграфного |
сигнала X(t) |
(рис. II) в любой момент времени |
t с одинаковой |
вероятностью |
равно нулю |
или |
единице, |
а число скачков т от |
одного значения |
|||||||||
к другому |
за |
фиксированный |
отрезок |
времени |
длнны|т| имеет |
||||||||
распределение Пуассона |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
Pm (М ) = |
(?>1т|),Я-г-МЧ, |
|
|
|||||
|
|
|
|
|
|
|
|
ml |
|
|
|
|
|
где А— среднее число скачков за единицу времени. |
|
||||||||||||
Найдем /»*(/) |
и Kx{t, /')■ |
|
|
|
|
1j=/>[X(/) = |
|
||||||
т д. ( / ) = 0 - Я [ Х ( О = 0 1 + |
\ P \ X { t ) = |
11 = - ! - . |
|||||||||||
Пусть |
|
|
|
А'(/) |
|
X, X |
X |
' . |
|
|
|||
Тогда |
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
а д п = ( |
о - | ) |
( о - | ) |
Р[ (X = 0) (X' = |
0) ] |
||||||||
|
|
|
|
|
|
|
I |
Р [ ( Х = 0 ) ( Х ' = 1 ) ] |
|
||||
|
|
+ |
( ° " |
1 - - ^ |
|
||||||||
|
|
|
|
1 |
|
|
|
|
|
|
|||
|
|
|
|
|
0 |
|
|
|
|
1) (X' — 0) | -j |
|
||
|
|
|
|
|
---- -- j ^ f (X = |
|
|||||||
|
|
|
. - 4 - V i |
|
|
|
|
|
|
|
|
||
1 |
[Р (X = |
0) Р ( т— четно) — Р (X = 0) Р (т— нечетно) — |
|||||||||||
— Р (X — 1)Р(т — нечетно) -ф Р(Х— 1 )Р(т — четно) ] = |
|||||||||||||
— [Р( т—четно)—Р( т—нечетно)] = |
— е~}А*\ |
« |
( —>.|т|)" |
||||||||||
ш=0 |
+ |
||||||||||||
4 |
|
|
|
|
|
|
|
|
|
|
4 |
т ! |
|
|
|
|
|
|
|
|
|
|
|
|
(т-че тн о ) |
||
+ |
V |
|
( - |
/-М |
_ |
I |
|
£ |
( —>-ht)m |
1 |
|
||
|
|
|
|
4 |
|
m=o |
|
ml |
4 |
|
|||
|
т=1 |
|
|
т |
|
|
|
|
|||||
(т -нечетно) |
|
|
|
|
|
|
|
|
|
|
|
||
•т. e. здесь К.сф, О |
оказалась зависящей лишь от разности Г — t = т |
50
Л е к ц и я 7. ИНТЕГРАЛ СТИЛТЬЕСА И ТИПЫ СХОДИМОСТИ В ТЕОРИИ ВЕРОЯТНОСТЕЙ
Интеграл Стилтьеса и его применение в теории вероятностей. Основные типы стохастической сходимости и связь между ними. Критерий сходимости в среднем квадратичном. Лемма Лоэва.
Интеграл Стилтьеса
Говорят, что функция F{x), заданная на отрезке [а, b], имеет на [а, b} ограниченную вариацию, если найдется такое число К, что для любого разбиения отрезка [а, b]
а — Х о О , < * 2 < . . . |
<х„-\ < xn= b |
(1) |
выполняется неравенство
<=1
Например, неубывающая на [а, Ь] функция F(х) имеет па [й, /;] ограниченную вариацию, так как для нее при любом разбиении
(1) имеем
v | F ( * /) _ F ( x , _ ,) | = F ( b ) - F ( a ) . i=i
Но можно показать, что функция
. 1
х sin — при х Ф О, X
О при х = О
на [0; 1] не имеет ограниченной вариации.
Пусть на [а,Ь] заданы две функции f(x) и F(x). Для разбиения (1) составим интегральную сумму
(=i
где
Х|'е[х/_1,х,1.
4* |
51 |
Будем теперь неограниченно увеличивать число точек разбиения
(1) так, чтобы
Тогда предел |
max (xt — х , - 1) -+ О, |
п |
|
Пт |
2 /( л-/)|Т (а- . ) - Т ( л-._1)|. |
|
I—1 |
если он существует, конечен, не зависит ни от характера разбие ния (I), ни от выбора точек х/, называется интегралом Стилтьеса от функции f(x) по функции F (х) н обозначается
\f(x)dF(x). (2)
а
Несобственный интеграл Стилтьеса определяется так:
J f(x)dF(x) -■:llm\Hx)dF(x).
— во |
(I -►---ОС (I |
|
Ь-*- ое |
Можно доказать, что если f (х) непрерывна и ограничена, a F(х) имеет ограниченную вариацию, то интеграл Стилтьеса (2) суще ствует как для конечных, гак и для бесконечных а, Ъ.
|
|
|
|
• |
• |
9 |
■ |
• |
> х |
|
|
x - t |
а - х п |
|
х , x t |
|
Xn-t &s Xп |
|
|
||
|
|
|
|
Рис. 12. |
|
|
|
|
|
|
Согласно рис. |
12 имеем |
|
|
|
|
|
|
|||
f |
f(x)dF(x) ~ \ i m |
S |
f(x\)\F(xt)— F(jc,_,)] + |
litn |
f {x{) | /=■(*,) — |
|||||
o*—0 |
|
i—l |
, |
|
|
|
ЛТ-^Л+О |
|
||
|
|
|
|
|
|
|
|
A'., - a -0 |
|
|
|
— F(x-i) I - |
J |
f(x)dF(x)-\- f(a) [F(a + |
0) — F (a — 0)], |
|
|||||
|
|
«+o |
|
|
|
|
|
|
|
|
t . e. |
|
|
|
|
|
|
|
|
|
|
J |
f(x)dF(x) — |
J f(x)dF(a' ) = f(a) |
[F(a + |
0)— F(a — 0)]. |
(3) |
|||||
и —и |
|
а +0 |
|
|
|
|
|
|
|
|
Из (3) следует, что интеграл Стилтьеса, в отличие от обычного интеграла (интеграла Римана), может дать не равный нулю ре зультат даже при точечном интервале интегрирования.
Если F(х) ступенчатая (рис. 13), то в силу (3)
J f(x)dF(x) = |
'?f (xk)\F(xk-j- 0)— F(xk— 0) |, |
a |
k |
t . e. в этом случае интеграл Стилтьеса сводится к ряду.
■52
Если же F(х) имеет производную, то интеграл Стплтьеса сво дится к обычному интегралу
i f(x)F'(x)dx.
Если F (х) неубывающая и непрерывна слева, а интервал инте грирования имеет вид а^.х<^Ь, то
|
— F(Ь) — F(а). |
Поэтому если F (х) есть . функция распределения случайной |
|
величины X, |
то |
- |
P ( a < X < b ) = F(b)— F( a) = $ dF( x) . |
|
а |
При этом для математического ожидания функции ф(Х) имеем
М | ф ( Х ) ] = \ (f(x)dF(x).
Отсюда для характеристической функции g(i) случайной вели чины X следует
g(t) = M \eiiX\ = ] e “*dF(x), |
(4) |
—во |
|
т. е. характеристическая функция g(t) любой случайной величины X разлагается в интеграл Фурье — Стплтьеса по функции распре деления F(х) этой величины.
Можно доказать [7, § 36], что обратное преобразование Фурье —
Стплтьеса выражается формулой |
|
|
F(x2) - F ( Xl) = - - ± lim ] |
e: ‘'J - .e — g ( t)dl, |
(5) |
2i« г - » - г |
t |
|
где i — мнимая единица; |
|
|
xu x2— точки непрерывности F(x). |
|
|
53
Итак, с помощью интеграла Стилтьеса можно единообразно описывать все случайные величины (дискретные, непрерывные, смешанные и др.).
Основные типы стохастической сходимости
Рассмотрим последовательность случайных комплексных ве личин
{Хп} = Х и Х2,..., х п,...
Определение стохастической сходимости Хн- ±Х при п -> оо
не однозначно. Это объясняется тем, что величина \Хп— Х\ случай ная и ее малость можно понимать по-разному.
Дадим первое определение сходимости. Говорят, что последова
тельность {Хп} сходится "к |
величине X по |
вероятности (по вер.), |
|||
если при любом е > 0 |
|
|
|
|
|
|
limPdX,, — - ^ | > е ) = 0 . |
|
(6) |
||
|
!%-*• ОО |
|
|
|
|
Сходимость (6) обозначают |
|
|
|||
или |
Х = |
р \imXn, |
|
|
|
где р — сокращенное английское «probability» — вероятность. |
|||||
Дадим второе определение сходимости. |
Говорят, что последо |
||||
вательность |
{X,,} сходится |
к величине X в |
среднем квадратичном |
||
(ср. кв.), если |
|
|
|
(7) |
|
|
П т М | Х п— X |2 — 0. |
|
|||
Сходимость (7) обозначают |
|
|
|
||
|
|
V |
CD. KR. |
|
|
или |
Лп--------- > х |
|
|
||
X — 1. i. m. Хп, |
|
|
|||
|
|
|
И-►о® |
|
|
где 1. i. m. - |
сокращенное английское «limit |
in |
the mean» — предел |
||
в среднем. |
|
|
|
|
так как на ее основе |
Сходимость (7) используют наиболее часто, |
|||||
легко доказываются многие предельные теоремы. |
|||||
В силу неравенства Чебышева |
|
|
|||
|
/ > ( | Х „ - Х | > е) < М \Хп~~Х \\ |
||||
из (7) следует (6). Но из (6) не всегда |
следует (7), хотя бы |
||||
потому, что для сходимости |
(7) |
требуется еще существование |
|||
|
|
М\ Хп — Х \ \ |
|
|
|
Однако на |
практике из (6) |
часто следует (7). |
|
54
Определения (6) и (7) используют понятия «вероятность» Н «математическое ожидание», которые характеризуются всей сово купностью возможных реализаций последовательности {Хп}. По этому из сходимостей (6) и (7) еще не следует сходимость одной реализации
X), A"'2, . . ., Л'„, . . .
последовательности {Хл}.
Однако на практике наблюдатель часто вынужден обходиться лишь одной реализацией последовательности {X,,}, и ему важно знать, будет ли эта реализация сходиться или нет.
Это приводит к необходимости третьего определения сходи
мости. Говорят, что последовательность {Xп) сходится |
к вели |
||||||||||
чине X почти наверное |
(п. н.), если реализация |
|
|
|
|||||||
|
|
|
*1, |
-^2) |
• • -, %п1•• • |
|
|
|
|||
последовательности |
\Хп} сходится |
к |
реализации |
.V |
величины X |
||||||
с вероятностью |
1, т. е. |
если |
|
|
|
|
|
|
|
|
|
|
|
|
P( hmXll= X ) ^ \ . |
|
|
(8) |
|||||
|
|
|
|
ос |
|
|
|
|
|
|
|
Сходимость |
(8) |
обозначают |
|
|
|
|
|
|
|||
|
|
|
X„XiIi.> X |
|
|
|
|
||||
или |
|
|
X = |
|
s l i m X rt, |
|
|
|
|
||
|
|
|
|
|
|
П-+■» |
|
|
|
|
|
где х — сокращенное английское «surely» — наверное. |
|
|
|||||||||
Сходимость |
(8) |
равносильна условию |
|
|
|
||||||
|
lim Р (sup | X„ + m — X ] > е) = О, |
|
|
(9) |
|||||||
|
Л -*■ оо |
m |
|
|
|
|
|
|
|
|
|
т. е. вероятность того, что хотя бы при одном т — 0, |
1, |
2, . . . ВЫ110Л- |
|||||||||
нится неравенство |
|
|7Ci-f т |
X | |
е, |
|
|
|
||||
|
|
|
|
|
|
||||||
стремится к нулю при « —*- сю. |
|
|
|
|
|
|
|
||||
Отсюда видно, |
что |
сходимость |
(8) |
накладывает |
ограничение |
||||||
на бесконечномерное распределение |
вероятности системы |
|
|||||||||
|
|
(X, Хп, Х„ + ь Хп+ г, . . .), |
|
|
|
||||||
тогда как сходимости |
(6) и (7) накладывают ограничения только |
||||||||||
на двумерные |
распределения |
вероятностей систем |
|
|
|
||||||
|
|
(X, X п) |
при п — 1,2, .. . |
|
|
|
|||||
Из сходимости |
(8) |
следует |
сходимость (6) к тому же пределу |
||||||||
X, так как из (9) следует (6). |
Но из |
(6) не всегда следует |
(8). |
||||||||
Из сходимости |
(8) |
еще |
не |
следует |
сходимость |
(7) и обратно. |
|||||
Это видно из примеров [5, § |
5. |
1]: |
|
|
|
|
|
55
1. Пусть {/YJ — последовательность случайных величин, таких,
что |
|
Хп |
0 |
|
п |
|
|
|
||
|
|
|
|
|
|
|
||||
|
|
|
р |
1— |
— |
|
1 |
|
|
|
|
|
|
|
"я*" |
|
|
||||
|
|
|
|
|
п' |
|
|
|
||
|
Тогда |
/J (sup| Л'я+ /„—0| > s ) < |
V P(|.Y„+m—0| > е ) = V |
-----‘ |
||||||
|
|
|||||||||
откуда |
т |
|
ш—(I |
|
|
|
т |
0(tl1 ту |
||
|
lim Р (sup | ХП1 |
,п— |
0 | > |
г) = |
О, |
|
||||
т. |
е. |
|
|
Хп— |
>• 0. |
|
|
|
|
|
|
Но |
|
|
|
|
|
|
|||
|
|
lim М Xп— 0 р = |
lim 1 - |
1, |
|
|
||||
|
|
|
/г-*- •с |
|
|
|
|
|
|
|
т. е. {Л1,,) не сходится к нулю в ср. кв. |
|
независимыхслучайных |
||||||||
|
2. |
Пусть |
{X,,} — последовательность |
|||||||
величии, |
таких, что |
|
|
|
|
|
|
|
||
|
|
|
|
0 |
|
1 |
|
|
|
|
|
|
|
|
1 - - L |
|
1 |
|
|
|
|
|
|
|
|
|
II |
|
|
|
||
|
|
|
|
|
п |
|
|
|
|
|
|
Тогда |
|
Пт М\ Хп— 0| - = |
Пт — = |
0, |
|
||||
|
|
|
|
|||||||
т. |
е. |
|
п - 00 |
|
|
И-► оо / I |
|
|
|
|
|
|
1. i. т . |
.Y;J = |
0. |
|
|
|
|
||
|
|
|
|
|
|
|
|
|||
|
По |
|
|
п„ — 1 |
пи |
|
По -)- 1 |
|
||
|
Р(Хп— 0 для |
всех п |
|
О, |
||||||
|
По) = ----------- .---------- |
п0 4- 2 |
||||||||
|
|
|
|
|
п0 |
и„ 4- 1 |
|
каково бы ни было п0, т. е. {Хп} не сходится к нулю п. н.
Если {Хп} сходится и в ср. кв. и п. и., то в обоих случаях j/Y„]
сходится к одному |
и тому же пределу с точностью до |
эквивалент |
||||
ности. |
|
если {Xп} сходится к X в ср. кв., то {/Y,,} сходится |
||||
Действительно, |
||||||
к X и по вер. |
С другой стороны, если {Хп} сходится к |
У |
п. и., то |
|||
(Л-,,) сходится |
к У и по вер. Но {Х,,} |
сходится по вер. |
к |
одному и |
||
тому же пределу |
с точностью до |
эквивалентности P(X = Y) — 1. |
||||
Т е о р е м а . |
Для сходимости в ср. кв. |
последовательности {Хп\ |
||||
необходимо и достаточно условие |
|
|
|
|
||
|
|
\\тМ\Хп— Хт\* = |
Ъ. |
|
(10) |
|
|
|
л, |
|
|
|
|
Доказательство. Возвысив в квадрат неравенство |
|
|
||||
I Хп— Хп | = | (Хп— Х)4- (^Y |
Xm)\ ^ \ Х п— -Y | 4 - 1Х,п— X | |
56
и применив затем теорему сложения математических |
ожиданий, |
|
найдем |
|
|
М | Х - Х т|2< М | Х - Х |-’ + |
М | Хт—X |- + 2М [| Х - Х \ |
| Хт- Х \ \ . |
Применив здесь известное неравенство Шварца |
|
|
|М|ХУ*]| |
V М \ Х ^ М \ Y |*. |
(11) |
получим М \ХпХт|г < М | Хп - X |- + М \\Хт- X |2 -|- |
|
|
+ 2 V M \ X n- X \ * M \ X „ - X \ * . |
|
Отсюда следует необходимость. Достаточность примем без
доказательства.
Условие (10) есть критерий сходимости в ср. кв. последова
тельности {А-,,}.
Ниже полагаем, что для всех рассматриваемых случайных
величин математические ожидания существуют. |
|
|||
Л е м м а |
1. |
Если |
|
|
|
|
l.i.m. Xn = X и l.i.m. Ym^= Y, |
(12) |
|
то |
|
Hm M\XnY^\ = |
M[XY*]. |
(13) |
|
|
п, m-*- * |
|
|
Доказательство. Имеем |
|
|
||
м [ X J U = М [{( X - X) -f |
А} {( Ym- Y) -}- К}*] = |
|||
= М[( Хп- X) ( Ym- Y) *] + М [ ( X - X) К*] 4 М \Х (У„, - |
||||
|
|
— У)*] + М|АТ*]. |
|
|
В силу |
(11) |
и (12) при п, т- +оо в правой части |
последнего |
равенства обращаются в нуль все слагаемые, кроме последнего, что
и доказывает лемму. |
|
Для существования |
l.i.m. |
Хп необходимо |
|||
Л е м м а 2 (Лозв). |
|||||||
и достаточно существование числового предела |
|
|
|||||
|
|
|
lim М \XnX*t\ , |
|
|
(14) |
|
|
|
|
п , т-*- * |
|
|
|
|
Доказательство. |
Н е о б х о д и м о с т ь . Пусть |
l.i.m. |
Хп суще |
||||
ствует. Тогда в силу |
(13) при Ym = Xm имеем |
|
|
|
|||
|
|
\imM\XaX*] = |
M\X\*, |
|
|
|
|
|
|
п, т - * ° ° |
|
|
|
|
|
г. е. п|)едел (14) существует. |
|
существует |
и равен с. |
||||
Д о с т а т о ч н о с т ь . |
Пусть предел (14) |
||||||
Тогда при п, т |
оо имеем |
|
|
|
|
||
м \ х п- |
х т\* = м \ х пI2 - |
м [ХХт\ - М [Хпх'п] + |
+М | Хт|2 с — с — с 4- с — 0,
ив силу критерия (10) 1. i. m. Хп существует. Лемма доказана.
Ле к ц и я 8. НЕПРЕРЫВНОСТЬ, ДИФФЕРЕНЦИРОВАНИЕ
ИИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ПРОЦЕССОВ
Непрерывность случайных процессов. Дифференцирование случайных процессов. Интегрирование случайных процессов.
Непрерывность |
|
Случайный процесс Х(1) называется непрерывным в ср. |
кв. |
в точке /, если |
|
I.i.m. X{t') = X(t). |
( 1 ) |
Случайный процесс называется непрерывным в ср. кв. на ин тервале, если он непрерывен в ср. кв. в каждой точке этого интер вала.
Т е о р е м а 1. Для непрерывности в ср. кв. случайного процесса Л'(/) на интервале (а, Ь) необходимо и достаточно, чтобы его второй начальный момент
Rx(/,s) ==M[X(/)X*(s)]
был непрерывен на диагонали s = |
/ е (а, Ь). |
|
равно |
|
Доказательство. |
Равенство (1) |
в силу леммы 2 лекции 7 |
||
сильно равенству |
|
|
|
|
ПтЛ! [X(t')X* (s')] = М | X (/) | 2, |
|
|||
Г, V-f |
|
|
|
|
ТС- |
UmRx((',s')= Rx(t,t). |
|
|
|
|
f , S'-+t |
|
|
|
Но это и означает, что непрерывность в ср. кв. процесса X(t) |
||||
на (а, Ь) равносильна непрерывности функции |
Rx((,s) на |
диаго |
||
нали s = t е (а, Ь). Теорема доказана. |
|
|
||
Из непрерывности Rx(t, s ) на диагонали t — s |
следует ее непре |
|||
рывность во всех точках (/, s). |
|
|
|
|
Действительно, |
если Rx(t,s) непрерывна на диагонали / = s, то |
|||
по предыдущей теореме |
|
|
|
|
I.i.m. |
X (l') = X (t), |
I.i.m. X (s ' ) = X ( s ) . |
|
|
t’-t |
|
s’ —& |
|
|
58
Отсюда в силу леммы 1 лекции 7 имеем
lim М [X ((')Х* (s') ] = М (X(t) X* (s) ], e-t
Т- е- |
lim |
Rx(t',s')*=Rx(t,s). |
|
|
t ’-*t |
|
|
|
s '- * s |
|
|
Но это и означает, |
что Rx(t,s) непрерывна во всех точках (/, |
s). |
|
Случайный процесс X(t) называется непрерывным п. н. в точке /, |
|||
если его реализации x(t) |
непрерывна в точке i с вероятностью |
1, |
|
т- е- |
s |
lim X ((') = X (I). |
|
|
|
r - t |
|
Случайный процесс называется непрерывным п. н. на интервале, если его реализация непрерывна на этом интервале с вероят ностью 1.
Из непрерывности в ср. кв. не следует непрерывность и. и.
Например, |
для |
случайного |
телеграфного сигнала |
X(t) |
имеем |
(см. пример лекции 6). |
|
|
|
||
Rx(t, s) = |
Kx(t, s) + |
mx(t)mx( s ) ^ ^ - e - n \‘- x\ -f |
, |
(2) |
|
|
|
|
4 |
4 |
|
т. e. Rx(t,s) |
непрерывна на диагонали t — s. Следовательно, X (() |
непрерывен в ср. кв. на всей оси (. Однако он не является непре рывным п. н. на всей оси t.
Из непрерывности п. н. также не следует непрерывность в ср. кв.
Например, процесс
x(t) = xt,
где X — случайная центрированная величина с бесконечной диспер сией, непрерывен п. н. на всей оси i. Однако он не является непре рывным в ср. кв., так как
M\X(t |
S.t) — X(t )\ 2 — \t - М\ Х |2 — |
o o . |
|
|
|||
Т е о р е м а 2 (Л. |
И. |
Колмогоров). |
Если |
в |
каждой |
точке / |
|
интервала (а, Ь) при некоторых числах |
а > 0, |
е > 0 и |
0 <[ С <С °° |
||||
выполняется неравенство |
|
|
|
|
|
|
|
M\ X(t + |
М) — X ( 0 1“ < |
СI V 11+ % |
|
(3) |
|||
то случайный процесс X(t) |
непрерывен п. |
и. на (о, Ь). |
п. |
и. мате |
|||
Отсюда при а = |
2 следует, что для |
непрерывности |
матическое ожидание
М \Х(( + At)— Х(()^2
при Л/—>-0 должно стремиться к нулю достаточно быстро, а не
просто стремиться к нулю, как в случае непрерывности в ср. |
кв. |
|||||
Т е о р е м а 3. Если для |
второго |
начального |
момента |
Rx(t,s) |
||
случайного процесса X(t) |
на диагонали |
s = tQ(a, b) |
существует |
|||
вторая смешанная производная, то |
сам |
процесс |
X(t) |
на |
(а, Ь) |
|
непрерывен не только в ср. |
кв., но и п. н. |
|
|
|
|
'59