Binder1
.pdf2.6. Пуассоновский процесс
Определение 2.7. Случайный процесс t ,t T a, называют пуассоновским, выходящим из 0, если выполнены три условия:
1)0 0;
2)является процессом с независимыми приращениями;
3)t s t s .
Примечание. K s,t min s,t .
3. Однородная цепь Маркова (ОЦМ) с дискретным временем
Основные понятия.
Пусть t ,t 0,1, – случайная последовательность с множеством состояний
X 1, 2, , k .
Определение 3.1. Марковское свойство (для условных вероятностей) случайной последовательности:
P n 1 j | n i, n 1 in 1, , 0 i0P n 1 j | n i n 1 pij
для любых i, j, i0 , ,in 1 X, n N. |
|
|
||||||
Определение 3.2. Однородность цепи Маркова: n pij pij не зависит от n. |
|
|
||||||
Определение 3.3. Матрица переходных вероятностей (за один шаг): P |
|
|
|
p |
|
|
|
k . |
|
|
|
|
|||||
|
|
|
|
ij |
|
|
|
1 |
|
|
|
|
|
|
|
|
Определение 3.4. Матрица P является стохастической, если сумма элементов каждой строки равна 1.
|
ОЦМ определяется тремя составляющими. |
|
|
1. |
Фазовым пространством X. |
|
|
2. |
Матрицей переходных вероятностей P. |
|
|
3. |
|
|
a j P 0 j – |
Начальным распределением a a1, , ak , где |
|||
вероятность нахождения ОЦМ в состоянии j в начальный момент времени. |
|||
Конечномерные распределения ОЦМ. |
n |
k |
|
|
P n jn , n 1 jn 1, , 0 j0 |
||
|
a j0 p ji 1 , ji |
a j0 pijnij , |
|
|
|
i 1 |
i, j 1 |
nij - число переходов из i в j за n шагов.
По этой формуле можно рассчитать вероятность реализации траектории ОЦМ.
Вычисление условных и безусловных вероятностей за n шагов.
Обозначения:
pij n P t n j | t i - (условная) вероятность перехода ОЦМ из i в j за n шагов,
pij n 1k P n ,
a j n P n j - (безусловная) вероятность нахождения ОЦМ в состоянии j через n шагов,
a n a1 n , , ak n – распределение ОЦМ по состояниям через n шагов.
|
|
|
|
|
Теорема 1. Если t - ОЦМ с элементами X, P, a, то |
||||
n |
, |
|
n |
. |
P n P |
a n |
aP |
Опр. Матрица P регулярная, если найдется n N такое, что Pn 0.
Достаточное условие регулярности. Есть ненулевой диагональный элемент, а состояния сообщаются.
Теорема 2. Если P - регулярная матрица, то
1)существует lim Pn ,
n
2) все строки матрицы равны вектору 1, , k с положительными элементами,
3) для любого начального распределения lim a n - вектору финальных
n
вероятностей (его называют стационарным распределением),
4) вектор является единственным неподвижным вероятностным вектором
(сумма компонент равна 1) матрицы P, т.е. P.
Пример. Вектор 0, 25; 0, 75 является стационарным распределением стохастической матрицы
0, |
4 |
0, 6 |
|
|
P |
0, |
2 |
0,8 |
. |
|
|
Примечание. P4 |
0, |
2512 |
0, 7488 |
|
|
|
0, |
2496 |
0, 7504 |
. |
|
|
|
|
Лемма. Если P - регулярная матрица, то существует фундаментальная матрица ОЦМ
Z E P 1 .
Идея вывода: Pn P n , |
n 1. |
|
|||||||||||
Некоторые результаты для средних времен пребывания. Пусть |
|
||||||||||||
Yj n - время пребывания регулярной ОЦМ в состоянии j на протяжении |
n |
||||||||||||
шагов; |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
|
|
|
|
|
|
|
|
|
|||||
ij n M Yj n |
| 0 i |
, |
|
|
|
ij n |
|
|
|
1 M n . |
|
||
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
n 1 |
|
||
Теорема 3. M n PM n 1 E Pk . |
|
||||||||||||
|
|
|
|
|
|
|
|
k 0 |
|
||||
Следствие 1. При n |
M n n 1 Z. |
|
|||||||||||
Следствие 2. lim |
ij n |
j . |
|
|
|
|
|
|
|||||
n |
|
|
|
|
|
|
|||||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
Регулярные ОЦМ с доходами. Пусть переходу i j соответствует доход |
rij . |
||||||||||||
Тогда суммарный доход и средний доход при начальном состоянии i равны |
|
n
W n r t 1 , t ,
|
|
|
|
|
t 1 |
|
|
V |
n M W n | 0 |
i |
k |
M W n | 1 j p |
|||
|
|||||||
i |
|
|
|
|
ij |
j 1
k
r
ij
j 1
Vj n 1 pij .
Задача. Каждый житель города имеет одну из трех профессий А, В, С. Дети отцов сохраняют профессии отцов с вероятностями 53 , 23 , 14 соответственно, а
если не сохраняют, то с равными вероятностями выбирают любую из двух других профессий. Найти:
1)распределение по профессиям в следующем поколении, если в данном поколении профессию А имело 20% жителей, В – 30%, С – 50%;
2)стационарное распределение по профессиям;
3)распределение по профессиям через 3 поколения.
Решение. Определим
t – профессия жителя в t -м поколении,
X = 1,2,3 – множество состояний: состояние «1» – профессия А; состояние «2» – профессия В; состояние «3» – профессия С;
a 0.2, 0.3, 0.5 – начальное распределение по состояниям (профессиям); матрица переходных вероятностей за один шаг (одно поколение):
|
3 |
1 |
|
1 |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
5 |
5 |
5 |
|
|
|
|
|||||
|
|
1 |
|
2 |
|
1 |
|
|
|
|
|
|
P |
|
|
|
|
. |
|
|
|||||
|
6 |
3 |
6 |
|
|
|
|
|||||
|
|
|
|
|
||||||||
|
|
3 |
|
3 |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
8 |
8 |
4 |
|
|
|
|
|
|||
|
|
|
|
|
1 |
|
||||||
|
|
|
|
|
|
|
|
. |
||||
Ответ на 1-й вопрос. Используется формула a 1 |
aP |
Ответ на 2-й вопрос. Обозначим стационарное распределение Надо решить систему уравнений:
|
|
3 |
|
|
|
|
1 |
|
|
|
|
|
3 |
|
|
|
|
|
|
|||
|
|
|
|
|
|
1 |
|
|
|
|
|
2 |
|
|
|
|
3 |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|||||||||||||
1 |
|
5 |
|
|
|
6 |
|
|
|
8 |
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
1 |
|
|
|
2 |
|
|
|
|
3 |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
2 |
|
|
|
|
1 |
|
|
|
|
|
2 |
|
|
|
|
|
3 |
|
|
|||
5 |
3 |
8 |
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
1 2 3 1 |
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
||
Ответ на 3-й вопрос. Используется формула a 3 |
aP |
1, 2 , 3 .
Основные вероятностные неравенства
Позволяют получить оценки для вероятностей, опираясь только на числовые характеристики случайных величин.
Неравенство Маркова. Для произвольного 0 справедливо неравенство
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P |
|
|
|
|
M |
|
|
|
k |
, k 0. |
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Доказательство. Определим событие |
|
|
A |
|
|
|
. Тогда |
|
|
|
k |
|
|
|
k I A k I A , где I A |
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||
– индикатор события A. Отсюда |
|
|
|
|
|
k |
|
|
|
|
|
|
|
|
I A |
|
|
|
|
P A . |
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
M |
|
|
|
|
|
|
|
k |
|
|
k |
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
M |
|
|
|
|
|||||||||||||||||||||||||||
Следствие. P |
|
|
|
|
|
1 |
M |
|
|
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
, k 0. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
Неравенство Чебышева. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D , |
то для произвольного 0 справедливо |
||||||||||||||||||||||||||
Если существует |
||||||||||||||||||||||||||||||||||||||||||||||
неравенство P |
|
M |
|
|
D |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
на M . |
|
|||||||
Примечание. Из неравенства Маркова при k 2, заменяя |
|
|
||||||||||||||||||||||||||||||||||||||||||||
Пример 1. Пусть B - борелевское множество на числовой прямой; h x |
- борелевская функция |
|||||||||||||||||||||||||||||||||||||||||||||
такая, что h x 0 при x , |
|
|
|
h x 0 при |
x B, существует |
Mh . Доказать, что |
P B Mh .
Доказательство. B h P B P h Mh .
Приме 2. Пусть M 0, M 2 2. Доказать, что P |
|
2 |
|
при 0. |
|
||||||||||||
|
2 |
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|||
Доказательство. Положим |
h x x c 2 ,c 0. |
При |
x |
h x x c 2 |
c 2 0. |
||||||||||||
Поэтому |
|
|
|
|
|
M c 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P |
|
|
c2 2 |
|
|
c 0. |
|
|
|
||||
|
|
|
|
|
c 2 |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
c 2 |
|
|
|
|
|
|
|
|
||
Учитывая, что min |
c2 |
2 |
|
2 |
, завершим доказательство. |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|||||||||
c 0 c 2 |
2 2 |
|
|
|
|
|
|
|
|
|
|
|
|
||||
Пример 3. Пусть |
M a, D 2. Доказать, |
что |
P a |
2 |
при 0, |
||||||||||||
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 2 |
|
2
P a при 0.
2 2
Неравенство Йенсена. Пусть g x ,x R – непрерывная выпуклая функция. Тогда
M g g M .
Доказательство. По определению выпуклой функции: g x g x0 k x x0 для любого k R. Полагая x ,x0 M , получим M g g M kM M 0.
|
2 |
M |
2 |
. |
|
|
|
|
|
|
|
|
|
||||
Пример. M |
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
величины, x , y – некоторые |
||||
Неравенство Коши-Шварца. Пусть , |
– случайные |
||||||||||||||||
функции. Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
M |
|
|
|
|
|
2 |
|
|
|
2 |
|
|
. |
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
M |
|
M |
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Законы больших чисел
Пусть 1, 2, – последовательность случайных величин. В законах больших чисел речь идет о
предельном поведении последовательности средних |
1 2 n |
при n . |
|
n
Определимся с понятием предела.
Опр. Последовательность случайных величин 1, 2, сходится по вероятности к случайной величине при n , если для произвольного 0
limP |
n |
0 или |
limP |
n |
1. |
|
n |
|
|
|
n |
|
|
P |
. |
|
|
|
|
|
Обозначения: n , plim n |
|
|
|
|
n
Примечание. Весьма слабый вид сходимости. Начиная с некоторого номера, гарантированно выполняется каждое из неравенств вида n , а не все.
Теорема Хинчина. Если 1, 2, – независимые одинаково распределенные случайные величины, то при n
1 2 n P M 1 . n
Следствие (теорема Бернулли). Пусть m – относительная частота появления события A в серии n
|
|
|
|
|
|
|
m P |
||
из n независимых испытаний. Тогда при n |
|
P A . |
|||||||
n |
|||||||||
Доказательство. Пусть k |
Ik A |
|
|
|
|||||
– индикатор появления события в k -м испытании. Тогда |
|||||||||
|
|
m |
|
1 2 n |
P |
M 1 1 P A . |
|||
|
|
|
|
||||||
|
|
n |
n |
|
Необходимое и достаточное условие ЗБЧ. Для того, чтобы последовательность как угодно зависимых случайных величин 1, 2, удовлетворяла законубольших чисел
|
|
1 2 |
n |
|
M 1 M 2 M n |
|
|
|
||||||||
limP |
|
|
|
|
|
|
|
|
|
|
|
|
|
0 |
для произвольного 0 , |
|
|
n |
|
|
|
|
n |
|
|
|
|
||||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
необходимо и достаточно, чтобы выполнялось условие |
|
|
||||||||||||||
|
|
|
|
|
|
|
|
n |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k M k |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
k 1 |
|
|
0 при n . (1) |
|||||
|
|
|
|
|
M |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
n |
2 |
||||||||
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
n |
|
k M k |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
k 1 |
|
|
|
|
|
|
|
Доказательство. Обозначим
|
|
|
|
|
n |
|
Y |
1 2 n |
|
M 1 M 2 M n |
|
k M k |
, |
k 1 |
||||||
|
|
|
||||
n |
n |
|
n |
|
n |
|
|
|
|
|
Fn y – функцию распределения Yn. Тогда условие (1) можно записать в виде
|
|
|
|
2 |
|
|
|
|
|
|
|
M |
Yn |
|
0 при n . |
(2) |
|||||||
1 Y2 |
|||||||||||
|
|
|
|
|
|
|
|
||||
|
|
|
n |
|
|
|
|
|
|||
Заметим, что функция |
y |
2 |
|
– монотонно возрастающая относительно |
|
y |
|
. |
|||
|
|
|
|
||||||||
|
|
|
|
|
|||||||
1 y2 |
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|||||
Достаточность. Рассмотрим |
|
|
|
|
|
|
|
P |
|
|
|
|
|
|
|
1 2 |
|
|
|
|
y2 |
|
|
1 2 |
|||||
Yn |
dFn y |
|
|
|
|
|
|
|
dFn y |
|
|
||||||||||
|
|
2 |
1 y |
2 |
|
2 |
|||||||||||||||
|
|
|
|
y |
|
|
|
|
|
|
|
|
y |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
1 |
2 |
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
M |
Yn |
|
0 при n . |
|
|
||||||||||||
|
|
|
|
1 Y2 |
|
|
|||||||||||||||
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
y2 |
|
|
|
dFn y |
1 y2 |
Необходимость. Рассмотрим
P |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y2 |
|
|
|
|
|
|
Yn2 |
|
|
|
|
|
|
|
y2 |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
Yn |
|
|
dFn y |
|
|
|
|
|
1 y |
2 |
dFn y M |
1 Y2 |
|
|
|
|
1 y2 |
dFn y |
|||||||||||||||||||
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
y |
|
|
|
|
|
|
y |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
y |
|
|
|
|
|||||||
|
|
|
|
|
|
Yn2 |
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
Yn2 |
|
|
|
|
|
2 |
|
|
|
||||||
|
|
|
|
M |
|
|
|
|
|
|
|
dFn y M |
|
|
|
|
. |
|||||||||||||||||||||
|
|
|
|
1 Y2 |
|
1 2 |
1 Y2 |
1 2 |
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
n |
|
|
|
y |
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|||||||||
Таким образом, справедливо неравенство |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
P |
Yn |
|
|
|
|
|
|
M |
|
Yn |
. |
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
2 |
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
1 Y |
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
Следствие 1 (теорема Чебышева). Если 1, 2, – попарно некоррелированные случайные
величины, дисперсии которых ограничены в совокупности константой c , то имеет место закон больших чисел.
Указание. Справедливо неравенство
|
2 |
|
|
|
1 |
n |
c |
|
M |
Yn |
|
|
M Yn2 D Yn |
D k |
. |
||
|
2 |
2 |
|
|||||
1 Yn |
|
n |
k 1 |
n |
Следствие 2 (теорема Маркова). Если 1, 2, – случайные величины, которые удовлетворяют условию
|
1 |
|
n |
|
|
|
lim |
|
|
D |
k |
0 при n , |
|
|
2 |
|||||
n n |
|
|
k 1 |
|
|
то имеет место закон больших чисел.
P
Теорема о предельном переходе под знаком математического ожидания. Пусть n при n , g x ,x R – непрерывная ограниченная функция. Тогда
limM g n M g .
n
Пример. |
|
Пусть |
|
h x |
– |
|
|
непрерывная |
на |
||||||
lim |
1 |
1 h |
|
x1 xn |
dx |
dx |
n |
. |
|
|
|
|
|||
|
|
|
|
|
|||||||||||
n |
|
|
|
n |
|
|
1 |
|
|
|
|
|
|
||
|
0 |
0 |
|
|
|
|
|
|
|
|
|
|
|
||
Решение. Пусть |
|
R 0;1 . Тогда |
f |
|
x , ,x |
|
1, |
||||||||
k |
|
n |
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
1 |
, , n |
1 |
0, |
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0,1 |
функция. |
Вычислить |
0 xk 1, k 1,2, ,n,
в противном случае,
lim |
1 |
|
1 h |
|
x1 xn |
dx dx |
|
limM |
h |
|
1 2 |
n |
|
|
|||||||
|
|
n |
|
|
|
||||||||||||||||
n |
|
|
|
n |
|
|
1 |
|
n |
|
|
n |
|
|
|
||||||
|
0 |
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
1 2 n |
|
|
|
|
0,5 . |
|||||||||
|
|
|
|
M h plim |
|
|
|
|
|
M |
h |
||||||||||
|
|
|
|
n |
|
|
|
h M 1 |
|||||||||||||
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
Сходимость почти наверное. Усиленный ЗБЧ |
|
|
|
||||||||||||||||
Пусть n n |
и |
|
– |
случайные |
величины, |
определенные |
на |
|
вероятностном |
||||||||||||
пространстве ,A,P . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Опр. Последовательность n сходится почти наверное (с вероятностью 1) к |
при n , если |
|||||
P |
lim |
n |
|
|
1 или |
|
|
n |
|
|
|
n для любого \ B, P B 0.
Обозначение: n п.н. .
Теорема. Сходимость n п.н. имеет место тогда и только тогда, когда справедливо
соотношение limP sup k |
|
0 |
для любого >0. |
|
n |
|
|
|
|
|
k n |
|
|
|
Теорема Колмогорова. Для того, чтобы последовательность независимых случайных величин
|
|
|
|
|
1 |
n |
п.н. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
n удовлетворяла усиленному ЗБЧ |
|
M k 0, достаточно сходимости следующего |
||||||||||
|
||||||||||||
|
D k |
|
|
|
n k 1 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
||
ряда |
|
|
. |
|
|
|
|
|
|
|
|
|
k |
2 |
|
|
|
|
|
|
|
|
|
||
k 1 |
|
|
|
|
|
|
|
|
|
|
|
|
Следствие 1. Если 1, 2, – НОРСВ с M 1 |
a,D 1 |
2 |
|
|
п.н. |
|||||||
|
|
|||||||||||
|
, то a при n . |
Следствие 2. Пусть m – относительная частота появления события A в серии из n независимых n
|
m |
п.н. |
|
испытаний. Тогда при n |
|
P A . |
|
n |
|||
|
|
Пример (применение метода Монте-Карло). Пусть A x,y :0 x 1,0 y min 1,g x ,
SA – площадь этой области, а Xk ,Yk , k 1,2, ,n – последовательность независимых случайных величин, каждая из которых имеет стандартное равномерное распределение. Положим
k I Xk ,Yk A . Тогда по следствию 1
In 1 n I Xk ,Yk A п.н. M I X1,Y1 A P X1,Y1 A 1 dxdy SA.
n k 1 A
Теорема непрерывности для последовательности случайных величин и векторов (сам.)
Если – случайный вектор, то – длина этого вектора.
Теорема. Пусть n P n п.н. при n , функция g непрерывна с вероятностью 1.
Тогда g n P g g n п.н. g .
Доказательство.
Сходимость почти наверное. Обозначим:
|
n |
n |
|
|
|
|
|
|
, |
|
|
n |
|
n |
|
|
g |
|
|
, |
|
|
|
|||
A :lim |
|
|
|
|
|
B :limg |
|
|
|
|
|
|
|
|
||||||||||||
C : точка непрерывности g – область непрерывности функции g . |
||||||||||||||||||||||||||
Тогда поскольку AC B, то справедливы соотношения: |
|
|
|
|
|
|
||||||||||||||||||||
|
P B P AC P A P C P A C P A P C 1 P A 1. |
|||||||||||||||||||||||||
|
|
|
п.н. |
|
|
|
|
|
|
|
|
|
п.н. |
|
|
|
|
|
|
|
|
|
|
|
||
Отсюда g n g |
при n , если n . |
|
|
|
|
|
|
|
||||||||||||||||||
Сходимость по вероятности. |
|
|
, Bn |
|
|
|
|
|
|
|
|
, |
|
|||||||||||||
Обозначим: |
An : |
|
n |
|
|
g n g |
|
0, , |
||||||||||||||||||
|
|
|
|
|||||||||||||||||||||||
|
|
|||||||||||||||||||||||||
C : |
точка |
|
непрерывности |
|
g – |
|
область непрерывности |
|
функции g . |
Тогда поскольку AnC Bn, то справедливы соотношения:
P Bn P AnC P An P C P An C P An P C 1 P An 1.
P |
|
|
P |
|
|
|
|||
Отсюда g n g при n , если n . |
|
|
|
||||||
|
|
|
|
|
n |
Zn |
|
1 Z |
|
|
|
P |
|
|
|
P |
|
||
Пример 1. Пусть Z |
n |
Z при n . Тогда |
|
|
n 1 |
|
|
. |
|
|
|
eZn |
eZ |
||||||
|
|
|
|
|
|
Метод характеристических функций Характеристическая функция. Ее основные свойства.
Метод характеристических функций является основным методом доказательства теорем для независимых случайных величин и векторов.
Опр. Характеристической функцией случайной величины называется функция действительной
переменной t ,t R, определяемая следующим образом: t M eit .
Примечание. С точностью до знака показателя экспоненты характеристическая функция соответствует в операционном исчислении преобразованию Фурье.
Опр. Характеристической функцией случайного вектора |
1, , k T |
|
называется |
||||
действительная функция t ,t R |
|
|
|
M |
|
|
|
k |
|
i t, |
|||||
|
, определяемая следующим образом: t |
e |
|
. |
|||
|
|
|
|
|
|
|
|
Примеры вычисления характеристической функции.
1. Найти характеристическую функцию распределения Пуассона .
Решение. По определению: |
P m |
m |
e , |
m 0,1, . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
m! |
|
|
|
|
|
|
|
|
|
|
|
|
n eit |
|
m |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
m |
|
|
|
|
|
|
|
|
|
|
|
1 eit |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
t M |
eit |
|
|
|
|
|
|
|
eitm |
|
|
|
|
e |
e |
|
|
|
|
|
|
|
|
|
|
e |
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
m! |
|
|
|
|
|
|
m! |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
m 0 |
|
|
|
|
|
|
|
|
|
|
|
|
m 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
2. Найти характеристическую функцию нормального распределения N a, 2 . |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
x a 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
Решение. По определению: |
|
f x |
|
|
|
|
|
|
|
e |
2 2 |
, |
|
|
|
x R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
x a |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x a 2 |
|
|
|
u |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
u2 |
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
it a u |
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
it |
|
|
itx |
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
t M |
|
|
|
|
|
|
|
|
|
|
|
e |
|
2 |
|
|
|
dx |
|
|
|
|
|
|
e |
|
|
|
|
|
|
|
|
|
|
|
|
e |
2 |
du |
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||
e |
|
e |
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
dx |
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
du |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
u it |
2 |
|
|
|
t |
2 |
|
|
z u it |
|
|
|
|
|
|
t 2 |
it |
|
|
|
|
|
|
|
|
z2 |
||||||||||||||||||||||||||||||||||
eita |
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ita |
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
exp |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
du |
|
|
dz |
du |
|
e |
|
|
|
2 |
|
|
|
|
|
|
|
|
|
e |
|
2 dz |
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
it |
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
используя теорему Коши об |
|
|
|
|
|
ita |
t 2 |
|
|
1 |
|
|
|
|
x2 |
|
|
|
|
|
|
|
ita |
t 2 |
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
e |
|
|
2 |
|
|
|
|
e |
2 dx e |
|
|
2 . |
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
||||||||||||||||||||||||||||||||
|
интеграле по замкнутому контуру |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3.Характеристическая функция многомерного нормального распределения N m, , m M ,
|
|
|
|
|
равна |
|
|||
D |
t |
|
exp i |
|
|
|
|
|
|
|
|
1 |
T |
|
||
m,t |
|
|
t |
t |
. |
|
2 |
||||||
|
|
|
|
|
Свойства характеристической функции
1. 0 1, |
t |
1, |
t – равномерно непрерывная на числовой оси функция. |
|
|
|
|
|
|
k |
k |
|
|
2. Для независимых случайных величин 1 k t j t , для НОРСВ 1 k t |
t . |
|||||
1 |
j 1
3. Для линейной функции a b t eiat bt , a,b – константы.