all
.pdf3.R∞ = { ( 1, 2, . . .) | R } – числовые последовательности. Для (R ) введем
( ) = { R∞, = ( 1, 2, . . .) | ( 1, . . . , ) }
– цилиндр с основанием
Минимальная -алгебра, содержащая все цилиндры, называется борелевской -алгеброй в R∞ и обозначается (R∞). Формально:
(R∞) = ({ ( ) | N, (R ) })
Теорема 1 (о монотонных классах).
Пусть – -система на . Тогда ( ) = ( ).
Доказательство. Заметим, что ( ) – -алгебра, содержащая ( ) – -система, содержащая ( ) ( ) в силу минимальности.
Согласно лемме о - и -системах для того, чтобы доказать ( ) ( ), достаточно проверить, что ( ) является -системой.
Действительно, тогда ( ) будем -алгеброй, содержащей ( ) ( ) Рассмотрим следующую систему подмножеств:
1 = { ( ) | ˓→ ∩ ( ) }
Покажем, что 1, является -системой,
1.1? Для∩ = ( ) .
2.Пусть , 1 и . Верно ли, что 1?
Пусть . Тогда ( ) ∩ = ( ∩ ) ( ∩ )
Причем по свойству 2) -системы получаем, что ( ) ∩ ( ) 1
3.Пусть { , N} – последовательность из 1, причем ↑ . Верно ли, что 1?
Для ( ∩ ) ↑ ( ∩ ). Но ( ∩ ) ( ) ( ∩ ) ( ) по свойству 3)-системы. 1.
Мы показали, что 1 – -система.
В силу того, что – -система, 1 ( ) 1. В силу минимальности. Но
1 ( ) по построению.
Следовательно, ( ) = 1, т.е. ( ) ∩ ( )
Рассмотрим систему
2 = { ( ) | ( ) ∩ ( )) }
Точно также проверяется, что 2 – это -система. Тогда ( ) . В силу минимальности ( ) . По теореме ( ) = ( )
11
Независимость событий
Определение 1. События и на вероятностном пространстве ( , , ) называются незави-
симыми, если
( ∩ ) = ( ) ( )
Упражнение 4. Пусть и независимы. Тогда независимыми будут и такие пары:
, , ,
Определение 2. Набор событий 1 . . . |
называются попарно независимыми, если ̸= |
независимо с . |
|
Определение 3. События 1 . . . называются независимыми в совокупности, если 6 , 1, . . . : 1 6 1 < . . . < 6 выполнено:
( 1 ∩ . . . ∩ ) = ( 1 ) . . . ( )
Определение 4. Системы событий 1 . . . , называются независимыми в совокупности, если 1 1, . . . , события 1 . . . – независимы в совокупности.
Лемма 5 (критерий независимости -алгебр).
Пусть 1 и 2 – -системы в . Тогда ( 1) и ( 2) независимы 1 и 2 – независимы.
Доказательство.
( ) очевидно из определения
( ) используем принцип подходящих множеств. Рассмотрим такую систему:
1 = { ( 2) | независимо с 1 }
Проверим, что 1 – это -система.
1. 1?
( ∩ ) = ( ) = ( ) ( ) независимы 1
2. Пусть , 1, причем . 1? Пусть 1. Тогда
( ∩ ) = (( ∩ ) ( ∩ )) = ( ∩ ) − ( ∩ ) =
( ) ( ) − ( ) ( ) = ( ( ) − ( )) ( ) = ( ) ( )
независимо с независимо с 1 1
3. Пусть ↑ , 1. Верно ли, что 1?
Да:
Пусть 1. Тогда ( ∩ ) ↑ ( ∩ ).
( ∩ ) = | |
по теореме о непрерывности меры |
| = |
lim ( |
∩ |
) = |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
||||||
= |
|
1 |
|
независимо с |
| = |
lim ( ) ( ) = |
по теореме о непрерывности |
| |
= ( ) ( ) |
||||||
| |
|
|
|
|
|
| |
|
|
|
|
и непрерывны 1
Значит 1 – -система. По условию мы знаем, что 2 независима с 1 2 1 по следствию из теоремы о монотонности ( 2) 1 т.е. ( 2) независимо с 1
Рассмотрим по аналогии
2 = { | независимо с ( 2) }
12
Аналогично 2 – -система.
По теореме о монотонных классах, в силу того, что 1 2, получаем, что ( 1) 2( 1) независимо с ( 2).
Следствие 1. Пусть 1 . . . – -системы в . Тогда 1, . . . , независимы в совокупно- сти ( 1), . . . ( ) независимы в совокупности.
Определение 5. Пусть { } A – произвольный набор систем событий из . Тогда этот набор называется независимым в совокупности, если 1 . . . A, ̸= , системы 1 . . . независимыми в совокупности, тоесть любой конечный поднабор независим.
Вероятностная мера на (R, R)
Теорема 1 (Каратеодори, о продолжении меры). Пусть – некоторое множество, - алгебра на нем, – вероятностая мера на ( , ) Тогда ! вероятностная мера на ( , ( )), являющаяся продолжением меры , т.е ˓→ ( ) = ( )
Лемма 6. Пусть ( , ) – измеримое простанство, – -система в , а и – две вероятностные меры на ( , ). Тогда если | = | , то
| ( ) = | ( )
Доказательство. Рассмотрим
= { | ( ) = ( ) }
Покажем, что – это -система.
1.: ( ) = ( )
2.Пусть , .
( ) = ( ) − ( ) = ( ) − ( ) = ( ) ( )
3. Пусть ↑ , |
. Тогда |
( ) = |непрерывность вероятностной меры| = lim ( ) = lim ( ) =
=|непрерывность вероятностной меры| = ( )
Доказали, что – -система. По условию по теореме о монотонных классах получаем, что ( ) , т.е.
| ( ) = | ( )
Следствие 1 (единственность в теореме Каратеодори).
Пусть и – два продолжения на ( ). Но – алгебра -система.
| = = |
по лемме получаем, что ( )
( ) = ( ), т.е продолжение единственно.
13
Пусть – вероятностная мера на (R, (R))
Определение 1. Функция ( ), R, заданная по правилу
( ) = ((−∞, ])
называется функцией распределения вероятностной меры .
Лемма 7 (свойства функции распределения).
Пусть ( ) – функция распределения вероятностной меры . Тогда
1.( ) - неубывающая
2.lim ( ) = 0, lim ( ) = 1
→−∞ →+∞
3. ( ) непрерывная справа.
Доказательство.
1. Пусть > . Тогда
( ) − ( ) = ((−∞; ]) − ((−∞; ) = (( , ]) > 0
2. Пусть → −∞ при → ∞. Тогда (−∞; ] ↓ ? по непрерывности вероятностной меры.
( ) = ((−∞, ]) −−−→ (?) = 0
→∞
Аналогично, если → +∞, то (−∞; ] ↑ R в силу непрерывности вероятностой меры.
( ) = ((−∞; ])) −−−→ (R) = 1
→∞
3. Пусть → + 0 Тогда (−∞, ]) ↓ (−∞; ] в силу непрерывности вероятностой меры.
( ) = ((−∞; ]) −−−→ ((−∞; ]) = ( )
→∞
Следствие 2. Функция имеет предел слева в каждой точке R, при этом точек разрыва у нее не более чем счетное множество.
Определение 2. Функция ( ) называет функцией распределения на R, если она удовлетворяет свойствам 1), 2), 3) из леммы.
Теорема 2 (взаимнооднозначное соответствие функции распределения и вероятностной меры) .
( ) – функция распределения на R. Тогда существует единственная вероятностная мера на (R, (R)), т.ч. ( ) является функцией распределния , т.е. R
( ) = ((−∞; ])
Идея доказательства Рассмотрим – алгебру, состоящую из конечных объединений непересекающихся полуинтервалов вида ( , ], т.е. имеет вид:
|
|
|
|
= |
( , ] (*) |
|
=1 |
где −∞ 6 1 < 1 < 2 < . . . < 6 +∞ |
|
Рассмотрим функцию 0 на , заданную по правилу: Если имеет вид (*), то
∑
0( ) = ( ( ) − ( ))
=1
Легко видеть, что 0 обладает свойствами
14
1.0( ) [0, 1]
2.0(R) = (+∞) − (−∞) = 1
3.0 – конечно-аддитивна, т.е. ,
∩ = ? ˓→ 0( ) = ( ) + ( )
Если бы удалось доказать, что 0 счетно-аддитивна на , то 0 стала бы вероятностной мерой на (R, ) и по теореме Каратеодори её можно было бы продолжить единственным образом до вероятностной меры на (R, ( )). Но ( ) = (R).
Тогда бы ( ) была бы функциеи распределения меры
( ) = 0((−∞; ]) = ((−∞; ])
Классификация вероятностных мер и функций распределения на прямой
1 Дискретные распределения
Пусть R – не более чем счетное множество.
Определение 1. Вероятностная мера на (R, (R)), удовлетворяющая свойству (R| ) = 0, называется дискретной вероятностой мерой на . Её функция функция распределения на-
зывается дискретной.
Пусть = { } и положим = ({ })
∑ |
({ }) = |
∑ |
Тогда ( ) = 1 = |
|
|
|
|
|
Определение 2. Набор чисел ( 0, 1, . . .) называется распределением вероятностей на .
Как выглядит функция распределения дискретной верятностной меры ?
( ) – кусочно-постоянная разрывная в точках . При этом величина скачка равна
( ) = ( ) − ( − 0) = ({ }) =
Примеры дискретных распределений
1.Дискретное равномерное = {1, . . . , } , = 1, . . . , и = 1/ для .
2.Бернуллиевское
= {0, 1}, = 0, 1= (1 − )1− ,
где [0, 1] - параметр.
3. Биномиальное распределение
= {0, . . . , }
= (1 − ) − ,
где [0, 1] - параметр.
15
4. Пуассоновское распределение
= Z+
= 0, 1, 2, . . .
= − , > 0 − −параметр
!
Моделирование: биномиальное → пуассоновское
2 Абсолютно непрерывные распределения
Определение 3. Пусть ( ) – функция распределения вероятностой меры на R, причем для
R имеет место равенство
∫
( ) = ( )
−∞
где ( ) > 0 – неотрицательная функция т.ч
+∞
∫
( ) = 1
−∞
В этом случае вероятностная мера называется абсолютно непрерывной , а ( ) - абсолютно непрерывной функцией распределения . Функция ( ) называется плотностью распределения
(или просто плотностью)
Пример 9.
1. Равномерное распределение на отрезке [ , ].
|
|
|
|
|
|
1 |
|
|
, |
|
[ , ] |
|||||
|
( ) = |
|
|
|
|
|
||||||||||
|
|
|
|
0,− |
|
|
|
|
иначе |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( ) = − , |
|
|
|
[ , ] |
|||||||||||
|
|
|
|
|
0, |
|
|
|
|
|
< |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
|
|
|
|
|
|
|
||
2. Нормальное распределение (с |
|
|
|
1, |
|
|
|
|
|
|
2)) |
> |
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
, |
|
|
|
|
||||
|
параметрами ( |
|
|
|
|
|
|
|
|
|||||||
|
1 |
|
|
− |
( − )2 |
|
|
|||||||||
( ) = |
√ |
|
|
|
|
2 2 |
|
, R, > 0 |
||||||||
2 2 |
|
|
|
Моделирование: измерения величины = + ошибка измерения. 3. Гамма распределение (с параметрами ( , ))
|
|
−1 |
|
|
||||
|
|
|
|
− , |
> 0, |
, > 0 |
||
( ) = |
( ) |
|||||||
|
0, |
|
|
|
иначе |
|
||
Определение 4. |
|
|
|
|
|
|
||
|
|
|
+∞ |
|
|
|||
( ) = ∫0 |
−1 − для > 0 |
|||||||
( ) = ( − 1)! |
|
|
||||||
( + 1) = ( ) |
|
|
||||||
( |
2) = √ |
|
|
|||||
|
1 |
|
|
|
|
|
|
|
16
4. Экспоненциальное распределение(или показательное) (с параметром > 0).
|
|
, |
> 0 |
( ) = {0, |
− |
|
иначе |
{
1 − − , > 0
( ) =
0, иначе
Моделирование: время ожидания(время работы приборов) 5. Распределение Коши (с параметром > 0)
( ) = ( 2 + 2)
( ) = 1 arctan ( ) + 12
3 Сингулярные распределения
Определение 5. Пусть ( ) – функция распределения на R. Точка 0 R называется точкой роста для ( ), если для > 0
( 0 + ) − ( 0 − ) > 0
Определение 6. Множество R называется множеством лебеговой меры нуль, если для> 0 счетный набор интервалов (( , ), N) т.ч
∑ |
|
|
|
|
|
|
|
|
( − ) 6 |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
|||||
|
|
|
|
|||||
|
( , ) |
|
|
|
||||
=1 |
|
|
|
|
|
|
|
|
Пример 10. счетное множество имеет меру нуль. |
|
|
|
|||||
Пусть |
|
|
|
|
|
|
|
|
= { 1, 2, . . .} |
|
|
|
|||||
|
|
|
|
|
||||
( , ) = ( − |
|
|
, |
+ |
|
) |
||
2 +1 |
2 +1 |
|||||||
∞ |
∞ |
|
|
|
||||
∑ |
∑ |
|
|
|
||||
( − ) = |
|
|
2 |
= |
|
|
||
=1 |
=1 |
|
|
|
Определение 7. Функция распределения ( ) называется сингулярной, если она непрерывна и её множество точек роста имеет лебегову меру нуль.
Теорема 1 (Лебег). Пусть ( ) – произвольная функция распределения. Тогда существует
разложение вида
( ) = 1 1( ) + 2 2( ) + 3 3( )
где
1 – дискретная функция рапределения2 – абсолютно непрерывная функция рапределения3 – сингулятная функция рапределения
1, 2, 3 > 0, 1 + 2 + 3 = 1
17
Вероятностные меры в R
Определение 1. Пусть – вероятносная мера на (R , (R ))
Тогда функция ( ), = ( 1, . . . , )
( ) = ((−∞, 1] × . . . × (−∞, ])
называется функцией распределения вероятностой меры в R .
Обозначения. Пусть ( ) = ( ( ), . . . , ( )) R
1
Будем писать ( ) ↓ = ( 1, . . . , ), если:
( ) > ( +1) > и ( ) → при → ∞
Лемма 8 (свойства многомерной функции распределения).
Пусть ( ) – функция распределения вероятностной меры в R Тогда:
1. |
Если ( ) ↓ , то ( ( )) → ( ) |
||
2. |
|
: lim+ |
( ) = 1 и lim ( ) = 0 |
|
→ ∞ |
→−∞ |
|
3. |
Для = 1 . . . < R введем оператор |
, ( ) = ( 1, . . . , . . . ) − ( 1, . . . , . . . )
Тогда 1 < 1, . . . , < :
11, 1 . . . , ( ) > 0
Доказательство.
1. Если ( ) ↓ , то множество
(−∞, (1 )] × . . . × (−∞, ( )] ↓ (−∞, 1] × . . . × (−∞, ]
|по непрерывности вероятностной меры|
( ( )) = (( |
|
, ( ) |
] |
|
. . . ( |
, ( )]) |
|
|
(( |
|
, 1] |
|
. . . ( , ]) = ( ) |
|
−∞ |
1 |
|
× |
× −∞ |
|
|
|
|
−∞ |
|
× |
× −∞ |
|
|
|
|
−−−→ |
|
|
|||||||
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
|
2.Если 1 . . . → +∞, то (−∞, 1] × . . . × (−∞, ] ↑ R
В силу непрерывности вероятностной меры:
lim ( ) = (R ) = 1
: →∞
Если же ( ) → −∞, → ∞, то (−∞, 1] × . . . × (−∞, ( )] × . . . × (−∞, ] ↓ ?
Отсюда в силу непрерывности вероятностной меры:
lim ( ) = (?) = 0
→−∞
3.Докажем, только для = 211 1 22 2 ( ) = 11 1 ( ( 1, 2)) − ( 1, 2)) = ( 1, 2) − ( 1, 2) − ( 1, 2) + ( 1, 2) =
=((−∞, 1] × (−∞, 2]) − ((−∞, 1] × (−∞, 2]) − ((−∞, 1] × (−∞, 2])+
+((−∞, 1] × (−∞, 2]) = (( 1, 1] × ( 2, 2]) − ((−∞, 1] × (−∞, 2])+
+((−∞, 1] × (−∞, 2]) = (( 1, 1] × ( 2, 2]) > 0
18
Теорема 1 (о взаимно однозначном соответствии).
Если ( ), R , удовлетворяет свойствам 1) - 3) из леммы, то ! вероятностная мера в (R , (R )), для которой ( ) является функцией распределения т.е.
1 < 1, . . . , <11 1 . . . ( ) = (( 1, 1] × . . . × ( , ])
Примеры многомерных функций распределения
Пример 11. 1. Пусть 1( 1), . . . , ( ) – одномерные функции распределения. Тогда
( 1, . . . , ) = 1( 1) . . . ( )
—многомерная функция распределения в R .
Заметим, что
|
|
|
|
|
∏ |
|
|
11 1 . . . ( 1, . . . ) = |
|
( ( ) − ( ))) > 0 |
|
|
|
=1 |
|
Если ( ) = , для = 1 . . . при [0, 1], то |
иначе : < 0 |
||
( 1, . . . ) = 0, |
|
|
|
=1( { [0, 1]} + { > 1}), |
если |
||
∏ |
|
. |
|
Такая соответствует для меры Лебега на [0, 1] |
|
|
2.Пусть ( 1, . . . ), R - функция в R т.ч
∫
( 1, . . . , ) 1 . . . |
= 1 и ( 1, . . . , ) > 0 |
|
|
|
R |
|
|
|
|
Тогда |
|
|
|
|
|
1 |
|
|
|
|
( 1, . . . ) = ∫ |
. . . ∫ |
( 1 . . . ) 1 . . . |
|
|
−∞ |
−∞ |
|
|
— многомерная функция распределения |
|
|
|
|
|
|
1 |
|
|
11 1 . . . ( 1, . . . ) = ∫ |
. . . ∫ |
( 1 . . . ) 1 . . . > 0 |
||
|
|
1 |
|
|
В этом случае ( 1 . . . ) называется плотностью функции распределения ( 1 . . . ) (или просто плотностью). Ясно, что
∂( 1 . . . ) = ∂ 1 . . . ∂ ( 1 . . . )
Вероятностные меры в R∞ = RN
Пусть – вероятностная мера в (R∞, (R∞)). Для (R ) введем
( ) = { R∞ | ( 1, . . . , ) }
19
— цилиндр с основанием
Тогда ( ) = ( ( )) является вероятностной мерой в (R∞, (R∞)). При этом имеет место свойство согласованности:
+1( × R) = (R)
Теорема 2 (Колмоговора, о мерах в R∞).
Пусть задана вероятностная мера в (R∞, (R∞)), причем для { , N} выполнено
свойтсво согласованности.
Тогда ! вероятностная мера в (R∞, (R∞)), т.ч. (R ):
( ) = ( ( ))
Случайные величины в дискретных вероятностных пространствах
Пусть ( , ) – дискретное вероятностное пространство.
Определение 1. Отображение : → R называется случайной величиной.
Т.к не более чем счетно, то принимает не более чем счетное число значений ( 1, 2, . . .) Введем события = { | ( ) = } – состоит в том, что приняло значение .
∑ ∑
= ( ) = ( = ) и = 1 = ( )
Определение 2. Набор значений ( 1, 2, . . .) и вероятностей ( 1, 2, . . .), с которыми эти значения принимаются, вместе образуют распределение случайной величины .
Замечание. 1 . . . – случайные величины, : R → R – функция, то ( 1, . . . , ) – тоже случайная величина.
Определение 3. Пусть – случайная величина со значениями ( 1, 2, . . .) и – случайная величина со значениями ( 1, 2, . . .). Случайные величины и называются независимыми, еслисобытия { = } и { = } независимы, т.е
( = , = ) := ({ = } ∩ { = }) = ( = ) ( = )
Определение 4. Пусть 1, . . . - случайные величины, принимает значения ( (1 ), (2 ), . . .). Тогда 1, . . . называют независимыми в совокупности (взаимно независимыми), если 1, . . .
выполнено:
|
|
|
( 1 = (1), . . . , = ( )) = |
( = ( )) |
|
1 |
|
∏ |
|
||
|
|
=1 |
Пример 12.
1.Бросок игральной кости.
– число очков, выпавшее на кости. Распределение – равномерное на {1, . . . 6}
2.Пусть – событие. Тогда случайная величина
{
1,
( ) =
0, !
Называется индикатором события . Другое обозначение: { }.
20