all

Доказательство. | | = + + − | | – конечно.

По свойству 2

(−| |) 6 6 | | − | | 6 6 | | | | 6 | |

4Аддитивность Пусть и - случайные величины. и - конечны.

Тогда ( + ) - конечно и

( + ) = +

Доказательство. Для простых доказано ранее. Пусть и – неотрицательные случай-

ные величины. Возьмем , - последовательности простых неотрицательных случайных величин, т.ч. ↑ ↑ . Тогда + ↑ +

Пусть и - произвольные случайные величины. Тогда ( + )+ 6 ( + + +)

Обозначим = ( + + +) − ( + )+ > 0. Тогда ( − + −) − ( + )− =

Для неотрицательных случайных величин аддитивность доказали

( + )+ + = + + + + − + − = + ( + )−

( + ) = ( + )+ − ( + )− = + + + − − − − − + = +

51) Пусть | | 6 и - конечно. Тогда конечно.

2)Пусть 6 и < +∞, тогда < +∞ Если > и > −∞, то > −∞.

3)Если конечно и , то ( ) тоже конечно.

Доказательство.

Аналогично с −. Тогда = + − − – тоже конечно

2)+ 6 + и + < +∞ по доказанному в 1), что

+ < +∞ < +∞

3)( )+ = + 6 + ( )+ – конечно. Аналогично, ( )− – тоже конечно.

Определение 15. Говорят, что событие происходит почти наверное, если ( ) = 1

6 = 0 п.н. Тогда = 0

31

Доказательство. Пусть – простая случайная величина.

Тогда, если ̸= 0, то = { = } { ̸= 0}

( ) 6 ( ̸= 0) = 0

∑

= ( ) = 0

=1

Если > 0 – неотрицательная случайная величина, то = sup , где – простая неот-

6

рицательная с.в.

Но для таких : 0 6 6 = 0 = 0 п.н.

Значит = 0

Если – произвольная случайная величина, то + = 0 п.н., − = 0 п.н.

По доказанному + = − = 0 = + + − = 0

7Если = п.н. и - конечно, то - конечно и =

Доказательство. Рассмотрим = { ̸= }. Тогда = 0 п.н. = 0 п.н., = 0 п.н.

= + = + конечно и= + = + =

8Пусть > 0 и = 0. Тогда = 0 п.н.

Доказательство. Рассмотрим = { > 0} и = { > 1 }

Тогда ↑ . Но

( ) = 6 ( ) 6 = 0

Отсюда в силу непрерывности вероятностной меры

( ) = lim ( ) = 0

→∞

9Пусть и - конечно и для выполнено:

( ) 6 ( )

Тогда 6 п.н.

Доказательство. Рассмотрим { > }. Тогда 6 6 Тогда = ( − ) = 0 |по свойству 8| ( − ) = 0 п.н. Но ( − ) = 0 = 0

= 0 п.н. и, значит, ( ) = 0

32

Независимость случайных величин и векторов

Определение 1. Набор случайных векторов (величин) { } A называется независимым в со- вокупности, если независимы в совокупности { } A сигма-алгебры, ими порожденные.

Следствие 1. Случайные величины 1 . . . - независимы в совокупности 1 . . . (R) события { 1 1} . . . { } - независимы в совокупности.

Теорема 1 (критерий независимости для функции распределения).

Случайные величины 1 . . . – независимы в совокупности 1 . . . , R

( 1 6 1, . . . , 6 ) = ( 1 6 1) . . . ( 6 )

(функция распределения вектора ( 1 . . . ) распадается в произведение функций распределения компонент)

Доказательство. 1 . . . – независимы в совокупности -алгебры 1 . . . – независимы в совокупности |критерий независ. -алгебр| -системы порождающие эти -алгебры незави-

симы.

Для -алгебры = { { } | (R) } такой -системой будет { { 6 } | R }. Это следует из того, что ((−∞; ] : R) = (R)

-системы { { 6 } | R } – независимы

1 . . . - события. { 1 6 1} . . . { 6 } независимы в совокупности

( 1 6 1, . . . , 6 ) = ( 1 6 1) . . . ( 6 ), 1 . . . R

Теорема 2 (функции от независимых – тоже независимы).

Пусть 1 . . . – независимые случайные векторы, имеет размерность . Пусть : R → R – борелевская функция, = 1 . . .

Тогда 1( 1), . . . , ( ) – независимы в совокупности.

Доказательство. Обозначим = ( ). Тогда (R ) :

{ } = { ( ) } = { ( −1)( )}

то есть По условию 1 . . . – независимы 1 . . . – тоже независимы.

1 . . . – независимы в совокупности.

Теорема 3. Пусть случайная величина и – независимы, причем и – конечны. Тогдатоже конечно и =

Доказательство. Пусть и - простые случайные величины,

33

Пусть теперь и – неотрицательные случайные величины.

Тогда по теореме о приближении простыми последовательность простых – измеримых неот- рицательных случайных величин { , N}, т.ч. ↑ . Аналогично { , N} – последовательных простых неотрицательных - измеримых случайных величин, т.ч. ↑

Тогда ↑ и : и – независимы.

( )+ = + + + − − ( )+ = ( + +) + ( − −) = = независимость + с + и − с − = + + + − −

Аналогично ( )− = + − + − +конечно и = + + + − − − + − − − + =

Дисперсия и ковариация Определение 2. Дисперсией с.в. называетют

= ( − )2, если существует

Определение 3. Ковариацией случайных величин и называют

cov( , ) = ( − )( − )

Если cov( , ) = 0, то и называются некоррелированными .

Если и – конечны и положительны, то можно определить расстояние

cov( , )

( , ) = √

которое называется коэффициентом корреляции и

Лемма 15 (свойства дисперсии и ковариации).

Если все математические ожидания конечны, то

1.Ковариация билинейна.

2.( , ) = −= ( , ) = 2 − ( )2

3.( ) = 2 , ( + ) =

4.Неравенство Коши-Буняковского.

| |2 6 2 2

5. | ( , )| 6 1, причем ( , ) = 1 и – п.н. линейно зависимы.

Доказательство.

Свойства 1) − 3) легко вытекают из свойств математического ожидания.

34

4. Рассмотрим для R :

( ) = ( + )2 > 0

Но ( ) = 2 + 2 + 2 2 > 0 дискриминант 6 0, т.е. 4[( )2 − 2 2] 6 0

1 + 0 1 = 0 п.н. т.е.

= − 0( − ) п.н.

Следствие 2. Если 1, . . . , – попарно некоррелируют, < +∞, тогда

Определение 4. Пусть = ( 1, , ) – случ. вектор.

Тогда его мат. ожиданием называется вектор из мат. ожиданий его компонент:

= ( 1, . . . , )

Определение 5. Дисперсией вектора называется его матрица ковариаций:

Лемма 16. Матрица ковариаций случайного вектора является симметрической и неотрицательно определенной.

= |суммируем по | = ( 1 1 + . . . , 1 1 + . . . + ) = ( 1 1 + . . . + ) > 0

неотр. определенная

35

Неравенства

1 Неравенство Маркова

Пусть > 0 – неотрицательная случайная величина.

2 Неравенство Чебышева

3 Неравенство Йенсена

Пусть ( ) – выпуклая вниз функция. Пусть - конечно. Тогда

( ) > ( )

Доказательство. Т.к ( ) – выпуклая вниз функция, то 0 R ( 0) : т.ч. R выполнено:

( ) > ( 0) + ( 0)( − 0)

Положим = , 0 = . Тогда

( ) > ( ) + ( )( − )

Берем математическое ожидание от обеих частей:

( ) > ( ) + ( ) ( − ) = ( )

Виды сходимостей случайных величин

Определение 1.

1. Последовательность случайных величин { , N} сходится по вероятности к случайной

величине (обозначение →− ), если для > 0 :

(| − | > ) −−−→ 0

→∞

2.Последовательность случайных величин { , N} сходится с вероятностью 1 к случайной величине (или сходится почти наверное ), если

( : lim ( ) = ( )) = 1

→∞

п.н.

Обозначения: −−→ , → п.н. или → -п.н.

36

3. Последовательность случайных величин { , N} сходится в среднем порядка > 0 к случайной величине (или сходится в пространстве ), если

| − | −−−→ 0

→∞

Обозначение: −→

4.Последовательность случайных величин { , N} сходится по распределению к случайной величине , если для ограниченой непрерывной ф-ции ( ) выполнено

( ) −−−→ ( )

→∞

Обозначение: −→

Теорема 1 (Закон больших чисел в форме Чебышева).

Пусть { , N} – последовательность попарно некоррелированных случайных величин, т.ч.

: 6 .

Обозначим = 1 + . . . + . Тогда

Тогда, обозначив = 1 + . . . + , получаем

−→

Смысл ЗБЧ:

1 . . . . . . – результаты независимых проведений одного и того же эксперимента.

Тогда их среднее арифметическое сходится к среднему значению результата одного эксперимента

Если – индикаторы наступления некоторого события :

= { наступило в -м эксперименте}

то

1 + . . . +

−→ = ( )

Таким образом ЗБЧ — это принцип устойчивости частот постулировавшийся в начале курса.

Лемма 17 (критерий сходимости почти наверное).

37

Доказательство.

3.Пусть ( ) - ограниченная непрерывная функция, | ( )| 6 , R. Пусть > 0 – фиксировано. Возьмем такое , что

(| | > ) 6 4

Функция ( ) равномерно непрерывна на [− , ], т.е > 0 : , с условием | | 6 и | − | 6 выполнено

| ( ) − ( )| 6 2

Рассмотрим следующее разбиение

1 = {| − | 6 , | | 6 }2 = {| − | 6 , | | > }3 = {| − | > }

38

Тогда

| ( ) − ( )| 6 | ( ) − ( )| = (| ( ) − ( )|( 1 + 2 + 3 )) 6

По условию (| − | > ) −−−→ 0

→∞

Значит в силу произвольности > 0, ( ) → ( ), т.е. −→

Замечание. Сходимость по распределению случайных величин — это, на самом деле, сходимость их распределений.

п.н.

Обратных стрелок нигде нет. Можно привести контрпримеры.

Усиленный закон больших чисел для случайных величин с ограниченными дисперсиями

Определение 1. Последовательность { , N} чисел из R называется фундаментальной, если

({ } – фундаментальна) > ( lim = ) = 1

→∞

( ) Обозначим = {{ } – фундаментальна}

Тогда у ( ) предел ( )

( ) := lim ( ), если

→∞

39

Если же ̸ , то положим ( ) := 0

Тогда → – случайная величина(как предел случайных величин)

( → ) 6 ({ → } ∩ ) = ( ) = 1

п.н.

−−→

Лемма 18 (критерий фундаментальности с вероятностью 1).

Доказательство. Полностью аналогично док-ву критерия сходимости почти наверное.

Теорема 3 (Колмогоров-Хинчин, достаточное условие для сходимости ряда почти наверное) .

Пусть { , N} – последовательность независимых случайных величин т.ч. = 0, и2 < +∞,

Лемма 19 (Неравенство Колмогорова).

Пусть 1 . . . – независимые с.в.