all
.pdf
В итоге
|
|
|
∑ |
|
∑ |
2 > |
( 2 ) > 2 |
( ) = 2 ( ) |
=1 |
|
=1 |
Док-во теоремы Колмогорова-Хинчина.
∞
|
|
|
|
|
∑ |
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Обозначим = |
|
. Тогда |
|
сходится п.н. (критерий Коши) |
|
|||||||||||||||||||||||||||||
|
|
|
|
|
=1 |
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
{ , N} фундаментальна с вероятностью 1 (критерий фундаментальности) |
|
|||||||||||||||||||||||||||||||||
|
для |
|
|
|
|
| |
|
− |
|
| |
> ) |
−−−→ |
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
> 0 : (sup |
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
> |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Оценим её: Рассмотрим. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
(sup | − | > ) = ( |
|
{| − | > }) = |непрерывность вер. меры| = |
|
||||||||||||||||||||||||||||||
|
> |
|
|
|
|
|
|
|
> |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
+ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
lim ( |
|
|
|
− | > }) = lim |
|
|
max |
|
|
|
|
|
|
|
| > |
) = |
|
| 6 |
||||||||||||||
|
|
|
|
{| |
(1 |
6 |
|
6 |
|
| |
|
+ − |
|
|
| |
|||||||||||||||||||
|
|
|
→∞ |
|
= |
|
|
|
|
|
|
|
|
∑ |
→∞ |
|
|
|
∑ |
|
|
|
|
|
|
|
|
|||||||
|
→∞ |
|
|
|
− ) |
2 |
|
→∞ |
+ |
|
2 |
|
|
∞ |
|
2 |
−−−→→∞ |
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
6 |
lim |
( + |
|
= |
|
lim |
|
|
= +1 |
|
= |
|
|
|
|
= +1 |
|
|
|
0 |
|
||||||||||||
|
|
|
2 |
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
т.к. это остаток сходящегося ряда (по условию ∑ 2 < +∞)
Лемма 20 (Тёплиц).
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Пусть последовательность → , { , |
N} |
т.ч. > 0 и = |
∑ |
|
|
|||||||||||||||||||||||||||||
↑ +∞. |
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
−−−→ |
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Доказательство. Пусть > 0 |
– произвольное. Возьмём 0 |
= 0( ) т.ч. > 0 |
: | − | < 2 |
|||||||||||||||||||||||||||||||
Далее, возьмем 1 > 0, т.ч. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
1 |
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
| − | < 2 |
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Тогда для > 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
1 |
|
− |
= |
|
1 |
|
( |
− |
) |
6 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
=1 |
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
∑ |
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
1 |
0 |
|
|
|
|
1 |
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
∑ |
|
+ |
|
|
|
∑0 |
|
|
|
|
|
|
|
|
+ |
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
| − | |
|
|
|
|
|
|
|
|
| |
|
− | 6 2 |
2 |
=∑0 |
6 |
|
||||||||||||||||
6 =1 |
|
|
= +1 |
|
|
+1 |
|
|||||||||||||||||||||||||||
Лемма 21 (Кронекер). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Пусть ряд сходится. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|||
{ , N} – некоторая последовательность |
> 0 т.ч. = |
|
|
|
||||||||||||||||||||||||||||||
|
|
↑ +∞ |
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
||
41
Тогда
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
−−−→ |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Доказательство. Обозначим = 1 + . . . + . Тогда { } сходится. |
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
( − −1) = − |
=1 |
−1( − −1) = − |
−1 |
|||||||||||||||||||||||||||||||||||||||
=1 |
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|||||
∑ |
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
||||
Делим на : |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
−1 |
|
|
|
|
|||||||
|
|
|
|
|
|
|
=1 = − |
|
|
=1 |
|
|
|
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
−−−→ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
→∞ =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
А по лемме Тёплица: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
−−−→ |
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
их разность стремится к нулю. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
Теорема 4 (Усиленный закон больших чисел в форме Колмогорова-Хинчина) . |
|||||||||||||||||||||||||||||||||||||||||||
Пусть { , N} – независимые с.в. т.ч. < +∞ . |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
Пусть последовательность { , |
|
N} т.ч. > |
|
0, ↑ +∞ и |
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
< +∞ |
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Обозначим = 1 + . . . . Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
− |
|
п.н. |
0 |
|
|
|
|
(при |
|
|
|
|
) |
|
|
|||||||||||||||||||||||
|
|
|
|
|
−−→ |
|
|
|
|
→ ∞ |
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
Доказательство. Рассмотрим |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
− = |
|
1 |
|
|
|
|
|
− |
) |
|
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
( |
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Далее с.в. = − – независимы и = 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∞ 2 = ∞ |
( |
− |
|
|
|
2 = ∞ |
|
< + |
∞ |
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
|
|
=1 |
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
=1 |
|
|
|
|
|||||||||||||||||
|
|
∑ |
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
по теореме о сходимости ряда, ряд |
|
|
сходится п.н. |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
=1 |
|
( |
− |
|
|
) |
сходится к нулю для всех , для которых |
||||||||||||||||||||||||||||||||||
Но по лемме Кронекера 1 |
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
− |
|
|
= |
|
|
∞ |
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
42
сходится. А этот ряд сходится.
= |
− |
п.н. |
0 |
|
−−→ |
||||
|
|
|
Следствие 1. Пусть { , N} – независимые случайные величины т.ч. 6 N
Обозначим = 1 + . . . + . Тогда
|
|
|
|
|
− |
п.н. |
0 |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
−−→ |
|
|
|
|
|||
Если, к тому же, = , то |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
п.н. |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
−−→ |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Доказательство. Возьмем = > 0, ↑ +∞. |
|
|
|
|
|||||||||||||
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
∑ |
|
6 |
∑ |
|
|
|||||||
|
|
|
|
= |
|
|
|
< +∞ |
|||||||||
|
|
|
2 |
|
|
|
2 |
|
|
|
2 |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Согласно УЗБЧ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
|
п.н. |
0, |
( |
|
|
) |
|||||||||
|
−−→ |
→ ∞ |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|||||||
Если же = , то = − |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
п.н. |
|
|
|
|
п.н. |
|
||||||
|
|
|
|
− −−→ 0 |
|
|
−−→ |
||||||||||
|
|
|
|
|
|||||||||||||
Смысл УЗБЧ: обоснование феномена устойчивости частот появлений событий в последовательностях независимых экспериментов.
Если = {событие произошло в - том эксперимете} то
|
1 + . . . + |
п.н. |
|
( ) = |
|
−−→ 1 |
= ( ) |
|
Предельный переход под знаком
п.н.
Вопрос: −−→ → ?
Теорема 1 (О монотонной сходимости).
Пусть { , N}, , – с.в.
1. Если ↑ , > , N и > −∞, то = lim
→∞
2. Если ↓ , 6 , N и < +∞, то = lim
→∞
Теорема 2 (лемма Фату).
Пусть { , N}, – с.в., - конечно
43
1. |
Если |
> |
, |
|
, |
то |
lim |
|
> |
lim |
|
|
|
|
|
|
|
|
|
|||
|
|
|
N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
6 |
|
|
|
|
|
|
|
6 |
|
|
|
|
|
|
|
|
|
|
|
|
2. |
Если |
, |
|
, |
то |
lim |
|
lim |
|
|
|
|
|
|
|
|
|
|||||
|
|
|
N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
3. |
Если |
| | 6 , N |
|
|
6 |
|
6 |
|
|
6 |
|
|
|
|
||||||||
, то |
lim |
lim |
lim |
lim |
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
Доказательство. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
1. Обозначим |
|
= inf |
|
. Тогда |
↑ |
lim |
|
и |
> |
, |
|
|
N |
. |
|
> |
|
|
|
|
|
|
|||||||
По теореме о монотонной сходимости получаем |
|
|
|
|
|
|||||||||
|
|
|
|
|
|
lim = lim |
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Осталось заметить, что |
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
lim = lim = lim 6 lim |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
т.к. > ,
2.Следует из 1) заменой на −
3.Сразу следует из 1) и 2)
Теорема 3 (Лебега о мажорируюмой сходимости).
п.н.
Пусть { , N} – последовательность с.в. т.ч. −−→ и для : | | 6 , причем конечно.
1
Тогда = lim и, более того, | − | → 0 (т.е. −→ )
Доказательство. Заметим, что = lim = lim = lim п.н. |
||||||||
|
|
|
|
|
|
|
||
по лемме Фату |
|
|
|
|
|
|
|
|
= lim 6 lim |
6 |
|
6 |
|
= |
|||
lim |
lim |
|||||||
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|||
|
|
= |
|
|
|
|
|
|
lim |
|
|
|
|
|
|
|
|
Конечность следует из того, что | | 6 п.н. и конечности |
||||||||
Для обоснования сходимости в 1 |
достаточно взять = | − |. |
|||||||
п.н. |
→ 0 |
|
|
|
|
|
|
|
Тогда | | 6 2| | п.н. и −−→ 0 |
|
|
|
|
|
|
||
Усиленный закон больших чисел для с.в. с конечным математическим ожиданием
Определение 1. Пусть { , N} – последовательность событий.
Тогда событием { бесконечное число} = { б.ч} наз. событие, заключающееся в том, что произошло бесконесное число событий в последовательности { , N}. Формально:
|
∞ |
{ б.ч.} = |
|
|
=1 >
44
Лемма 22 (Борель-Кантелли).
|
|
∑ |
1. |
Если |
( ) < +∞, то ( б.ч.) = 0 |
|
|
∑ |
2. |
Если |
( ) = +∞ и все - независимые, то ( б.ч.) = 1 |
Доказательство. |
||
1.
|
( б.ч.) = |
|
∞ |
|
|
= |
lim |
|
|
|
|
|
6 |
lim |
∑ |
( ) = 0 |
|
||||||||||||||
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
=1 |
> |
|
|
|
> |
|
|
> |
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
2. |
|
|
|
|
( б.ч.) = lim |
|
|
|
|
|
|
|
|
|
1 − |
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
= lim |
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
> |
|
|
|
|
|
|
> |
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
Но |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
= |непр. вер. меры| = lim |
|
|
|
= lim |
|
( ) = |
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
|
→∞ |
∏ |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ |
|
|
|
||||||||||||||
|
> |
|
|
|
|
|
|
|
|
|
|
|
|
|
> |
|
|
|
|
|
= |
|
|
|
|
|
|
||||
= lim |
|
|
|
|
|
|
|
|
|
|
|
|
= lim |
∑ |
|
= |
|
|
∞ |
= 0 |
|||||||||||
|
(1 ( )) 6 lim |
− |
( ) |
|
|
|
∑ |
||||||||||||||||||||||||
|
|
|
∏ |
− |
|
|
|
|
∏ |
|
|
|
|
|
|
− = ( ) |
− |
= ( ) |
|
||||||||||||
|
|
→∞ = |
|
|
|
→∞ |
= |
|
|
|
|
|
|
→∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
∞
∑
т.к. : ( ) = +∞
=
( б.ч.) = 1
Лемма 23. Пусть - неотр. с.в., - конечно. Тогда
|
|
|
∞ |
|
|
∞ |
|
∞ |
|
|
|
|
|
|
∑ |
|
|
∑ |
|
∑ |
( > ) |
|
|
|
|
|
( > ) 6 6 1 + |
( > ) = |
|
|
|
||||
|
|
|
=1 |
|
|
=1 |
|
=0 |
|
|
|
Доказательство. |
|
|
|
|
|
|
|
|
|||
∞ |
|
|
∞ ∞ |
|
∞ |
|
|
|
∞ |
|
|
∑ |
|
|
∑ ∑ |
∑ |
|
|
|
∑ |
|
|
|
( > ) = |
( 6 < + 1) = |
( 6 < + 1) = |
( 6 < + 1) = |
||||||||
=1 |
|
|
=1 = |
=1 |
|
|
|
=0 |
|
|
|
= ∞ |
( { 6 < + 1}) 6 |
∞ ( { 6 < + 1}) = ( ∞ { 6 < + 1}) |
= |
||||||||
∑ |
|
|
|
∑ |
|
|
|
∑ |
|
|
|
=0 |
|
( ∞ |
|
=0 |
|
|
|
=1 |
|
|
|
= 6 |
( + 1) { 6 < + 1}) = |
∞ |
( > ) + |
∞ |
( 6 < + 1) = |
∞ |
( > ) + 1 |
||||
|
|
∑ |
|
∑ |
|
∑ |
|
|
∑ |
|
|
|
|
=0 |
|
=1 |
|
=0 |
|
|
=1 |
|
|
Определение 2. Случайные величины и наз. одинаково распределенными , если у них совпадают функции распределения.
Обозначение: =
45
Утверждение 4. Если = , то для борелевской ( ) т.ч. ( ) конечно, выполнено:
( ) = ( )
Теорема 1 (Усиленный закон больших чисел в форме Колмогорова).
Пусть { , N} – независимые одинаково распределенные случ. величины (н.о.р.с.в), т.ч:
| | < +∞.
Тогда
1 + . . . + |
п.н. |
|
−−→ = 1 |
|
Доказательство. | | – конечно. Тогда по доказанной выше лемме:
∞
∑
(| 1| > ) < +∞
=1
Всилу одинаковой распределенности:
∞∞
∑ ∑
(| 1| > ) = (| | > ) < +∞
=1 |
=1 |
Согласно лемме Бореля-Кантелли:
({| | > } б.ч.) = 0
с вероятностью 1 , кроме конечного числа, выполнено {| | 6 }. Обозначим ̃ = {| | 6 }.
Тогда с вероятностью 1, ̃ = , кроме конечного числа элементов. Считаем, что = 0
Получаем, что
( )
( )
1 + . . . + → 0 = ̃1 + . . . + ̃ → 0
Рассмотрим ̃ :
̃ = {| | 6 } = 1 {| 1| < } −−−→ 1 = 0
→∞
Согласно лемме Тёплица
1 ∑
̃ → 0, при → ∞
=1
Значит
̃1 |
+ . . . + ̃ −−→ 0 |
|
|
|
п.н. |
( ̃1 |
− ̃1) + . . . + ( ̃ − ̃ ) −−→ 0 |
|
|
|
п.н. |
Обозначим = −
̃ ̃ .
46
Согласно лемме Кронекера, если сходится ряд
|
|
|
|
|
|
|
|
|
|
|
∞ |
|
|
1 + . . . + |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
, то |
|
|
|
→ 0 |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
(для фикс. ) |
|
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
Согласно теореме |
|
|
|
∑ |
¯ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
Остается проверить, что ряд |
|
сходится с вероятностью 1. |
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Колмогорова-Хинчина для этого достаточно показать ( |
|
- нез., = 0), что |
|||||||||||||||||
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
сходится ряд |
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
∞ 2 |
∞ |
∞ 2 |
|
|
|
∞ 1 |
|
|
|
∞ 1 |
( 12 |
{| 1| 6 }) = |
||||||||||||||
=1 2 = |
=1 |
2 6 |
=1 |
2̃ |
= =1 2 |
2 {| | 6 } = =1 2 |
||||||||||||||||||||
∑ |
|
|
|
|
|
∑ |
̃ |
∑ |
|
|
|
∑ |
|
|
|
∑ |
|
|
|
|
|
|||||
∞ |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
∞ |
1 |
|
||||
∑ |
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
∑ |
|
|
|||
= |
|
|
2 |
( 12 |
{ − 1 < | 1| 6 }) = |
( 12 { − 1 < | 1| 6 }) · |
= |
2 |
6 |
|||||||||||||||||
=1 |
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
||||
∞ |
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
∞ |
|
|
|
|
|
|
|||||
6 =1 ( 12 { − 1 < | 1| 6 } · ) 6 |
2 =1 (| 1| { − 1 < | 1| 6 }) = |
|
|
|||||||||||||||||||||||
∑ |
( ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
||||||
= 2 |
| 1| { − 1 < | 1| 6 }) = 2 | 1| < +∞ |
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
=1
Замена переменных в интеграле Лебега
Пусть ( , , ) – вероятностное пространство, – с.в. на нем и – конечно.
Обозначения.
∫
1. = – интеграл Лебега от по вер. мере .
Ω
∫
2.:= ( ) для
Напоминание: Распределение – это вероятностная мера на (R, (R)) ( = ( )) Для вер. пр-ва (R, (R), ) тоже можно ввести мат. ожидание.
∫
1.( ) ( ) – мат. ожидание с.в. ( ) на таком пространстве.
R
2.
∫ |
( ) ( ) := ∫ |
( ) ( ) ( ), |
(R) |
R
3.Если ( ) – ф.р. с.в. , то
( ) := ( )
Вопрос: можно ли вычислить ( ), зная только ее распределение?
47
Теорема 1 (замена переменных в интеграле Лебега).
Пусть = ( 1, . . . , ) – случайный вектор, : R → R – борелевская функция.
Тогда для (R) выполнено: |
∫ |
( ) = ∫ |
|
( ( )) { } = |
( ) ( ) |
||
def |
|
|
|
|
{ } |
|
|
|
|
|
Доказательство. Пусть – простая: ( ) = ( ) для (R ). Тогда
( ) { } = { } { } = { ∩ } =
= |
∫ |
( ) = ∫ |
( ) ( ) = ∫ |
( ) ( ) |
|
∩ |
|
|
|
Если функция ( ) – простая неотрицательна, то искомое равенство следует из линейности мат. ожидания. Если ( ) – произвольная неотрицательная, то рассмотрим последовательность простых неотриц. ( ) т.ч. ( ) ↑ ( ).
Тогда по теореме о монотонной сходимости:
( ) { } −−−→ ( ) { }
→∞
∫ |
∫ |
( ) ( ) −−−→ ( ) ( )
→∞
|
|
доказано для неотриц. ( ).
В общем случае, пользуемся разложением ( ) = +( ) − −( ) и линейностью математического ожидания.
Следствие 1.
1 |
Для вычисления ( ) достаточно знать только распределение |
. |
|
2 |
Для борелевской ( ): R → R и случ. вектора из R : |
|
|
|
( ) = ∫ ( ) ( ) |
|
|
|
R |
|
|
|
Доказательство. Достаточно положить = R в теореме. |
|
|
3 |
Если – с.в., то |
|
|
|
= ∫ |
( ) |
|
|
R |
|
|
Доказательство. Достаточно положить ( ) = в 2
4 Если = – одинаково распределены, то для борелевской ( ) : ( ) = ( )
Доказательство.
∫ ∫
( ) = ( ) ( ) = ( ) ( ) = ( )
RR
48
5Пусть – дискретная с.в. со значениями в = { }∞=1. Тогда для борелевской функции ( ) :
|
∞ |
∞ |
|
|
∑ |
∑ |
|
( ) = |
( ) ( = ) = |
( ) ({ }) |
|
|
=1 |
=1 |
|
|
|
|
|
Доказательство. Если ( ) > 0, то |
∑ |
|
|
( ) { = } ↑ ( ) |
|||
|
|
=1 |
|
по теореме о монотонной сходимости: |
∞ |
||
|
|
|
|
|
∑ |
( ) ( = ) = |
∑ |
( ) = lim |
( ) ( = ) |
||
→∞ =1 |
|
=1 |
|
В общем, раскладываем ( ) на + и − и пользуемся линейностью мат. ожидания.
Следствие 2. если – дискр. распр. на = { }, то
|
∫ |
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( ) ( ) = =1 ( ) ({ }) = ∫ |
( ) ( ) |
|
|
|
|
||||||||||||
|
R |
|
∑ |
|
|
|
|
R |
|
|
|
|
|
|
||||
Пример 14. Пусть ( ). Найти =? |
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
( ) |
( = ) = |
− |
, |
|
для Z+ |
|
|
|
|
||||||||
|
! |
|
|
|
|
|
||||||||||||
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∞ |
|
∞ |
|
|
− |
|
∞ |
|
|
|
∞ |
|
|
|
= |
|||
= |
( = ) = |
|
|
= − |
|
|
= − |
|
|
|||||||||
∑ |
|
∑ |
|
|
|
|
|
∑ |
|
|
|
|
∑ |
|
|
|
|
|
|
|
! |
|
|
|
! |
|
− |
1)! |
|||||||||
=0 |
|
=0 |
|
|
|
|
|
=1 |
|
|
|
|
=1 |
|
|
|
|
|
6Пусть – абсолютно непрерывная с.в. с плотностью ( ). Тогда для ( ) – борелевской функции:
∫
( ) = ( ) ( )
R
Доказательство. Пусть – ф.р. . Тогда по определению плотности,
|
|
( 6 ) = ( ) = ∫ |
( ) |
−∞ |
|
С другой стороны,
|
|
|
( 6 ) = ((−∞, ]) = ∫ |
( ) |
|
( ) = ( ) |
−∞ |
|
|
|
|
В итоге, |
∫ |
|
∫ |
|
|
( ) = ( ) ( ) = ( ) ( )
RR
49
Пример 15. Пусть ( , 2). Вычислить . Плотность ( , 2) равна:
1 |
− |
( − )2 |
||
= |
√ |
|
2 2 |
|
2 2 |
||||
Тогда
= ∫ |
( ) = ∫ |
1 |
|
− |
( − )2 |
|
|||||||
|
√ |
|
2 2 |
|
|||||||||
2 2 |
|||||||||||||
|
|
|
|
R |
|
|
|
|
|
|
|
||
|
|
|
1 |
|
( − )2 |
|
|
|
|
|
|
|
|
= ∫ |
( − ) |
√ |
|
− |
|
+ ∫ |
( ) = |
||||||
|
2 2 |
||||||||||||
2 2 |
|||||||||||||
R |
|
|
|
|
|
|
|
|
R |
|
|
|
|
Замечание. Если = ( 1, . . . , ) – случайный вектор с плотностью ( 1, . . . , ), то для : R → R – борелевской функции:
∫
( 1, . . . , ) = ( 1, . . . , ) ( 1, . . . , ) 1 . . .
R
Пример 16. Если ( , ) имеет плотность ( , )( , ), то
∫
= ( , )( , )
R2
Прямое произведение вероятностных пространств
Определение 1. Пусть ( , 1, 1) и ( , 2, 2) – два вероятностных пространства. Тогда вероятностное пространство ( , , ) наз. их прямым произведением , если
∙= 1 × 2
∙= 1 2, т.е.
= ({ 1 × 2 | 1 1, 2 2 })
∙= 1 2, т.е.
– это продолжение меры 1 × 2, заданной на прямоугольниках 1 × 2, по правилу ( 1 × 2) = 1( 1) · 2( 2)
Такое продолжение и единственно по теореме Каратеодори.
Теорема 1 (Фубини).
Пусть ( , , ) – прямое произведение ( , 1, 1) и ( , 2, 2).
∫
Пусть с.в : → R т.ч. |
| ( 1, 2)| < +∞ |
|
|
|
||||
и 1, являются |
∫ |
|
Ω |
|
|
2 |
, 1 соотв., и кроме того, |
|
|
∫ |
|
|
|||||
Тогда интегралы |
( 1, 2) 1 и |
( 1, 2) 2 |
определены почти наверное относительно 2 |
|||||
|
Ω1 |
|
Ω2 |
|
|
|
|
|
|
измеримыми отностительно |
|
|
|
||||
|
∫ |
( 1, 2) = ∫ |
∫ |
( 1, 2) 2 1 = ∫ ∫ |
( 1, 2) 1 2 |
|||
|
Ω |
|
Ω1 Ω2 |
|
|
Ω2 Ω1 |
|
|
Смысл теоремы: Двойной интеграл = повторному интегралу
Утверждение 5. Пусть , – независ. с.в.
Тогда (R2, (R2), ( , )) явл. прямым произведением (R2, (R2), ) и (R2, (R2), )
50
