![](/user_photo/1409_eZHEC.jpg)
Лекции Чернова Н.И
..pdfДействительно, зафиксируем произвольное " > 0. Для всех n начиная с некоторого n0 такого, что n70 > ", верно равенство ( ) ниже
P j n 0j > " |
>0 |
P n > " |
( ) |
P n = n7 |
|
1 |
|
|
n= |
= |
= |
|
|
! 0 ïðè n ! 1: |
|||
n |
Итак, случайные величины n с ростом n могут принимать все большие´ и большие´ значения, но со все меньшей и меньшей вероятностью.
А сходится ли данная последовательность к нулю «почти наверное»? Вопрос не слишком корректный, поскольку заданы не случайные величины, а лишь их распределения, и ответ на него, как правило, зависит от того, как сами величины взаимосвязаны. Если, скажем,n(!) = 0 для ! 2 [0; 1 1=n] и n(!) = n7 для ! 2 (1 1=n; 1], то сходимость «почти наверное» имеет место, так как для всякого ! начиная с некоторого n0 все n(!) равны нулю.
Попробуйте задать случайные величины n на [0; 1] так, чтобы сходимость «почти наверное» не имела место. Для этого нужно заставить отрезок длины 1=n, на которомn(!) = n7, «бегать» по отрезку [0; 1], чтобы любая точка ! 2 [0; 1] попадала внутрь этого отрезка бесконечное число раз. Воспользуйтесь тем, что гармонический ряд расходится. Если вам мешают концы отрезка, их можно склеить в окружность :)
Заметим однако, что если вероятности P( n = n7) сходятся к нулю достаточно быстро (например, равны 1=n2), то сходимость к нулю п. н. всегда имеет место (см., например, теорему 2 §1 гл. 6 на стр. 134 учебника А.А.Боровкова «Теория вероятностей»).
Замечание 23. Сходимость по вероятности не обязательно сопровождается сходи-
|
|
|
|
|
|
|
|
|
|
p |
мостью математических ожиданий или моментов других порядков: из n ! не следу- |
||||||||||
ет, ÷òî E n ! E . |
|
|
|
|
|
p |
||||
Действительно, в примере |
47 имеет место сходимость n ! = 0, íî E n = n6 6! |
|||||||||
E = 0. |
|
|
|
|
|
|
|
|
|
|
Если вместо значения n7 взять, скажем, n (с той же вероятностью 1=n), получим |
||||||||||
E n = 1 6!E = 0. |
|
|
|
|
|
|
||||
À åñëè n |
принимает значения 0 и p |
|
с теми же вероятностями, что и в примере 47, |
|||||||
n |
||||||||||
òî E n = 1=p |
|
! E = 0, но уже вторые моменты сходиться ко второму моменту не |
||||||||
n |
||||||||||
будут: E n2 = 1 6!E 2 = 0. |
|
|
|
|
|
|
||||
Сходимость по вероятности обладает обычными для сходимостей свойствами. На- |
||||||||||
пример, такими. |
|
|
|
|
|
|
|
|||
Свойство |
16. |
|
p |
|
p |
|
|
|
||
|
p |
Åñëè n |
! |
è |
n ! |
|
, òî |
|||
1. n + n |
! |
+ ; |
|
|
|
|
|
|
||
p |
|
|
|
|
|
|
||||
2. n n ! |
. |
|
|
|
|
|
|
Доказательство при первом прочтении можно пропустить.
1. В доказательстве мы будем пользоваться естественным свойством вероятности: если из события A следует событие B (всегда, когда выполнено A, выполнено и B), то вероятность A не превосходит вероятности B:
åñëè A B; òî P(A) 6 P(B):
Здесь я категорически требую остановиться и ответить на следующие «глупые вопросы»:
–верно ли, что модуль суммы не превосходит суммы модулей?
–верно ли, что если a > b, и c > a, то c > b?
–верно ли, что если a + b > 2, то хоть одно из чисел a; b больше единицы?
–верно ли, что вероятность объединения двух событий не превосходит суммы их вероятностей?
–верно ли, что вероятность пересечения двух событий не превосходит вероятности любого из них?
70
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS72x1.jpg)
Если на все вопросы вы ответили «да», можно двигаться дальше. Если не на все — ваш контрпример ошибочен. Если вы вообще не поняли, о чем это, лучше вернуться сюда ...
Пусть " > 0. Требуется доказать, что P(j n + n j > ") ! 0 ïðè n ! 1. Íî
a) j n + n j 6 j n j + j n j, поэтому
á) åñëè j n + n j > ", òî è j n j + j n j > ", и вероятность первого события не больше вероятности второго. Далее,
â) åñëè j n j + j n j > ", то хотя бы одно из слагаемых больше, чем "=2.
Получаем следующую цепочку неравенств: |
> "=2) |
|
|
|
||||
6 |
P(j n |
j |
> j"=2) + P( n |
|
0 |
|||
P(j n + n j > ") 6 |
P( n |
|
+ n j > ") 6 P |
j n j > "=2 èëè j n j > "=2 |
6 |
|||
|
j |
j |
j |
j |
|
! |
|
|
p |
|
p |
|
|
|
|
|
|
ïðè n ! 1, òàê êàê n ! è n ! . |
|
|
|
|
|
2. Нам понадобится «хорошее свойство»: для любой случайной величины , просто по свойствам функций распределения, P(j j > M) ! 0 при M ! 1.
Представим j n n j êàê j( n )( n )+ ( n )+ ( n )j. Затем, как в 1, получим
P(j n n j > ") 6 P(j n j j n j > "=3) + P(j j j n j > "=3) + P(j j j n j > "=3):
Подумайте, что делать с первым слагаемым в правой части, а мы пока рассмотрим второе слагаемое (третье такое же). Обозначим за An = fj j j n j > "=3g событие под знаком вероятности. Зафиксируем некоторое M > 0 и разобьем событие An по полной группе событий fj j > Mg и fj j 6 Mg.
P(An) = P(j j j n j > "=3) = P An \ fj j > Mg + P An \ fj j 6 Mg |
6 ::: |
Первую вероятность оцениваем в соответствии с последним «глупым вопросом», вторую — пользуясь тем, что из j j j n j > "=3 и j j 6 M следует, что M j n j > "=3.
::: 6 P( > M) + P M n j > "=3 = P(j j > M) + P j n j > "=3M : |
|
|||
Осталось для любогоj j |
фиксированногоj |
M > 0 устремить n к бесконечности, |
получив |
äëÿ |
верхнего предела оценку lim P(An) 6 P(j j > M), после чего мы можем устремить к
n!1
бесконечности M, пользуясь «хорошим свойством».
Упражнение 25. Восполнить все пропущенные подробности в доказательстве.
Сходимость по вероятности, так же как и любая другая сходимость, не портится под действием непрерывной функции.
Свойство 17.
Åñëè n |
! |
! |
|
p |
è g — непрерывная функция, то g( n) p |
g( ). |
|
|
p |
p |
|
Åñëè n ! c è g непрерывна в точке c, òî g( n) ! g(c).
Доказательство. Простое доказательство первого утверждения можно предложить в двух случаях (которыми мы и ограничимся, предоставив все остальное читателю, знакомому, например, с теоремой Егорова): если = c = const (и тогда достаточно, чтобы
71
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS73x1.jpg)
g была непрерывна в точке c) или если функция g равномерно непрерывна (а что это
значит?).
Èв том, и в другом случае для любого " > 0 найдется такое > 0, что для любого !, удовлетворяющего условию j n(!) (!)j < , выполняется неравенство jg( n(!))
g( (!))j < ". |
|
|
|
jg( n(!)) g( (!))j < " . Следовательно, |
То есть событие |
j n j < |
влечет событие |
||
вероятность |
первого не больше, чем вероятность второго. Но, какое бы ни было > |
|||
|
|
|
|
0, вероятность первого события стремится к единице по определению сходимости по
вероятности: |
|
|
|
|
1P j n j < 6 P jg( n(!)) g( (!))j < " 6 1:
Следовательно, и вероятность второго события также стремится к единице. Предлагаю поразмышлять на тему: в каком месте доказательства используется, что
либо g равномерно непрерывна, либо — постоянная. И над тем, как доказывать первую часть свойства 17 в общем случае.
Чтобы доказывать сходимость по вероятности, можно просто уметь вычислять P (j n j > ") при больших n. Но для этого нужно знать распределение n, что не всегда возможно. Скажем, n может быть суммой (или еще хуже :-) нескольких других с. в., распределения которых не устойчивы по суммированию, и вычислить распределение их суммы по формуле свертки или как-то еще бывает слишком сложно.
Если бы мы имели неравенства, позволяющие оценить P (j n j > ") сверху чемлибо, что мы умеем устремлять к нулю и что проще вычисляется, то сходимость по вероятности мы получили бы по лемме о двух милиционерах: 0 6 P(:::) 6 ::: ! 0. Итак, неравенства П. Л. Чебыш¸ва.
13.2Неравенства Чебыш¸ва
Все неравенства в этом параграфе принято относить к одному классу, называемому «неравенствами Чебыш¸ва». Следующее неравенство часто называют собственно неравенством Чебыш¸ва, хотя в такой форме оно появилось впервые, видимо, в работах
À.А. Маркова (например, Исчисление вероятностей, 1913 ã.).
Теорема 28 (Неравенство Маркова).
Åñëè E j j < 1, то для любого положительного x
E j j
P j j > x 6 x :
Доказательство. Введем новую случайную величину x, называемую «срезкой» с. в. j j на уровне x:
x = |
(x;j j |
|
åñëè j j |
> x: |
Äëÿ íå¸ |
2) |
E x 6j |
Ej |
: |
||
|
|
; |
åñëè |
|
6 x; |
|
1) |
x 6 |
; |
и, следовательно, |
|
|
|
|
j |
j |
|
|
|
|
|
j |
j |
Нам потребуется следующее понятие.
Определение 50. Пусть A — некоторое событие. Назовем индикатором события A случайную величину I(A), равную единице, если событие A произошло, и нулю, если A не произошло.
По определению, I(A) имеет распределение Бернулли Bp с параметром p = P(I(A) = 1) = P(A), и ее математическое ожидание равно вероятности успеха p = P(A).
72
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS74x1.jpg)
Случайную величину x можно представить в виде x = j j I(j j 6 x) + x I(j j > x)
(проверьте!). Тогда
E x = E |
j j I j j 6 x |
|
+ E |
x I j j > x |
|
> E |
x I j j > x |
|
|
|
|
|
|
|
|
|
|{z }
неотрицательно, отбросим
Вспомним, что E j j > E x, и оценим E x снизу согласно (21):
E j j > E x > x P j j > x :
Итак, x P j j > x 6 E j j, что и требовалось доказать.
= x P j j > x : (21)
Следующее неравенство мы будем называть «обобщенным неравенством Че- быш¸ва».
Следствие 15. Пусть функция g монотонно возрастает и неотрицательна на [0; 1).
Åñëè E g(j j) < 1, то для любого положительного x |
|
|
|
|||||
|
P j j > x |
|
E g( |
) |
|
|
||
|
6 |
|
j j |
|
: |
|
||
|
|
g(x) |
|
|||||
Доказательство. Заметим, что P j j > x |
|
= P g(j j) > g(x) , поскольку функция g мо- |
||||||
нотонно возрастает, и оценим |
последнюю вероятность согласно неравенству Маркова: |
|||||||
|
|
|
|
|
|
|
|
|
P g(j j) > g(x) 6 |
E g( |
) |
|
|||||
j j |
|
: |
||||||
g(x) |
|
В 1853 г. И. Бьенеме (I. Bienayme)´ и в 1866 г., независимо от него, П. Л. Чебыш¸в прямыми методами доказали неравенство, которое нам будет удобно получить в качестве следствия из неравенства Маркова.
Следствие 16 (Неравенство Чебыш¸ва-Бьенеме). |
Åñëè E 2 < 1, òî |
||
P j E j > x |
D |
|
|
6 |
|
: |
|
x2 |
Доказательство. Воспользуемся следствием 15 с функцией g(x) = x2.
P |
j |
E |
j > x 6 |
E E |
|
2 |
|
D |
: |
|
|
x2 |
|
= x2 |
|||||
|
|
|
|
|
|
|
|
|
|
В качестве следствия получим так называемое «правило трех сигм», которое формулируют, например, так: вероятность случайной величине отличаться от своего математического ожидания более, чем на три корня из дисперсии, ìàëà. Разумеется, для каждого распределения величина этой вероятности своя: для нормального распределения, например, эта вероятность равна 0,0027 — см. свойство 11. Мы получим верную для всех распределений с конечной дисперсией оценку сверху для «вероятности с. в. отличаться от своего математического ожидания более, чем на три корня из дисперсии».
Следствие 17. Åñëè E 2 < 1, òî P j E j > 3pD 6 19.
p
Доказательство. Согласно следствию 16, P j E j > 3 D
p
Упражнение 26. Найти P j E j > 3 D , если с. в. имеет а) равномерное распределение на каком-нибудь отрезке;
6 |
D |
= |
1 |
. |
||
3p |
|
2 |
9 |
|||
D |
73
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS75x1.jpg)
б) показательное распределение с каким-нибудь параметром; в) распределение Бернулли с параметром 1/2.
13.3Законы больших чисел
Определение 51. Говорят, что последовательность с. в. f ig1i=1 с конечными пер-
выми моментами удовлетворяет закону больших чисел (ÇÁ×), åñëè |
|
|
||||||
|
1 + + n |
|
E 1 + + E n |
p |
0 ïðè n |
|
: |
(22) |
|
|
! |
! 1 |
|||||
|
n |
n |
||||||
|
|
|
|
Законами больших чисел принято называть утверждения об условиях, при которых последовательность с. в. «удовлетворяет закону больших чисел».
Выясним сначала, что означает и когда выполнен ЗБЧ для последовательности
независимых и одинаково распределенных с. в.
Заметим, что если с. в. одинаково распределены, то математические ожидания у них одинаковы (и равны, например, E 1), поэтому свойство (22) можно записать в виде
1 + + n |
p |
E |
. |
|
! |
||||
n |
1 |
|
Итак, законы больших чисел.
Теорема 29 (ЗБЧ в форме Чебыш¸ва).
Для любой последовательности независимых и одинаково распределенных слу- чайных величин с конечным вторым моментом E 12 < 1 имеет место сходимость:
1 + + n |
p |
E : |
|
! |
|||
n |
1 |
ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая с. в. не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.
В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение остается верным если требовать существования только первого момента.
|
|
Доказательство. Обозначим через Sn = 1 + + n сумму первых n с. в., а через |
||||||||||||||||||||
|
Sn |
= |
1 + + n |
— их среднее арифметическое. Тогда |
|
|
|
|||||||||||||||
|
n |
|
|
|
|
|
||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
S |
|
|
E |
|
|
|
E |
|
|
|
E |
|
|
|
|
|
|
|
|
|
|
E |
n |
|
= |
|
1 + + |
|
n |
= |
n |
1 |
= |
E 1: |
|||
|
|
|
|
|
|
|
n |
|
n |
|
|
|
n |
|
||||||||
Пусть " > 0. Воспользуемся неравенством Чебыш¸ва (следствие 16): |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
S |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
> " |
|
D |
n |
|
|
|
|
||||||
|
|
|
P |
|
Sn |
|
Sn |
6 |
n |
|
|
|
||||||||||
|
|
|
n |
E n |
"2 |
|
= |
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D Sn |
независ. |
D 1 + + D n |
|
= |
= |
|||
n2"2 |
n2"2 |
|||
|
|
при n ! 1, поскольку D 1, по условию, конечна.
од.распред. |
n D 1 |
|
D 1 |
|
|
|||
= |
= |
! 0 |
(23) |
|||||
|
n2"2 |
|
n"2 |
74
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS76x1.jpg)
Замечание 24. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа независимых и одинаково распределенных величин отличаться от E 1 более чем на заданное число:
|
|
|
|
|
|
P |
1 |
+ |
n |
+ |
n |
E 1 |
> " |
6 n"2 |
: |
|
(24) |
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D 1 |
|
|
|
|||||
Предлагаю, кроме того, читателям |
извлечь из |
неравенства (23) в доказательстве ЗБЧ |
|||||||||||||||||||||||||||||
Чебыш¸ва доказательство следующего утверждения. |
|
|
|
|
|
||||||||||||||||||||||||||
Следствие 18. |
Последовательность с. в. f igi1=1 с конечными вторыми моментами |
||||||||||||||||||||||||||||||
удовлетворяет ЗБЧ, то есть |
|
n |
|
|
n |
|
|
|
|
|
n |
|
|
! 0 |
ïðè n ! 1 |
||||||||||||||||
|
nn E |
nn = |
|
|
1 |
+ |
+ |
|
E |
1 |
+ |
|
n |
||||||||||||||||||
|
S |
|
S |
|
|
|
|
|
|
|
|
|
|
|
|
|
+ E |
p |
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
при выполнении любого из следующих условий: |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D Sn |
|
|
|
|
|
|
|
|
|
|
|||||
à) åñëè D Sn = o(n2), òî åñòü |
|
|
! 0 ïðè n ! 1; |
|
|
||||||||||||||||||||||||||
n2 |
|
|
|||||||||||||||||||||||||||||
á) åñëè 1; 2; : : : независимы и D Sn = D 1 + + D n = o(n2), òî åñòü |
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
D 1 + + D n |
|
! |
0 |
ïðè |
n |
! 1 |
; |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n2 |
|
|
|
|
|
|
|
|
|
|
|
||||
â) åñëè 1; 2; : : : |
|
независимы, одинаково распределены и имеют конечную дис- |
|||||||||||||||||||||||||||||
|
|
персию (ЗБЧ Чебыш¸ва). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Скоро мы докажем (иными методами, чем А. Я. Хинчин) следующее утверждение.
Теорема 30 (ЗБЧ в форме Хинчина).
Для любой последовательности независимых и одинаково распределенных слу- чайных величин с конечным первым моментом E j 1j < 1 имеет место сходимость:
1 + + n |
p |
E : |
|
! |
|||
n |
1 |
Более того, в условиях теоремы 30 имеет место «почти наверное» сходимость ( 1 + + n)=n ê E 1. Но этого мы уже доказывать не будем.
Получим в качестве следствия из ЗБЧ Чебыш¸ва закон больших чисел Я. Бернулли (1713). В отличие от доказанного через полтора столетия ЗБЧ Чебыш¸ва, описывающего предельное поведение среднего арифметического с. в. с произвольными распределениями, ЗБЧ Бернулли — утверждение только для схемы Бернулли.
Теорема 31 (ЗБЧ Бернулли).
Пусть A — событие, которое может произойти в любом из n независимых испытаний с одной и той же вероятностью P(A). Пусть n(A) — число осу-
|
n(A) p |
|
ществлений события A â n испытаниях. Тогда |
|
! P(A). Ïðè ýòîì äëÿ |
n |
любого " > 0
|
|
n |
|
|
|
|
6 |
n"2 |
P |
|
n(A) |
|
P(A) |
|
> " |
|
P(A)(1 P(A)): |
|
|
|
|
|
|
|
|
|
75
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS77x1.jpg)
Доказательство. Заметим, что n(A) есть сумма независимых, одинаково распределенных с. в., имеющих распределение Бернулли с параметром, равным вероятности успеха P(A) (индикаторов того, что в соответствующем испытании произошло A):
(
1; если A произошло в i м испытании;
0; если A не произошло в i м испытании;
E 1 = P(A); D 1 = P(A)(1 P(A)).
Осталось воспользоваться ЗБЧ в форме Чебыш¸ва и неравенством (24) из замечания
24.
Рассмотрим примеры использования ЗБЧ в форме Чебыш¸ва, вернее, неравенства (24).
13.4Примеры использования ЗБЧ и неравенства Чебыш¸ва
Пример 48.
З а д а ч а. Монета подбрасывается 10 000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.
|
|
|
|
|
|
||||
|
|
n 1 |
|
|
n |
||||
|
|
|
|
|
|
|
|
|
P |
Р е ш е н и е. |
Требуется оценить P |
2 |
|
> 0;01 |
, ãäå n = 104, n = i=1 i — |
||||
|
|
имеющие распределение Бернулли с |
|||||||
число выпадений герба, а i — независимыеnñ. â., |
|||||||||
параметром 1/2, равные «числу гербов, выпавших |
при i-м подбрасывании» (то есть еди- |
нице, если выпал герб и нулю иначе, или индикатору того, что выпал герб). Поскольку
D 1 = 1=2 1=2 = 1=4, искомая оценка сверху выглядит так: |
10 4 |
= 4: |
|||||||||||
P |
nn |
2 |
> 0;01 |
6 n 0;012 |
= 4 104 |
|
|||||||
|
|
S |
|
1 |
|
|
|
D 1 |
1 |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Иначе говоря, неравенство |
Чебыш¸ва |
позволяет заключить, что, в среднем, не более |
чем в четверти случаев при 10 000 подбрасываниях монеты частота выпадения герба будет отличаться от 1/2 более чем на одну сотую. Мы увидим, насколько это грубая оценка, когда познакомимся с центральной предельной теоремой.
Пример 49.
З а д а ч а. Пусть 1; 2; : : : — последовательность случайных величин, дисперсии которых ограничены одной и той же постоянной C, а ковариации любых с. в. i èj (i 6= j), не являющихся соседними в последовательности, равны нулю. Удовлетворяет ли эта последовательность ЗБЧ?
Р е ш е н и е. Воспользуемся неравенством (23) и свойством 14:
P n E |
n > " |
|
D |
Sn |
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|||||||
6 |
|
|
= n2"2 ; |
|
|
D ( 1 + : : : + n) = |
D i |
+ 2 i<j cov( i; j): |
|||||||||||||||||||
"2 |
|
|
|
i=1 |
|||||||||||||||||||||||
|
Sn |
|
Sn |
|
|
|
|
n |
|
D Sn |
|
|
|
|
|
|
|
|
X |
|
|
|
X |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Íî |
äëÿ |
i < |
j, ïî |
условию, |
|
i |
j |
) |
= 0, åñëè i |
6 |
j |
|
1. |
Следова- |
|||||||||||||
cov( ; |
= |
|
|||||||||||||||||||||||||
cov( 1; 2); cov( 2 |
; 3);P: :i<j: ; cov( ni 1;j n) (их ровно n 1 штука). |
кроме, |
может быть, |
||||||||||||||||||||||||
тельно, в |
сумме |
cov( ; ) |
равны нулю |
все слагаемые |
|||||||||||||||||||||||
Оценим каждое из них, используя одно из свойств коэффициента корреляции (ка- |
|||||||||||||||||||||||||||
кое?) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
cov( i; j) 6 p |
|
p |
|
6 p |
|
p |
|
= C; |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
D i |
D j |
C |
C |
|
|
|
|
|
76
так как для любого 1 6 i 6 n, по условию, D i 6 C. Èòàê,
n
XX
D i + 2 cov( i; j)
P |
nn |
E |
n |
> " 6 n2 |
"2 |
= |
|
n2"2 |
= |
|||
|
S |
|
|
Sn |
|
D Sn |
|
i=1 |
i<j |
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
nn 1
XX
|
D i |
+ 2 |
cov( i; i+1) |
nC + 2(n 1)C |
|
|
|
= i=1 |
i=1 |
|
6 |
! |
0 |
||
|
|
n2"2 |
|
n2"2 |
|
при n ! 1, то есть последовательность 1; 2; : : : удовлетворяет ЗБЧ.
Упражнение 27.
Привести пример последовательности с. в. 1; 2; : : : такой, что ковариации «несоседних» величин равны нулю.
Привести пример последовательности с. в. 1; 2; : : : такой, что ковариации «несоседних» величин равны нулю, а ковариации соседних — не равны. Можно попробовать построить такую последовательность с помощью другой последовательности, составленной из независимых с. в.
77
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS79x1.jpg)
... Из этой первой лекции по теории вероятностей я запомнил только полузнакомый термин «математическое ожидание». Незнакомец употреблял этот термин неоднократно, и каждый раз я представлял себе большое помещение, вроде зала ожидания, с кафельным полом, где сидят люди с портфелями и бюварами и, подбрасывая время от времени к потолку монетки и бутерброды, сосредоточенно чего-то ожидают. До сих пор я часто вижу это во сне. Но тут незнакомец оглушил меня звонким термином «предельная теорема Муавра — Лапласа» и сказал, что все это к делу не относится.
Аркадий и Борис Стругацкие, Стажеры
Раздел 14. ЦПТ (центральная предельная теорема)
14.1 Как быстро |
Sn |
сходится к E 1? |
|
|
n |
||
|
|
|
Пусть, как в законе больших чисел в форме Чебыш¸ва, Sn = 1 + : : : + n — сумма n независимых и одинаково распределенных величин с конечной дисперсией. Тогда, в
Sn |
p |
|
|
|
|
|
ñèëó ÇÁ×, |
|
! E 1 |
с ростом n. Или, после приведения к общему знаменателю, |
|||
n |
||||||
|
|
|
|
Sn n E 1 |
p |
0: |
|
|
|
|
! |
||
|
|
|
|
n |
||
|
|
|
|
|
Если при делении на n мы получили в пределе нуль (в смысле некоторой, все равно какой, сходимости), резонно задать себе вопрос: а не слишком ли на «много» мы поделили? Нельзя ли поделить на что-нибудь, растущее к бесконечности медленнее, чем n, чтобы получить в пределе не нуль (и не бесконечность, само собой)?
Можно поставить этот вопрос по-другому. Вот последовательность, стремящаяся (как-то) к нулю. Можно ли ее домножить на что-либо растущее, чтобы «погасить» это стремление к нулю? Получив, тем самым, что-нибудь конечное и отличное от нуля в
пределе? |
|
|
|
|
|
|
|
|
|
pn |
|
|
n |
||||
Оказывается, что уже |
Sn n E 1 |
, или, что то же самое, pn |
|
Sn n E 1 |
, не сходится к |
|||
|
|
|
|
|
нулю. Распределение этой, зависящей от n, случайной величины становится все более похоже на нормальное распределение! Можно считать, что такая последовательность сходится к случайной величине, имеющей нормальное распределение, но сходится не по вероятности, а только в смысле сходимости распределений, или «слабой сходимости».
14.2Слабая сходимость
Пусть задана последовательность с. в. f ng, задано некоторое распределение F с функцией распределения F и — произвольная с. в., имеющая распределение F.
Определение 52. Говорят, что последовательность с. в. f ng ïðè n ! 1 сходится слабо èëè по распределению к с. в. , или говорят, что последовательность с. в.
слабо сходится к распределению F, или говорят, что распределения с. в. f ng слабо сходятся к распределению F, и пишут: n ) , èëè F n ) F , èëè n ) F, если для любого x такого, что функция распределения F непрерывна в точке x, имеет место сходимость F n (x) ! F (x) ïðè n ! 1.
Иначе говоря, слабая сходимость — это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения.
78
![](/html/1409/113/html_2keYijv6Qk.1xvk/htmlconvd-DUR1aS80x1.jpg)
Необходимо заметить, что запись « n ) » удобна, но не всегда разумна: если «предельную» с. в. заменить на другую с. в. с тем же распределением, ничего не изменится: в том же смысле n ) . Поэтому слабая сходимость все же не есть сходимость случайных величин, и ей нельзя оперировать как сходимостями п.н. и по вероятности, для которых предельная с.в. единственна (хотя бы с точностью до значений на множестве нулевой вероятности).
Следующее свойство очевидно. Если нет - вам нужно вернуться к разделу 7 и вспомнить, что такое функция распределения.
Свойство 18. Åñëè n ) , и функция распределения F непрерывна в точках a è b, òî P( n 2 [a; b]) ! P( 2 [a; b]) и т.д. (продолжить ряд). Наоборот, если во всех точках a è b непрерывности функции распределения F имеет место, например, сходимость
P( n 2 [a; b]) ! P( 2 [a; b]), òî n ) .
Следующее важное свойство уточняет отношения между сходимостями.
Свойство 19.
p |
p |
1. Åñëè n ! , òî n ) . |
2. Åñëè n ) c = const, òî n ! c. |
Доказательство. Первое свойство мы доказывать не будем.
Докажем, что слабая сходимость к постояннной влечет сходимость по вероятности. Пусть
(
0; x 6 c;
F n (x) ! Fc(x) =
1; x > c
при любом x, являющемся точкой непрерывности предельной функции Fc(x), òî åñòü ïðè âñåõ x 6= c.
Возьмем произвольное " > 0 и докажем, что P(j n cj 6 ") ! 1. Раскроем модуль:
P( " 6 n c 6 ") = P(c " 6 n 6 c + ") >
(сужаем событие под знаком вероятности)
> P(c " 6 n < c + ") = F n (c + ") F n (c ") ! Fc(c + ") Fc(c ") = 1 0 = 1;
поскольку в точках c " функция Fc непрерывна, и, следовательно, имеет место сходимость последовательности F n (c ") ê Fc(c ").
Осталось заметить, что P(j n cj 6 ") не бывает больше 1, так что по лемме о двух милиционерах P(j n cj 6 ") ! 1.
Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям — скажем, домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.
Желание написать «если n ) и n ) , то n + n ) + » сразу проходит, стоит перевести это «свойство» на язык функций распределения и задуматься — что такое «функция распределения суммы + », когда вместо них можно брать любые другие
~и с теми же распределениями, как угодно зависимые. Иное дело — когда одно из
~
предельных распределений вырождено. В этом случае функция распределения суммы или произведения определена однозначно.
Свойство 20.
p
1. Åñëè n ! c = const è n ) , òî n n ) c .
p
2. Åñëè n ! c = const è n ) , òî n + n ) c + .
Доказательство. Заметим прежде всего, что если n ) , òî c n ) c , c + n ) c + (доказать!). Поэтому (и в силу соответствующих свойств сходимости по вероятности)
79