
Лекции по теории вероятностей / lect11
.pdf
Лекция 11
Сходимость последовательности случайных величин. Сходимость по вероятности.
Пусть на одном вероятностном пространстве задана последовательность слу- чайных величин X1, X2, ... и случайная величина X.
Определение. Последовательность случайных величин Xn, n = 1, 2, .. ñõî-
p
дится по вероятности к случайной величине X пишут Xn −→ X, если для любого
ε > 0
p(|Xn − X| > ε) → 0 ïðè n → ∞
èëè
p(|Xn − X| ≤ ε) → 1 ïðè n → ∞.
Пример. Рассмотрим последовательность случайных величин Xn таких, что
Xn |
0 |
n7 |
p |
1 |
1 |
1 − n |
n |
Докажем, что эта последовательность сходится по вероятности к нулю. Действительно, зафиксируем произвольное ε > 0. Тогда для достаточно больших
n
p(|Xn − 0| > ε) = p(Xn > ε) = p(Xn = n7) = n1 .
Поэтому,
lim p(|Xn| > ε) = 0.
n→∞
Замечание. Сходимость случайных величин по вероятности не обязательно влечет за собой сходимость их числовых характеристик, например, математиче-
ских ожиданий, дисперсий или моментов других порядков. |
|
||||||||
|
|
|
|
|
|
|
p |
= n6 9 0 ïðè |
|
Действительно, в предыдущем примере |
Xn → 0, íî EXn |
||||||||
n → ∞. |
À åñëè |
|
принимает значения 0 и |
√ |
|
|
с теми же вероятностями, что и |
||
Xn |
n |
||||||||
|
|
|
|
|
описаны в предыдущем примере, то математические ожидания случайных вели- чин сходятся к нулю, но дисперсии DXn = 1 и не стремятся к нулю.
Сходимость по вероятности обладает обычными для сходимости свойствами.
Свойства сходимости по вероятности.
1. Åñëè X |
p |
X, Y |
p |
Y и g - непрерывная функция от двух переменных, |
pn → |
|
n → |
|
òî g(Xn, Yn) → g(X, Y ) (лемма Слуцкого).
Частные случаи этой леммы.
p
Xn + Yn → X + Y ;
p
XnYn → XY.
1
2. Åñëè Xn p c, Yn |
p d и g - непрерывная функция от двух переменных в |
|||
→ |
→ |
|
|
|
|
p |
|
|
|
точке (c, d), то g(Xn, Yn) → g(c, d). |
p |
p |
p |
|
Частный случай этого свойства. Если |
Xn → c, Yn → d è d > 0, òî Xn/Yn → |
c/d.
Доказательство проведем для частного случая леммы Слуцкого. А
именно, покажем, что предел суммы сходящихся по вероятности последовательностей равен сумме пределов.
Рассмотрим произвольное ε > 0. Требуется доказать, что p(|Xn + Yn − X − Y )| > ε) → 0 ïðè n → ∞.
Íî
|Xn + Yn − X − Y )| ≤ |Xn − X| + |Yn − Y )|.
Поэтому, справедливы следующие соотношения между случайными событиями:
{ω : |Xn + Yn − (X + Y )| > ε} {ω : |Xn − X| + |Yn − Y | > ε}
{ω : |Xn − X| > ε/2} + {ω : |Yn − Y | > ε/2}.
Последнее соотношение следует из того, что если |Xn − X| + |Yn − Y | > ε, òî èëè
|Xn − X| > ε/2, èëè |Yn − Y | > ε/2.
Получаем следующую цепочку неравенств
p(|Xn + Yn − X − Y | > ε) ≤ p(|Xn − X| + |Yn − Y | > ε) ≤
≤ p(|Xn − X| > ε/2) + p(|Yn − Y | > ε/2).
Отсюда следует, что при n → ∞
p(|Xn + Yn − X − Y | > ε) → 0,
p p
òàê êàê Xn → X, Yn → Y.
Законы больших чисел.
Пусть, как и раньше, на одном вероятностном пространстве задана последовательность случайных величин X1, X2, ...
Законами больших чисел (ЗБЧ) принято называть утверждения об условиях, при которых
1 |
n |
1 |
n |
p |
||
|
Xj |
|
|
X |
EXj → 0 |
|
n |
Xj − n |
|||||
=1 |
j=1 |
|||||
|
|
|
|
åñëè n → ∞.
ЗБЧ в форме Чебышева.
Последовательность попарно независимых случайных величин Xi с диспер- сией, ограниченной одной и той же константой DXi < C, удовлетворяет закону
больших чисел. То есть, для любого ε > 0 |
n > ε → 0 |
||||||||
p |
X |
1 |
n |
n − EX1 |
+ n |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2

ïðè n → ∞.
Доказательство. Пусть Sn = X1 +...+Xn, à Sn/n - арифметическое среднее случайных величини X1, ..., Xn. Очевидно, что
|
1 |
|
n |
|
E(Sn |
/n) = |
|
|
Xj |
n |
EXj . |
|||
|
|
=1 |
||
|
|
|
|
|
Вычислим дисперсию D(Sn/n). |
|
|
|
|
|
n |
n |
||
|
X |
X |
||
D(Sn/n) = (1/n)2D |
Xi = (1/n)2 DXi ≤ C/n. |
|||
|
i=1 |
i=1 |
Пусть ε > 0. Тогда по неравенству Чебышева для случайной величины Sn/n, получаем, что
p |
|
S |
|
1 n |
|
> ε ≤ |
D(Sn/n) |
|
C |
|||
nn |
− n j=1 EXj |
ε2 |
≤ nε2 . |
|||||||||
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Отсюда
p |
n j=1 Xj − n j=1 EXj |
> ε → 0 |
||||
|
|
1 |
n |
1 |
n |
|
|
|
X |
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ïðè n → ∞.
Если случайные величины Xj , j = 1, 2, .. - независимы и одинаково распре-
делены, то математические ожидания и дисперсии у них равны. Пусть EXi = a, DXi = σ2 < ∞. Закон больших чисел в форме Чебышева для этого случая
выглядит так
n
1 X p
n
Xj − a → 0.
j=1
При этом с помощью неравенства Чебышева не только доказывается сходимость по вероятности, но и получается оценка для вероятности того, что среднее арифметическое любого числа независимых и одинаково распределенных случайных величин отличается от математического ожидания этих случайных величин более, чем на заданное число:
n
1 X
n
j=1
Xj |
a > ε |
|
nε2 . |
|
− |
|
≤ |
σ2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Задача. Вася и Петя бросают монету. Если выпадает орел, то Вася получает
10 рублей от Пети, а при выпадении решки Вася выплачивает Пете 10 рублей. |
||||||
Они играют весь вечер. X - выигрыш Васи при i-ом бросании монеты, |
n |
X |
/n |
|||
- средний выигрыш Васи iпри n бросаниях монеты. Верно или нет, чтоPi=1 |
i |
|
||||
|
1 n |
p |
|
|
|
|
|
|
|
Xi → 0. |
|
|
|
|
n |
|
|
|
||
=1 |
|
|
|
|
||
|
|
Xi |
|
|
|
|
3

Решение. Последовательность случайных величин Xi, i = 1, 2, ... - последовательность независимых одинаково распределенных случайных величин. При этом p(Xi = 10) = 1/2 è p(Xi = −10) = 1/2, EXi = 0, DXi = 100 < ∞. Поэтому для этой последовательности случайных величин выполнен закон больших чисел и для любого ε > 0
|
|
p |
|
n |
Xi |
|
|
|
|
|
> ε! → 0, |
||||
|
|
|
|
1 |
|
n |
|
|
|
|
|
|
i=1 |
||
|
|
|
|
|
|
X |
|
òî åñòü 1 |
n |
p |
|
|
|
|
|
|
|
|
|
|
|
||
ÇÁ× P |
i=1 Xi → 0. |
|
|
|
|
|
|
n |
|
|
|
|
|
Бернулли.
Пусть A (успех)- событие, которое может произойти в любом из n независимых испытаний с одной и той же вероятностью p(A) = p. Пусть νn(A) - число успехов в n испытаниях. Тогда
|
|
|
|
νn |
p |
|
|
|
|
|
|
|
|
→ p(A). |
|
||
|
|
|
|
n |
|
|||
При этом для любого ε > 0 |
|
|
|
|
|
|
|
|
p |
νn |
− |
p(A) > ε |
≤ |
p(1 − p) . |
|||
|
n |
|
|
|
|
nε2 |
||
|
|
|
|
|
|
|
|
|
Доказательство. Заметим, что νn - это сумма независимых одинаково распределенных случайных величин, имеющих распределение Бернулли с параметром p.
νn = X1 + ... + Xn, Xi = |
(0, если A не произошло при i-ом испытании. |
|
1, если A произошло при i-ом испытании; |
EXi = p, DXi = p(1 − p).
Осталось воспользоваться ЗБЧ в форме Чебышева. Еще одна формулировка закона больших чисел.
Теорема.
Последовательность случайных величин X1, X2, ... с конечными вторыми мо-
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
n |
|
|
|
p |
|
ментами удовлетворяет ЗБЧ (то есть |
Pj=1 Xj /n − Pj=1 EXj /n → 0), åñëè |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
DSn |
→ 0 |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
n2 |
|
|
|
|
|
|
|
||
Доказательство |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
P |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
ïðè n → ∞, DSn |
= D( |
j=1 Xj ). |
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
этой теоремы основано на неравенстве Чебышева. Вновь |
||||||||||||||
|
|
|
j=1 |
Pj |
n |
|
|
|
|
|
n |
|
|
|
|
n |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
рассмотрим Sn/n = |
|
j=1 Xj /n. Математическое ожидание этой случайной вели- |
||||||||||||||||||
чины равно |
P |
n |
EX /n, а дисперсия D(S /n) = (1/n2)DS . |
|||||||||||||||||
Äëÿ |
|
ε > 0 по неравенству Чебышева |
|
|
|
|
|
|
||||||||||||
|
любого |
|
|
|
|
|
|
|
> ε |
|
|
|
|
|
|
|
|
|||
|
|
|
p n |
|
n |
EXj |
|
ε2 |
|
|
= n2 |
ε2 . |
||||||||
|
|
|
|
|
Sn |
− |
1 |
n |
|
|
≤ |
(DSn |
/n) |
|
DSn |
|||||
|
|
|
|
|
|
|
j=1 |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4

По условию теоремы DSn/n2 стремится к нулю при n → ∞.
Задача. X1, ..., Xk, .. последовательность независимых случайных величин и
p(Xk = 2k) = p(Xk = −2k) = 2−(2k+1), p(Xk = 0) = 1 − 2−2k.
Показать, что для этой последовательности выполнен закон больших чисел.
Задача. X1, ..., Xk, .. последовательность одинаково распределенных случайных величин и
cov(Xi, Xj ) = |
(0, |
|i |
− j |
| > 1. . |
|
b, |
i |
j |
= 1, |
|
|
| |
− |
| |
Показать, что для последовательности случайных величин выполнен закон больших чисел.
ЗБЧ в форме Хинчина.
Александр Яковлевич Хинчин (10.7.1894-18.11.1959)
Для любой последовательности независимых и одинаково распределенных случайных величин с конечным первым моментом EXi = a имеет место сходимость
n
1 X p
n
Xj → a.
j=1
Эта теорема будет доказана позже с помошью характеристических функций.
Сходимость по вероятности - это не единственный вид сходимости последовательности случайных величин.
Определение. Последовательность случайных величин Xn,ï.â.n = 1, 2, ... называется сходящейся почти всюду к случайной величине X (Xn −→ X), åñëè
p({ω : lim Xn = X}) = 1,
то есть множество исходов ω, для которых последовательность Xn(ω) → X(ω) имеет вероятность единица.
Определение. Последовательность случайных величин Xn, n = 1, 2, ... называется сходящейся в среднем порядка q (q > 0) к случайной величине X, если
E|Xn − X|q → 0, n → ∞.
В частном случае q = 2 эту сходимость называют сходимостью в среднем квадра-
тичном и пишут X = l.i.m. Xn (l.i.m. - сокращение от limit in mean - сходимость в среднем).
Приведем без доказательства следующую теорему, состоящую из двух пунк-
òîâ.
Теорема.
1.Из сходимости последовательности Xn почти всюду к случайной величине X следует и сходимость по вероятности этой последовательности к X.
2.Из сходимости последовательности Xn в среднем порядка q к случайной величине X следует и сходимость по вероятности этой последовательности к X.
5