Лекции по теории вероятностей / lect12

Лекция 12 Слабая сходимость (сходимость по распределению).

Пусть задана последовательность случайных величин {Xn, n = 1, 2, ...} с функциями распределения Fn(x) соответственно и случайная величина X c функцией распределения F (x).

Определение. Последовательность случайных величин {Xn, n = 1, 2, ...}

d

слабо (по распределению) сходится к случайной величине X(Xn → X), если для любой точки x, в которой F (x) непрерывна

Fn(x) → F (x)

ïðè n → ∞.

Иначе говоря, слабая сходимость случайных величин это поточечная сходимость соответствующих функций распределения во всех точках непрерывности предельной функции распределения.

Свойства слабой сходимости.

{Xn} последовательность случайных величин с функциями распределения {Fn(x)}, а случайная величина X имеет функцию распределения F (x).

1. Последовательность Xnoversetd→X (слабо сходится к X) тогда и только тогда, когда

p(Xn [a, b)) → p(X [a, b)),

для любых a, b, в которых F (x) непрерывна. Это свойство сразу следует из определения слабой сходимости.

2. Из сходимости по вероятности последовательности случайных величин следует их слабая сходимость.

Доказательство. Пусть случайная последовательность {Xn} сходится по вероятности к случайной величине X и F (u) = p(X < u) - функция распределения

этой случайной величины. Рассмотрим

Fn(u0) = p(Xn < u0) = p(Xn < u0, |Xn−X| > ε)+p(Xn < u0, |Xn−X| ≤ ε) = In+IIn.

Òàê êàê Xn сходится к X по вероятности, то первое слагаемое

In = p(Xn < u0, |Xn − X| > ε) ≤ p(|Xn − X| > ε)

становится сколь угодно малым при больших n. Оценим второе слагаемое. Очевидно, что

{ω : X + ε < u0, X − ε ≤ Xn ≤ X + ε} {ω : Xn < u0, X − ε ≤ Xn ≤ X + ε}

{ω : X − ε < u0, X − ε ≤ Xn ≤ X + ε}.

Поэтому для IIn = p(ω : Xn < u0, |Xn − X| ≤ ε) справедливы неравенства p(ω : X + ε < u0, |Xn − X| ≤ ε) ≤ IIn ≤ p(ω : X − ε < u0, |Xn − X| ≤ ε).

1

Используя сходимость по вероятности последовательности Xn, n = 1, 2.. случайной величине X, несложно показать, что

lim p(X < u0 − ε, |Xn − X| ≤ ε) = F (u − ε),

n→∞

lim p(X < u0 + ε, |Xn − X| ≤ ε) = F (u + ε).

n→∞

Отсюда следует, что

F (u0 − ε) ≤ lim Fn(u0) = lim (In + IIn) ≤ F (u0 + ε).

n→∞ n→∞

Эти неравенства выполнены при любом ε.

Åñëè u0 - точка непрерывности функции распределения случайной величины

X, òî

lim Fn(u0) = F (u0).

n→∞

3. Если последовательность случайных величин слабо сходится к константе, то эта последовательность сходится к этой константе и по вероятности.

Доказательство. Слабая сходимость последовательности случайных вели- чин к константе c, означает, что соответствующая последовательность функций

распределения сходится к функции распределения константы:

(

Fn(x) → F (x) =

0, x ≤ c,

1, x > c.

ïðè âñåõ x 6= c.

Возьмем произвольное ε > 0 и докажем, что limn→∞ p(|Xn − c| ≤ ε) = 1. Действительно,

p(|Xn − c| ≤ ε) = p(c − ε ≤ Xn ≤ c + ε) ≥ p(c − ε ≤ Xn < c + ε) =

= Fn(c + ε) − Fn(c − ε) → F (c + ε) − F (c − ε) = 1 − 0 = 1.

Из свойств 2 и 3 следует, что сходимость по вероятности к константе эквивалентна слабой сходимости последовательности случайных вели- чин к константе

Следующие свойства приводят пример операций, которые можно применять к слабо сходящимся последовательностям с сохранение при этом слабой сходимости.

Доказательство свойства 5. Заметим сначала, что если Yn → Y, òî Yn+c →

Y + c.

p

Докажем пятое свойство для случая, когда Xn → 0. Пусть Fn(u) - функции распределения случайных величин Yn, а F (u) - функция распределения случайной величины Y. Пусть u0 - точка непрерывности функции F (u). Нужно доказать, что значение функции распределения случайной величины Xn + Yn в точке

2

u0 сходится к F (u0). Зафиксируем достаточно маленькое ε > 0 такое, что F (u) непрерывна в точках отрезка u0 ± ε.

FXn+Yn (u0) = p(Xn + Yn < u0) =

= p(Xn + Yn < u0, |Xn| > ε) + p(Xn + Yn < u0, |Xn| ≤ ε) = P1 + P2.

Оценим P1 + P2. Äëÿ P1 имеем

P1 = p(Xn + Yn < u0, |Xn| > ε) ≤ p(|Xn| > ε)

и последняя вероятность может быть сделана сколь угодно малой при больших n.

Äëÿ P2 с одной стороны справедливы соотношения

P2 = p(Xn + Yn < u0, −ε ≤ Xn ≤ ε) ≤ p(−ε + Yn < u0) = p(Yn < u0 + ε).

С другой стороны

P2 = p(Xn + Yn < u0, −ε ≤ Xn ≤ ε) ≥ p(ε + Yn < u0, −ε ≤ Xn ≤ ε) =

= p(ε + Yn < u0) − p(ε + Yn < u0, |Xn| > ε) ≥ p(Yn < u0 − ε) − p(|Xn| > ε).

Итак мы получили оценки сверху и снизу для P1 + P2, òî åñòü äëÿ FXn+Yn (u0) :

P1 + p(Yn < u0 − ε) − p(|Xn| > ε) ≤ FXn+Yn (u0) ≤ P1 + p(Yn < uo + ε).

Переходя к пределу при n → ∞ получаем

F (u0 − ε) ≤ lim FXn+Yn (u0) ≤ F (u0 + ε).

n→∞

А это и означает, что функции распределения случайных величин Xn + Yn сходятся к F (u) во всех точках непрерывности функции F (u), то есть

d

Xn + Yn → Y.

Центральная предельная теорема.

Говорят, что для последовательности случайных величин X1, X2, ... выполнена центральная предельная теорема, если

Pn

Dj=1 Xj

Эта запись означает, что отнормированная сумма n случайных величин из этой последовательности (из суммы вычитается ее математическое ожидание и разность делится на корень из дисперсии суммы) при n → ∞ cлабо сходится к

стандарному нормальному распределению. Или

3

äëÿ âñåõ u.

Замечание. Центральной предельной теоремой пользуются для приближенного вычисления вероятностей, связанных с суммами большого числа случайных величин. Если для случайной последовательности выполнена центральная предельная теорема, то распределение нормированной суммы большого числа элементов этой последовательности заменяют на стандартное нормальное распределение.

Приведем (пока без доказательства) формулировки наиболее известных центральных предельных теорем)

Теорема Ляпунова. Ляпунов Александр Михайлович(1857-1918).

Пусть X1, X2, ... последовательность независимых случайных величин с EXi =

ai, DXi = σi2. Предположим также, что у каждой из этих случайных величин существует E|Xi − ai|3 = mi è

p

P

Теорема Леви. Леви Поль (1886 - 1971), французский математик, член Парижской АН (1964).

Пусть X1, X2, ... последовательность независимых одинаково распределенных случайных величин с EXi = a и конечной, ненулевой дисперсией σ2. Тогда для

этой последовательности случайных величин справедлива центральная предельная теорема, то есть распределение последовательности

Pn

j=1 X√j − na σ n

слабо сходится к стандартному нормальному закону.

Еще раз повторим, формулировку этой теоремы. Для независимых и одинаково распределенных случайных величин X1, X2, ... с математическим ожиданием равным a и дисперсией, равной σ2, для любых u, v при n → ∞ имеет

место сходимость

Сформулируем "интегральную теорему Муавра-Лапласа", которая является следствием центральной предельной теоремы Леви. Подобно ЗБЧ Бернулли предельная теорема Муавра-Лапласа - утверждение, касающееся только схемы Бернулли (последовательности n независимых испытаний с вероятностью успеха

p в каждом испытании).

4

Муавр(Moivre) Абрахам (26.5. 1667, - 27.11.1754), английский математик. По происхождению француз.

Лаплас (Laplace) Пьер Симон (1749, -1827), французский астроном, математик и физик

Теорема. Интегральная теорема Муавра - Лапласа.

Пусть вероятность появления события A (успеха) в каждом из n независи-

мых испытаний одинакова и равна p. Пусть µn число успехов в n независимых испытаниях. Тогда

Покажем, что эта теорема - частный случай центральной предельной теоремы Леви. Как и раньше µn можно представить в виде суммы независимых одинаково распределенные случайных величин Xj. Каждая из этих случайных величин имеет распределение Бернулли.

p(Xj = 1) = p, p(Xj = 0) = 1 − p.

Ïðè ýòîì EXi = a = p, DXi = σ2 = p(1 − p). Поэтому, согласно центральной предельной теореме Леви при всех u

Примеры использования ЦПТ.

Задача. Монета подбрасывается 10000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности выпадения герба более, чем на 0.01.

Решение. Требуется найти

ãäå n=10000, µn - число успехов в n независимых испытаниях Бернулли. Вероятность успеха p = 1/2. Рассмотрим вероятность противоположного события.

np(1 − p)

5

Поэтому

Замечаение. Обратить внимание, насколько эта оценка отличается от оценки, полученной с помощью неравенства Чебышева.

В приведенном примере мы вычислили вероятность не точно, а приближенно. Какова ошибка при этом приближении? Следующая теорема позволяет оценить погрешность приближения в ЦПТ.

Теорема.(Неравенство Берри - Эссеена) Если для последовательности X1, X2, .. справелива центральная предельная теорема Леви, то для любого u R

Расчеты показывают, постоянную константу С можно брать равной 0.4.

Частный случай теоремы Берри-Эссена для последовательности n независимых испытаний Бернулли с вероятностью успеха p в каждом испытании.

Приведем еще один пример решения задачи с помощью центральной предельной теоремы.

Пример. В театре 1000 мест и два входа - правый и левый. Зрители с равной вероятностью попадают в театр через каждый из этих входов. В раздевалке каждого входа имеется L мест. Каким должно быть число L, чтобы с вероятностью

0.95 каждый зритель смог раздеться в раздевалке того входа, через который он вошел?

Иными словами имеется последовательность n(n = 1000) независимых испытаний. Будем считать, что в j-ом испытании произошел успех, если j-ый зритель

выбрал правый вход. Обозначим через µn - число зрителей, выбравших правый вход. Тогда n−µn - это число зрителей, попавших театр через левый вход. Нужно найти такое L, чтобы

p(µn ≤ L, n − µn ≤ L) = 0.95.

µn - число успехов в n независимых испытаниях c вероятностью успеха в каждом испытании p = 1/2. Нетрудно убедиться в том, что

6