- •Введение
- •Глава 1. Cлучайные события
- •§ 1. Предмет теории вероятностей
- •§ 2. Пространство элементарных событий
- •§ 3. Классическое определение вероятности
- •§ 4. Некоторые комбинаторные формулы
- •§ 5. Геометрические вероятности
- •§ 6. Аксиоматическое построение теории вероятностей
- •§ 7. Условные вероятности
- •§ 8. Вероятность суммы и произведения событий
- •§ 9. Зависимые и независимые события
- •§ 10. Формула полной вероятности
- •§ 11. Формула Байеса
- •Глава 2. Случайные величины
- •§ 1. Дискретные случайные величины
- •§ 2. Функция распределения случайной величины
- •§ 3. Числовые характеристики дискретных случайных величин
- •§ 4. Моменты
- •§ 5. Производящая функция
- •§ 6. Биномиальное распределение
- •§ 7. Распределение Пуассона
- •§ 8. Геометрическое распределение
- •§ 9. Непрерывные случайные величины
- •§ 10. Характеристики непрерывных случайных величин
- •§ 11. Примеры непрерывных случайных величин
- •§ 12. Функция распределения нормального закона
- •Глава 3. Cиcтемы случайных величин
- •§ 1. Распределение системы случайных величин
- •§ 3. Нормальное распределение на плоскости
- •§ 4. Зависимость и ковариация
- •§ 5. Kоэффициент корреляции и его свойства
- •Глава 4. Некоторые предельные теоремы
- •§ 1. Центральная предельная теорема
- •§ 2. Закон больших чисел
- •Литература
Лекция 9
Глава 4. Некоторые предельные теоремы
§ 1. Центральная предельная теорема
Центральная предельная теорема сыграла особую роль в развитии теории вероятностей. Она имеет большое значение и для современных приложений. Центральная предельная теорема определяет условия, при которых суммы независимых случайных величин распределены асимптотически нормально.
Tеорема 1. Пусть X1, X2,…, Xn - взаимно независимые случайные величины с одной и той же функцией распределения F(x). Допустим,
что М(Xk) = 0, D(Xk) = 1, k = 1, 2,..., n. При n → ∞ распределение
нормированных сумм Sn = x1 + x2 +... + xn стремится к стандартному
n
нормальному распределению.
Доказательство. Используем метод характеристических функций.
Характеристической функцией ϕ(t) распределения F(x) (или случайной величины X) называется математическое ожидание случайной величины eitX ϕ(t) = MeitX , −∞ < t < ∞, i - мнимаяединица.
Замечание. Мы вводили случайные величины как действительные функции, заданные на пространстве Ω. В данном случае под случайной величиной будем понимать пару действительных функций
eitX = costX +i sin tX = (costx; sin tx).
Если X имеет плотность f(x), то
∞∞
ϕ(t) = ∫ eitx f (x)dx = ∫eitxdF(x) .
−∞ −∞
Например, характеристическая функция стандартного нормального распределения
∞ |
12π e−x2 |
2 dx = e−t 2 |
|
ϕ0 (t) = ∫ eitx |
2 , −∞ < t < ∞ . |
||
−∞ |
|
|
|
Если X - дискретная случайная величина,
∞
ϕ(t) = ∑eitxi P(X = xi ) ,
i=−∞
где xi - значение случайной величины X.
Замечание. Характеристическая функция распределения F(x) - это ни что иное как преобразование Лебега-Фурье функции F(x). Если X - непрерывная случайная величина, то характеристическая функция - это просто преобразование Фурье плотности распределения.
Докажем сначала, что характеристические функции распределения сумм Sn при n → ∞ и всех t cходятся к характеристической функции стандартного нормального распределения. Характеристическая функция суммы Sn
|
it |
x1 +x2 |
+...+xn |
|
|
|
|
|
|
= |
|
|
|
||||
MeitSn = M e |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
it |
X1 |
|
|
it |
X 2 |
|
|
it |
X n |
|
|
|
t |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
n |
|
n |
|
n |
|
= ϕ |
n |
|
, |
|||||||
= M e |
|
|
|
M e |
|
|
|
... M e |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
где ϕ(t) - характеристическая |
функция |
случайных |
величин Xk, |
поскольку математическое ожидание произведения независимых случайных величин равняется произведению их математических ожиданий, и все случайные величины X1,X2,…,Xn имеют одно и то же распределение, а значит, и одну и ту же характеристическую функцию
ϕ(t) .
По формуле Тейлора
ϕ(x) = ϕ(0) + x ϕ′(0) + x2 ϕ''(0) + 0 (x2 ). 2
|
|
|
t |
|
|
|
|
|
|
|
|
|
|
|
|
t |
|
|
|
|
|
|
|
1 |
|
|
2 |
|
1 |
|
|
|
|
|
|
|
|
||||
Полагая x = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 − |
|
|
t |
|
|
n → ∞ . |
|
||||||||||||||||||
n |
|
, получаем ϕ |
|
n |
|
|
2n |
|
+ o |
|
, |
|
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|||||||||
При больших n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
t |
|
|
|
|
|
|
|
|
t |
2 |
n |
|
|
|
|
|
|
|
t |
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
|
|
|||
ϕ |
n |
|
≈ |
|
|
|
− |
|
|
; ln ϕ |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
1 |
|
|
|
|
|
|
|
n |
|
≈ n ln 1 − |
2n |
. |
|
|
|
|
|
|||||||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
2n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
|
|
t |
2 |
|
|
|
|
t |
2 |
|
|
|
|
|
|
|
|
|
t |
|
|
− |
t2 |
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
− |
|
|
|
|
= |
|
|
− |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
=e |
2 |
|
|||||||||
Поскольку lim nln 1 |
|
|
|
|
|
lim n |
|
|
|
|
|
|
= − |
|
|
|
, |
|
то |
lim ϕ |
|
|
|
|
|
. |
|||||||||||||||
n→∞ |
|
|
|
2n |
|
|
n→∞ |
|
2n |
|
|
|
2 |
|
|
|
|
n→∞ |
|
|
n |
|
|
|
|
Докажем, что из сходимости характеристических функций следует сходимость функций распределения.
Из курса математического анализа известна теорема непрерывности: если F1(x), F2(x),..., Fn(x) - последовательность функций, ограниченных на всей числовой прямой, а ϕ1(t), ϕ2 (t),..., ϕn (t),... -
последовательность соответствующих преобразований Лебега-Фурье, сходящаяся к функции ϕ0 (t) , то ϕ0 (t) также является преобразованием
Лебега-Фурье некоторой функции F0(x), а F0(x) является пределом функциональной последовательности F1(x), F2(x),..., Fn(x),... . Теорема непрерывности завершает доказательство центральной предельной теоремы. ♣
Центральная предельна теорема позволяет понять природу случайных величин, имеющих нормальное распределение.
Пример 1. Рассмотрим распространение популяции деревьев. Если бы новые растения возникали только из семян, упавших с материнского дерева, то сеянцы были бы расположены около него. Тогда расстояние дерева n-го поколения от исходного было бы распределено приблизительно нормально. При этих условиях площадь, покрытая потомками некоторого дерева, была бы пропорциональна его возрасту. ♦
Замечание 1. Если в условии теоремы 1 М(Xk) = m, D(Xk) = σ2, то распределение сумм
Sn = |
X1 + X 2 +... + X n −mn |
|
σ n |
при n → ∞ cтремится к стандартному нормальному распределению. Действительно, если мы вместо случайных величин Xk рассмотрим
~ |
|
Xk −m |
|
|
|
|
|
|
|
|
|
Xk = |
|
|
, то попадем в условия теоремы 1. |
|
|||||||
|
σ |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Замечание 2. Более общую формулировку центральной |
||||||||||
предельной |
теоремы дал Линдеберг. Пусть X1, X2, |
, Xn - взаимно |
|||||||||
независимые |
случайные |
величины |
с |
функциями |
распределения |
||||||
F1(x), F2(x),…, Fn(x). |
Пусть |
M(Xk) = mk, |
D(X k ) = σk2 , |
k =1, 2,..., n, |
|||||||
s2 = σ2 |
+ σ2 |
+... + σ2 и дисперсии σ2 |
малы по сравнению с суммой s2 |
||||||||
n |
|
1 |
2 |
|
n |
k |
|
|
|
n |
|
(при |
|
любом |
ε > 0 |
и всех |
достаточно |
больших n |
σk < ε ). Тогда |
||||
|
|
|
|
|
|
|
|
|
|
|
sn |
распределение нормированной суммы |
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
~ |
X1 + X2 +... + Xn − ∑mk |
|
||||
|
|
|
|
|
|
|
|
k =1 |
|
||
|
|
|
|
|
Sn = |
|
|
|
|
|
|
|
|
|
|
|
|
sn |
|
|
|
||
|
|
|
|
|
|
|
|
|
|
стремится к стандартному нормальному распределению.
Пример 2. Вернемся к примеру 19 главы 2. Почему оценка на письменном тестировании по математике имеет нормальное распределение?
Оценка X складывается из n оценок X1, X2,…, Xn за каждую задачу. Случайная величина Xk имеет распределение в соответствии с трудностью k-й задачи c конечными математическим ожиданием mk и
дисперсией σ2k . При больших n выполнены все условия теоремы
Линдеберга (на практике n ≥ 12 cчитается достаточно большим), и, следовательно, оценку X можно считать нормально распределенной
случайной величиной со средним значением
n
∑σ2k . ♦
k =1
n
∑mk и диcперсией
k =1
Следствием из центральной предельной теоремы является теорема Муавра-Лапласа.
Теорема Муавра-Лапласа. Если проводится n независимых опытов, в каждом из которых событие А может произойти с вероятностью p и не произойти с вероятностью q = 1 – p, то справедливо соотношение
P α < Y − np < β ≈ Φ(β) − Φ(α) ,
npq
где Y - число наступлений события А в n опытах; Ф(x) - функция распределения стандартного нормального закона; α, β - действительные числа.
Доказательство. Пусть Xi - число наступлений события А в i-м
опыте, i = 1, 2,..., n,
1 |
свероятностью |
p, |
|
MXi = p; DXi = pq . |
||||
Xi = |
свероятностью 1− p; |
|||||||
0 |
|
|||||||
|
n |
|
|
|
|
|
|
|
Обозначим Y = ∑Xi ; |
MY = np ; DY = npq . |
|||||||
|
i=1 |
|
|
|
|
|
|
|
Cогласно замечанию 2 к теореме 1 распределение случайной |
||||||||
величины Y −np |
при |
n → ∞ cтремится к стандартному нормальному |
||||||
npq |
|
|
|
|
|
|
|
|
распределению. Отсюда |
|
|
|
|
|
|
||
|
|
|
Y |
− np |
|
|
|
|
|
|
|
|
|
= Φ(β) −Φ(α) . ♣ |
|||
|
P α < |
|
npq |
< β |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Пример 3. Монету подбрасывают 200 раз. Какова вероятность, что число выпадений герба отличается от 100 не более чем на 5?
Применим теорему Муавра-Лапласа: n = 200 ; p = |
1 |
; np =100 ; |
|||||||||||||
npq = 50. |
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Y |
− np |
|
105 −100 |
|
|
|
P{95 ≤Y ≤105} |
95 −100 |
≤ |
≤ |
|
= |
||||||||||
= P |
|
50 |
|
|
npq |
50 |
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
♦ |
|
5 |
|
|
|
5 |
|
|
1 |
|
|
|
|
|
|
|
− |
|
−1 ≈ 2 |
0,78 −1 = 0,56 . |
||||||||||||
Φ |
|
− Φ |
|
= 2Φ |
|
|
|||||||||
|
50 |
|
|
|
50 |
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|