- •Глава 1 Случайные события
- •1.1. Вводные понятия
- •1.2. Алгебра событий
- •1.4. Схема геометрической вероятности
- •1.5. Условные вероятности. Независимость событий
- •1.6. Правила вычисления вероятностей сложных событий
- •1.8. Обобщения схемы Бернулли
- •Глава 2 Случайные величины
- •2.1. Основные понятия, связанные со случайной величиной
- •2.3. Закон распределения случайной величины дискретного типа
- •2.5. Случайные величины непрерывного типа и их законы распределения
- •2.7. Нормальное распределение
- •Глава 3Случайные векторы
- •3.1. Основные понятия. Свойства функции распределения
- •3.2. Случайные векторы дискретного типа и их законы распределения
- •3.4. Числовые характеристики случайного вектора дискретного типа
- •3.5. Случайные векторы непрерывного типа и их законы распределения
- •Глава 4. Функции от случайных величин
- •4.1. Теоремы о математическом ожидании функций
- •4.3. Характеристическая функция и ее свойства
- •4.4. Законы распределения функций
- •Глава 5 Законы больших чисел и предельные теоремы теории вероятностей
- •5.1. Законы больших чисел
- •5.2. Центральная предельная теорема
- •5.3. Следствия ЦПТ для схемы Бернулли
- •Глава 6. Статистическое оценивание
- •6.1. Первичная обработка выборки
- •6.2. Точечное оценивание неизвестных характеристик генерального
- •6.4. Интервальное оценивание
- •Глава 7.Проверка статистических гипотез
- •7.1. Общие понятия. Методика проверки
- •7.2. Выбор критической области
- •7.4. Проверка гипотез о законе распределения
- •Глава 8.Корреляционный анализ
- •Глава 9Регрессионный анализ
- •Глава 10.Однофакторный дисперсионный анализ
- •Литература
Глава 5 Законы больших чисел и предельные теоремы теории вероятностей
5.1. Законы больших чисел
Ряд утверждений и теорем в теории вероятностей объединены общим названием: законы больших чисел.
Эти законы делятся на две группы. К первой группе относятся утверждения, касающиеся оценок вероятностей больших отклонений случайной величины Х от ее математического ожидания, справедливые для любого распределения. Суть этой группы законов можно выразить краткой формулировкой: большие отклонения от mX маловероятны. Ко второй группе законов относятся утверждения о сходимости некоторых последовательностейслучайныхвеличин(теоремаЧебышева иееобобщения).
Первое неравенство Чебышева.
Пусть Х - случайная величина с конечным mX |
|
||||||||||
P{ |
|
X |
|
≥ ε}≤ |
M [ |
|
X |
|
] |
, ε > 0. |
(5.1) |
|
|
|
|
||||||||
|
|
||||||||||
|
|
|
|
|
|||||||
|
|
ε |
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
||
Пусть для определенности Х - СВНТ. Выберем произвольное ε > 0 и разобьем маршрут интегрирования на два непересекающиеся интервала и воспользуемся свойством аддитивности интеграла:
+∞ |
|
|
M [X ]= ∫ x f X (x)dx = ∫ x f X (x) + ∫ x f X (x), |
||
−∞ |
x <ε |
x ≥ε |
так как подынтегральная функция неотрицательная, получаем |
||||||||||||||||||||
M [ |
|
X |
|
]≥ ∫ |
|
x |
|
f X (x)dx ≥ ε |
|
∫ f X (x)dx = ε P{ |
|
X |
|
≥ ε} (1). |
||||||
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
x |
|
≥ε |
|
x |
|
≥ε |
||||||||
|
|
|
|
|
|
|
|
|||||||||||||
Следствие. Пусть Х ≥ 0 по одному из свойств математического ожидания mX ≥ 0 неравенство (5.1) перепишется в виде
P{X ≥ ε}≤ mεX .
Второе неравенство Чебышева (в центрированной форме).
79
Пусть случайная величина Х имеет конечные mX и σ2X
|
|
|
|
P{{ |
|
X − mX |
|
}≥ ε}≤ |
σ2X . |
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
o |
|
|
|
|
|
|
|
ε2 |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Заменим в (5.1) |
|
X |
на |
|
|
X |
и заметим, что |
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
M |
|
|
o |
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
o |
|
|
|
|
|
|
o |
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
σX |
|
|||
P |
|
X |
|
≥ ε |
= P |
|
X |
|
|
|
≥ ε |
|
|
≤ |
|
|
|
|
|
|
= |
|
. |
|||||||
|
|
|
|
|
|
|
|
ε2 |
|
|
ε2 |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Эти оценки являются грубыми, они носят больше теоретический характер и на практике применяются только при условии, когда ε достаточно большое.
Пример 1. Пусть X - число бракованных изделий из 100 наудачу отобранных из большой партии, поступившей в продажу. За большой период посчитано, что в среднем для этого вида изделий брак составляет 1%. Оценить вероятность события {X ≥ 5 }.
Так как Х > 0 и по условию mX = 0,01 100 = 1, то согласно следст-
вию изпервогонеравенстваЧебышева P{X ≥ 5} ≤ m5X = 15 = 0,2. 
Пример 2. Пусть в условиях примера 1 известно, что σ2X =1 . Оце-
нить P{X ≥ 5}.
Заметим, что в силу условия X > 0, P{X ≥ 5} ≤ P{|X – 1| ≥ 4} ≤
согласновторому |
|
|
σ2 |
1 |
|
||
≤ |
|
≤ |
X = |
|
|
≈ 0,0625 (вероятность заметно |
|
16 |
|||||||
неравенствуЧебышева |
16 |
|
|||||
уменьшилась!). |
|
|
|
|
|
|
|
Пример 3. Предположим, X ~ PU(λ = 1), что хорошо согласуется с |
|||||||
данными задачи (mX = |
σ2X ) и соответствует закону редких явлений. |
||||||
Снова оценим вероятность события {X ≥ 5}. |
|||||||
∞ |
1 |
|
|
|
|
|
|
P{X ≥ 5} = ∑ |
e−1 = 0,00366. Это более чем в 17 раз меньше |
||||||
|
|||||||
k =5 |
k! |
|
|
|
|
||
|
|
|
|
|
|
||
предыдущей оценки! 
Понятие сходимости по вероятности.
80
Определение. Последовательность случайных величин (X1, X2...X n )
сходится к случайной величине Х по вероятности при n→∞ , если
lim P{ X n − X ≥ ε}= 0, ε > 0.
n→∞
Эквивалентная запись:
lim P{ X n − X < ε}=1, ε > 0.
n→∞
Краткая запись:
P{ X n − X ≥ ε} → 0. n→∞
Замечание 1. В частных случаях в качестве предельной величины может выступать и не случайная величина (например, M[X]).
Замечание 2. Принято еще более краткое обозначение:
P
X n n→→∞ X .
Замечание 3. Сходимость по вероятности принципиально отличается отобычногопонятиясходимостинеслучайных последовательностей.
Пример 4. Рассмотрим последовательность случайных величин {Xn}, где закон распределения Хn описывается следующей таблицей:
|
Xn |
|
0 |
|
|
|
n |
|
|
P |
|
1− |
1 |
|
|
1 |
|
|
|
n |
|
n |
||||
|
|
|
|
|
||||
1) Показать, что |
P |
|
|
|
|
|
||
|
|
X n |
|
|
|
|
|
|
|
|
→ 0. |
|
|
|
|||
|
|
|
n→∞ |
|
|
|
||
Так как
X n ≥ 0 X n −0 = X n P{ X n −0 ≥ ε}= P{X n ≥ ε}=
|
1 |
|
P |
|
= P{X n = n} = |
→ |
0 X n → 0. |
||
|
||||
|
n n→∞ |
n→∞ |
||
2) Можно ли утверждать что последовательность реализаций данной случайной последовательности сходится к 0 в обычном смысле?
Пусть эксперимент проведен и реализовалась последовательность x1, x2,…,xn, где каждое xn {0,n} на n-м месте этой последовательности при n N может оказаться число n (поскольку вероятность этого события ненулевая) ни одна из сколь угодно малых окрестно-
81
стей точки x = 0 не может считаться "ловушкой" для последовательности {xn} нельзя считать, что последовательность реализаций сходится к нулю в обычном смысле. 
Пусть {Xn} - последовательность случайных величин с конечными математическими ожиданиями и дисперсиями. Для любого n N
построим последовательность среднеарифметическихYn = 1 ∑n Xk , n k =1
получим последовательность Y1,Y2…Yn.
Определение. Говорят, что к последовательности {Xn} применим закон больших чисел, если
P{Yn − M [Yn ] ≥ ε} → 0. n→∞
Теорема Чебышева (закон больших чисел). Пусть для последова-
тельности {Xn} выполняются следующие условия:
1) при n случайные величины последовательности попарно независимы;
2) |
lim |
|
|
1 |
n |
D[X k ]= 0. |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
n→∞ n2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
k =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Тогда для {Xn} выполняется закон больших чисел. |
|
|
||||||||||||||||||||||
|
СогласновторомунеравенствуЧебышевавцентрированнойформе |
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
P{ |
|
Y − M [Y |
] |
|
≥ ε}≤ |
D[Yn ] |
. |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
n |
n |
|
|
|
|
|
|
ε2 |
|
|
|
|
Вычислим |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
1 |
|
|
|
n |
|
посвойствам |
|
|
1 |
|
n |
|
всилу условия |
|
|||||||
D[Yn ]= D |
|
∑ |
X k |
|
|
D |
X k |
|
||||||||||||||||
|
|
= |
|
|
= |
|
|
= |
|
= |
||||||||||||||
|
|
|
2 |
|||||||||||||||||||||
|
|
n |
|
|
дисперсии |
|
|
|
n |
|
∑ |
|
теоремы 1 |
|
|
|||||||||
|
|
|
|
|
k =1 |
|
|
|
|
|
|
|
|
|
|
k =1 |
|
|
|
|
||||
= |
1 |
|
n |
|
|
D[X k ] →0, |
что следует из условия 2) теоремы. |
|
|
|||||||||||||||
n2 |
|
|
|
|
|
|||||||||||||||||||
|
|
|
∑ |
|
|
n→∞ |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
k =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Используем достаточный признак сходимости по вероятности:
P{ |
|
Yn − M [Yn ] |
|
≥ ε}≤ δn (ε) → 0 lim P{ |
|
Yn − M [Yn ] |
|
≥ ε}= 0. |
|
|
|
|
|||||
|
|
|
|
n→∞ |
|
|
|
|
Замечание 1. Теорема Чебышева остается справедливой, если попарную независимость заменить на попарную некоррелированность.
82
Замечание 2. Условие некоррелированности также можно снять, но тогда придется вводить более жесткие условия для дисперсии (см. теорему Маркова в [2]).
Замечание 3. Имеют место следующие частные случаи проявления закона больших чисел:
1) D[X k ]≤ σ2 , k N, т.е. дисперсии членов последовательности
равномерно ограничены условие 2) выполняется;
2) все Xk попарно независимы, одинаково распределены и имеют конечную дисперсию закон больших чисел формулируется так:
P
Yn n→→∞mX .
Действительно,
|
|
|
|
|
|
|
|
k |
|
|
1 |
|
n |
|
|
|
n mX |
|
|
P |
|
|
||
M |
[Y |
]= |
M |
1 |
|
|
∑ |
X |
= |
|
∑ |
M [X |
k |
]= |
= m |
X |
Y → m |
X |
. |
|||||
|
n |
|
||||||||||||||||||||||
|
|
n |
|
n |
|
|
k |
|
|
|
n |
n n→∞ |
|
|||||||||||
|
|
|
|
|
|
|
|
n=1 |
|
|
|
|
k =1 |
|
|
|
|
|
|
|
|
|
||
|
Пусть Xn - число успехов в n опытах по схеме Бернулли с вероят- |
|||||||||||||||||||||||
ностью |
успеха |
|
в одном |
опыте, равным p (Xn ~ |
B(n,p)). Обозначим |
|||||||||||||||||||
Y = |
|
1 |
X |
n |
= p* |
|
- относительная частота успехов. |
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
||||||||||||||||||
n |
|
n |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Теорема Бернулли. При увеличении числа опытов по схеме Бернулли относительная частота успехов сходится по вероятности к вероятности успеха в одном опыте.
Обозначим Ik индикатор успеха в k-м опыте. Очевидно, что Ik ~ B(1,p), k N. При любом n I1,I2,…,In независимы в совокупности, а потому независимы и попарно. Условие 1) теоремы Чебышева выполня-
ется. Кроме того, M[Ik] = p, D[Ik] = p q, pn* = Yn = 1n ∑n Ik выполняется
k =1
частныйслучай теоремыЧебышева 1n ∑n Ik →n→∞ M [Ik ]= p. 
142k =143 pn*
Теорема Бернулли играет большую роль в математической статистике, составляя основу для оценивания неизвестной вероятности событий в реальных экспериментах.
83
