25. Закон больших чисел. Частота и вероятность - статистическое определение вероятности. Неравенство Чебышева. Теорема Чебышева. Теорема Бернулли.

Статистическое определение вероятности. Положительная сторона статистического определения вероятности — применима всегда (не требуется равновероятность), недостаток — сложность применения.

Для того чтобы найти вероятность статистическим способом необоходимо повторить эксперимент как можно большее количество раз. Обозначим кол-во проведенных экспериментов буквой l, и пусть в этих экспериментах событие А произошло k раз. Число k будем называть частотой события А в l экспериментах, отношение будем называть относительной частотой события А в l экспериментах и обозначим эту величину .

Математически вероятность события A можно представить как . Это означает, что чем больше l, тем ближе относительная частота к истинному значению. Доказано, что если хотим увеличть точность в n раз, то кол-во экспериментов необоходимо увеличит в n² раз.

Неравенство Чебышева. Вероятность того, что отклонение случайной величины Х от ее математического ожидания по абсолютной величине меньше положительного числа ε, не меньше, чем :

.

Доказательство. Так как события, состоящие в осуществлении неравенств и , противоположны, то сумма их вероятностей равна 1, т.е.

.Отсюда интересующая нас вероятность (*).Таким образом задача сводится к вычислению вероятности .

Напишем выражение дисперсии случайной величины Х:

.

Очевидно, что слагаемые этой суммы неотрицательны.

Отбросим те слагаемые, у которых (для оставшихся слагаемых ), вследствие чего сумма может только уменьшаться. Условимся для определенности считать, что отображено только k первых слагаемых (не нарушая общности, можно считать, что в таблице распределения возможные значения занумерованы именно в таком порядке), таким образом: .Заметим, что обе части неравенства (j = k+1, k+2,..., n) положительны, поэтому, возведя их в квадрат, получим равносильное неравенство . Воспользуемся этим замечанием и, заменяя в оставшейся сумме каждый из множителей числом (при этом неравенство может лишь усилиться ), получим

(**).

По теореме сложения, сумма вероятностей есть вероятность того, что Х примет одно, безразлично какое, из значений , а при любом зи них отклонение удовлетворяет неравенству . Отсюда следует, что сумма выражает вероятность

Это соображение позволяет переписать неравенство (**) так:

или (***).

Подставляя (***) в (*), окончательно получим

,

что и требовалось доказать.

Теорема Чебышева. Если — попарно независимые случайные величины, причем дисперсии их равномерно ограничены (не превышают постоянно числа С), то, как бы мало ни было положительное число ε, вероятность неравенства

будет как угодно близка к единице, если число случайных величин достаточно велико.

Доказательство. Введем в рассмотрение новую случаную величину — среднее арифметическое случайных величин

Найдем математическое ожидание . Пользуясь формулами математического ожидания (постоянный множитель можно вынести за знак математического ожидания, математическое ожидание суммы равно сумме математических ожиданий слагаемых), получим

(*).

Применяя к величине неравенство Чебышева, имеем

или, учитывая соотношение (*),

(**)

Пользуясь свойствами дисперсии (постоянный множитель можно вынести за знак дисперсии, возведя его в квадрат; дисперсия суммы независимых случайных величин равна сумме дисперсий слагаемых), получим

.

По условию дисперсии всех случайных величин ограничены постоянным числом С, т.е. имеют место неравенства: , поэтому

.

Итак,

(***).

Подставляя правую часть (***) в неравенство (**), отчего последнее может быть лишь усилено, имеем

.

Отсюда, переходя к пределу при , получим

.

Наконец, учитывая, что вероятность не может превышать единицу, окончательно можем написать

.

Теорема доказана.

Теорема Бернулли. Если в каждом из n испытаний вероятность p появления события А постоянна, то как угодно близка к единице вероятность того, что отклонение относительной частоты от вероятности р по абсолютной величине будет сколь угодно малым, если число испытаний достаточно велико.

Другими словами, если — сколь угодно малое положительное число, то при соблюдении условий теоремы имеет место равенство

.

Доказательство. Обозначим через X₁ дискретную случайную величину — число появлений события в первом испытании, через X₂ — во втором, X_n — в n-м испытании. Ясно, что каждая из велчин может принять лишь два значения: 1 (событие А наступило) с вероятностью р и 0 (событие не появилось) с вероятностью .

К рассматриваемым величинам можно применить теорему Чебышева, если случайные величины попарно независимы и дисперсии их ограничены. Оба условия выполняются. Действительно, попарная независимость величин следует из того, что испытания независимы. Дисперсия величины равна произведению pq; так как , то произведение pq не привышает ¼ и, следовательно, дисперсии всех величин ограничены, например, числом .

Применяя теорему Чебышева (частный случай) к рассматриваемым величинам, имеем

.

Приняв во внимание, что математическое ожидание а каждой из величин (т.е. математическое ожидание числа появлений события в одном испытании) равно вероятности р наступления события, получим

.

Остается показать, что дробь равна относительной частоте появления события А в испытаниях. Действительно, каждая из величин при появлении события в соответствующем испытании принимает значение, равное единице; следовательно, сумма равна числу m появлений события n в испытаниях, а значит, . Учитывая это равенство, окончательно получим

.