1.7. Закон больших чисел. Теорема Ляпунова

В науке, технике, экономике и других областях деятельности человечество давно пользуется следующим принципом: если в некоторых условиях вероятность события очень мала, то при однократном испытании можно быть уверенным, что это событие не произойдет, и в практической деятельности поступать так, как будто оно является невозможным. При этом событие А, вероятность которого мала, считается невозможным, а событие , вероятность которого близка к единице, – достоверным.

Однако всегда возникает вопрос: а что такое малая вероятность? Или что такое вероятность, близкая к единице?

В теории вероятностей и в статистике имеется термин: уровень значимости. Уровнем значимости и называют вероятность, которой пренебрегают в данном исследовании. Например, в статистике обычно рекомендуется пользоваться уровнем значимости 0,05 при предварительных исследованиях и 0,001 при окончательных выводах. При этом достоверными считаются события, вероятность наступления которых не ниже 0,95 и 0,999 соответственно.

Таким образом, в практических исследованиях очень важно знать, в каких условиях можно гарантировать, что вероятность события окажется или очень малой или очень близкой к единице.

Под законом больших чисел в теории вероятностей понимается ряд условий, в которых оказывается возможным оценить очень малые (или очень близкие к единице) вероятности. Чаще всего речь идет об отклонении случайной величины Х от своего математического ожидания М(Х) и для этого требуется, чтобы число испытаний n.

Исторически первой формулировкой закона больших чисел можно считать теорему Бернулли. Методологически же ее гораздо проще доказать, опираясь на теорему Чебышева, которая в свою очередь опирается на неравенство Чебышева. Именно в таком порядке мы и рассмотрим эти вопросы.

1.7.1. Неравенство Чебышева

Это неравенство, вообще говоря, справедливо как для дискретных, так и для непрерывных случайных величин. Для простоты сформулируем и докажем его для дискретных величин.

Пусть закон распределения случайной величины Х задан таблицей:

Х	х1	х2	…	хn
Р	р1	р2	…	рn

Поставим задачу: как найти вероятность того, что отклонение случайной величины Х от ее математического ожидания М(Х) не превысит по модулю некоторого >0?

Неравенство Чебышева. Вероятность того, что отклонение случайной величины Х от ее математического ожидания по абсолютной величине меньше положительного числа , не меньше, чем :

Р(|х–M(X)|<) . (1.7.1)

Доказательство. Рассмотрим два события: |х–M(X)|<; |х–M(X)|. Это события противоположные, поэтому

Р(|х–M(X)|<)=1–Р(|х–M(X)|). (*)

Теперь задача сводится к оценке вероятности Р(|х–M(X)|). Запишем выражение для D(X):

D(X)=[x₁–M(X)]²p₁+[x₂–M(X)]²p₂+…+[x_n–M(X)]²p_n.

Все слагаемые в правой части неотрицательные. Отбросим те из них, для которых

|х_i–M(X)|<, тогда для всех оставшихся |х_j–M(X)|. При таком отбрасывании сумма только уменьшится. Будем считать, что отброшены k первых слагаемых (именно так их можно пронумеровать). Тогда

D(X)[x_k+1–M(X)]²p_k+1+[x_k+2–M(X)]²p_k+2+…+[x_n–M(X)]²p_n. (**)

Заметим, что

|х_j–M(X)| |х_j–M(X)|²².

Заменим в правой части (**) каждую из скобок [х_j–M(X)]² на ², при этом неравенство только усилится.

D(X)²(р_k+1+p_k+2+…+p_n).

Но что такое р_k+1+p_k+2+…+p_n? Это вероятность того, что Х примет одно из значений х_k+1, х_k+2, …, х_n. Это и есть вероятность неравенства |x–M(X)|.

Поэтому

D(X)²P(|x–M(X)|), или

P(|x–M(X)|) . (***)

Подставим (***) в (*), получим

P(|x–M(X)|<)1– ,

что и требовалось доказать.

Замечание. Неравенство Чебышева для практики имеет ограниченное значение, т.к. иногда дает слишком грубую оценку вероятности (реальная вероятность оказывается выше той, которая дается неравенством Чебышева). Но оно имеет несомненную теоретическую ценность, и это мы в дальнейшем увидим.