4. Закон больших чисел

Как известно, нельзя заранее уверенно предвидеть, какое из возможных значений примет случайная величина в итоге испытания, так как исход зависит от многих случайных причин, не подлежащих учету. Однако при неоднократном повторении испытаний могут наблюдаться определенные закономерности. Эти закономерности, свойственные массовым явлениям, и изучает теория вероятностей.

При изучении результатов наблюдений над реальными массовыми явлениями также имеют место некоторые закономерности, при этом они обладают свойством устойчивости. Суть этого свойства состоит в том, что конкретные особенности каждого отдельного случайного явления почти не сказывается на среднем результате большой массы подобных явлений, а характеристики случайных событий и случайных величин, наблюдаемых в испытаниях, при неограниченном увеличении числа испытаний становятся практически не случайными.

Под законом больших чисел в широком смысле понимается общий принцип, согласно которому, при большом числе случайных величин их средний результат перестает быть случайным и может быть предсказан с большой степенью определенности.

Под законом больших чисел в узком смысле понимается ряд математических теорем, в каждой из которых для тех или иных условий устанавливается факт приближения средних характеристик большого числа испытаний к некоторым определенным постоянным.

Замечательно то, что утверждение закона больших чисел без изменений переносится со случая дискретных случайных величин на общий случай.

5.1. Неравенство Маркова (лемма Чебышева)

Теорема. Если случайная величина принимает только неотрицательные значения и имеет конечное математическое ожидание, то для любого положительного числа А верно неравенство:

.

Доказательство.

Пусть х₁, х₂, …, х_n – последовательность значений случайной величины Х. Расположим их в порядке возрастания, из которых часть значений х₁, х₂, …, х_k будет не более числа А (≤ А), а друга часть – будет больше числа А, то есть

Математическое ожидание М(х):

М(х)=х₁ р₁+ х₂ р₂+ …+ х_nр_n.

Отбрасывая первые k неотрицательных слагаемых, получим

х_k+1 р _k+1+ х _k+2 р_k+2+ …+ х_nр_n ≤ М(х).

Заменяя в этом неравенстве значения х_k+1, х _k+2, … , х_n меньшим числом А, получим более сильное неравенство

А(р_k+1+ р_k+2+ …+ р_n) ≤ М(х)

или

р_k+1+ р_k+2+ …+ р_n ≤ .

Сумма вероятностей в левой части полученного неравенства представляет собой вероятность события Х > А. поэтому

.

Так как события Х > А и Х ≤ А – противоположны, то, заменяя выражение Р(Х > А) выражением 1– Р(Х ≤ А), придем к другой форме неравенства Маркова

.

5.2. Неравенство Чебышева

Теорема. Если случайная величина Х имеет конечное математическое ожидание и дисперсию, то для любого положительного числа ε справедливо неравенство:

.

Доказательство.

События |X – M(X)| ≤ ε и |X–M(X)  >  ε – противоположные события, тогда

Р(|X – M(X)| ≤ ε) + Р(|X – M(X)| > ε) = 1.

Тогда

Р(|X – M(X)| ≤ ε) = 1 – Р(|X – M(X)| > ε).

Выражение дисперсии D(х):

D(х) = [х₁ – М(х)]² р₁ + [х₂ – М(х)]² р₂+ …+ [х_n – М(х)]² р_n.

Все слагаемые этой суммы неотрицательны. Отбросим те слагаемые, для которых выполняется неравенство |x_i – M(X)| < ε. В результате сумма уменьшится

[х_k+1 – М(х)]² ·р _k+1+ [х_k+2– М(х)]² р _k+2+ …+ [х_n – М(х)]² р_n ≤ D(х).

Обе части неравенства |x_i – M(X)| > ε положительны. Поэтому, возведя их в квадрат, получим равносильное неравенство |x_i – M(X)|² > ε².

Заменяя в оставшейся сумме каждый из множителей меньшим числом ε², получим более сильное неравенство

ε²(р_k+1+ р_k+2+ …+ р_n) < D(х)

или

р_k+1+ р_k+2+ …+ р_n< .

Сумма вероятностей в левой части полученного неравенства представляет собой вероятность того, что Х примет одно из значений х_k+1, х _k+2, … , х_n, а при них отклонение удовлетворяет неравенству |x_i – M(X)| > ε. Поэтому сумма вероятностей р_k+1 + р_k+2+ …+ р_n выражает вероятность Р(|X – M(X)| > ε). Таким образом,

.

Так как события |X – M(X)| ≤ ε и |X – M(X)| > ε – противоположные, то, заменяя выражение Р(|X – M(X)| > ε) выражением 1 – Р(|X – M(X)| ≤ ε), окончательно получим

.