Глава 3. Закон больших чисел

3.1. Первое неравенство Чебышева

Теорема. Если случайная величина имеет математическое ожиданиеи принимает только неотрицательные значения, то

. (25)

Доказательство. Рассмотрим случай, когда — непрерывная случайная величина с плотностью. Тогда, поскольку привыполняется неравенство:

(добавляем неотрицательное слагаемое — интеграл по отрезку от неотрицательной функции)

(добавляем нулевое слагаемое — интеграл по промежутку , на которомв силу условия на)

. ▄

3.2. Второе неравенство Чебышева

Теорема. Если случайная величина имеет математическое ожиданиеи дисперсию, то для всякоговыполняется неравенство

. (26)

Замечание. В левой части неравенства (26) стоит вероятность того, что реализованное значение случайной величины отклонится от математического ожидания меньше чем на.

Доказательство. Имеет место равносильность неравенств:

.

Поэтому . Поскольку событияипротивоположны, то

.

Применим первое неравенство Чебышева к неотрицательной случайной величине :

(последнее равенство – в силу определения дисперсии как математического ожидания квадрата отклонения). Теперь

. ▄

3.3. Сходимость по вероятности

Определение. Число называетсяпределом по вероятности последовательности случайных величин , если для любого:

. (27)

Говорят также, что сходится по вероятности к числу .

Обозначение: .

Замечания. 1. Равенство (27) означает, что с увеличением номера вероятность событиянеограниченно приближается к единице, и, значит, событие становится все более достоверным, происходит все чаще.

2. Ввиду равносильности неравенств

,

имеет место равносильность двух условий сходимости по вероятности:

.

3.4. Общий закон больших чисел в форме Чебышева.

Термином «закон больших чисел» объединяют круг теорем, утверждающих, что с вероятностью близкой к единице произойдет некоторое случайное событие , зависящее от неограниченно увеличивающегося числа других случайных событий, каждое из которых оказывает лишь незначительное влияние на.

Теорема. Пусть последовательность случайных величин удовлетворяет трем условиям:

1. Случайные величины независимы (см. п. 3.6).

2.Они имеют математические ожидания и дисперсии.

3. Дисперсии ограничены в совокупности, то есть при всех :

.

Тогда

(28)

Замечание. Левая часть формулы (28) есть разность между средним арифметическим первых случайных величин и средним арифметическим их математических ожиданий. Таким образом, теорема означает, что с увеличением числа слагаемыхсреднее арифметическое реализованных значений практически всегда оказывается близким к среднему арифметическому математических ожиданий.

Доказательство. Положим . По свойствам математического ожидания:

.

Поэтому равенство (28), которое нужно доказать, принимает вид:

.

Зададим произвольное . Применим квторое неравенство Чебышева:

. (*)

По свойствам дисперсии:

(пользуемся условием )

. Тогда по принципу сжатой переменной, примененному к последовательности , получаем:

.

Теперь, применяя тот же принцип сжатой переменной к последовательности , получаем из двойного неравенства (*), что

. ▄