8.6. Теорема Бернулли

Пусть производится n независимых испытаний, в каждом из которых вероятность появления события А равна р. Можно ли предвидеть, какова примерно будет относительная частота появлений события? Положительный ответ на этот вопрос дает теорема, доказанная Якобом Бернулли (опубликована в 1713 г.), которая получила название «закона больших чисел» и положила начало теории вероятностей как науке. Доказательство Бернулли было сложным; простое доказательство дано П.Л. Чебышевым в 1846 г.

Теорема Бернулли. Если в каждом из n независимых испытаний вероятность р появления события А постоянна, то как угодно близка к единице вероятность того, что отклонение относительной частоты от вероятности р по абсолютной величине будет сколь угодно малым, если число испытаний достаточно велико.

Другими словами, если  – сколь угодно малое положительное число, то при соблюдении условий теоремы имеет место равенство

.

Доказательство. Обозначим через Х₁ дискретную случайную величину – число появлений события в первом испытании, через Х₂ – во втором, ..., Х_n – в n-м испытании. Ясно, что каждая из величин может принять лишь два значения: 1 (событие А наступило) с вероятностью р и 0 (событие не появилось) с вероятностью 1 – p = q.

Можно ли применить к рассматриваемым величинам теорему Чебышева? Можно, если случайные величины попарно независимы и дисперсии их ограничены. Оба условия выполняются Действительно, попарная независимость величин X₁, Х₂, .., Х_n следует из того, что испытания независимы. Дисперсия любой величины X_i (i = 1, 2, ..., n) равна произведению pq; так как p + q = 1, то произведение pq не превышает 1/4 и, следовательно, дисперсии всех величин ограничены, например, числом С =1/4. (Известно, что произведение двух сомножителей, сумма которых есть величина постоянная, имеет наибольшее значение при равенстве сомножителей. Здесь сумма р_i + q_i = 1, т.е. постоянна, поэтому при p_i = q_i = 1/2 произведение p_i q_i имеет наибольшее значение и равно 1/4).

Применяя теорему Чебышева (частный случай) к рассматриваемым величинам, имеем

.

Приняв во внимание, что математическое ожидание а каждой из величин X_i (т.е. математическое ожидание числа появлений события в одном испытании) равно вероятности р наступления события, получим

.

Остается показать, что дробь (Х₁ + Х₂+ ... + Х_n)/n равна относительной частоте m/n появлений события А в испытаниях. Действительно, каждая из величин Х₁, Х₂, ... + Х_n при появлении события в соответствующем испытании принимает значение, равное единице; следовательно, сумма Х₁ + Х₂+ ... + Х_n равна числу m появлений события в n испытаниях, а значит,

.

Учитывая это равенство, окончательно получим

.

Замечание. Было бы неправильным на основании теоремы Бернулли сделать вывод, что с ростом числа испытаний относительная частота неуклонно стремится к вероятности р; другими словами, из теоремы Бернулли не вытекает равенство . В теореме речь идет лишь овероятности того, что при достаточно большом числе испытаний относительная частота будет как угодно мало отличаться от постоянной вероятности появления события в каждом испытании.

Таким образом, сходимость относительной частоты m/n к вероятности р отличается от сходимости в смысле обычного анализа. Для того чтобы подчеркнуть это различие, вводят понятие «сходимости по вероятности». (Последовательность случайных величин Х₁, Х₂, ... сходится по вероятности к случайной величине X, если для любого  > 0 вероятность неравенства |Х_n – Х| <  при n  стремится к единице) Точнее, различие между указанными видами сходимости состоит в следующем: если m/n стремится при n  к р как пределу в смысле обычного анализа, то начиная с некоторого n = N и для всех последующих значений n неуклонно выполняется неравенство |m/n – р| < ; если же m/n стремится по вероятности к р при n , то для отдельных значений n неравенство может не выполняться.

Итак, теорема Бернулли утверждает, что при n  относительная частота стремится по вероятности к р. Коротко теорему Бернулли записывают так:

.

Как видно, теорема Бернулли объясняет, почему относительная частота при достаточно большом числе испытаний обладает свойством устойчивости и оправдывает статистическое определение вероятности.