§ 5. Закон больших чисел Центральная предельная теорема

Закон больших чисел – общий принцип, в силу которого совместное действие случайных факторов приводит при некоторых общих условиях к результату, почти не зависящему от случая. Единичные явления в большей степени подвержены воздействию случайных и несущественных факторов, чем их масса в целом. При большом числе наблюдений случайные отклонения погашаются. Под законом больших чисел понимается ряд математических теорем, в которых устанавливаются факты приближения средних характеристик большого числа опытов к некоторым определенным постоянным.

Теорема Чебышева. Если Х₁, Х₂,…, Х_п –независимые случайные величины, дисперсии которых равномерно ограничены (D(X_i) ≤ C), то для сколь угодно малого числа ε вероятность неравенства

будет сколь угодно близка к 1, если число случайных величин достаточно велико.

Вывод: среднее арифметическое достаточно большого числа случайных величин принимает значения, близкие к сумме их математических ожиданий, то есть утрачивает характер случайной величины. Например, если проводится серия измерений какой-либо физической величины, причем:

а) результат каждого измерения не зависит от результатов остальных, то есть все результаты представляют собой попарно независимые случайные величины;

б) измерения производятся без систематических ошибок (их математические ожидания равны между собой и равны истинному значению а измеряемой величины);

в) обеспечена определенная точность измерений, следовательно, дисперсии рассматриваемых случайных величин равномерно ограничены;

то при достаточно большом числе измерений их среднее арифметическое окажется сколь угодно близким к истинному значению измеряемой величины.

Теорема Чебышева дает одну из наиболее возможных форм закона больших чисел. Она устанавливает связь между средним арифметическим и ее математическим ожиданием наблюдаемых значений случайной величины. Доказательство этой теоремы основывается на неравенстве Чебышева:

P( | X – M(X)| ≤ ε ) > 1-D(X)/ε².

Пример. Для определения среднего дохода налогоплательщиков города налоговой инспекцией была проведена проверка 250 жителей этого города, отобранных случайным образом. Оценить вероятность того, что средний годовой доход жителей города отклонится от среднего арифметического годовых доходов выбранных 250 жителей не более чем на 1000 руб., если известно, что среднее квадратичное отклонение годового дохода не превышает 2500 руб.

Решение. Согласно неравенству Чебышева, которым можно пользоваться, поскольку все , получаем

.

Теорема Бернулли. Если в каждом из п независимых опытов вероятность р появления события А постоянна, то при достаточно большом числе испытаний вероятность того, что модуль отклонения относительной частоты появлений А в п опытах от р будет сколь угодно малым, как угодно близка к 1:

.

Замечание. Из теоремы Бернулли не следует, что . Речь идет лишь о вероятности того, что разность относительной частоты и вероятности по модулю может стать сколь угодно малой. Разница заключается в следующем: при обычной сходимости, рассматриваемой в математическом анализе, для всех п, начиная с некоторого значения, неравенство выполняется всегда; в нашем случае могут найтись такие значения п, при которых это неравенство неверно. Этот вид сходимости называют сходимостью по вероятности.

Рассмотрим справедливость этого утверждения на историческом примере. При бросании монеты и «герб», и «решка» имеют одинаковые шансы оказаться сверху, таким образом, вероятность выпадения «герба» равна ½ из соображений равновозможности. Французский естествоиспытатель XVIII века Бюффон бросил монету 4040 раз, «герб» выпал при этом 2048 раз. Частота появления «герба» в опыте Бюффона равна 0,507. Английский статистик К.Пирсон бросил монету 12000 раз и при этом наблюдал 6019 выпадений «герба» – частота 0,5016. В другой раз он бросил монету 24000 раз, «герб» выпал 12012 раз – частота 0,5005. Как видим, во всех этих случаях частоты лишь незначительно отличаются от теоретической вероятности 0,5.

Теорема Бернулли дает возможность связать математическое определение вероятности (по А.Н.Колмогорову) с определением ряда естествоиспытателей, согласно которому вероятность есть предел частоты в бесконечной последовательности испытаний.

Вопрос исследования вида предельного закона распределения суммы случайных величин рассмотрен в группе теорем, которые носят название центральной предельной теоремы (ЦПТ). Эти теоремы утверждают, что закон распределения суммы случайных величин, каждая из которых может иметь различные распределения, приближается к нормальному при достаточно большом числе слагаемых. Этим объясняется важность нормального закона для практических приложений.

Рассмотрим одну из наиболее общих форм центральной предельной теоремы:

Центральная предельная теорема. Пусть имеется взвешенная сумма независимых случайных непрерывных величин x₁, x₂, x₃, …., x_n с произвольными законами распределения:

,

где постоянные, фиксированные числа. Каждая i-ая случайная величина имеет и (i=1,2,3,…,n-1,n) => ,

.

Тогда при достаточно общих условиях распределения суммарной Y_n при стремится к нормальному распределению .

Центральной предельной теоремой пользуются для приближённого вычисления вероятностей, связанных с суммами большого числа независимых и одинаково распределённых величин. Опыт показывает, что для суммы даже десяти и менее слагаемых закон их распределения можно заменить нормальным.

Частным случаем центральной предельной теоремы для дискретных случайных величин является теорема Муавра-Лапласа.