2003_-_Gmurman__TV_i_MS

r лава девятая

ЗАКОН БОЛЬШИХ ЧИСЕЛ

§ 1. Предварительные замечания

Как уже известно, нельзя заранее уверенно пред­

видеть, какое из возможных значений примет случайная

величина в итоге испытания; это зависит от многих слу­

чайных причин, учесть которые невозможно. Казалось бы, поскольку о каждой случайной величине мы распо­

лагаем в этом смысле весьма скромными сведениями, то

вряд ЛИ можно установить закономерности поведения

и суммы достаточно большого числа случайных величин.

На самом деле это не так. Оказывается, что при некото­

рых сравнительно широких условиях суммарное поведе­

ние достаточно большого числа случайных величин почти

u u

утрачивает случаиныи характер и становится законо-

мерным.

Для практики очень важно знание условий, при вы­

полнении которых совокупное действие очень многих слу­ чайных причин приводит к результату, почти не завися­

щему от случая, так как позволяет предвидеть ход явле­

ний. Эrи условия и указываются в теоремах, носящих

общее название закона больших чисел. К ним относятся

теоремы Чебышева и Бернулли (имеются и другие теоремы,

которые здесь не рассматриваются). Теорема Чебышева

является наиболее общим законом больших чисел, теорема

Бернулли-простеЙшим. Для доказательства этих теорем

мы воспользуемся неравенством Чебышева.

§ 2. Неравенство Чебышева

Неравенство Чебышева справедливо для дискрет­

ных и непрерывных случайных величин. Для простоты

ограничимся доказательством этого неравенства для диск­ ретных величин.

Рассмотрим дискретную случайную величину Х, задан­ ную таблицей распределения;

Х Х1 Х2 ••• ХN

РРl Р2 ... Рn

Поставим перед собой задачу оценить вероятность того,

что отклонение случайной величины от ее математического

101

ожидания не превышает по абсолютной величине поло­ жительного числа е. Если 8 достаточно мало, то мы оце­ ним, таким образом, вероятность того, что Х примет

значения, достаточно близкие к своему математическому

ожиданию. П. Л. Чебышев доказал неравенство, позволяю­

щее дать интересующую нас оценку.

Н е ра вене тво Ч ебы те ва. Вероятность того, что отклонение случайной величины Х от ее математического

ожидания по абсолютной величине меньше положитель­

ного числа 8, не .меньше, чем l-D (Х)/82 :

Р(/ Х-М (Х) 1<: B)~ l-D (Х)/В2•

До К а з а т е л ь с т в о. Так как события, состоящие в

осуществлении неравенств IX-M (Х)I < 8 ИIХ-М (XH~e,

u

противоположны, то сумма их вероятностеи равна еди-

нице, т. е.

р <1 Х-М (Х)\ < 8)+ P(IX-M (X)I~ 8)= 1.

Отсюда интересующая нас вероятность

P(IX-M(X)! < 8)= 1-Р(IХ-М(Х)I~е). (*)

Таким образом, задача сводится к вычислению вероят­

ности Р (1 Х-М(Х) I~ 8).

Напишем выражение дисперсии случайной величины Х:

D (Х) =[x1-M (Х)]2 Pl + [х.-М (Х)]2 Р.+ ...

•.. +[хn-м (Х)]2рn,

Очевидно, все слагаемые этой суммы неотрицательны.

Отбросим те слагаемые, у которых 1Xj - M (Х) 1< 8

(для оставшихся слагаемых IxJ-М (Х) I~ В), вследствие

чего сумма может только уменьшиться. Условимся счи­ тать для определенности, что отброшено k первых сла­

гаемых (не нарушая общности, можно считать, что в таб­

лице распределения возможные значения занумерованы

именно в таком порядке). Таким образом,

D (Х) ~ [XHl-М (X)]j! РНl + [ХН2-М (Х)]2 РН2 + ...

- м (Х) 12 ~ 82. Воспользуемся этим замечанием и, заменяя

в оставшейся сумме каждый из множителей 1xj-M (Х) 12 числом 82 (прн этом неравенство может лишь усилиться),

102

получим

По теореме сложения, сумма вероятностей Pk+l+Pk+2+ . ••

.. .+ Рn есть вероятность того, что Х примет одно, без­

различно какое, из значений Xk +1' Xk+2' ••• , Хn' а при

любом из них отклонение удовлетворяет неравенству

Ixj-M (Х) l~ е. Отсюда следует, что сумма Pk+l+PkHT •• ,

... +Рn выражает вероятность

P(\X-М(Х)I~е).

Это соображение позволяет переписать неравенство (**)

так:

D (Х) ~ 1'02 Р (1 Х -М (Х) I~ е),

или

Р (lХ-М (Х) l~ е) ~ D (Х)/е2 •

Подставляя (***) в (*), окончательно получим

Р (1 Х-М (Х) 1< е) ~ l-D (Х)/е2,

что и требовалось доказ~ть.

3 а м е ч а н и е. Неравенство Чебышева имеет для практики огра­

ниченное значение, поскольку часто дает грубую, а иногда и три­ виальную (не представляющую интереса) оценку. Например, если

D (Х) >- е2 1I, следовательно, D (Х)(е2 > 1, то I-D (Х)(е2 < О;

таким образом, в этом сдучае неравенство Чебышtва указывает лишь

на то, что вероятность отклонения неотрицательна, а это и без того очевидно, так как любая вероятность выражается неотрицательным

числом.

Теоретическое же значение неравенства Чебышева весьма велико.

Ниже мы воспользуемся этим неравеНС1 вом для вывода теоремы

Чебышева.

§ 3. Теорема Чебышева

Теорема Чебышева. Если Хl' Х2• •••• хn• •••

попарно независимые случайные величиНbl, причем диспер­ сии их равномерно ограничены (не nреВblшают постоян­ ного числа С), то, как бы мало ни БЬtЛО положительное

число е, вероятность неравенства

IХ1 +X2~." +Хn _ м (Х1)+М (X2~ + ... +М (Хn) 1< 8

будет как угодно близка к единице, если число случайных

величин достаточно велико.

lO3

в квадрат; дисперсия суммы независимых случайных ве­ личин равна сумме дисперсий С.lагаемых), получим

По условию дисперсии всех случайных величин огра­ ничены постоянным числом С, т. е. имеют место нера­

венства: D (Xl)~C~ D(X2)~C; ... ; D(Xn)~C, позтому

(D(X 1 )+D(X2)+ ... +D(Xn))/n2~(C+C+ ... +C)/n~= = nС/n2 = С/n.

Итак,

Подставляя правую часть (***) внеравенство

(отчего последнее может быть лишь усилено), имеем

Р( IXl+XZ~"'+Xn_

Наконец, учитывая, что вероятность не может пре­

вышать единицу, окончате.'lЬНО можем написать

Нm Р (!Х1 +Х2 + ... +Хn _

n _ Q) n

_ М {X1)+M (X2~ -1- ... +М (Хn) \ < е) = 1.

Теорема доказана.

Выше, формулируя теорему Чебышева, мы предпола­

гали, что СJlучайные величины имеют различные матема­

Тические ожидания. На практике часто бывает, что сл)­

чайные величины имеют одно н то же математическое

ожидание. Очевидно, что если вновь допустить, что диспер­

сии этих величин ограничены, то к НШl будет примени:ма

теорема Чебышева.

Обозначим математическое ожидание каждой из сл у­

чайных величин через а; в рассматриваемом случае сред-

105

нее арифметическое математических ожиданий, как легко

видеть, также равно а. Мы можем сформулировать тео­

рему Ч~бышева для рассматриваемого частного случая.

ожидание а, и если дисперсии этих величин равном,ерно

ограничены, то, как бы мало ни было число 8> О, ве­

роятность неравенства

IXl+X2~"'+Xn_al<g

будет как угодно близка к единице, если число случай­

ных величин достаточно велико.

Другими словами, в условиях теоремы будет иметь

место равенство

l~m(J) р (\X1+X2~'''+Xn_al<e )=1.

§ 4. СУЩНОСТЬ теоремы Чебышева

Сущность доказанной теоремы такова: хотя от-

u

дельные независимые случаиные величины могут прини-

мать значения, далекие от своих математических ожиданииu,

среднее арифметическое достаточно большого числа сл учай­

ных величин с большой вероятностью принимает значе­

ния, близкие к определенному постоянному числу, а именно

к числу (М (X 1 ) + м (Х2) + ... + м (Хn))!n (или К числу а

в частном случае). Иными словами, отдельные случайные

величины могут иметь значительный разброс, а их среднее арифметическое рассеянно мало.

Таким образом, нельзя уверенно предсказать, какое

возможное значение примет каждая из случайных вели­

чин, но можно предвидеть, какое значение примет их

среднее арифметическое.

Итак, среднее арифметическое достаточно большого

числа независим,ых случайных величин (дисперсии которых равномерно ограничены) утрачивает характер случайной

величины. Объясняется это тем, что отклонения каждой

u

из величин от своих математических ожидании могут

быть как положительными, так и отрицательными, а в

среднем арифметическом они взаимно погашаются.

Теорема Чебышева справедлива не только для дискрет­

ных, но и для непрерывных случайных величин; она

106

является ярким примером, подтверждающим справедли­

вость учения диалектического материализма о связи между

случайностью и необходимостью.

§ 5. Значение теоремы Чебышева для практики

Приведем примеры применеиия теоремы Чебышева

крешению практических задач.

Обычно для измерения некоторой физической величины производят несколько измерений и их среднее арифме­ тическое прииимают в качестве искомого размера. При каких условиях этот способ измерения можно считать

правильным? Ответ на этот вопрос дает теорема Чебы­

шева (ее частный случай).

Действительно, рассмотрим результаты каждого из­

тематическое ожидание, 3) дисперсии их равномерно огра­

ничены.

Первое требование выполняется, если результат каж­

дого измерения не зависит от результатов остальных.

Второе требование выполняется, если измерения произ­ ведены без систематических (одного знака) ошибок. В этом случае математические ожидания всех случайных величин

одинаковы и равны истинному размеру а. Третье требо­

вание выполняется, если прибор обеспечивает определен­

ную точность измерений. Хотя при этом результаты

отдельных измерений различны, но рассеяние их огра­

иичено.

Если все указанные требования выполнены, мы вправе

применить к результатам измерений теорему Чебышева:

при достаточно большом n вероятность неравенства

\(Х1 +Х2 + ... +Xn)/n-al < е

как угодно близка к единице. Другими словами, при достаточно большом числе измерений почти достоверно,

что их среднее арифметическое как угодно мало отли­

чается от истинного значения измеряемой величины. Итак, теорема Чебышева указывает условия, при ко­

торых описанный способ измерения может быть приме­ нен. Однако ошибочно думать, что, увеличивая число

измерений, можно достичь сколь угодно большой точ­

Ности. Дело в том, что сам прибор дает показания лишь

101

с точностью ± а; поэтому каждый из результатов изме­ рений, а следовательно, и их среднее арифметическое

будут получены лишь с точностью, не превышающей

судят о всей совокупности (генеральной совокупности)

исследуемых объектов. Например, о качестве кипы хлопка

заключают по небольшому пучку, состоящему из волокон,

наудачу отобранных из разных мест кипы. Хотя число

волокон в пучке значительно меньше, чем в кипе, сам

пучок содержит достаточно большое количество волокон,

исчисляемое сотнями.

В качестве другого примера можно указать на опре­

деление качества зерна по небольшой его пробе. И в этом случае число наудачу отобранных зерен мало сравни­

тельно со всей массой зерна, но само по себе оно доста­

точно велико.

Уже из приведенных примеров можно заключить, что для практики теорема Чебышева имеет неоценимое зна­

чение.

§ 6. Теорема БернуJIJIИ

Пусть производится n независимых испытаниА.

в каждом из которых вероятность появления события А равна р. Можно ли предвидеть, какова примерно будет

относительная частота появлений события? Положитель­ ный ответ на этот вопрос дает теорема, доказанная я.ко­

бом Бернулли (опубликована в 1713 г.), которая полу­

чила название «закона больших чисел» и положила начало

теории вероятностей как науке. Доказательство Бернулли

было сложным; простое доказательство дано П. Л. Чебы­

шевым в 1846 г.

Теорема Бернулли. Если в каждом из n независимых

испытаний вероятность р появления события А постоянна, то как угодно близка к единице вероятность того, что

отклонение относительной частоты от вероятности р

по абсолютной величине будет сколь угодно малым, если

число испытаний достаточно велико.

Другими словами, если е-сколь угодно малое поло­ жительное число, то при соблюдении условий теоремы

108

имеет ыесто равенство

lim Р ( Im/1l-Р I < е) = 1.

n _;:.с:

д о к а з а т е л ь с т в о. Обозначим через X 1 дискретную

случайную величину -- число появлений события в первом

кспытании, через Х 2-ВО втором, ... , Хn-В n-м испы­

тании. Ясно, что I\аждая из величин может принять

лишь два значения: 1 (событие А наступило) с вероят­

ностью р и О (событие не появилось) с вероятностью l-р = q.

Можно ли ПРИ:\lенить к рассматриваемым величинам

теорему Чебышева? Можно, если случайные величины по­ парно независимы и дисперсии их ограничены. Оба усло­

дение pq не превышает **) 1/4 и, следовательно, дисперсии

Приняв во вниманне, что математическое ожидание а каждой И3 величин Хl (т. е. математическое ожидание числа появлений события в одном испытании) равно ве­

Iiш P(I(X 1 '-Х2 +"'+Х/I)/n-р/<е)=1.

n - «>

'Н) Известио, что "роизведенне двух сомножителей, сумма ко­

торых есть величина ПОСТОЯlшая, имеет наибольшее значение при .ра­

веНСтве сомножителей. 3.з,есь сумма Pi+qi= 1, т. е. постоянна, поЭ'ГО­

.,у при PI=qi=J;2 лронзведение PIQi имеет наибольшее значение tI

равно 1/4.

109

вательно, сумма Х1+ Х1+ ... + хn равна числу т по­

явлений события в n испытаниях, а значит,

(Х1+ Х. + ... + Хn)/n =т/n.

Учитывая ~TO равенство, окончательно получим

Нm Р <1 т/n-р 1< е) = 1.

n-+-ооJ

3 а м е ч а н и е. Было бы неправнльиым на основаиии Tt'OpeMbl Бернулли сделать вывод, что с ростом числа испытаний относитель­

иая частота неуклонно стремится к вероятиости р; другими словами,

из теоремы Бернулли не вытекает равенство Нт (тjn) =р. В тео-

n-+оо

реме речь идет лишь о в е р о я т н о с т и того, что при достаточно

большом числе испытаний относительная частота будет как угодно мало отличаться от постоянной вероятности появления события в каж­

дом испытанин.

Таким образом, сходимость относительной частоты т/n к веро­

ятности р отличается от сходимости в смысле обычного анализа. Для

ятности к р при n __ 00, то для отдельиых значений n неравенство

может не выполняться.

Итак, теорема Бернулли утверждает, что при n -- 00 относи­

тельная частота стремится по в е р о я т и о с т и к р. Коротко теорему Вернулли записывают так:

т вер

---р. n n-+-ао

Как видим, теорема Бернулли объясняет, почему относительиая

частота при достаточио большом числе испытаний обладает свойством устойчивости и оправдывает статистическое определение вероятности

{см. гл. 1, § 6-7).

Задачи

1. Сформулировать и записать теорему Чебышева, исполь­

зуя поиятие «сходимости по вероятности:t.

2. Используя неравенство Чебышева, оценить вероятность того,

что IX-M(X)I < 0,1, если D(X)=O,OOI.

кединице.

110