Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Konspekt_Tv_2020_ch_7

.pdf
Скачиваний:
4
Добавлен:
27.05.2023
Размер:
615.38 Кб
Скачать

Конспект лекций по теории вероятностей и математической статистике.

Авторы: Лохвицкий М.С., Синева И.С.

3 семестр 2020/2021 учебный год.

Лектор – Лохвицкий Михаил Сергеевич

Часть 7

7. Предельные теоремы

Теория вероятностей занимается изучением в случайных явлениях.

Мы не можем предсказать результат конкретного эксперимента, но замечаем,

что при одинаковых условиях суммарные результаты обработки большого

числа опытов поддаются оценке и анализу как объективные закономерности,

свободные от субъективных случайных факторов. Подобные

закономерности массовых явлений обладают свойством устойчивости. Суть

этого свойства состоит в том, что конкретные особенности каждого

отдельного случайного явления почти не сказываются на среднем результате

большой массы подобных явлений, а характеристики случайных событий и

величин при неограниченном увеличении числа испытаний становятся

практически не случайными. «Мостик» между случайностью и

необходимостью - такова роль предельных теорем в теории вероятностей,

7.1 Сходимость случайных величин

Прежде всего необходимо подчеркнуть принципиальное отличие понятия сходимости, которое было в курсе математического анализа, от его аналогов в теории вероятностей.

Так, сходимость последовательности an к числу

в

математическом анализе означает, что для

начиная с некоторого

номера n0 все члены последовательности окажутся в интервале ( ) В теории вероятностей допускаются исключения (т.е.

отказываются от категории все), но требуется, чтобы эти исключения были все более редким явлением по мере роста номера n. Различные

нюансы формализации этого утверждения, связанные с различиями в постановке решаемых задач, приводят к появлению нескольких видов сходимости в теории вероятностей.

Определение 7.1. Случайные величины

, сходятся по вероятности к

случайной величине при

(обозначение:

 

 

)если для

 

 

 

 

 

 

 

любых

при

имеет место

(

)

.

 

 

 

 

 

 

 

 

Обратите внимание на то, что в качестве предела здесь и далее

фигурируют случайные величины, которые, как частный случай, могут иметь

вырожденное распределение

(

)

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Важное

замечание. Из определения 7.1

следует

 

 

 

(

 

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

или

 

 

 

(

 

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Определение 7.2. Случайные величины

сходятся по распределению к случайной

величине

при

(обозначение:

 

 

 

), если

( )

 

(

) при

в

каждой точке , являющейся точкой непрерывности (

).

 

 

 

 

 

 

 

 

 

Определение 7.3. Случайные величины

, сходятся почти наверное

 

 

 

 

(почти всюду) к случайной величине

при

 

, если множество точек

, для которого

эта сходимость имеет место, образует достоверное событие, т.е.

 

 

 

 

 

 

 

 

(

( )

 

( ) при

)

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Обозначается такая сходимость как

(или

 

)

 

 

 

 

 

 

 

 

Определение 7.4. Случайные величины

сходятся в

 

 

 

 

 

среднеквадратическом к случайной величине

при

,

(обозначения:

 

 

 

 

или

 

 

), если

 

 

 

 

 

и

(

)

 

 

 

при

 

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Данное определение имеет очевидную геометрическую трактовку:

 

 

разброс значений

, относительно Y

уменьшается с ростом .

 

 

 

 

Между сходимостями в том или ином смысле есть связь, которая отражена на рисунке 7.1.

Рисунок 7.1. Связь между разными видами сходимости в теории вероятностей.

7.2. Закон больших чисел

 

 

 

 

 

 

Теорема 7.1 (Закон больших чисел в форме Чебышева).

 

 

 

 

 

 

 

 

Пусть случайные величины

 

 

 

независимы

и существует

такое

, что

 

при любом

 

 

. Тогда для любого

при

 

выполняется

(

 

 

)

 

 

 

 

 

 

 

 

Замечания.

 

 

 

 

 

 

 

 

 

1. Утверждение теоремы означает, что при выполнении

определённых условий среднее арифметическое случайных величин в первом приближении сходится к среднему арифметическому их

математических ожиданий, т.е. случайные величины

 

 

 

при

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

сходятся по вероятности к

 

 

 

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2. Условие независимости случайных величин можно заменить их

 

 

 

 

некоррелированностью: (

)

при

.

 

 

 

 

 

 

 

 

 

 

Теорема7.2. Неравенство Чебышева. Если у случайной величины X

существуют конечные математическое ожидание и дисперсия, то выполняется неравенство

Доказательство:

*

 

+

 

 

 

 

 

 

 

 

 

 

 

 

 

*

 

 

+ = ∫ ( )

,

 

 

 

 

где интеграл берется по области G, в которой выполняется

 

неравенство

 

 

.

 

 

 

 

 

Рассмотрим дисперсию X:

(

) ( )

 

(

)

( )

= (интеграл по области G:

)

(

)

*

 

+ .

 

 

 

следует неравенство Чебышева.

Доказательство теоремы Чебышева. Обозначим

X=

 

MX=

 

(

 

)

 

 

 

 

 

. Подставим все это в неравенство Чебышева:

*

+

(

 

 

)

 

 

 

 

 

 

 

 

Для любых фиксированных

при

предел вероятности

равен 0. Что и требовалось доказать.

Теорема 7.3. Усиленный закон больших чисел.

 

 

Если

независимы и одинаково распределены, то

.

Доказательство теоремы. Для одинаково распределенных с.в.

 

 

 

 

 

Что и требовалось доказать.

 

 

 

Геометрически. Оно означает, что

лежит между прямыми

(

 

) с вероятностью, стремящейся к единице (см. рис 7.2.).

Рисунок 7.2. Геометрическая интерпретация усиленного закона больших чисел.

Закон больших чисел (ЗБЧ) является основой построения многих

методов статистического анализа. Действительно, пусть проводится измерений некоторой случайной величины , причѐм эти измерения производятся независимо и в одинаковых условиях (например, фиксируется вес новорождѐнных, пристрастия телезрителей, объѐм суточных торгов на бирже, число обслуженных за час клиентов и т.п.). Каждое измерение можно

рассматривать как случайную величину

 

 

 

, имеющую такое же

распределение, как и изучаемая величина X. Пусть

 

 

 

 

 

.

 

 

 

Рассмотрим поведение среднего арифметического ̅

 

 

 

 

при

 

 

 

 

увеличении

:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Найдѐм числовые характеристики

:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(∑

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(7.1)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(∑

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(7.2)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Таким образом, среднее значение

 

 

совпадает со средним значением

измеряемой величины X ‚ а дисперсия - в

 

 

раз меньше. Последний факт

позволяет утверждать, что имеет место «локализация» распределения

около значения при . Практически это означает, что измеряя какой-

либо параметр с помощью прибора, не дающего систематической погрешности, можно получить достаточно большое число результатов измерений, среднее арифметическое которых по ЗБЧ будет практически мало отличаться от истинного значения параметра.

Теорема 7.4. Теорема Бернулли. Рассмотрим схему Бернулли (см.

раздел 2). Если вероятность появления события А в одном испытании равна

- количество появления события A в серии из

испытаний, то в силу

ЗБЧ для

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

|

 

 

|

)

 

.

 

(7.3)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

То есть : Относительная частота появления

события сходится по вероятности к вероятности появления этого события при неограниченном увеличении числа испытаний.

Замечание. В математической статистике мы будем говорить, что

относительная частота является состоятельной оценкой для неизвестной вероятности. И на этом факте основаны основные утверждения

математической статистики.

 

 

 

 

 

 

 

 

 

Действительно, мы можем ввести случайные величины

следующим

образом: если в k-ом испытании появилось событие

, то

(заметим,

что это происходит с вероятностью

, не зависящей от ), а если появилось

событие

 

, то

 

. Тогда

 

и

 

(

)

. Так

 

 

 

 

как

(

 

)

(

 

) (

)

(

)

 

 

, то в силу ЗБЧ

 

 

 

 

 

 

(|

 

 

 

 

 

|

)

 

 

 

 

 

(7.4)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

или

 

 

 

 

 

 

 

(|

 

 

 

 

 

 

 

 

| ) .

(7.5)

 

 

 

 

 

 

Но

 

 

 

,

 

 

 

, что и даѐт

 

 

 

 

 

 

(|

 

 

 

 

|

 

) .

 

 

 

 

 

 

 

 

 

 

 

 

 

7.3. Центральная предельная теорема

Результаты раздела 7.2 показывают, что при выполнении не очень жестких условий некоторые случайные величины с увеличением числа испытаний приближаются к определенным предельным значениям, не зависящим от вида распределения самих величин. Но в теоремах вида ЗБЧ точно не говорится о виде такого предельного распределения.

Другая группа теорем теории вероятностей, которые устанавливают связь между законами распределения суммы случайных величин и его предельной формой – нормальным законом распределения – называется

центральной предельной теоремой (ЦПТ). Различные формы ЦПТ отличаются между собой условиями, накладываемыми на сумму рассматриваемых случайных величин.

Условия этих теорем на практике выполняются довольно часто, поэтому нормальный закон является самым распространенным среди законов распределения, используемых при объяснении случайных явлений в природе и техники, медицине и финансах, социологии и психологии.

На качественном уровне ЦПТ утверждает, что при определенных

условиях (достаточно часто выполненных на практике) сумма случайных величин имеет асимптотически нормальное распределение независимо от того, каково было первоначальное распределение отдельных слагаемых.

Например, если цена деления измерительного прибора – некоторая условная единица, то ошибка измерения одной величины имеет равномерное распределение в промежутке [-0.5,0.5], его суммарная ошибка от измерения многих величин, т.е. ошибка имеет асимптотически нормальное распределение. То же можно сказать о погрешностях округления и вычисления в общем случае. Моменты прихода клиентов в банк – случайные величины, но длина большой очереди имеет нормальное распределение, параметры которого определяются как потоком приходящих клиентов, так и режимом их обслуживания, но это именно нормальное распределение. Краевые искажения при передаче сигнала по синхронному

цифровому тракту суммируются и в итоге имеют также нормальное распределение.

В наиболее простом случае независимых и одинаково распределенных слагаемых ЦПТ может быть сформулирована следующим образом.

Теорема 7.5. (Центральная предельная теорема).

Если случайные величины

независимы, одинаково

 

 

 

распределены

и имеют конечную дисперсию, то при

равномерно по

(

 

 

)

 

 

 

, где a = M ,

. (7.6)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Замечание: Функция, вступающая в качестве предельной в ЦПТ, встречалась в разделе 2. Это функция распределения стандартного нормального закона N(0;1)

F(x) =

 

 

,

(7.7)

 

 

 

 

(

)

 

Где ( ) функция Лапласа. Ее значения приведены в таблицах (см. пример [9]).

Условия сходимости суммы случайных величин с различными распределениями к нормальному закону содержатся, например, в следующей теореме.

Теорема 7.6. (ЦПТ в форме Ляпунова).

Пусть

 

 

 

 

 

 

- независимые случайные величины.

Положим

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

M

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Если все

 

и

 

 

 

 

при

то при

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

)

 

 

 

 

 

(

 

)

 

(7.8)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Доказательства теорем 7.5. и 7.6. см. в [1].

Замечание: В условиях теоремы Ляпунова говорят, что при случайная величина асимптотически нормальна с параметрами

( )

ЦПТ уточняет и дополняет утверждение ЗБЧ в том смысле, что типичные отклонения от их среднего имеют порядок (сравните с рисунком 7.2).

Предельные теоремы типа ЗБЧ и ЦПТ нашли свое применение в вычислительной математике в качестве обоснований метода Монте-Карло.

Пример 7.1. Результаты полученные для схемы Бернулли в теореме Бернулли могут быть уточнены при помощи теоремы 7.5. Поскольку M

(

)

имеем при

 

(

 

 

 

)

( )

(7.9)

 

 

 

 

 

 

 

 

Этот результат носит название интегральной предельной теоремы

Муавра-Лапласа. Слово «интегральная» (т.е. «суммарная») в названии теоремы подчеркивает, что рассматривается вероятность получить любое

значение

 

меньше, чем

 

, т.е.

 

(

 

 

 

) ∑

(

)

(7.10)

 

 

 

 

 

 

 

 

 

Где

 

 

(

 

– целое число, то

 

 

 

 

) (Здесь

 

 

 

) Из (7.10) и свойства

 

 

функции распределения (вероятность попадания в интервал равна приращению функции распределения на этом интервале) получаем равенство

 

 

(

 

 

 

 

 

 

 

 

 

 

 

 

)

 

(

)

(

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

)

 

 

 

(

 

)

 

(

 

)

,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Где

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Эта формула была в разделе «схема Бернулли» под номером (1.21).

Вероятность отдельного значения

 

 

 

описывается локальной

предельной теоремой Муавра-Лапласа:

 

 

 

 

 

 

 

 

(

 

)

 

 

 

 

 

 

 

 

(

 

 

 

) (

(

 

)),

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Где

(

)

 

 

 

 

 

 

 

 

 

 

 

- плотность распределения стандартного

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

нормального закона N(0;1) и

(

 

) – поправочный член, удовлетворяющий

условию

(

)

 

 

 

 

 

 

 

 

при некотором c > 0.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

В расчетах последняя формула обычно трансформируется в

приближенное равенство:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

 

 

)

 

 

 

 

 

(

 

 

 

 

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Замечание. При малых значениях p в схеме Бернулли лучшее качество аппроксимации дает теорема Пуассона о вероятностях редких событий.