Предельные теоремы теории вероятностей

Предельные теоремы представляют собой утверждения, устанавливающие условия сходимости (в том или ином смысле) последовательности случайных величин или последовательности распределений для некоторого класса вероятностных моделей. Существеннная роль, которую играют в теории вероятностей предельные теоремы объясняется тем, что в ряде случаев они представляют единственный способ качественного и количественного анализа сложных вероятностных моделей. Эти теоремы устанавливают близость (в некотором строго определенном смысле) одних вероятностных моделей другим. Применение предельных теорем позволяет выделить главные и второстепенные с количественной точки зрения свойства исследуемой вероятностной меры. Первой вероятностной моделью, для которой были получены предельные теоремы, является схема суммирования независимых слагаемых.

Схема суммирования независимых слагаемых

Классическая схема

Рассмотрим последовательность независимых одинаково распределенных случайных величин

Обозначим

В данной схеме обычно исследуется предельное поведение величины

и ее нормированных вариантовипри большихn.

Схема серий

Рассмотрим последовательность векторов возрастающей размерности (иначе – серий), состоящих из независимых случайных величин

…

Обозначим

Распределение случайных величин внутри и между сериями не предполагается одинаковым и может зависеть от n.

В данной схеме также исследуется предельное поведение величины

и ее нормированных вариантовипри большихn. Схема серий является обобщением классической схемы суммирования. Примерами предельных теорем для частного случая классической схемы (схемы Бернулли) могут служить теорема Пуассона и закон больших чисел в форме Бернулли.

Современные предельные теоремы являются обычно собирательными утверждениями, т.е. такими утверждениями, которые справедливы сразу для большого класса объектов (в нашем случае вероятностных моделей). Первым примером предельной теоремы такого рода является закон больших чисел в форме Чебышева.

Закон больших чисел в форме Чебышева

Пусть у случайных величин классической схемы суммирования существуют математическое ожидание и дисперсия. Тогда

Доказательство.

Т.е.

и следовательно

Доказательство завершено.

Аналогом этого закона для схемы серий явяляется следующее утверждение.

Закон больших чисел для схемы серий

Пусть у случайных величин в схеме серий существуют математические ожидания и дисперсии. Тогда, если

то

Доказательство.

.

Т.е.

и следовательно

Доказательство завершено.

Собирательность этих утверждений состоит в том,что они справедливы для широкого класса распределений слагаемых. Знание точного распределения слагаемых необязательно, лишь бы существовали математические ожидания и дисперсии, и дисперсии слагаемых в схеме серий не слишком быстро росли. Примение метода характеристических функций позволяет очень просто распространить результат Чебышева на более широкий класс распределений слагаемых.

Закон больших чисел в форме Хинчина

Пусть у случайных величин классической схемы суммирования существует математическое ожидание. Тогда

Доказательство.

Подсчитаем предел последовательности характеристических функций случайных величин . Используя свойства характеристических функций, получаем

Следовательно, по теоремам непрерывности и единственности для характеристических функций

и, так как предельная случайная величина постоянна

Доказательство завершено.

Усиленный закон больших чисел в форме Кантелли

Пусть у случайных величин классической схемы суммирования существует конечный четвертый момент. Тогда

Доказательство.

_,

_yj

но

В свою очередь

по неравенству Чебышева.

Доказательство завершено.

Законы больших чисел устанавливают предельное постоянство среднего арифметического растущего числа случайных величин. Форма предельного распределения нормированного отклонения от этого предела устанавливается в так называемых центральных предельных теоремах.

Центральная предельная теорема в форме Леви

Теорема Леви

Пусть у случайных величин классической схемы суммирования существует математическое ожидание и дисперсия. Тогда

Доказательство.

Подсчитаем предел последовательности характеристических функций случайных величин . Используя свойства характеристических функций, получаем

Следовательни, по теоремам непрерывности и единственности для характеристических функций

Доказательство завершено.

Частным случаем теоремы Леви является знаменитая теорема Муавра-Лапласа.

Теорема Муавра-Лапласа

Пусть - число успехов вn испытаниях по схеме Бернулли с вероятностью успехаp. Тогда

Доказательство следует из теоремы Леви, если вспомнить , что число успехов в схеме Бернулли является суммолй независимых одинаково распределенных случайных величин.

Следующий вариант центральной предельной теоремы в схеме серий доказан Ляпуновым.

Центральная предельная теорема в форме Ляпунова

Пусть у случайных величин в схеме серий существует математическое ожидание , дисперсияи третий абсолютный момент.

Предположим, без ограничения общности, что

Пусть

Тогда

Доказательство.

Для доказательства используем следующие две леммы.

Лемма 1.

Если , то

Доказательство леммы 1.

Третье неравенство доказывается аналогично.

Доказательство леммы 1 завершено.

Лемма 2.

Если , то

Доказательство леммы 2.

Доказательство леммы 2 завершено.

Доказательство теоремы.

Используя леммы 1 и 2 и равенство

получаем

Первая сумма стремится к нулю по условиям теоремы, а вторая потому, что

и по неравенству Ляпунова для моментов и условиям теоремы

Теорема доказана.