Теорема Шеффе
Следующая теорема показывает, что из поточечной сходимости плотностей следует сходимость соответствующих им мер по вариации
Теорема Шеффе
Пусть
- вероятностные меры, абсолютно
непрерывные относительно меры
и
- соответствующие плотности мер
относительно меры
Тогда,
если
, то
Доказательство этой теоремы проведите самостоятельно по схеме доказательства соответствующего утверждения в теореме Пуассона с использованием теоремы Лебега о мажорированной сходимости.
Сглаживание распределений
Примером последовательности случайных величин, сходящихся в среднеквадратическом к нулю является последовательность
Так как
,
то для
любой случайной величины
и, следовательно,
во всех точках непрерывности функции
распределения
.
Так как , нормальное распределение имеет
плотность, то случайная величина
тоже имеет плотность даже для разрывной
функции распределения
и ее функция распределения при больших
n является гладким приближением функции
распределения
.
Характеристические функции случайных величин и их распределений
В данном разделе вводится определение характеристической функции случайной величины. Эти функции являются основным инструментом доказательства теорем о слабой сходимости в классической теории вероятностей.
Математическое ожидание комплекснозначной функции от случайной величины
Пусть
- случайная величина и
- комплекснозначная функция
.
Тогда математическое ожидание
Определение характеристической функции
Пусть
- случайная величина. Характеристической
функцией случайной величины
называется функция
действительного аргумента t
Свойства характеристической функции
Очевидные свойства характеристической функции приведем без доказательства
Характеристическая функция существует для любой случайной величины
равномерно непрерывна. Действительно
по теореме Лебега о мажорируемой
сходимости.Если существует
для
некоторого k=1,2,..., то существует и
причем
.
Для доказательства достаточно
продифференцировать необходимое
количество раз интеграл, определяющий
характеристическую функцию, по параметру
t.
Пусть
и
- две независимые случайные величины,
тогда
.
Это следует их того, что математическое
ожидание произведения независимых
случайных величин равно произведению
их математических ожиданий.Если - плотность случайной величины , то
-
является преобразованием Фурье
плотности. Подробно свойства преобразования
Фурье рассматриваются в курсе
математического анализа.
Преобразование Лапласа и производящая функция
Если случайная величина неотрицательна, то для любого неотрицательного s всегда существует
которое называется преобразование Лапласа распределения случайной величины .
Если
случайная величина неотрицательна и
целочисленна, то для любого z
такого, что
всегда существует
которое называется производящей функцией случайной величины
Заменой переменных эти преобразования можно выразить через характеристическую функцию.
Теорема единственности для характеристических функций и характеристические функции важных распределений
Соответствие между функциями распределения и характеристическими функциями является взаимнооднозначным. Каждой функции распределения соответствует одна и только одна характеристическая функция. Это свойство позволяет использовать характеристические функции для различения и определения распределений случайных величин. Прежде чем доказывать теорему единственности, подсчитаем характеристические функции наиболее важных распределений.
-
Название распределения
Характеристическая функция
Вырожденное в точке a
Биномиальное (n,p)
Геометрическое p
Пуассоновское
Нормальное стандартное
Нормальное
Равномерное на отрезке (0,1)
Равномерное на отрезке (a,b)
Бета
Экспоненциальное
Гамма
Заметим, что плотность и характеристическая функция стандартной нормальной случайной величины отличаются лишь множителем. Это позволяет нам доказать следующее важное равенство.
Равенство Парсеваля.
Пусть - случайная величина с функцией распределения и характеристической функцией ,
.
Тогда
плотность случайной величины
можно представить в виде
.
Доказательство.
Пусть
Рассмотрим очевидное равенство
умножим
его на плотность случайной величины
и проинтегрируем по t
от
до
.
Учитывая, что
получим требуемое утверждение
Доказательство завершено.
Меняя
в доказательстве местами случайные
величины
и
получаем следующий вариант равенства
Парсеваля
Очевидно, приведенные формулы справедливы и для несобственных функций распределения.
Теорема единственности для характеристических функций.
Соответствие между функциями распределения и характеристическими функциями является взаимнооднозначным.
Доказательство.
Интегрируя равенство
по отрезку [A,B], получаем
Левая часть этого равенства стремится к
,
а
правая полностью зависит от
.
Таким образом функция распределения
определяется по
однозначно.
Теорема доказана.
Формула
называется формулой обращения для характеристических функций.
Теорема непрерывности для характеристических функций
Важность характеристических функций для теории вероятностей определяется тем , что сходимость последовательности характеристических функций влечет за собой слабую сходимость последовательности соответствующих функций распределения.
Для того, чтобы это доказать, необходимо использовать следующую лемму и теорему.
Лемма о выборе.
Пусть
- произвольная последовательность
ограниченных в совокупности функций,
заданных на прямой и
- последовательность действительных
чисел. Тогда существует подпоследовательность
функций
которая сходится во всех точках
к некоторой предельной функции
.
Доказательство.
Для доказательства теорем применим диагональный метод Кантора.
Из
курса математического анализа известно,
что любая ограниченная числовая
последовательность имеет сходящуюся
подпоследовательность. Последовательность
следовательно, как ограниченная
последовательность, имеет сходящуюся
подпоследовательность
. Из этой подпоследовательности выберем
другую, сходящуюся в точке
-
и т.д. Тогда диагональная последовательность
сходится во всех точках
Доказательство закончено.
Выбрав в качестве множества точек множество рациональных чисел и учитывая что, функцию распределения достаточно задать лишь на всюду плотном множестве получаем следующую теорему.
Теорема о выборе.
Пусть - произвольная последовательность функций распределения. Тогда существует подпоследовательность последовательности , которая сходится во всех точках непрерывности к некоторой предельной неубывающей непрерывной слева функции .
Заметим, что функция не обязательно является функцией распределения, но (очевидно) обязательно является неубывающей функцией, такой что
(несобственной функцией распределения).
Например,
последовательность функций распределения
случайных величин
сходится
при
к функции
Теорема непрерывности для характеристических функций.
Для того, чтобы
необходимо и достаточно, чтобы для всех t
Доказательство.
Пусть
Тогда
используя ограниченность, непрерывность
по x для любого t функции
и теорему Хелли-Брея получаем
Доказательство необходимости завершено.
Пусть
теперь
Тогда,
используя теорему о выборе, мы можем
извлечь из любой подпоследовательности
последовательности функций распределения
случайных
величин
,
сходящуюся к некоторой функции
подпоследовательность
,
при этом соответствующая подпоследовательность
характеристических функций
как подпоследовательность сходящейся
последовательности характеристических
функций сходится к
.
Покажем, что функция
является функцией распределения.
Полагая
и применяя
к паре функций
,
равенство Парсеваля
получаем,
что, с одной стороны, для любого x
С другой
стороны, для любых N, n и х
Таким образом:
Функция является собственной функцией распределения
Из любой подпоследовательности последовательности функций распределения случайных величин можно извлечь сходящуюся к подпоследовательность
Характеристическая функция совпадает с
Используя
теорему единственности для характеристических
функций получаем из 1) и 3), что функции
и
совпадают и из 2) следует утверждение
второй части теоремы (доказательство
от противного).
Доказательство завершено.