- •Раздел 1. Теория вероятностей
- •§1. Предмет теории вероятностей
- •§2. Случайные события. Операции над событиями
- •§3. Классическое определение вероятности
- •§4. Элементы комбинаторики
- •§5. Геометрическое определение вероятности
- •§6. Аксиоматическое определение вероятности
- •§7. Условная вероятность, теорема умножения
- •§8. Независимость событий
- •§9. Формула полной вероятности. Формула Байеса
- •§10. Схема Бернулли
- •§11. Предельные теоремы для схемы Бернулли
- •§12. Дискретные случайные величины
- •§13. Примеры дискретных случайных величин
- •§14. Функция распределения случайной величины
- •Свойства функции распределения.
- •§15. Непрерывные случайные величины
- •§16. Примеры непрерывных распределений
- •§17. Многомерные случайные величины
- •§18. Функция распределения двумерной случайной величины
- •§19. Двумерная плотность
- •§20. Условные распределения
- •§21. Зависимые и независимые случайные величины
- •§22. Математическое ожидание дискретной случайной величины
- •§23. Дисперсия дискретной случайной величины
- •§24. Начальные и центральные теоретические моменты
- •§25. Числовые характеристики непрерывных случайных величин
- •§26. Свойства нормального распределения
- •§27. Функции случайных величин
- •§28. Условное математическое ожидание
- •§29. Ковариация. Коэффициент корреляции
- •§30. Закон больших чисел
- •§31. Характеристические функции
- •§32. Центральная предельная теорема
- •§33. Цепи Маркова
§31. Характеристические функции
Используем обозначения: i= - мнимая единица, t - вещественная переменная, eit=cost+isint - формула Эйлера, M(η+iζ)=Mη+iMζ - способ вычисления математического ожидания комплекснозначной случайной величины η+iζ, если математические ожидания ее действительной (η) и мнимой (ζ) частей существуют.
Модулем комплексного числа z=х+iу называется |z|= , так что |eit|=1.
Определение. Функция φξ(t)=Meitξ называется характеристической функцией случайной величины ξ.
Пример. Пусть случайная величина ξ имеет распределение Бернулли с параметром р. Ее характеристическая функция равна
φξ(t)=Meitξ=eit∙0Р(ξ=0)+eit∙1Р(ξ=1)=1–р+рeit.
Пример. Пусть случайная величина ξ имеет биномиальное распределение с параметрами п и р. Ее характеристическая функция равна
φξ(t)=Meitξ= = = =(1-р+рeit)n.
Последнее равенство является биномом Ньютона.
Пример. Пусть случайная величина ξ имеет распределение Пуассона с параметром λ. Ее характеристическая функция равна
φξ(t)=Meitξ= = =
= = exp{λ(eit-1)}.
Пример. Пусть случайная величина ξ имеет показательное распределение с параметром α. Ее характеристическая функция равна
φξ(t)=Meitξ= = = =
= = ,
поскольку при х→∞ модуль величины е-х(α-it)=e-αx·eitx стремится к нулю: |е-х(α-it)|=e-αx→0.
Пример. Пусть случайная величина ξ имеет стандартное нормальное распределение. Ее характеристическая функция равна
φξ(t)= = =
= = .
При интегрировании мы выделили полный квадрат в показателе экспоненты и учли, что интеграл по всей прямой от функции =1.
Свойства характеристических функций.
Свойство 1. Характеристическая функция всегда существует:
|φξ(t)|=|Meitξ|≤M|eitξ|=M1=1
Обычные математические ожидания существуют не у всех распределений.
Свойство 2. По характеристической функции однозначно восстанавливается распределение (функция распределения, а также плотность или таблица распределения). То есть если две случайные величины имеют одинаковые характеристические функции, то и распределения этих случайных величин совпадают.
Формулы, с помощью которых это делается, в анализе называют формулами «обратного преобразования Фурье». Например, если модуль характеристической функции интегрируем на всей прямой, то у случайной величины есть плотность распределения, и она находится по формуле
fξ(x)= .
Ни одна из формул обратного преобразования Фурье нам не понадобится.
Свойство 3. Характеристическая функция случайной величины а+bξ связана с характеристической функцией случайной величины равенством
φа+bξ(t)=Meit (а+bξ)=eitа φξ (tb).
Пример. Вычислим характеристическую функцию случайной величины ξ, имеющей нормальное распределение с параметрами а и σ2. У стандартизованной случайной величины ζ= характеристическая функция равна φζ(t)= . Тогда характеристическая функция случайной величины ξ=а+σζ равна
φξ (t)=φа +σζ (t)=eitа φζ (tb)=eitа =exp .
Свойство 4. Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых: если случайные величины ξ и η независимы, то, по свойству математических ожиданий
φξ+η(t)=Meit(ξ+η)=MeitξMeitη=φξ(t)φη(t).
Этим свойством воспользуемся для доказательства леммы, утверждающей устойчивость нормального распределения относительно суммирования.
Лемма. Пусть случайные величины ξ и η независимы. Характеристическая функция суммы ξ+η равна
φξ+η(t)=φξ(t)φη(t)=exp exp =exp .
То есть характеристическая функция суммы есть характеристическая функция нормального распределения с параметрами а1+а2, . Тогда ξ+η по свойству характеристической функции.
Пример. Докажем свойства устойчивости по суммированию биномиального распределения и распределения Пуассона, используя вычисленные в предыдущих примерах характеристические функции.
Для независимых случайных величин с распределениями Пуассона Пλ и Пμ характеристическая функция суммы
φξ+η(t)=φξ(t)φη(t)=ехр{λ(еit-1)}ехр{μ(еit-l)}=ехр{(λ+μ)(еit-l)}
равна характеристической функции распределения Пуассона с параметром λ+μ.
Для независимых случайных величин с биномиальными распределениями Вп,р и Вт,р характеристическая функция суммы
φξ+η(t)=φξ(t)φη(t)=(1-р+рeit)n(1-р+рeit)т=(1-р+рeit)n+т
равна характеристической функции биномиального распределения с параметрами п+m, p.
Свойство 5. Пусть существует момент порядка k=1,2,... случайной величины ξ, то есть M|ξ|k<∞. Тогда ее характеристическая функция φξ(t) непрерывно дифференцируема k раз, и ее k-я производная в нуле связана с моментом порядка k равенством:
= = =ikMξk..
Существование и непрерывность k-й производной, равно как и законность переноса производной под знак математического ожидания мы доказывать не будем.
Свойство 6. Пусть существует момент порядка k=1,2,... случайной величины ξ, то есть M|ξ|k<∞. Тогда ее характеристическая функция φξ(t) в окрестности точки t=0 разлагается в ряд Тейлора
φξ(t)=φξ(0)+ +o(|tk|)=1+ +o(|tk|)=
=1+itMξ- Mξ2+…+ Mξk+o(|tk|).
Ряды Тейлора, как правило, возникают при предельном переходе. Следующее основное свойство характеристических функций потребуется нам для доказательства предельных теорем.
Теорема (о непрерывном соответствии). Случайные величины ξп слабо сходятся к случайной величине ξ тогда и только тогда, когда для любого t характеристические функции сходятся к характеристической функции φξ(t).
Слабая сходимость случайных величин имеет место, когда последовательность функций распределений случайных величин ξп сходится к функции распределения случайной величины в точках непрерывности последней.
Сформулированная теорема устанавливает непрерывное соответствие между классами функций распределения со слабой сходимостью и характеристических функций со сходимостью в каждой точке. «Непрерывность» этого соответствия - в том, что пределу в одном классе относительно заданной в этом классе сходимости соответствует предел в другом классе относительно сходимости, заданной в этом классе.