
- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Расчет шансов и прогнозирование последствий
- •Игра по крупному
- •Основные понятия и определения Первичные понятия Опыт (эксперимент)
- •Элементарный исход
- •Пространство элементарных исходов
- •Советы по построению пространства элементарных исходов.
- •Определения Подмножества
- •Операции над подмножествами
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Независимые события
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Факториал
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Геометрическое распределение
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Теоремы о предельном переходе под знаком интеграла Лебега
- •Теорема Лебега о мажорируемой сходимости
- •Неравенства Неравенство Маркова
- •Неравенство Чебышева. Дисперсия
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Суммирование независимых случайных величин
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость почти наверное
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Закон больших чисел в форме Бернулли
Пусть
- число успехов вn испытаниях по
схеме Бернулли с вероятностью успехаp. Тогда
Доказательство.
Доказательство завершено.
Таким образом, для доказательства слабой сходимости достаточно доказать сходимость по вероятности или в среднеквадратическом.
При доказательстве теорем о слабой сходимости используется также следующая важная теорема.
Теорема ({Хелли-Брея).
Пусть
и
- непрерывная ограниченная функция. Тогда
.
Доказательство.
Любую
непрерывную на всей прямой функциюможно сколь угодно точно приблизить
линейной комбинацией ступенчатых
функций на любом интервале [-A,A) , A>0.
Выберем A так, чтобы точки –A, A и точки разбиения
были бы
точками непрерывности функции
распределения
Тогда интегралы
одинаковым
образом выражаются через значения
функций распределения
и
и могут быть сделаны сколь угодно
близкими выбором достаточно большого
n. Следовательно, близки и интегралы
Так как
функция
ограничена, то выбором достаточно
большого A можно сделать сколь угодно
малыми интегралы
Теорема доказана.
Верна и обратная теорема.
Теорема (Обратная теорема Хелли-Брея)
Пусть для любой
непрерывной ограниченной функции
Тогда
Доказательство.
Идея
доказательства аналогична идее
доказательства предыдущей теоремы и
основана на возможности приблизить
ступенчатую функцию
непрерывной функцией
.
Действительно, опять выбирая подходящие
точки непрерывности и полагая
видим,
что близкие между собой интегралы
можно сделать сколь угодно близкими, соответственно. к интегралам
Теорема доказана.
Так как
,
то последние две теоремы дают необходимые и достаточные условия слабой сходимости в терминах сходимости математических ожиданий от непрерывных ограниченных функций.
Теорема (f(W)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство.
Так как подстановка непрерывной функции в ограниченную непрерывную функцию приводит снова к непрерывной ограниченной функции, то доказательство этой теоремы напрямую следует из теорем Хелли-Брея.
Теорема доказана.
Нетрудно показать, что верна также следующая теорема
Теорема (f(P)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство этой и следующих двух теорем проведите самостоятельно в качестве упражнений.
Теорема (W+P->W).
Пусть
и
Тогда
Теорема (W*P->W).
Пусть
и
Тогда
Теорема Шеффе
Следующая теорема показывает, что из поточечной сходимости плотностей следует сходимость соответствующих им мер по вариации
Теорема Шеффе
Пусть
- вероятностные меры, абсолютно
непрерывные относительно меры
и
- соответствующие плотности мер
относительно меры
Тогда,
если
, то
Доказательство этой теоремы проведите самостоятельно по схеме доказательства соответствующего утверждения в теореме Пуассона с использованием теоремы Лебега о мажорированной сходимости.
Сглаживание распределений
Примером последовательности случайных величин, сходящихся в среднеквадратическом к нулю является последовательность
Так как
,
то для
любой случайной величины
и, следовательно,
во всех точках непрерывности функции
распределения
.
Так как , нормальное распределение имеет
плотность, то случайная величина
тоже имеет плотность даже для разрывной
функции распределения
и ее функция распределения при больших
n является гладким приближением функции
распределения
.
Характеристические функции случайных величин и их распределений
В данном разделе вводится определение характеристической функции случайной величины. Эти функции являются основным инструментом доказательства теорем о слабой сходимости в классической теории вероятностей.
Математическое ожидание комплекснозначной функции от случайной величины
Пусть
- случайная величина и
- комплекснозначная функция
.
Тогда математическое ожидание
Определение характеристической функции
Пусть
- случайная величина. Характеристической
функцией случайной величины
называется функция
действительного аргумента t
Свойства характеристической функции
Очевидные свойства характеристической функции приведем без доказательства
Характеристическая функция существует для любой случайной величины
равномерно непрерывна. Действительно
по теореме Лебега о мажорируемой сходимости.
Если существует
для некоторого k=1,2,..., то существует и
причем
. Для доказательства достаточно продифференцировать необходимое количество раз интеграл, определяющий характеристическую функцию, по параметру t.
Пусть
и
- две независимые случайные величины, тогда
. Это следует их того, что математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.
Если
- плотность случайной величины
, то
- является преобразованием Фурье плотности. Подробно свойства преобразования Фурье рассматриваются в курсе математического анализа.