- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Расчет шансов и прогнозирование последствий
- •Игра по крупному
- •Основные понятия и определения Первичные понятия Опыт (эксперимент)
- •Элементарный исход
- •Пространство элементарных исходов
- •Советы по построению пространства элементарных исходов.
- •Определения Подмножества
- •Операции над подмножествами
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Независимые события
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Факториал
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Геометрическое распределение
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Теоремы о предельном переходе под знаком интеграла Лебега
- •Теорема Лебега о мажорируемой сходимости
- •Неравенства Неравенство Маркова
- •Неравенство Чебышева. Дисперсия
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Суммирование независимых случайных величин
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость почти наверное
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Закон больших чисел в форме Бернулли
Пусть - число успехов вn испытаниях по схеме Бернулли с вероятностью успехаp. Тогда
Доказательство.
Доказательство завершено.
Таким образом, для доказательства слабой сходимости достаточно доказать сходимость по вероятности или в среднеквадратическом.
При доказательстве теорем о слабой сходимости используется также следующая важная теорема.
Теорема ({Хелли-Брея).
Пусть
и
- непрерывная ограниченная функция. Тогда
.
Доказательство.
Любую непрерывную на всей прямой функциюможно сколь угодно точно приблизить линейной комбинацией ступенчатых функций на любом интервале [-A,A) , A>0.
Выберем A так, чтобы точки –A, A и точки разбиения
были бы точками непрерывности функции распределения
Тогда интегралы
одинаковым образом выражаются через значения функций распределения ии могут быть сделаны сколь угодно близкими выбором достаточно большого n. Следовательно, близки и интегралы
Так как функция ограничена, то выбором достаточно большого A можно сделать сколь угодно малыми интегралы
Теорема доказана.
Верна и обратная теорема.
Теорема (Обратная теорема Хелли-Брея)
Пусть для любой
непрерывной ограниченной функции
Тогда
Доказательство.
Идея доказательства аналогична идее доказательства предыдущей теоремы и основана на возможности приблизить ступенчатую функцию непрерывной функцией. Действительно, опять выбирая подходящие точки непрерывности и полагая
видим, что близкие между собой интегралы
можно сделать сколь угодно близкими, соответственно. к интегралам
Теорема доказана.
Так как
,
то последние две теоремы дают необходимые и достаточные условия слабой сходимости в терминах сходимости математических ожиданий от непрерывных ограниченных функций.
Теорема (f(W)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство.
Так как подстановка непрерывной функции в ограниченную непрерывную функцию приводит снова к непрерывной ограниченной функции, то доказательство этой теоремы напрямую следует из теорем Хелли-Брея.
Теорема доказана.
Нетрудно показать, что верна также следующая теорема
Теорема (f(P)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство этой и следующих двух теорем проведите самостоятельно в качестве упражнений.
Теорема (W+P->W).
Пусть
и
Тогда
Теорема (W*P->W).
Пусть
и
Тогда
Теорема Шеффе
Следующая теорема показывает, что из поточечной сходимости плотностей следует сходимость соответствующих им мер по вариации
Теорема Шеффе
Пусть - вероятностные меры, абсолютно непрерывные относительно мерыи- соответствующие плотности меротносительно меры
Тогда, если , то
Доказательство этой теоремы проведите самостоятельно по схеме доказательства соответствующего утверждения в теореме Пуассона с использованием теоремы Лебега о мажорированной сходимости.
Сглаживание распределений
Примером последовательности случайных величин, сходящихся в среднеквадратическом к нулю является последовательность
Так как
,
то для любой случайной величины и, следовательно,во всех точках непрерывности функции распределения. Так как , нормальное распределение имеет плотность, то случайная величинатоже имеет плотность даже для разрывной функции распределенияи ее функция распределения при больших n является гладким приближением функции распределения.
Характеристические функции случайных величин и их распределений
В данном разделе вводится определение характеристической функции случайной величины. Эти функции являются основным инструментом доказательства теорем о слабой сходимости в классической теории вероятностей.
Математическое ожидание комплекснозначной функции от случайной величины
Пусть - случайная величина и- комплекснозначная функция
.
Тогда математическое ожидание
Определение характеристической функции
Пусть - случайная величина. Характеристической функцией случайной величиныназывается функциядействительного аргумента t
Свойства характеристической функции
Очевидные свойства характеристической функции приведем без доказательства
Характеристическая функция существует для любой случайной величины
равномерно непрерывна. Действительнопо теореме Лебега о мажорируемой сходимости.
Если существуетдля некоторого k=1,2,..., то существует ипричем. Для доказательства достаточно продифференцировать необходимое количество раз интеграл, определяющий характеристическую функцию, по параметру t.
Пустьи- две независимые случайные величины, тогда. Это следует их того, что математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.
Если - плотность случайной величины, то- является преобразованием Фурье плотности. Подробно свойства преобразования Фурье рассматриваются в курсе математического анализа.