![](/user_photo/1409_eZHEC.jpg)
- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Расчет шансов и прогнозирование последствий
- •Примеры практических задач, при решении которых применяется теория вероятностей
- •Игра по крупному
- •Основные понятия и определения Первичные понятия Опыт (эксперимент)
- •Элементарный исход
- •Пространство элементарных исходов
- •Советы по построению пространства элементарных исходов.
- •Определения Подмножества
- •Операции над подмножествами
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Независимые события
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Факториал
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Геометрическое распределение
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Теоремы о предельном переходе под знаком интеграла Лебега
- •Теорема Лебега о мажорируемой сходимости
- •Неравенства Неравенство Маркова
- •Неравенство Чебышева. Дисперсия
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Суммирование независимых случайных величин
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость по вероятности
- •Сходимость в среднеквадратическом
- •Слабая сходимость распределений
- •Взаимосвязь различных видов сходимости
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Центральная предельная теорема в форме Леви Теорема Леви
- •Теорема Муавра-Лапласа
- •Центральная предельная теорема в форме Ляпунова
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Сходимость последовательностей случайных величин и их распределений
В теории вероятностей в отличие от математического анализа рассматриваются несколько различных видов сходимости последовательности функций (случайных величин) и их распределений. Это связано с тем, что в теории вероятностей принято пренебрегать маловероятными событиями и делать это можно по разному. Ранее уже были определены поточечная сходимость случайных величин, сходимость почти наверное и сходимость вероятностных мер по вариации. Дадим еще два важных определения сходимости случайных величин – сходимость по вероятностиисходимость в среднеквадратическом, и одно определение сходимости распределений –слабая сходимость.
Сходимость по вероятности
Последовательность случайных величин
сходится к случайной величине
по вероятности, если
Сходимость по вероятности обозначается так
Сходимость в среднеквадратическом
Последовательность случайных величин
сходится к случайной величине
в среднеквадратическом (в L2) , если
Сходимость в среднеквадратическом обозначается так
Слабая сходимость распределений
Последовательность случайных величин
сходится к случайной величине
слабо (по распределению), если
во всех точках непрерывности функции
Слабая сходимость обозначается так
Основным отличием слабой сходимости от остальных видов сходимости является то, что от случайных величин не требуется, чтобы они были определены на одном вероятностном пространстве, так как условия сходимости формулируются с использованием только их функций распределения.
Взаимосвязь различных видов сходимости
Взаимосвязь различных видов сходимости представлена на следующей диаграмме.
Заметим, что ни одну из стрелок на данной диаграмме нельзя, вообще говоря, повернуть назад, т.е. любые два вида сходимости неэквивалентны. Практическое значение имеют, в основном, слабая сходимость и сходимость в среднеквадратическом потому что они позволяют производить приближенные вычисления вероятностей и математических ожиданий и заменять одни математические модели другими. Остальные виды сходимости используются в основном при доказательстве слабой сходимости или исследовании качественных свойств модели. Поэтому более подробно исследуем взаимосвязи этих двух видов сходимости в остальными.
Покажем, вначале, что из сходимости по вероятности следует слабая сходимость.
Теорема (P->W).
Пусть
.
Тогда
Доказательство.
Пусть x – точка непрерывности функции
.
Тогда
и
Таким образом
При малых
и больших n левая и правая часть неравенства
отличаются сколь угодно мало от
,
что доказывает теорему.
Доказательство завершено.
Обратная теорема верна при дополнительном условии.
Теорема (W->P).
Пусть
Тогда
Доказательство.
Доказательство завершено.
Покажем, что из сходимости в среднеквадратическом следует сходимость по вероятности.
Теорема (L2->P).
Пусть
Тогда
Доказательство.
Используем неравенство Маркова
.
Доказательство завершено.
Следующая теорема дает пример применения предыдущей теоремы для доказательства сходимости относительной частоты события к его вероятности в схеме Бернулли.
Закон больших чисел в форме Бернулли
Пусть
- число успехов вn испытаниях по
схеме Бернулли с вероятностью успехаp. Тогда
Доказательство.
Доказательство завершено.
Таким образом, для доказательства слабой сходимости достаточно доказать сходимость по вероятности или в среднеквадратическом.
При доказательстве теорем о слабой сходимости используется также следующая важная теорема.
Теорема ({Хелли-Брея).
Пусть
и
- непрерывная ограниченная функция. Тогда
.
Доказательство.
Любую
непрерывную на всей прямой функциюможно сколь угодно точно приблизить
линейной комбинацией ступенчатых
функций на любом интервале [-A,A) , A>0.
Выберем A так, чтобы точки –A, A и точки разбиения
были бы
точками непрерывности функции
распределения
Тогда интегралы
одинаковым
образом выражаются через значения
функций распределения
и
и могут быть сделаны сколь угодно
близкими выбором достаточно большого
n. Следовательно, близки и интегралы
Так как
функция
ограничена, то выбором достаточно
большого A можно сделать сколь угодно
малыми интегралы
Теорема доказана.
Верна и обратная теорема.
Теорема (Обратная теорема Хелли-Брея)
Пусть для любой
непрерывной ограниченной функции
Тогда
Доказательство.
Идея
доказательства аналогична идее
доказательства предыдущей теоремы и
основана на возможности приблизить
ступенчатую функцию
непрерывной функцией
.
Действительно, опять выбирая подходящие
точки непрерывности и полагая
видим,
что близкие между собой интегралы
можно сделать сколь угодно близкими, соответственно. к интегралам
Теорема доказана.
Так как
,
то последние две теоремы дают необходимые и достаточные условия слабой сходимости в терминах сходимости математических ожиданий от непрерывных ограниченных функций.
Теорема (f(W)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство.
Так как подстановка непрерывной функции в ограниченную непрерывную функцию приводит снова к непрерывной ограниченной функции, то доказательство этой теоремы напрямую следует из теорем Хелли-Брея.
Теорема доказана.
Нетрудно показать, что верна также следующая теорема
Теорема (f(P)).
Пусть
и
- непрерывная функция. Тогда
.
Доказательство этой и следующих двух теорем проведите самостоятельно в качестве упражнений.
Теорема (W+P->W).
Пусть
и
Тогда
Теорема (W*P->W).
Пусть
и
Тогда