- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Новый язык для описания объектов
- •Распространение вероятностной и статистической терминологии
- •Советы по построению пространства элементарных исходов.
- •Элементарный исход
- •Пространство элементарных исходов
- •Определения Подмножества
- •Алгебра и сигма-алгебра
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Дискретные распределения на прямой
- •Вырожденное распределение
- •Бернуллиевское распределение
- •Биномиальное распределение
- •Геометрическое распределение
- •Пуассоновское распределение
- •Произвольное дискретное распределение
- •Функция распределения случайной величины
- •Непрерывные распределения на прямой
- •Равномерное распределение на отрезке – мера Лебега.
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость по вероятности
- •Сходимость в среднеквадратическом
- •Слабая сходимость распределений
- •Взаимосвязь различных видов сходимости
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Сглаживание распределений
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Центральная предельная теорема в форме Леви Теорема Леви
- •Теорема Муавра-Лапласа
- •Центральная предельная теорема в форме Ляпунова
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Многомерное нормальное распределение
Пусть
вектора
- симметричная положительно определенная матрица размера k x k,
матрица , обратная к
- транспонированная матрица,
- определитель матрицы A.
Распределение с плотностью
называется многомерным нормальным распределением с параметрами
Многомерное нормальное (гауссовское распределение) является обобщением одномерного нормального распределения и обычно используется для моделирования опытов, в которых одновременно имеются несколько одномерных нормальных величин, связанных между собой.
Это тоже важно. Докажите! |
Если матрица
диагональная, то случайные координаты многомерного нормального случайного вектора независимы. |
В важном частном случае (k=2) многомерное нормальное распределение превращается в двумерное. Матрица
где диагональные элементы положительны,
положительно определена и плотность имеет вид
Смысл параметров
и , в общем случае элементов матрицы
будет объяснен в дальнейшем. График плотности при
приведен ниже
Числовые характеристики случайных величин и векторов
В данном разделе определяются основные числовые характеристики случайных величин и векторов – математическое ожидание , дисперсия, ковариация, коэффициент корреляции и т.д. При определении и вычислении всех этих характеристик используется т.н. интеграл Лебега – обобщение понятия интеграла Римана на случай произвольных пространств.
Интеграл Лебега – математическое ожидание
Пусть
основное вероятностное пространство и
случайная величина.
Наша цель – определить интеграл Лебега от случайной величины
который в теории вероятностей называется математическое ожидание (среднее значение) случайной величины
Вначале определим этот интеграл для простых случайных величин.
Если случайная величина простая
то интегал Лебега от простой случайной величины определяется так
В частности
Ясно, что, таким образом определенный, интеграл обладает следующими очевидными свойствами
Свойства интеграла Лебега (математического ожидания)
для
независимых случайных величин
Доказательство последнего свойства следует из того, что для независимых случайных величин
Пусть теперь случайная величина неотрицательна. Тогда для нее существует последовательность простых случайных величин монотонно приближающая ее снизу.
Интеграл Лебега определим как предел интегралов от простых случайных величин.
Заметим, что так как последовательность интегралов от монотонно возрастающих функций тоже монотонно возрастает, у этой последовательности обязан быть предел, пусть даже равный бесконечности. Можно показать, что этот предел не зависит от последовательности приближающих простых случайных величин, т.е. определение корректно. Для этого используем следующую лемму
Лемма
Пусть
- последовательность простых случайных
величин,
также простая случайная величина и
Тогда
Доказательство.
Для любого
последовательность множеств
и
Доказательство завершено.
Пусть
теперь
и
- две последовательности простых функций
сходящиеся к
.
Тогда дважды используя лемму, получаем,
что одновременно должны выполняться
два неравенства
что доказывает равенство
т.е. определение корректно.
Для произвольной случайной величины положим
если хотя бы один из этих интегралов конечен.
Скажем, что у случайной величины
конечное математическое ожидание, если конечны оба этих интеграла, или что то же самое, конечен интеграл
Свойства интегралов от простых случайных величин переносятся на случай произвольных случайных величин без изменений. Доказательства этих свойств состоят, по существу, из доказательств обоснованности предельного перехода в соответствующих формулах. Для этого используются следующие теоремы о предельном переходе под знаком интеграла Лебега, доказательства которых содержатся в курсе функционального анализа.
Заметим,
что свойство нормированности вероятности
при построении интеграла не использовалось.
Таким образом можно строить интегралы
по произвольным мерам.
Теоремы о предельном переходе под знаком интеграла Лебега
Теорема о монотонной сходимости
Счетная аддитивность
Если
случайные величины
неотрицательны, то
Лемма Фату
Сходимость и свойства почти наверное
В теории вероятностей используется несколько понятий сходимости случайных величин. Одна из них – поточечная сходимость (сходимость в каждой точке ) использовалась при определении интеграла Лебега. Следующий вид сходимости называется сходимость почти наверное (п.н.)
Последовательность сходится почти во всех точках (кроме тех, вероятность которых равна 0).
Более общо, говорят что некоторое свойство, относящееся к одной или нескольким случайным величинам выполнено почти наверное, если оно выполнено для всех точек , кроме множества точек имеющего вероятность 0.
Докажите! |
Например,
|
Если
то
Теорема Лебега о мажорируемой сходимости
Неравенства
Неравенство Маркова
Доказательство следует из очевидного неравенства
и свойств 1) и 3) математического ожидания.
Неравенство Чебышева. Дисперсия
Доказательство следует из неравенства Маркова, примененного к случайной величине
Величина
называется дисперсия случайной величины. Она является естественной мерой разброса случайной величины относительно ее математического ожидания. Очевидны следующие свойства дисперсии.
для независимых с.в.
Следующее свойство выявляет смысл математического ожидания и дисперсии, как экстремальных характеристик с.в. Будем обозначать точку экстремума (минимума и максимума) функции так
Тогда
Для доказательства заметим, что по переменной x выражение
представляет собой квадратный трехчлен.
