- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Расчет шансов и прогнозирование последствий
- •Игра по крупному
- •Основные понятия и определения Первичные понятия Опыт (эксперимент)
- •Элементарный исход
- •Пространство элементарных исходов
- •Советы по построению пространства элементарных исходов.
- •Определения Подмножества
- •Операции над подмножествами
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Независимые события
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Факториал
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Геометрическое распределение
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Теоремы о предельном переходе под знаком интеграла Лебега
- •Теорема Лебега о мажорируемой сходимости
- •Неравенства Неравенство Маркова
- •Неравенство Чебышева. Дисперсия
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Суммирование независимых случайных величин
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость почти наверное
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Многомерное нормальное распределение
Пусть
вектора
- симметричная положительно определенная матрица размера k x k,
матрица , обратная к
- транспонированная матрица,
- определитель матрицы A.
Распределение с плотностью
называется многомерным нормальным распределением с параметрами
Многомерное нормальное (гауссовское распределение) является обобщением одномерного нормального распределения и обычно используется для моделирования опытов, в которых одновременно имеются несколько одномерных нормальных величин, связанных между собой.
Это тоже важно. Докажите! |
Если матрица
диагональная, то случайные координаты многомерного нормального случайного вектора независимы. |
В важном частном случае (k=2) многомерное нормальное распределение превращается в двумерное. Матрица
где диагональные элементы положительны,
положительно определена и плотность имеет вид
Смысл параметров
и , в общем случае элементов матрицы
будет объяснен в дальнейшем. График плотности при
приведен ниже
Числовые характеристики случайных величин и векторов
В данном разделе определяются основные числовые характеристики случайных величин и векторов – математическое ожидание , дисперсия, ковариация, коэффициент корреляции и т.д. При определении и вычислении всех этих характеристик используется т.н. интеграл Лебега– обобщение понятия интеграла Римана на случай произвольных пространств.
Интеграл Лебега – математическое ожидание
Пусть
основное вероятностное пространство и
случайная величина.
Наша цель – определить интеграл Лебега от случайной величины
который в теории вероятностей называется математическое ожидание (среднее значение) случайной величины
Вначале определим этот интеграл для простых случайных величин.
Если случайная величина простая
то интегал Лебега от простой случайной величиныопределяется так
В частности
Ясно, что, таким образом определенный, интеграл обладает следующими очевидными свойствами
Свойства интеграла Лебега (математического ожидания)
для независимых случайных величин
Доказательство последнего свойства следует из того, что для независимых случайных величин
Пусть теперь случайная величина неотрицательна. Тогда для нее существует последовательность простых случайных величин монотонно приближающая ее снизу.
Интеграл Лебега определим как предел интегралов от простых случайных величин.
Заметим, что так как последовательность интегралов от монотонно возрастающих функций тоже монотонно возрастает, у этой последовательности обязан быть предел, пусть даже равный бесконечности. Можно показать, что этот предел не зависит от последовательности приближающих простых случайных величин, т.е. определение корректно. Для этого используем следующую лемму
Лемма
Пусть - последовательность простых случайных величин,также простая случайная величина и
Тогда
Доказательство.
Для любого последовательность множеств
и
Доказательство завершено.
Пусть теперьи- две последовательности простых функций сходящиеся к. Тогда дважды используя лемму, получаем, что одновременно должны выполняться два неравенства
что доказывает равенство
т.е. определение корректно.
Для произвольной случайной величины положим
если хотя бы один из этих интегралов конечен.
Скажем, что у случайной величины
конечное математическое ожидание, если конечны оба этих интеграла, или что то же самое, конечен интеграл
Свойства интегралов от простых случайных величин переносятся на случай произвольных случайных величин без изменений. Доказательства этих свойств состоят, по существу, из доказательств обоснованности предельного перехода в соответствующих формулах. Для этого используются следующие теоремы о предельном переходе под знаком интеграла Лебега, доказательства которых содержатся в курсе функционального анализа.
Заметим, что свойство нормированности вероятности при построении интеграла не использовалось. Таким образом можно строить интегралы по произвольным мерам.