
- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Расчет шансов и прогнозирование последствий
- •Игра по крупному
- •Основные понятия и определения Первичные понятия Опыт (эксперимент)
- •Элементарный исход
- •Пространство элементарных исходов
- •Советы по построению пространства элементарных исходов.
- •Определения Подмножества
- •Операции над подмножествами
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Независимые события
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Факториал
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Геометрическое распределение
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Теоремы о предельном переходе под знаком интеграла Лебега
- •Теорема Лебега о мажорируемой сходимости
- •Неравенства Неравенство Маркова
- •Неравенство Чебышева. Дисперсия
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Суммирование независимых случайных величин
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость почти наверное
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Теорема Радона-Никодима
Теорема.
Пусть
- две сигма-конечные меры и
.
Тогда существует и единственна с
точностью до значений на множестве
меры нуль функция
такая, что
Единнственность
с точностью до значений на множестве
меры нуль означает, что если
- другая функция, удовлетворяющая условию
,
то
Случайная
величина
называется производной Радона-Никодима
меры
относительно меры
или плотностью меры
относительно меры
и
обозначается так
Если
мера
абсолютно непрерывна относительно меры
,
то можно заменять вычисление интеграла
Лебега по мере
на вычисление интеграла Лебега по мере
,
что показывает следующая лемма
Лемма.
Пусть
- две сигма-конечные меры и
.
Тогда для любой случайной величины
Доказательство.
Для простых случайных величин равенство очевидно. Далее применяем теорему о монотонной сходимости.
Используя
данную лемму, нетрудно показать, что
если
,
то
и если- три сигма-конечные меры
и
,
то
Приведем примеры абсолютно непрерывных, эквивалентных и сингулярных распределений и вычислим соответствующие плотности.
Пример 1.
Пусть
-два дискретных распределения на одном
и том же множестве значений
Тогда ,
если
,
то
и для тех
,
для которых
для
остальных
можно определять плотность произвольным
образом.
Если
,
то
В частности, любые два пуассоновских распределения эквивалентны, так как для распределения Пуассона величина
положительна
при любых
Пример 2.
Пусть
-два распределения на прямой с плотностями
Здесь
- мера Лебега.
Напомним, что плотности определяются неоднозначно |
Тогда , если существуют варианты
плотностей такие, что
|
для
остальных
можно определять плотность произвольным
образом.
Указание: покажите, что если
|
Доказательствопроведите самостоятельно. |
В частности,
если
,
то
Например, любые два нормальных распределения эквивалентны, так как для любого нормального распределения существует вариант плотности, который всюду больше нуля.
Пример 3.
Проверьте! |
Равномерное распределение на отрезке
|
Суммирование независимых случайных величин
Чрезвычайно важным объектом теории вероятностей является сумма независимых случайных величин. Именно исследования распределения сумм независимых случайных величин заложили фундамент для развития аналитических методов теории вероятностей.
Распределение суммы независимых случайных величин
В данном разделе мы получим общую формулу, позволяющую вычислить функцию распределения суммы независимых случайных величин, и рассмотрим несколько примеров.
Распределение суммы двух независимых случайных величин. Формула свертки
Пусть
независимые случайные величины с функциями распределения
соответственно
Тогда функцию распределения F суммы случайных величин
можно вычислить по следующей формуле (формула свертки)
Для доказательства воспользуемся теоремой Фубини.
Аналогично доказывается вторая часть формулы.
Плотность распределения суммы двух независимых случайных величин
Если распределения обеих случайных величины имеют плотности, то плотность суммы этих случайных величин можно вычислить по формуле
Если
распределение случайной величины
(или
)
имеет плотность, то плотность суммы
этих случайных величин можно вычислить
по формуле
Для доказательства этих утверждений достаточно воспользоваться определением плотности.
Кратные свертки
Вычисление суммы конечного числа независимых случайных величин производится с помощью последовательного применения формулы свертки. Функция распределения суммы k независимых одинаково распределенных случайных величин с функцией распределенияF
называется k –кратной сверткой функции распределенияF и обозначается
Примеры вычисления распределения сумм независимых случайных величин
В этом пункте приведены примеры ситуаций, при суммировании случайных величин сохраняется вид распределения. Доказательства представляют собой упражнения на суммирование и вычисление интегралов.
Суммы независимых случайных величин. Нормальное распределение
Пусть
тогда
Суммы независимых случайных величин.Биномиальное распределение
Пусть
тогда
Суммы независимых случайных величин.Пуассоновское распределение
Пусть
тогда
Суммы независимых случайных величин.Гамма распределение
Пусть
тогда
Пуассоновский процесс
Пусть
последовательность независимых одинаково распределенных случайных величин, имеющих экспоненциальное распределение с параметром
Случайная последовательность точек
на неотрицательной полуоси называется пуассоновский (точечный) процесс.
Вычислим распределение числа точек
пуассоновского процесса в интервале (0,t)
События
эквиваленты, поэтому
Но распределение случайной величины
является распределением Эрланга порядка k, поэтому
Таким
образом распределение количества точек
пуассоновского процесса в интервале
(o,t)это
пуассоновское распределение с параметром
Пуассоновский процесс используется для моделирования моментов наступления случайных событий – процесса радиоактивного распада, моментов поступления звонков на телефонную станцию, моментов появления клиентов в системе обслуживания, моментов отказа оборудования.