- •Теория вероятностей Введение в теорию вероятностей Предмет теории вероятностей
- •Возникновение и развитие теории вероятностей До появления аксиоматики Колмогорова
- •В наше время
- •Необходимость теории вероятностей как науки
- •Возможность анализа случайных явлений
- •Новый язык для описания объектов
- •Распространение вероятностной и статистической терминологии
- •Советы по построению пространства элементарных исходов.
- •Элементарный исход
- •Пространство элементарных исходов
- •Определения Подмножества
- •Алгебра и сигма-алгебра
- •Случайные события
- •Информационный смысл понятия сигма - алгебра
- •Пересечение сигма-алгебр
- •Вероятностное пространство
- •Парадокс определения вероятностного пространства
- •Теорема (о непрерывности вероятностной меры)
- •Дискретная вероятностная модель
- •Конечное пространство элементарных исходов
- •Классическая вероятностная модель
- •Связь классической вероятностной модели с комбинаторикой
- •Основная формула комбинаторики
- •Урновая схема
- •Общее определение вероятности для экспериментов с конечным или счетным числом исходов
- •Дискретное распределение и вероятность
- •Равномерное распределение - классическая вероятностная модель
- •Биномиальное распределение – схема Бернулли
- •Мультиномиальное распределение – схема бросания частиц по ячейкам
- •Геометрическое распределение – испытания до первого успеха
- •Распределение Паскаля – испытания до m-того успеха
- •Пуассоновское распределение - теорема Пуассона
- •Теорема Пуассона.
- •Сходимость по вариации - приближение одних моделей другими
- •Использование понятия независимости для построения моделей. Произведение вероятностных пространств.
- •Примеры построения моделей.
- •Расчет надежности при параллельном соединении элементов.
- •Расчет надежности при последовательном соединении элементов
- •Расчет надежности сложной системы.
- •Замечания к примерам.
- •Условная вероятность
- •Урновая схема
- •Марковская зависимость
- •Формула полной вероятности и формула Байеса
- •Случайные величины
- •Отображения вероятностных пространств
- •Случайная величина
- •Борелевская сигма-алгебра
- •Свойства случайных величин
- •Случайный вектор
- •Распределения случайных величин и векторов
- •Точки непрерывности и разрыва функции распределения
- •Несобственные функции распределения
- •Дискретные распределения на прямой
- •Вырожденное распределение
- •Бернуллиевское распределение
- •Биномиальное распределение
- •Геометрическое распределение
- •Пуассоновское распределение
- •Произвольное дискретное распределение
- •Функция распределения случайной величины
- •Непрерывные распределения на прямой
- •Равномерное распределение на отрезке – мера Лебега.
- •Мера Лебега на прямой.
- •Плотность распределения
- •Вероятностный смысл плотности распределения
- •Бета-распределение на отрезке [0,1]
- •Смеси распределений.
- •Нормальное (гауссовское) распределение.
- •Экспоненциальное (показательное) распределение.
- •Гамма-распределение.
- •Построение меры в конечномерном пространстве Борелевская сигма-алгебра в конечномерном пространстве
- •Определение случайного вектора
- •Мера Лебега в конечномерном пространстве
- •Мера Лебега на квадрате - Задача о встрече
- •Независимые случайные величины
- •Многомерное нормальное распределение
- •Числовые характеристики случайных величин и векторов
- •Интеграл Лебега – математическое ожидание
- •Свойства интеграла Лебега (математического ожидания)
- •Неравенство Коши-Буняковского-Шварца. Ковариация
- •Неравенство Йенсена.Выпуклые функции
- •Неравенство Ляпунова.Моменты
- •Вычисление математического ожидания.
- •Теорема Лебега о замене переменных
- •Вычисление интеграла Лебега на прямой.
- •Вычисление интеграла Лебега в произведении пространств. Теорема Фубини
- •Теорема Фубини
- •Вычисление маргинальных плотностей
- •Вычисление числовых характеристик важных распределений.
- •Абсолютная непрерывность вероятностных мер
- •Абсолютно непрерывные и сингулярные меры и распределения
- •Теорема Радона-Никодима
- •Сходимость последовательностей случайных величин и их распределений
- •Сходимость по вероятности
- •Сходимость в среднеквадратическом
- •Слабая сходимость распределений
- •Взаимосвязь различных видов сходимости
- •Закон больших чисел в форме Бернулли
- •Теорема Шеффе
- •Сглаживание распределений
- •Преобразование Лапласа и производящая функция
- •Теорема единственности для характеристических функций и характеристические функции важных распределений
- •Предельные теоремы теории вероятностей
- •Классическая схема
- •Закон больших чисел в форме Чебышева
- •Закон больших чисел для схемы серий
- •Закон больших чисел в форме Хинчина
- •Центральная предельная теорема в форме Леви Теорема Леви
- •Теорема Муавра-Лапласа
- •Центральная предельная теорема в форме Ляпунова
- •Условное математическое ожидание, условная вероятность и условное распределение
- •Определение и основные свойства условного математического ожидания
- •Теорема существования и единственности условного математического ожидания
- •Математическое ожидание одной случайной величины относительно другой
- •Свойства условного математического ожидания
- •Определение условной вероятности, условного распределения и условной плотности Условная вероятность
- •Условное распределение
- •Вычисление условной плотности и условного математического ожидания
Неравенство Коши-Буняковского-Шварца. Ковариация
Доказательство. Если
то
и неравенство превращается в равенство.
Если
то, используя очевидное неравенство
получаем
что эквивалентно доказываемому неравенству.
Применяя неравенство КБШ к случайным величинам
получаем
Величина
называется ковариация случайных величин
и, как мы увидим в дальнейшем, является естественной мерой связи этих случайных величин между собой.
Величина
называется коэффициент корреляции случайных величин
Из неравенства КБШ следует, что
и если
то между этими случайными величинами существует (почти наверное) линейная зависимость
с положительным коэффициентом a. В этом случае говорят, что случайные величины положительно коррелированы. Если
то коэффициент a отрицателен и случайные величины отрицательно коррелированы. Коэффициент корреляции используют как меру зависимости случайных величин.
Неравенство Йенсена.Выпуклые функции
Функция
f(x) называется выпуклой (как
),
если
Например, функции , exp(x) выпуклы.
Для выпуклых функций справедливо неравенство Йенсена
Доказательство следует из определения выпуклой функции, если в нем положить
и воспользоваться свойствами 1) 2) 3) математического ожидания.
Неравенство Ляпунова.Моменты
Величина
называется к-тый момент (к-тый начальный момент) случайной величины.
Величина
называется к-тый абсолютный момент случайной величины.
Величина
называется к-тый центральный момент случайной величины.
Ясно, что математическое ожидание это первый момент, а дисперсия второй центральный момент. Моменты часто используются в качестве дополнительных характеристик случайных величин.
Для абсолютных моментов верно неравенство Ляпунова
Доказательство следует из неравенства Йенсена, если его применить к случайной величине
и положить
Вычисление математического ожидания.
Если случайная величина простая, то ее математическое ожидание вычисляется непосредственно по определению. Например, если все значения
случайной величины
равновероятны, то ее математическое ожидание равно среднему арифметическому этих значений
Заметим , что у простой случайной величины математическое ожидание всегда конечно.
Для дискретной случайной величины, принимающей счетное число различных значений, имеем (приближая ее снизу последовательностью простых случайных величин)
Этот ряд не всегда сходится, и поэтому существуют дискретные случайные величины, не имеющие конечного математического ожидания. Простым достаточным условием конечности математического ожидания является ограниченность модуля случайной величины сверху (константой или другой случайной величиной, имеющей конечное математическое ожидание).
Заметим, что для вычисления математического ожидания дискретной случайной величины нам достаточно знать только ее распределение. Этот факт справедлив и в общем случае, что показывает следующая теорема.
Теорема Лебега о замене переменных
Пусть
случайная величина и g(x) – борелевская функция
Тогда
если хотя бы один из этих интегралов существует.
Проверьте! |
Доказательство. Легко проверить, что утверждение теоремы верно для неотрицательных простых функций. |
Следовательно, в силу теоремы о монотонной сходимости оно верно и для произвольных неотрицательных случайных величин. Далее, как обычно представим произвольную случайную величину в виде разности
и завершим доказательство.
Заметим, что справа стоит интеграл Лебега по прямой. Поэтому, для эффективного вычисления произвольных интегралов Лебега, надо научиться вычислять
распределения случайных величин
интегралы Лебега на прямой
Как мы уже знаем, вычисление распределения на прямой эквивалентно вычислению его функции распределения. Поэтому займемся вторым пунктом.
