Лекции для студентов специальности 220100 –Вычислительные машины, комплексы, системы и сети

Теория вероятностей

и

математическая статистика

Алексей Михайлович Протасов

Содержание

Теория вероятностей i

и i

математическая статистика i

Алексей Михайлович Протасов i

Содержание i

Кафедра теории вероятностей и математической статистики 9

Теория вероятностей 9

Введение в теорию вероятностей 9

Предмет теории вероятностей 9

Возникновение и развитие теории вероятностей 9

До появления аксиоматики Колмогорова 9

В наше время 9

Необходимость теории вероятностей как науки 10

Возможность анализа случайных явлений 10

Расчет шансов и прогнозирование последствий 10

Типичные ошибки при решении вероятностных задач без применения теории вероятностей 10

Ошибка шевалье де Мере (XVII век) 10

Ошибка Д’Аламбера 11

Задача о днях рождения 11

Понимание природы вещей и причин явлений 11

Парадокс движения автобусов 11

Игра с тремя разными костями 11

Новый язык для описания объектов 11

Распространение вероятностной и статистической терминологии 11

Примеры практических задач, при решении которых применяется теория вероятностей 12

Расчет размера буфера в устройствах передачи и обработки информации 12

Определение объема закупки товара или выпуска продукции на рынок 12

Управление продажей авиабилетов 12

Расчет надежности сложной системы 12

Оценка доли брака или стоимости коллекции 12

Принятие типового решения в условиях неопределенности 12

Задача о студенте на экзамене 13

Примеры практических задач, при решении которых не стоит применять теорию вероятностей 13

В некоторых случаях теорию вероятностей лучше не применять 13

Принятие важного решения, от которого зависит успех всего проекта 13

Игра по крупному 13

Основные понятия и определения 13

Первичные понятия 13

Опыт (эксперимент) 13

Элементарный исход 13

1. Опыт: бросание монеты 13

2. Опыт: бросание игральной кости 14

Пространство элементарных исходов 14

Советы по построению пространства элементарных исходов. 14

Определения 15

Подмножества 15

Элементарный исход можно представить в виде 15

A = 15

Операции над подмножествами 15

Дополнение 15

Дополнение до подмножества A - это подмножество 15

Объединение 16

Объединением двух подмножеств A и B является подмножество 16

Пересечение 16

Пересечением двух подмножеств : A и B является подмножество 16

Разность 16

Разностью двух подмножеств A и B является подмножество 16

Симметричная разность 16

Количество элементов в подмножестве 16

Отношения между подмножествами 16

Вложение 16

Несовместность 17

Противоположность 17

Формулы 17

Полная группа подмножеств 17

Алгебра и сигма-алгебра 17

Случайные события 18

Полная группа событий 18

Конечно-аддитивная функция 18

Счетно-аддитивная функция 18

Пусть F – алгебра или сигма-алгебра. Функция 18

Мера 19

Конечная мера 19

Вероятность 19

Вероятностное пространство 19

Парадокс определения вероятностного пространства 19

Независимые события 20

События A и B называются независимыми, если 20

Попарно 20

В совокупности 20

Условная вероятность 20

Если события A и B независимы, то 20

Свойства и теоремы 20

Простейшие свойства вероятности 20

Вероятность противоположного события 20

Вероятность невозможного события 21

Монотонность вероятности 21

21

21

Ограниченность вероятности 21

Вероятность объединения событий 21

Полуаддитивность вероятности 21

Вероятности полной группы событий 21

Формула полной вероятности 21

Формула Байеса 21

Дискретная вероятностная модель 22

Конечное пространство элементарных исходов 22

Классическая вероятностная модель 22

Классическая вероятностная модель 22

Связь классической вероятностной модели с комбинаторикой 23

Основная формула комбинаторики 23

Пусть 23

Факториал 23

Количество всех различных перестановок n различных чисел равно 23

Формула Стирлинга 23

Биномиальный коэффициент 23

Количество двоичных векторов размерности n с ровно k единицами равно 23

Бином Нютона 24

Полиномиальная формула 24

Схема выбора с возвращением 24

Решение. 24

Схема выбора без возвращения 25

Урновая схема 25

Общее определение вероятности для экспериментов с конечным или счетным числом исходов 26

Ряд 26

Дискретное распределение и вероятность 27

Вероятность, определяемая формулой 27

Равномерное распределение - классическая вероятностная модель 27

Биномиальное распределение – схема Бернулли 27

Пусть 27

Тогда 28

Мультиномиальное распределение – схема бросания частиц по ячейкам 28

Пусть 28

Геометрическое распределение – испытания до первого успеха 29

Пусть 29

Распределение Паскаля – испытания до m-того успеха 30

Пуассоновское распределение - теорема Пуассона 30

Пусть 30

Теорема Пуассона. 30

Тогда 30

Доказательство. 31

Независимость событий и условная вероятность. Построение моделей. 31

Независимость 31

Различие между независимостью попарно и в совокупности. Пример Бернштейна 31

Обозначим события 31

Использование понятия независимости для построения моделей. Произведение вероятностных пространств. 32

Примеры построения моделей. 33

Расчет надежности при параллельном соединении элементов. 33

В качестве элементарного исхода рассмотрим двоичный вектор 34

Расчет надежности при последовательном соединении элементов 35

Таким образом, вероятность безотказной работы этой системы равна 35

Расчет надежности сложной системы. 35

Замечания к примерам. 36

Таким образом мы имеем два вероятностных пространства, основное 36

B – наибольшая сигма-алгебра. 36

Условная вероятность 37

Урновая схема 37

Если первый шар черный, то 38

Аналогично определяются вероятности остальных элементарных исходов 38

Марковская зависимость 39

Формула полной вероятности и формула Байеса 39

Случайные величины 40

Отображения вероятностных пространств 41

Пусть 41

Отображение 41

Таким образом с каждым отображением 41

Случайная величина 41

Борелевская сигма-алгебра 42

Определение случайной величины 42

Пусть 42

Борелевская функция 42

Примеры борелевских функций 42

Функции 43

Примеры случайных величин 43

Индикатор события 43

Пусть A – случайное событие. Тогда функция 43

Часто, для краткости, будем пользоваться обозначением 43

Простая случайная величина 43

Пусть 43

Дискретная случайная величина 43

Пусть 43

Случайный вектор 44

Распределения случайных величин и векторов 44

Функция распределения 44

Функция действительного аргумента 44

Дискретные распределения на прямой 44

Вырожденное распределение 45

Бернуллиевское распределение 45

Построим функцию распределения вырожденного распределения 45

Биномиальное распределение 46

Биномиальное распределение приписывает точке k вероятность 46

Построим функцию распределения биномиального распределения 46

В частности, бернуллиевское распределение это 47

Геометрическое распределение 47

Геометрическое распределение приписывает точке k вероятность 47

Построим функцию распределения геометрического распределения 47

Пуассоновское распределение 47

Пуассоновское распределение приписывает точке k вероятность 47

Построим функцию распределения пуассоновского распределения 47

Произвольное дискретное распределение 48

Заметим, что скачок функции в точке 48

Функция распределения случайной величины 48

Непрерывные распределения на прямой 49

Равномерное распределение на отрезке. 49

Рассмотрим следующую функцию распределения 49

В общем случае для любого отрезка 49

Мера Лебега на прямой. 50

Плотность распределения 50

Очевидно, любая плотность удовлетворяет условию 51

Если g(x) – неотрицательная функция, удовлетворяющая условию 51

Вероятностный смысл плотности распределения 52

Если плотность распределения непрерывна в точке x, то 52

Бета-распределение на отрезке [0,1] 52

Наконец, приведем вид плотности бета-распределения при a=1/4 , b=4 54

Для бета-распредления распределения используют обозначение 55

Смеси распределений. 55

Пусть 55

Тогда функция 55

Числа 55

Нормальное (гауссовское) распределение. 56

Рассмотрим положительную функцию 56

График этой плотности приведен на рисунке 57

Общее нормальное распределение задается плотностью 57

Графики плотности 57

Экспоненциальное (показательное) распределение. 58

Рассмотрим плотность 58

Гамма-распределение. 59

Рассмотрим плотность 59

Величина 60

Это распределение обозначается 60

Гамма распределение с целым параметром 60

Распределение 60

Построение меры в конечномерном пространстве 60

Борелевская сигма-алгебра в конечномерном пространстве 60

Обозначим ее 61

Определение случайного вектора 61

Пусть 61

Функция 61

Мера Лебега в конечномерном пространстве 61

Мера Лебега на квадрате - Задача о встрече 62

Площадь этой наклонной полосы 62

Независимые случайные величины 62

Случайные величины 62

Многомерное нормальное распределение 63

Распределение с плотностью 63

Смысл параметров 64

Числовые характеристики случайных величин и векторов 64

Интеграл Лебега – математическое ожидание 64

Пусть 64

Наша цель – определить интеграл Лебега от случайной величины 65

Если случайная величина простая 65

В частности 65

Свойства интеграла Лебега (математического ожидания) 65

Для произвольной случайной величины положим 66

Неравенства 66

Неравенство Маркова 66

Доказательство следует из очевидного неравенства 66

Неравенство Чебышева. Дисперсия 66

Величина 66

Тогда 66

Для доказательства заметим, что по переменной x выражение 67

Неравенство Коши-Буняковского-Шварца. Ковариация 67

Доказательство. Если 67

Величина 67

Величина 67

Из неравенства КБШ следует, что 67

Неравенство Йенсена.Выпуклые функции 68

Функция f(x) называется выпуклой (как ), если 68

Для выпуклых функций справедливо неравенство Йенсена 68

Моменты 68

Величина 68

Величина 68

Величина 68

Вычисление математического ожидания. 68

Теорема Лебега о замене переменных 69

Пусть 69

Вычисление интеграла Лебега на прямой. 69

Если функция распределения имеет плотность 69

Вычисление маргинальных плотностей 70

Пусть 70

Вычисление числовых характеристик важных распределений. 70

Суммирование независимых случайных величин 71

Распределение суммы независимых случайных величин 71

Распределение суммы двух независимых случайных величин. Формула свертки 71

Пусть 71

Тогда функцию распределения F суммы случайных величин 71

Плотность распределения суммы двух независимых случайных величин 72

Кратные свертки 72

Примеры вычисления распределения сумм независимых случайных величин 72

Суммы независимых случайных величин. Нормальное распределение 72

Пусть 72

Суммы независимых случайных величин.Биномиальное распределение 72

Пусть 72

Суммы независимых случайных величин.Пуассоновское распределение 73

Пусть 73

Суммы независимых случайных величин.Гамма распределение 73

Пусть 73

Пуассоновский процесс 73

Пусть 73

Случайная последовательность точек 73

Вычислим распределение числа точек 73

Но распределение случайной величины 73

Сходимость последовательностей случайных величин и их распределений 74

Сходимость по вероятности 74

Последовательность случайных величин 74

Сходимость по вероятности обозначается так 74

Сходимость в среднеквадратическом 74

Последовательность случайных величин 74

Сходимость в среднеквадратическом обозначается так 75

Слабая сходимость распределений 75

Последовательность случайных величин 75

Слабая сходимость обозначается так 75

Взаимосвязь различных видов сходимости 75

Закон больших чисел в форме Бернулли 76

Предельные теоремы теории вероятностей 76

Схема суммирования независимых слагаемых 76

Закон больших чисел в форме Чебышева 77

Закон больших чисел в форме Хинчина 77

Центральная предельная теорема в форме Леви 77

Теорема Леви 77

Теорема Муавра-Лапласа 78

Условное математическое ожидание, условная плотность и условное распределение 78

Определение условного распределения и условной плотности 79

Условное распределение 79

Кафедра теории вероятностей и математической статистики

Кафедра находится на 4 этаже здания МГИЭМ на Б.Трехсвятительском пер. 3/12. Заведующий кафедрой – профессор, д.ф.-м.н ,академик Академии Криптографии, Ивченко Григорий Иванович

Теория вероятностей

Введение в теорию вероятностей

Предмет теории вероятностей

Математическая модель - это средство описания объектов и процессов реального мира в математических терминах, с помощью первичных, неопределяемых символических объектов (точка, множество ...) и строго определяемых отношений между ними (функция, оператор...).

Теория вероятностей – это математическая дисциплина, изучающая математические модели случайных явлений. Предметом теории вероятностей является математический аппарат для построения и анализа математических моделей случайных явлений, возникающих в науке, технике, экономике, бизнесе и повседневной деятельности людей. Важным следствием построения такой модели является возможность находить вероятности случайных событий.