
- •Глава 1. Теория вероятностей 3
- •1.2 Перестановки, размещения и сочетания
- •§2. Классическое определение вероятности
- •2.1 Определение и примеры
- •2.2 Критика классического определения
- •§3. Дискретное вероятностное пространство
- •§4. Геометрическая вероятность
- •§5. Парадоксы Бертрана
- •§6. Аксиоматика Колмогорова
- •6.1 Аксиомы событий
- •6.2 Аксиомы вероятности
- •6.3 Свойства вероятности
- •§7. Условная вероятность. Независимость
- •§8. Формула полной вероятности. Формула Байеса
- •§9. Схема Бернулли
- •9.1 Основные определения и примеры
- •9.2 Предельные теоремы в схеме Бернулли
- •§10. Случайные величины и их распределения
- •10.1 Введение
- •10.2 Функция распределения случайной величины
- •10.3 Наиболее употребительные распределения. Замена переменных
- •§11. Распределение случайного вектора (совместное распределение)
- •11.1 Основные определения
- •11.2 Плотность распределения случайного вектора при замене переменных
- •§12. Математическое ожидание случайной величины
- •12.1 Основные определения
- •12.2 Интеграл Лебега (интеграл по вероятностной мере)
- •12.3 Свойства математического ожидания
- •§13. Дисперсия случайной величины
- •§14. Примеры вычисления математического ожидания и дисперсии
- •§15. Производящие функции
- •15.1 Основные определения
- •15.2 Свойства
- •15.3 Примеры задач
- •§15. Коэффициент корреляции
- •§16. Многомерное нормальное распределение
- •16.1 Основные определения
- •16.2 Плотность распределения двумерного нормального вектора
- •16.3 Примеры задач
- •§17. Неравенство Чебышева
- •19.2 Закон больших чисел Бернулли
- •§20. Характеристические функции
- •20.1 Определение и свойства
- •20.2 Примеры
- •§21. Центральная предельная теорема
- •21.1 Доказательство цпт
- •21.2 Усиление закона больших чисел (збч Хинчина)
- •§22. Типичные задачи
- •§23. Условное математическое ожидание
- •23.1 Основные определения
- •23.2 Методы вычисления. Примеры
- •23.2.1 Дискретный случай
- •23.2.2 Непрерывный случай
- •23.3 Свойства
- •23.4 Исследование нормального случайного вектора
- •§24 Цепи Маркова
- •24.1 Основные определения. Формула Чепмена–Колмогорова
- •24.2 Классификация состояний
- •24.3 Период марковской цепи
- •24.4 Предельная теорема для переходных вероятностей марковских цепей
- •24.5 Возвратность цепей Маркова
- •§25 Типичные задачи, 2
§16. Многомерное нормальное распределение
16.1 Основные определения
Говорят, что случайная величина имеет нормальное распределение с математическим ожиданием aи дисперсиейσ2, если ее плотность распределения
,
при a= 0,σ= 1 нормальное распределение называют стандартным.
Аналогичным образом определяют многомерную случайную величину с нормальным распределением: вектор X0называютстандартным нормальным вектором, если все его компоненты независимы и каждая из компонент имеет стандартное нормальное распределение. Отсюда следует, что если мы рассмотрим совместную плотность распределения такого вектора, то
.
В векторной записи
, (*)
где xTобозначает транспонирование вектораx.
Если вектор Yполучен линейным (вообще говоря, аффинным) преобразованием вектораX:Y=AX+b, гдеdetA≠ 0 (то есть, являетсяневырожденным нормальным вектором), согласно результату из п. 11.2 имеем
,
с учетом формулы (*) получим
Оказывается, удобно описывать распределения в терминах матрицы Aлибо матрицыR=AAT. Во втором случае запись плотности распределения становится компактнее:
.
Теорема. МатрицаRестьковариационная матрица вектораY:
.
В принципе, это следствие общей теоремы: если Y=AX(гдеX,Y— векторы,A— матрица линейного преобразования), тоcov[Y] =Acov[X]AT. В Нашем случаеcov[X] =I(единичная матрица).Проверимэто утверждение непосредственно, для вектора размерности 2 (n= 2):
.
Замечание. Вообще-то мы договорились ранее, чтоY=AX+b; однако векторbдает сдвиг, не влияющий на величину ковариации, поэтому не умаляя общности мы рассматриваем случайY=AX.
Распишем результат умножения AX:
.
Посчитаем ковариации (используя свойства стандартного нормального распределения):
Тогда
.
Таким образом, выражение для плотности нормального вектора — выражение относительно матрицы ковариацииRи вектора математических ожиданийb. Действительно,Y=AX+b,EY=AE[X] +b=b;AAT=R=cov[Y].
16.2 Плотность распределения двумерного нормального вектора
Как мы выяснили в предыдущем пункте,
,
где b = E[X], R = cov[X]. В скалярной форме приn= 2
,
где σ1,σ2— среднеквадратические отклонения (квадратные корни из дисперсий) компонентов вектора,ρ — коэффициент корреляции.
Свойства
Пусть X — нормальный невырожденный случайный вектор с математическим ожиданиемbи ковариациейR;Y=A1X+с. ТогдаY— тоже невырожденный вектор, причемE[Y] =A1b+c, а
.
Замечание. Согласно полученным формулам, распределение однозначно определяется его ковариационной матрицейRи вектором математических ожиданийb.
Доказательство. Случайный вектор.
Рассмотрим
.
Получили: Y— тоже случайный вектор с нормальным распределением, у которого в качестве матрицыAвзята (A1A), а в качестве матрицыb— (A1b+c).
Заметим, что это справедливо и для
вырожденного вектора (для которого).
Сумма независимых нормальных случайных величин имеет нормальное распределение.
Объяснение. Так как сумма является линейным преобразованием случайного вектора, справедливо свойство 1).
Если X — нормальные случайный вектор, а векторYимеет вид
Y= (a1 X1,a2 X2, …,an Xn)
(линейной комбинации коэффициентов вектора X), тоYимеет нормальное распределение.
Объяснение. Причина аналогична причине в п. 2).
Если X,Yсовместно нормальны, то
X,Yнезависимы.
Доказательство. Это следует из формулы для плотности распределения приρ= 0:
Получили: плотность распределения «распалась» в произведение плотностей нормальных распределений компонентов. Следовательно, X иY независимы.
Без доказательства. Если вектор нормален, каждый его подвектор также нормален.