
- •Глава 1. Теория вероятностей 3
- •1.2 Перестановки, размещения и сочетания
- •§2. Классическое определение вероятности
- •2.1 Определение и примеры
- •2.2 Критика классического определения
- •§3. Дискретное вероятностное пространство
- •§4. Геометрическая вероятность
- •§5. Парадоксы Бертрана
- •§6. Аксиоматика Колмогорова
- •6.1 Аксиомы событий
- •6.2 Аксиомы вероятности
- •6.3 Свойства вероятности
- •§7. Условная вероятность. Независимость
- •§8. Формула полной вероятности. Формула Байеса
- •§9. Схема Бернулли
- •9.1 Основные определения и примеры
- •9.2 Предельные теоремы в схеме Бернулли
- •§10. Случайные величины и их распределения
- •10.1 Введение
- •10.2 Функция распределения случайной величины
- •10.3 Наиболее употребительные распределения. Замена переменных
- •§11. Распределение случайного вектора (совместное распределение)
- •11.1 Основные определения
- •11.2 Плотность распределения случайного вектора при замене переменных
- •§12. Математическое ожидание случайной величины
- •12.1 Основные определения
- •12.2 Интеграл Лебега (интеграл по вероятностной мере)
- •12.3 Свойства математического ожидания
- •§13. Дисперсия случайной величины
- •§14. Примеры вычисления математического ожидания и дисперсии
- •§15. Производящие функции
- •15.1 Основные определения
- •15.2 Свойства
- •15.3 Примеры задач
- •§15. Коэффициент корреляции
- •§16. Многомерное нормальное распределение
- •16.1 Основные определения
- •16.2 Плотность распределения двумерного нормального вектора
- •16.3 Примеры задач
- •§17. Неравенство Чебышева
- •19.2 Закон больших чисел Бернулли
- •§20. Характеристические функции
- •20.1 Определение и свойства
- •20.2 Примеры
- •§21. Центральная предельная теорема
- •21.1 Доказательство цпт
- •21.2 Усиление закона больших чисел (збч Хинчина)
- •§22. Типичные задачи
- •§23. Условное математическое ожидание
- •23.1 Основные определения
- •23.2 Методы вычисления. Примеры
- •23.2.1 Дискретный случай
- •23.2.2 Непрерывный случай
- •23.3 Свойства
- •23.4 Исследование нормального случайного вектора
- •§24 Цепи Маркова
- •24.1 Основные определения. Формула Чепмена–Колмогорова
- •24.2 Классификация состояний
- •24.3 Период марковской цепи
- •24.4 Предельная теорема для переходных вероятностей марковских цепей
- •24.5 Возвратность цепей Маркова
- •§25 Типичные задачи, 2
§23. Условное математическое ожидание
23.1 Основные определения
Вспомним определение условной вероятности:
.
Пусть дана случайная величина Xи событиеB, тогда
.
Теперь введем понятие условного математического ожидания:
— математическое ожиданиеXпри условии событияA.
— математическое ожиданиеXпри условии разбиенияH.
— математическое ожиданиеXпри условииσ-алгебры событийF.
— математическое ожиданиеXпри условии случайной величиныY.
Рассмотрим эти определения по порядку.
Полагают
,
при этом событие Aфиксировано.
Математическое ожидание при условии разбиения Hпространства событий Ω:
,
если
.
=
, гдеHиFсвязаны между собой следующим образом: если естьH, то можно брать всевозможные
и их объединения, которые образуют некоторуюσ-алгебру. И наоборот, еслиF—σ-алгебра, мы можем указать разбиение, которому она соответствует.
Математическое ожидание Xпри условии случайной величиныY:
:Y
—
в этом случае
есть функция от случайной величиныY.
Для конкретного значенияY=t:
.
23.2 Методы вычисления. Примеры
23.2.1 Дискретный случай
Пусть дискретная случайная величина X, зависящая отY, определяется таблицей
x y |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(,
если
.)
Тогда математическое ожидание Xпри условииY
Пример.Условное распределениезадано таблицей
x y |
0 |
1 |
0 |
1/8 |
1/4 |
1 |
3/8 |
1/4 |
Найти
.
Решение.
.
.
.
23.2.2 Непрерывный случай
Пусть XиY имеют непрерывное совместное распределение с плотностьюp(x,y). Тогда
,
где
– плотность распределенияY.
Или, что то же самое,
.
(при
).
Пример
,
в остальных точках
.
Найти
.
Решение.
23.3 Свойства
.
.
Если
, то
Дополнительное понятие. Пусть даны
два разбиенияи
.
Будем говорить, что разбиение
мельче, чем разбиение
и записывать это так
,
если
можно
представить как
,
.
, потому что
– постоянная на более крупном множестве.
Пусть всегда
,
тогда справедливо свойство
.
Доказательство:
.
В этом случае
имеет роль константы и его можно выносить
за знак математического ожидания.
4.
Доказательство:
1)
2) Рассмотрим дискретный случай.
–
случайная величина,
.
Замечание. Несмотря на то, что мы рассмотрели лишьдискретныйслучай, все свойства условного математического ожидания справедливы и длянепрерывныхслучайных величин.
5. Если X,Y — независимые случайные величины, то
.
Доказательство:
.
6.
.
Вытекаетиз доказанного свойства
(самым грубым разбиением является
разбиение на Ω и–,
тогда возьмем разбиение именно таким).
Получим:
.
23.4 Исследование нормального случайного вектора
Пусть X1— нормальный случайный вектор размерностиn, с математическим ожиданиемE[X1] =cи ковариационной матрицейR=cov[X1].
Пусть X1разбит на два подвектора размерностейn1иn2,n1+n2=n:
,
аналогично разбит вектор математического ожидания:
.
Разобьем ковариационную матрицу на блоки:
,
где R11=cov[x],R22=cov[y],R12— взаимная ковариационная матрица.
Решим промежуточную задачу: построим линейную комбинацию векторовXиYтакую, что она не зависит ни отX, ни отY. Воспользуемся тем, что равенство ковариации нулю и независимость компонент вектора равносильны. Требуется построить такую комбинациюX+BY, чтобыcov[X+BY,Y] = 0. (B— некоторая матрица). Распишем
Отсюда
.Вывод: вектор
не
зависит отY.
По одному из свойств условного математического ожидания это означает (при фиксированном подвекторе Y), что
то есть
Рассмотрим как частный случай две одномерные случайные величины, в двумерном случайном нормальном векторе (n1=n2= 1):
Условные математические ожидания:
В этом случае условное матожидание Xпри условииYназываютфункцией регрессии X на Y, матожиданиеYпри условииX— функцией регрессииYнаX.
Примеры
z = (x y)T, Ez = (1 2)T,
Найти
.
Решение. Коэффициент корреляции
Соответственно,
Дан нормальный случайный вектор
Найти
.Заметим,Y— число,x— вектор.
Решение. Так какxиYнекоррелированы,R22=I,R12= (1/2 …1/2). Тогда