
- •I. Случайные события
- •II. Случайные величины и их распределения
- •III. Многомерные случайные величины
- •IV. Предельные теоремы теории вероятностей
- •I. Случайные события
- •1.1. Предмет теории вероятностей
- •1.2. Пространство элементарных исходов
- •1.3. События, операции над ними
- •1.4. Свойства операций
- •1.5. Алгебра и σ– алгебра событий
- •1.6. Вероятность событий
- •1.6.1. Классическое определение вероятностей
- •1.6.2. Элементы комбинаторики в теории вероятностей
- •1.6.3. Урновая схема
- •1.6.4. Геометрическая вероятность
- •1.6.5. Статистическое определение вероятности
- •1.6.6. Аксиоматическое определение вероятности
- •Условная вероятность. Независимость событий
- •1.8. Формула полной вероятности
- •1.10. Некоторые примеры вычисления вероятностей
- •1.11. Схема бернулли
- •1.12. Формула пуассона
- •1.13. Формула муавра – лапласа
- •Контрольные вопросы
- •Задачи.
- •П. Случайные величины и их распределения
- •2.1. Случайная величина
- •2.2. Дискретные случайные величины
- •2.3. Непрерывные случайные величины
- •2.4. Преобразование случайных величин
- •2.5. Математическое ожидание случайных величин
- •Дисперсия случайной величины
- •2.7. Моменты случайных величин. Другие числовые характеристики случайных величин
- •2.8. Характеристические функции
- •2.9. Производящие функции
- •Контрольные вопросы
- •III. Многомерные случайные величины
- •3.1. Совместная (n–мерная) функция распределения
- •3.2. Дискретные двумерные случайные величины
- •3.3. Непрерывные n–мерные случайные величины
- •3.4. Условные распределения
- •3.5. Преобразование векторных случайных величин
- •3.6. Математическое ожидание векторных случайных величин
- •3.7. Моменты векторных случайных величин
- •3.8. Дисперсия векторных случайных величин
- •3.9. Условное математическое ожидание. Кривые регрессии
- •3.10. Условная дисперсия
- •3.11. Ковариация случайных величин
- •3.12. Коэффициент корреляции
- •3.13. Характеристические функции векторных случайных величин
- •Контрольные вопросы
- •IV. Предельные теоремы теории вероятности
- •4.1 Последовательности независимых событий
- •4.2. Последовательность независимых величин
- •Неравенство чебышева
- •4.4. Типы сходимости
- •4.5. Закон больших чисел
- •4.6. Усиленный закон больших чисел
- •4.7. Центральная предельная теорема
- •Глава1. 1.
3.6. Математическое ожидание векторных случайных величин
Как было отмечено в п.2.5, описание случайной величины с помощью функции распределения или плотности распределения является самым полным, самым подробным, но часто эти функции просто неизвестны или требуют больших объемов исходных данных для их определения. Это замечание в полной мере относится и к векторным случайным величинам.
Определение
математического ожидания векторной
сл. величины ничем не отличается от
определения математического ожидания
скалярной сл. величины, только это
определение применяется для компонент
случайного вектора. Так, если
–
n–мерная непрерывная случайная величина,
,
то
и
(3.29)
Свойства математического ожидания уже описаны в п. 2.5.
3.7. Моменты векторных случайных величин
Кроме определений моментов, приведенных в разделе 2.7: начальных, центральных, абсолютных для векторных сл. величин могут быть даны определения так называемых смешанных моментов.
Пусть
– сл. величины с совместной функцией
распределения
.
Величины
(3.30)
где
,
называются смешанными моментами порядка
k величин
.
Аналогично
определяются центральные смешанные
моменты к-го порядка
.
(3.31)
Среди смешанных
моментов особую роль играют смешанные
моменты 2 порядка. Центральные смешанные
моменты 2 порядка сл. величин ξ и η –
обозначают через cov(ξ,η) и называют
ковариацией сл. величин ξ и η:
(см. также п. 3.11).
3.8. Дисперсия векторных случайных величин
Относительно
вычисления дисперсии векторной сл.
величины можно сказать то же самое, что
и относительно ее математического
ожидания, а именно: определение дисперсии
векторной сл. величины сводится к
определению дисперсий компонент
случайного вектора. Так, если
–
n–мерная непрерывная случайная величина,
,
то
(3.32)
Таким образом,
можем считать, что
Согласно формуле (3.31) вектор дисперсий случайного вектора ξ – это вектор центральных моментов его компонент. Однако для векторной сл. величины важны не только дисперсии ее компонент, но и ковариации между ними, определение которых приведено выше, в п. 3.6. В общем случае дисперсии и ковариации векторных сл. величин образуют так называемую матрицу ковариаций или ковариационную матрицу,обозначают ее иногда символом
или ,с учетом сделанного замечания,
Изучением ковариаций случайных величин мы займемся несколько позже (см. п. 3.12).
3.9. Условное математическое ожидание. Кривые регрессии
Для простоты
изложения ограничимся в этом параграфе
рассмотрением только двумерных сл.
величин. Следующая группа числовых
характеристик – это характеристики
связи сл.
величин. Наиболее полно зависимость
сл. величин
описывается с помощью условных
распределений (см. п. 3.4). Однако это
описание довольно сложно. Более просто,
хотя и менее полно, зависимость между
сл. величинами описывается при помощи
условного математического ожидания.
Определение.
Условным
математическим ожиданием сл. величины
при
условии
,
называется величина:
(3.33)
Первая строка формулы справедлива для непрерывных сл. величин ξ и η, вторая – для дискретных сл. величин.
Очевидно, что
величина
является
функцией сл. величины ,
что немедленно следует из ее определения,
следовательно,
сама является сл. величиной, которую мы
будем обозначать
.
Область определения сл. величины
совпадает
с множеством значений сл. величины
.
Значения сл. величины
при
различных значениях η принято иногда
записывать в виде:
.
Свойства условного математического ожидания.
1. M(C) = C
2. M(a + b) = aM() + b
3. M( + ) = M() + M()
4. M() = M()M(),если и независимы при условии ν.
Эти свойства аналогичны свойствам математического ожидания (арифметические действия понимаются уже не как действия над числами, а как действия над функциями, определенными для всех значений ). Нижеследующие свойства присущи только условному математическому ожиданию.
5. M[M()]=M
Доказательство приведем для непрерывных сл. величин.
Следствие. В процессе доказательства получено полезное соотношение
(3.34)
которое в литературе носит название формулы полного математического ожидания.
6.
,
h
и
– некоторые функции.
Действительно,
для произвольного значения y сл. величины
η можем записать
Полученное равенство
справедливо при любом значении y
сл. величины .
7. = M, если и – независимы.
в силу независимости
сл. величин. Полученное равенство
справедливо при любом значении y
сл. величины .
8.
Вернемся к
определению условного математического
ожидания сл. величины
при условии
η=y,
.
Эта сл. величина, рассматриваемая как
функция ,
иначе, при различных значениях ,
характеризует зависимость “в среднем”
сл. величины
от сл. величины
.
По этой
причине функцию
ещё
называют функцией регрессии
или просто
регрессией сл. величины
на сл. величину
.
Эта идеальная зависимость, освобожденная
от случайностей. График функции
,
ее в этом случае удобнее обозначать как
,
называют линией регрессии сл. величины
на сл. величину
(или просто
линией регрессии
на
).
Отметим, что линий регрессии две:
и
.
В общем случае они между собой не
совпадают.
Пример 7. Рассмотрим двумерную сл. величину (,), имеющую нормальное распределение. В примере 2 этого раздела была получена формула для условной плотности нормального распределения:
(3.35)
Величина
является условным математическим
ожиданием
,
то есть регрессией
на
η. Перепишем
это выражение в виде
где a=
.
На плоскости
(x,y) уравнение этой прямой имеет вид
х=a+by.
Очевидно, линия
регрессии
также представляет собой прямую линию
где с=
,
которую на координатной плоскости (x,y)
представима в виде y= c+dх.
В общем
случае эти линии не совпадают, как уже
было отмечено выше.
Уравнения регрессии
могут быть записаны в более симметризованной
форме, а именно:
,
для регрессии η на ξ и регрессии
на η соответственно.
Прямые регрессии
проходят через центр рассеивания –
точку (
)
с угловым коэффициентом ( по отношению
к одной и той же оси Ох)
.
Так как |ρ| ≤1 (см. п.3.12), то |
|
≥ |
|,
что геометрически означает, что прямая
регрессии ξ на η всегда расположена
более круто по отношению к оси Ох, чем
вторая прямая регрессии η на ξ. При |ρ|
=1 линии регрессии совпадают, при
прямые регрессии распадаются на две
прямые, параллельные осям координат –
вырожденный случай регрессии.