Konspekt_Tv_2020_ch_6
.pdf
Если X и Y – дискретные случайные величины, то их независимость означает, что
P(X = |
, Y = |
) = P(X = |
) |
P(Y = |
). |
(5.9) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Если X и Y – непрерывные случайные величины, то они независимы, если во всех точках непрерывности этих трѐх функций выполняется равенство:
|
( |
|
) |
|
( |
|
) |
|
( |
|
) |
(5.10) |
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Когда мы изучали числовые характеристики с.в., не было доказаны несколько свойств. В частности, для независимых с. в. выполняется свойство:
( 
) 
Докажем это для непрерывных с.в. :
( |
) |
|
(x, y)dxdy |
|
|
|
|
|
= |
( ) |
( ) |
dxdy=∫ |
( |
) |
∫ |
( ) |
. |
|
|
|
|
В дискретном случае интегралы заменяются суммами, а плотности вероятностями.
Пример 5.3. В условиях примера 5.2 совместная плотность распределения
может быть представлена в виде |
( ) |
( ) |
( ) , где ( ) |
||||||||
{ |
( ) |
|
{ |
|
|
|
|
|
т.е. с.в. X и Y независимы и имеют |
||
экспоненциальное распределение (см. раздел 4).. |
|
|
|||||||||
Пример 5.4. Плотность совместного распределения случайных величин X и |
|||||||||||
Y имеет вид |
( |
) |
|
|
( |
) |
|
|
|||
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|||
√
Рис. 5.8. Поворот системы координат в примере 5.4.
Подберем новые координаты x’ и y’ так, чтобы в них случайные величины были независимы.
Из курса линейной алгебры известно, что связь между старыми переменными
(x, y) и новыми ( |
, ) через угол поворота системы координат выражается |
||||||||||||||
уравнениями { |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Подберем угол так, чтобы в новых переменных отсутствовал член, |
|||||||||||||||
содержащий произведение |
. Итак |
|
|
|
|
||||||||||
. |
|
|
/ ( |
) |
. |
|
|
|
|
/ ( |
) |
Из |
|||
|
|
||||||||||||||
условия |
находим угол поворота, удовлетворяющие искомому |
||||||||||||||
условию: |
|
|
Тогда |
|
|
|
( ) |
|
( |
) |
На рис.5.5 показаны |
||||
|
|
|
|
||||||||||||
первоначальная и полученная системы координат.
Окончательно получаем:
( |
) = |
|
|
|
|
|
( |
|
|
|
) |
|
|
|
|
|
(√ |
|
) |
( |
|
) |
|
( ) |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
√ |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
√ |
|
|
|
√ |
|
|
|
|
|
|
√ |
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
( |
), где с.в. |
|
|
|
|
√ |
|
|
|
|
|
|
|
√ |
|
). В новых |
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
/ Y N(0, |
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
координатах с.в. X и Y независимы, но в первоначальной системе координат они были зависимы.
Последний пример показывает некоторые дополнительные нюансы понятия независимости случайных величин. В частности, оно связано с используемыми координатами и часто удаѐтся подобрать новую систему координат ( не обязательно декартову), в которой изучаемые величины уже будут независимы в дальнейшем можно анализировать каждую из них в отдельности без потери информации о поведении процесса (явления, системы) в целом.
5.4. Условные распределения случайных величин.
Определение 5.5. Условной функцией распределения с.в.X при
заданном событии A называется функция ( |
) |
( |
) |
, определѐнная |
|||
( |
) |
||||||
|
|
|
|
|
|||
при P(A) |
для всех x |
. |
|
|
|
|
|
Все свойства безусловной функции распределения сохраняются для условной при фиксированном событии A.
|
Определение 5.6. Если ( |
) непрерывна и дифференцируема, то |
|||
( |
) |
|
( |
) называется условной плотностью распределения с.в. |
|
|
|||||
X при заданном событии A.
При зафиксированном событии A эта функция обладает всеми свойствами безусловной плотности распределения вероятностей.
Если (X, Y) – двумерная с.в. с дискретными значениями и законом распределения (таблица 5.1), то можно определить условные законы распределений ( Y) и ( X).
Для получения условных законов нужно вычислить условные вероятности (смотри определение 1.19). Для условного закона ( X= ) (при k=1, 2,…,n) нужно вычислить
|
( |
| X= ) = |
( |
) |
(j= 1, 2,…, m) |
(5.11) |
|
|
( |
) |
|
||||
|
|
|
|
|
|
||
Аналогично определяются условные вероятности для условного закона |
|||||||
( |
). |
|
|
|
|
|
|
Пример 5.5. Рассмотрим условие примера 5.1; (Y –оценка на экзамене, X
– сдача зачета).
⁄ |
2 |
3 |
4 |
5 |
|
|
|
|
|
|
|
0 |
0,1 |
0,1 |
0 |
0 |
0,2 |
|
|
|
|
|
|
1 |
0 |
0.1 |
0,3 |
0,4 |
0.8 |
|
|
|
|
|
|
|
0,1 |
0,2 |
0,3 |
0,4 |
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
Составить условный закон с.в. оценки на экзамене при условии, что зачет сдан (т.е.при X=1).
( |
|
|
X=1) = |
( |
) |
= |
|
|
|
|
( |
|
X=1) = |
|
( |
) |
|
|||||||
( |
) |
|
|
|
|
( |
) |
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
= |
|
|
|
0,125; |
|
( |
|
|
X=1) = |
( |
) |
= |
|
|
|
( |
X=1) = |
|||||||
|
|
|
|
( |
) |
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
( |
|
|
) |
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( |
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
Таблица 5.4. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
Y/X = 1 |
|
|
2 |
|
|
|
|
3 |
|
|
|
|
4 |
|
|
5 |
|
|||||
|
|
p |
|
|
|
|
|
|
0 |
|
|
|
|
0,125 |
|
|
|
|
0,375 |
|
|
0,5 |
|
|
Замечание. Условный закон обладает всеми свойствами закона распределения. Проверим условие нормировки: сумма вероятностей равна 1.
Определение 5.7. Условной плотностью распределения вероятностей с.в.
при условии |
называется: |
|
|
|
|
( ) |
( |
) |
(5.12) |
|
|
|
||
|
( |
) |
||
|
|
|
||
Определение 5.8. Условной плотностью распределения вероятностей с.в.
при условии |
называется: |
|
|
|
|
( ) |
( |
) |
(5.13) |
|
|
|
||
|
( |
) |
||
|
|
|
||
Пример 5.6. В условиях примера 5.3 найти условные законы распределения
√ √
( )
√
{
( ) |
|
√ |
|
√ |
||
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
√ |
|
|
|
|
|
|
|
{
Замечание. Обратите внимание на тип этих условных законов распределения. Так плотность ( ) не зависит от y (аналогично плотность
( ) |
), т.е. эта функция постоянная, а x это параметр |
|||||||||
распределения, который принимает значения в интервале |
. Вне этого |
|||||||||
интервала плотность равна 0. Рассмотрим несколько частных случаев |
||||||||||
значений параметра х. Пусть |
: |
|
|
|
|
|
|
|
|
|
( |
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
{ |
|
|
|
|
|
|
|
|
Т.е. это равномерный закон на интервале (-b, b). Пусть теперь |
⁄ |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
√ ⁄ |
|
||
|
|
|
|
|
|
|
|
|||
( | |
⁄ ) |
|
√ |
|
||||||
|
|
|
|
|
|
|
|
|
||
{
Это равномерный закон на интервале (- √ ⁄ √ ⁄ )
5.5. Регрессия
Условные законы распределения обладают всеми свойствами законов распределения и для них можно определить все числовые характеристики, которые были рассмотрены раньше.
Определение 5.9. |
Условным математическим ожиданием |
( |
|
) |
|
|
|
|
|
|
|
|
|
называется математическое ожидание с.в. Y, вычисленное при условии, что |
||||||
X=x. (Т.е. это математическое ожидание для условного закона |
|
|
|
|
||
распределения ( ).) |
|
|
|
|
|
|
Определение 5.10. Условное математическое ожидание |
( |
) |
|
|
|
|
( ) с.в. Y, вычисленное при условии, что X=x, является функцией от х. Эта
функция называется функцией |
регрессии Y на x. |
|
|
Аналогичное определение существует для ( |
) |
( ). Эта функция |
|
называется функцией регрессии X на y. |
|
|
|
Для непрерывной с.в. формулы:
( |
) |
∫ |
( |
) |
( |
) |
(5.14) |
( |
) |
∫ |
( |
) |
( |
) |
(5.15) |
Для дискретной с.в. формулы:
( |
) |
∑ |
( |
| |
) |
( |
) |
(5.16) |
( | |
) |
∑ |
( |
| |
) |
( |
) |
(5.17) |
Пример 5.7. Найти функцию регрессии Y на x примера 5.6
√
( ) ∫ ( ) |
∫ |
√ √
√
∫
√√
Интеграл от нечетной функции в симметричных пределах равен 0. Т.е. функция регрессии в данном примере равна 0.
Пример 5.8. Найти функцию регрессии Y на x примера 5.5.
В примере 5.5 С. в. X принимает два значения 0 и 1.
Условный закон при |
был найден в примере 5.5: |
|
||||
|
|
|
|
|
|
|
|
Y/X = 1 |
2 |
|
3 |
4 |
5 |
|
p |
0 |
|
0,125 |
0,375 |
0,5 |
Условное математическое ожидание оценки при условии сдачи зачета:
( ) ∑ ( | )
Условный закон с.в. Y при
Y/X = 0 |
2 |
|
|
|
3 |
4 |
|
|
5 |
|
|
|
|
|
|
|
|
|
|
p |
0,1/0,2=0,5 |
|
0,1/0,2=0,5 |
0 |
|
|
0 |
||
|
|
( |
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
Функция регрессии Y на x имеет вид:
( ) {
6. Моменты двух случайных величин
По аналогии с тем, как некоторую ориентировочную информацию о случайной величине можно получить, опираясь на еѐ числовые характеристики, определѐнное представление о связи двух случайных величин дают парные числовые характеристики. При этом приходится искать математическое ожидание случайной величины вида Z= g(X, Y) по известному распределению случайных величин X и Y . По аналогии с нахождением математического ожидания одномерной с.в. получаем:
|
( |
) |
∑ |
∑ |
( |
) |
|
(6.1) |
где |
( |
|
|
) - вероятности, задающие распределение |
||||
двумерной случайной величины(X,Y) дискретного типа, и |
|
|||||||
( |
) |
∫ |
∫ |
( |
) |
( |
) |
(6.2) |
для с.в. (X,Y) непрерывного типа . |
|
|
|
|||||
Задача 6.1. Выведите формулу для вычисления |
в случае когда с.в. |
|||||||
X - дискретного типа, |
( |
|
) |
|
а с.в. Y - непрерывного |
|||
типа c плотностью распределения |
( ) |
причѐм X и Y независимы. |
||||||
6.1. Ковариация
Определение 6.1. Ковариацией двух с. в. X и Y называется число
( |
|
) |
|
,( |
|
) |
|
( |
|
)- |
|
|
|
|
|
|
(6.3) |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
Замечание. По аналогии с моментами одной с. в. ковариацию можно назвать смешанным центральным моментом второго порядка.
Вычислительная формула для ковариации.
(
) 
(
) 
(6.4)
Замечание. Вычислительная формула (6.4) часто позволяет сократить число вычислений. Однако, когда в аналитическом выражении плотности в явном виде присутствуют ( ) и ( ) лучше использовать формулу (6.3).
Вывод вычислительной формулы. Раскроем скобки (круглые, под знаком усреднения M) в формуле (6.3); используем три свойства математического ожидания:
|
( |
) |
|
|
( |
|
) |
|
|
( |
) |
,( |
) |
( |
)- |
|
, |
- |
( ) |
|
( |
) |
( |
) |
( |
) = ( ) |
|
|
|
( |
|
) |
|
|
|
Пример 6.1. Совместное распределение с.в. X и Y – гауссовское (двумерное нормальное) с плотностью
|
|
( |
|
) |
|
|
|
|
2 |
|
|
|
|
|
0( |
|
) |
|
( |
) |
( |
) |
( |
|
) |
|
13 |
,(6.5) |
|
|
|
|
|
√ |
|
|
|
( |
|
) |
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
т.е зависит от параметров |
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|||||||||
Задача 6.2. Показать, что |
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
||||||||
Найдѐм сov(X,Y). По определению 6.3.
|
( |
|
|
) |
∫ |
∫ ( |
|
|
|
)( |
|
|
|
|
) |
( |
) |
|
|
|
|
|||||||||||
|
Введѐм новые переменные: |
|
|
|
|
|
|
|
|
|
|
|
. Тогда |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
( |
) ∫ ∫ |
|
|
|
|
|
|
|
|
|
|
|
{ |
|
|
|
|
|
, |
-} |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
( |
|
) |
||||||||||||||||||
|
|
|
|
|
|
|
√ |
|
|
|
|
|||||||||||||||||||||
Поскольку |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
( |
) |
|
|
|
|
( |
|
|
) получаем |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
( |
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( |
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
∫ |
|
|
|
|
|
|
|
) ∫ |
|
|
|
|
|
|
|
|
|
|
|
∫ |
|
|
|
|
|
|
||||||
|
√ |
|
|
|
|
√ |
( |
( |
|
) |
|
|
|
|
|
|
√ |
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(6.6)
Здесь были использовали результаты вычисления математического ожидания нормального закона (в данном случае, равном ) при вычислении внутреннего интеграла и вычисления дисперсии (в данном случае дисперсия равна 1) при вычислении –внешнего:
|
|
|
|
( |
) |
|
|
|
|
|
|
|
|
∫ |
|
|
; |
∫ |
|
|
|
|
|
||
√ ( ) |
( |
) |
√ |
|
||||||||
|
|
=1 |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
Свойства ковариации:
|
|
( |
|
) |
|
( |
|
) |
|
|
|
|
|
|
|
|
||
|
1. |
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
2. |
( |
|
|
) |
|
|
|
|
( |
|
|
) |
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
3. |
( |
|
|
|
) |
|
|
|
( |
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4. |
( |
|
) |
|
|
|
|
|
|
|
|
|
|
(6.7) |
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Задача 6.3. Докажите свойства 1-4 ковариации. |
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
5. |
|
|
|
|
( |
) |
|
|
|
(6.8) |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
6. Если X и Y независимы, то cov(X,Y)=0 |
|
|||||||||||||||||
|
|
|||||||||||||||||
7 D(X+Y)=DX+DY+2cov(X,Y). |
(6.9) |
|||||||||||||||||
Следствие к свойствам 6 и 7. Если с.в. независимы, то их ковариация равна 0 и из (6.9) непосредственно следует, что
D(X+Y)=DX+DY
Доказательство свойства 5. Докажем правую часть неравенства (6.8)
Рассмотрим с.в. |
|
|
Найдем числовые характеристики Z: |
||||
( |
|
) |
|
|
( |
) |
( |
|
|
) |
=M, ( |
) |
( |
)- |
( |
) |
( |
) |
( |
) |
( |
) |
|
( |
) |
|
|
|
|
|
|
В последнем неравенстве приведем подобные члены и сократим на |
|||||||
, получим искомое неравенство |
( ) |
|
|
||||
Задача 6.4. Для доказательства левой части неравенства (6.8) нужно рассмотреть с.в. , а затем найти DZ Сделайте это самостоятельно.
Доказательство свойства 6. Для независимых с.в. ( |
) |
||||
, поэтому |
( |
) |
( |
) |
|
Доказательство свойства 7. По определению дисперсии:
( |
) |
, |
( |
)- |
, |
( |
|
)- |
|
|
,( |
) ( |
|
)- |
|
|
|
|
|
,( |
) |
( |
)( |
) |
( |
) |
|
|
( |
) |
( |
)( |
) |
( |
) - |
|
|
|
( |
) |
|
|
|
|
Пример 6.2. Распределение дискретной случайной величины имеет вид
X |
-1 |
0 |
1 |
|
|
|
|
p |
0,25 |
0,5 |
0,25 |
Рассматривается случайная величина Y |
(т. е. они зависимы!). |
|||
Покажем, что в этом случае cov(X,Y)=0, т. е. они некоррелированы. |
||||
Действительно, |
( ) |
( |
) |
. |
Ho MX ( ) |
|
|
|
( ) |
, поэтому cov(X, Y) = 0. |
|
|
|
|
Причина получения нулевой ковариации в последнем примере кроется
в том, что она (ковариация) является мерой линейной зависимости с.в., а в
примере 6.2 линейный член в функции отсутствует.
К недостаткам интерпретации cov(X, Y) относится необходимость в соответствии со свойством 5 соотносить еѐ с дисперсиями с.в. X и Y. Кроме того, размерность ковариации равна произведению размерностей X и Y. Например, если измерять X и Y в сантиметрах, а затем их же измерять в метрах, то ковариации будут отличаться в 1002 раз. Поэтому более удобна и наглядна безразмерная величина, называемая коэффициентом корреляции.
6.2. Коэффициент корреляции
Определение 6.2. Коэффициентом корреляции двух (невырожденных) с. в. X и Y называется число
|
|
( |
|
) |
|
( ) |
. |
(6.10) |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
Замечание. Условие «не вырожденности» (т.е. с.в. не являются постоянными) нужно, чтобы знаменатель в (6.10) не был равен 0.
Свойства коэффициента корреляции: