КАФЕДРА ТЕОРИИ ВЕРОЯТНОСТЕЙ И ПРИКЛАДНОЙ МАТЕМАТИКИ
Лекция № 8
Числовые характеристики случайных векторов. Ковариация и коэффициент корреляции.
Двумерное нормальное распределение
На прошлой лекции было введено понятие независимости случайных величин.
Теорема (о математическом ожидании произведения независимых случайных величин с доказательством для дискретного пространства элементарных событий).
Если - независимы и существуют
Доказательство.
E
и E
, то
E ( ) =
E
E
.
Пусть даны дискретные случайные величины
и |
|
с таблицами |
распределения |
|
|
x |
|
|
|
|
|
и |
|
|
y |
j |
|
|
|
|
соответственно. |
|||||||||||
|
|
|
i |
|
,i |
|
|
|
|
|
|
|
|
|
, j |
|
|||||||||||||
|
( |
|
|
) |
|
( |
|
|
|
) |
|||||||||||||||||||
|
|
|
P |
x |
|
|
|
|
|
|
|
P |
y |
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
j |
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
тоже дискретная случайная величина и |
|
|
|
z |
k |
|
|
, k |
|||||||||||||||||||||
|
|
|
|
|
|||||||||||||||||||||||||
P( = z |
|
) |
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
E = zk P ( = zk |
|
|
|
|
|
|
|
|
|
|
|
|
P ( = xi |
|
|
|
|
|
|
|
|
||||||||
) |
= |
zk |
, = y j ) |
= |
|
|
|
|
|||||||||||||||||||||
( |
) |
|
|
|
|
|
|
|
( |
) i |
|
j |
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
|
|
|
|
|
|
(k ) |
i, j :x |
y |
|
=z |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Тогда |
|
|
|
. Имеем |
|
|
||
|
|
|
= |
|
|
|
|
|
|
k |
|
( |
i ) |
( |
j ) |
|
|
|
|
|
i |
|
j |
|
( |
i ) |
( |
j ) |
|
||
|
|
|
|
|
|
z |
|
P |
|
= x |
P = y |
|
= |
|
|
|
|
|
x |
y |
|
P |
|
= x |
P = y |
|
= |
|
|
(k ) |
(i, j ):x |
y |
j |
=z |
k |
|
|
|
|
|
|
|
|
(k ) |
(i, j ):x |
y |
j |
=z |
k |
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
||||
|
i |
|
j |
|
( |
|
= |
x |
y |
|
P |
|
|
|
(i, j ) |
|
|
|
|
|
i ) |
|
( |
|
j ) |
|
i |
( |
|
= x |
P |
|
y = y |
|
= |
x P |
|
|
|
|
|
|
|
|
(i ) |
|
|
i ) |
|
i |
( |
= x |
|
y P = |
|
|
|
( j ) |
|
y |
j |
)= |
|
|
E E .
Теорема доказана.
С помощью принципа математической индукции можно доказать, что эта теорема верны для любого натурального количества случайных величин.
Теорема (о свойствах дисперсии суммы независимых случайных
величин). Если
дисперсиями |
D |
, |
1 |
|
, |
1 |
|
D |
2 |
|
|
2 |
|
, то
D
(
- независимые случайные величины с
|
+ |
) = D |
+ D |
2 . |
1 |
2 |
1 |
|
Доказательство. При доказательстве используем свойства математического ожидания независимых случайных величин:
D ( 1 + 2 )2 = E ( 1 + 2 ) − E ( 1 + 2 )2 =
=E (( 1 − E 1 ) + ( 2 − E 2 ))2 = E ( 1 − E 1 )2 +
+E ( 2 − E 2 )2 − 2 E ( 1 − E 1 )( 2 − E 2 ) =
=D 1 + D 2 − 2 E ( 1 2 − 1 E 2 − 2 E 1 + E 1 E 2 ) =
= =
D + D |
2 |
− 2(E |
2 |
− E |
|||
1 |
|
1 |
|
|
1 |
||
D + D |
2 |
− 2(2 E E |
2 |
− 2 |
|||
1 |
1 |
|
|
|
|||
E |
2 |
− E |
2 |
E + |
|
|
|
|
1 |
||
E |
|
E |
) = D + |
||
1 |
2 |
|
|
1 |
|
E |
|
1 |
|
D |
2 |
|
|
E |
) = |
2 |
|
.
Теорема доказана.
Примеры (вычисления математического ожидания и дисперсии случайной величины).
Пусть
сумму
|
i |
. Мы можем представить эту случайную величину как |
|
B (n, p) |
|
независимых и одинаково распределенных случайных величин
= |
+ |
2 |
1 |
|
+... + |
n |
|
, где i - индикатор того, что в i-м испытании произошел
успех.
Тогда мы получаем:
E D
= E + E |
2 |
+... + E |
n |
= |
||||
|
1 |
|
|
|
|
|
||
= D |
+ D |
2 |
+... + D |
n |
= np |
|||
1 |
|
|
|
|
|
|
||
np
( |
|
1 |
− |
.
p)
=
npq
.
Ковариация и коэффициент корреляции двух случайных величин
Определение. Ковариацией двух случайных величин называется величина
и
( |
|
) |
( |
)( |
) |
|
|
|
|
|
|
|
|
cov |
, |
|
= E |
− E − E |
|
= E − E E |
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
Докажите самостоятельно, что для любых случайных величин |
|
и |
|||||||||||
верно равенство: |
|
|
|
|
|
|
|
|
|
||||
D( + ) = D + D − 2cov ( , ). |
|
|
|
|
|
|
|
|
|
||||
Покажите, |
что если случайные величины |
|
и |
|
2 |
независимы, то |
|||||||
1 |
|
||||||||||||
cov( |
, |
2 |
) |
1 |
|
|
=
0
.
Определение. Коэффициентом корреляции двух случайных величин
и |
|
|
|
( , ) = |
|
с конечной дисперсией называется величина
( |
|
) |
|
( |
|
)( |
) |
|
E − E E |
|
cov |
, |
|
= |
E |
− E |
− E |
|
= |
|
. |
D D |
|
D D |
|
D D |
||||||
|
|
|
|
|||||||
|
|
|
|
|
||||||
Полезно знать, что операция вычитания математического ожидания из случайной величины называется её центрированием, а процесс деления на корень из дисперсии – нормированием. Это связано с тем, что после того, как над любой случайной величиной проделать обе эти операции, то получим величину со средним 0 и дисперсией 1. Проверьте это самостоятельно.
Теорема (о свойствах коэффициента корреляции). Для
произвольных случайных величин верно:
и
с ненулевой дисперсией
1.если и
2.для любых
независимы, то ( , ) = 0 ; вещественных a и b верно равенство
|
( + a, +b) = ( , ); |
|
3. |
( , ) 1 |
. |
|
||
Доказательство. Первое свойство, очевидно, получается из свойств математического ожидания.
Для доказательства второго свойства достаточно произвести следующие преобразования:
|
( |
|
|
) |
( |
|
|
|
( |
|
|
|
))( |
|
cov |
|
+ a, + b |
|
= E |
|
+ a − E |
+ a |
+ b |
||||||
|
( |
|
)( |
|
|
) |
|
( |
|
|
) |
. |
|
|
= E |
− E |
− E |
|
|
= cov |
|
, |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Согласно свойствам дисперсии
− E ( +
D( + a)
b
=
)) =
D |
, |
D + b |
) |
= D |
. Следовательно, |
|
( |
|
( + a, + b) = |
cov ( + a, + b) |
||
D + a |
D + b |
||
|
|||
=cov ( , )

D D
=
( , )
.
Для доказательства третьего свойства используем неравенство КошиБуняковского:
|
|
|
|
E − E |
− E |
|
|
2 |
|
( |
|
( |
− E |
)( |
|
||||||||||
( ( , )) |
2 |
= |
( |
|
|
|
)( |
|
) |
|
|
|
|
E |
|
− E |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
D D |
|
|
|
|
|
|
|
|
|
|
D D |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
( |
|
|
|
) |
2 |
( |
) |
2 |
|
|
D D |
|
|
|
|
|
|
|||||||
|
E |
|
− E |
E − E |
= |
|
|
|
|
|
|
|
= 1 |
. |
|
|
|
|
|||||||
|
|
|
|
D D |
|
|
D D |
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
Следовательно, ( ( , )) |
2 |
|
1 и |
|
( |
, |
|||||||||||||||||||
|
|
||||||||||||||||||||||||
|
|
|
|
|
|||||||||||||||||||||
)
)
)2
1
.
Теорема доказана. Следствие (без доказательства). Модуль коэффициента корреляции
двух случайных величин |
|
и |
|
равен 1 тогда и только |
|
|
существуют вещественные числа a 0 |
и c такие, что P ( = a |
При этом константа |
a |
и ( , ) имеют одинаковый знак, т.е. |
|
|
|||
( , ) =1, а если a 0 |
, то |
( , ) = −1 . |
|
тогда, когда
+ c) =1 |
. |
|
если a 0 , то
Определение. Если |
( , ) = 0 |
, то |
|
называются некоррелированными.
случайные величины и
Все независимые случайные величины согласно первому пункту предыдущей теоремы некоррелированы, но не все некоррелированные величины независимы. Это доказывает следующий пример.
|
|
−1 |
0 |
1 |
|
Пример. Пусть дана следующая случайная величина. |
|
1 / 3 |
|
. |
|
|
|
1 / 3 |
1 / 3 |
||
Очевидно, что
E
=
0
,
D 0
(покажите это самостоятельно).
Пусть |
= |
2 |
. Тогда |
|
0 |
1 |
|
. Покажите, что |
|||
|
|
|
|||||||||
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
1 / 3 |
2 / 3 |
|
|
|
Так как = 3 |
= , то E = 0 , следовательно, |
||||||||||
( , ) = |
E − E E |
= 0 |
. |
|
|
|
|
|
|||
D D |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|||
D
0
.
Мы получили, что величины |
|
и |
|
они не являются независимыми.
некоррелированны. Докажите, что
Определение. Случайный
нормальное распределение,
|
|
|
|
|
|
1 |
|
− |
( |
|
|
|
|
|
|
|
|
1 |
|
p |
(x |
,..., x |
) = |
|
|
n |
e |
2 |
|
|
1 |
n |
|
( |
2 ) |
det |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
вектор |
= ( 1,..., n ) имеет n–мерное |
|||||||
если его плотность имеет вид |
|||||||||
|
|
T |
|
−1 |
|
|
|
|
|
) |
|
) |
|
|
|||||
x |
− |
|
(x |
− |
|
|
|||
,
где
x1
x = ... - вектор-столбец,
xn
(a |
|
) |
|
|
T |
|
|
- транспонированный вектор
a |
|
|
,
det - определитель |
матрицы |
, = |
cov ( i , j ) n n - ковариационная |
||||
матрица вектора |
|
1 |
n |
|
, составленная из попарных ковариаций |
||
|
|
= ( |
,..., |
) |
|
|
|
|
|
|
|
( |
|
|
) |
|
|
|
|
случайных величин |
|
,..., |
n , |
|
|
|
T |
|
|
) |
- вектор математических |
1 |
|
|
|
1 |
n |
||||||
|
|
|
|
|
|
= (E |
,..., E |
|
ожиданий случайных величин 1 , …, n .
Для этого распределения используется обозначение
= ( |
,..., |
n |
1 |
|
Матрицу
)
N ( , ).
еще обозначают как
cov ( |
|
, |
|
)
.
Определение. Пусть
Z |
m n |
|
=
|
ij |
m n |
|
||
|
|
- матрица размеров
m n
с элементами –
случайными |
величинами |
|
|
ij |
с |
конечными |
математическими |
||
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
ожиданиями |
E ij + . |
Тогда |
|
|
по |
определению |
математическим |
||
ожиданием |
матрицы |
Z |
m n |
называется матрица, |
составленная из |
||||
|
|
|
|
|
|
|
|
|
|
математических ожиданий её элементов:
E Z = 
E ij 
m n .
Докажите самостоятельно, что
1). если
D =
A Z B + C
, где A, B, C –подходящие по размеру числовые
матрицы, то
E D =
A (E Z ) B
+ C
;
2). верно равенство
= cov( , ) = E ( − E ) ( − E )T .
Теперь рассмотрим случай, когда нормальное распределение.
n
=
2
,
т.е. рассмотрим двумерное
Пусть
Пусть
=12
( |
, |
2 |
) |
1 |
|
|
|
= D |
|
||
|
|
1 |
|
,
,
=
22
E = ( |
|
= D |
2 |
|
|
1 |
2 |
, где |
|
, ) |
|
, тогда
1
=
E 1
,
2
= E |
2 |
|
.
cov ( |
, |
2 |
1 |
|
2
= 1
1 2
) = ( |
, |
2 |
) |
|||
|
|
|
1 |
|
|
|
|
2 |
|
|
|
|
|
1 |
|
, где |
||||
|
2 |
|||||
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
D |
D |
2 |
1 |
|
( 1, 2 )
=1 2
=.
( |
|
, |
2 |
) |
|
1 |
|
|
,
Легко вычислить, что
det = |
|
− |
|
|
|
= |
|
|
|
2 |
2 |
2 |
2 |
|
2 |
2 |
2 |
1 |
|
2 |
1 |
2 |
|
|
1 |
2 |
( |
|
1 |
− |
2
)
.
Следовательно, используя алгебраические методы, можно найти, что
|
−1 |
= |
|
|
|
|
1 |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
||||||
|
2 |
|
2 |
|
1 − 2 |
) |
|||||||||
|
|
|
|
1 |
|
|
2 |
( |
|
|
|
||||
|
|
|
|
|
|
|
1 |
|
|
− |
|
|
|
|
|
|
|
1 |
|
|
|
|
2 |
|
|
|
|
||||
|
|
|
|
|
|
|
|
||||||||
= |
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
1 |
|
|
|
1 |
|
2 |
|||
1 − |
|
|
|
|
|
|
|
|
|
||||||
2 |
|
|
|
|
|
|
|
1 |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
2 |
|
2 |
|
|
|||||
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|||
|
2 |
− |
||||
|
2 |
1 |
|
|
2 |
= |
|
|
|
|
|||
− |
|
|
2 |
|
|
|
|
|
|
|
|
||
1 |
2 |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Тогда
|
1 |
|
|
|
|
T |
|
|
|
|
|
|
|
|
|
1 |
|
|
|
(x |
− ) |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
− |
|
(x |
|
− |
|
) |
|
−1 |
(x |
|
− |
|
)= − |
|
|
|
|
|
|
1 |
|
1 |
|
− |
|
|
|
|
|
|
|
|
|
|
( |
|
|
|
) |
|
|
|
|
|
|
|
|||||||||||
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
2 |
|
|
|
2 |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 1 |
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
−2 |
(x |
− )(x |
|
− |
) |
+ |
(x |
− |
) |
2 |
|
||||||
|
|
|
|
|
|
|
|
|
|
|
1 |
1 |
|
|
2 |
|
2 |
|
2 |
|
2 |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
2 |
|
|
|
|
|
|
|
2 |
|
|
|
.
Следовательно, плотность двумерного нормального распределения имеет вид:
p |
(x |
, x |
|
1 |
2 |
при 1
) = 2
0 , |
|
2 |
|
|
1 |
|
2 |
1 |
0
1 − 2
, |
|
|
|
|
|
|
|
1 |
|
|
(x |
− ) |
|
|
|
||
exp − |
|
|
|
|
|
|
2 |
− |
|
|
||
( |
|
) |
1 |
|
1 |
|
|
|||||
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
1 |
|
|
|
||
|
|
|
2 1 − |
2 |
|
|
2 |
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(x1 − 1 )(x2 |
− 2 ) |
|
(x2 − 2 )2 |
, |
||||||
−2 |
|
1 2 |
|
|
|
+ |
|
22 |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Если
=
1
, то плотность не определена.
Для двумерного нормального
следующее обозначение: |
= ( |
, |
2 |
1 |
|
распределения иногда используют
) |
N ( |
, |
, |
|
2 |
, |
|
2 |
, ) |
|
|
|
|
|
|
|
|
||
|
1 |
2 |
|
1 |
|
|
2 |
|
|
Утверждение (без доказательства).
случайные величины |
1 |
1 |
, |
2 |
) |
и |
|
2 |
~ N |
1 |
|||||||||
|
|
~ N ( |
|
|
|
(
Если
2 |
, |
2 |
2 |
) |
, |
|
|
|
даны две нормальные то они независимы тогда
итолько тогда, когда их коэффициент корреляции равен нулю, т.е.
( 1, 2 ) = 0 .
Докажите самостоятельно следующее
Утверждение. Если дан случайный вектор
компоненты его нормальны: |
|
~ N ( |
, |
|
2 |
) |
, |
|
|
~ |
1 |
1 |
|
1 |
|
|
|
2 |
|
= ( 1, 2
N ( |
, |
2 |
|
|
|
2 |
2 |
|
) N ( 1, 2 , 12 , 22 , ) , то
).
