Добавил:
study@slavapmk.ru Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Панков все лекции для ИИ.pdf
Скачиваний:
0
Добавлен:
11.05.2026
Размер:
9.06 Mб
Скачать

КАФЕДРА ТЕОРИИ ВЕРОЯТНОСТЕЙ И ПРИКЛАДНОЙ МАТЕМАТИКИ

Лекция № 8

Числовые характеристики случайных векторов. Ковариация и коэффициент корреляции.

Двумерное нормальное распределение

На прошлой лекции было введено понятие независимости случайных величин.

Теорема (о математическом ожидании произведения независимых случайных величин с доказательством для дискретного пространства элементарных событий).

Если - независимы и существуют

Доказательство.

E

и E

, то

E ( ) =

E

E

.

Пусть даны дискретные случайные величины

и

 

с таблицами

распределения

 

 

x

 

 

 

 

 

и

 

 

y

j

 

 

 

 

соответственно.

 

 

 

i

 

,i

 

 

 

 

 

 

 

 

 

, j

 

 

(

 

 

)

 

(

 

 

 

)

 

 

 

P

x

 

 

 

 

 

 

 

P

y

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

i

 

 

 

 

 

 

 

 

 

 

j

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

тоже дискретная случайная величина и

 

 

 

z

k

 

 

, k

 

 

 

 

 

P( = z

 

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

E = zk P ( = zk

 

 

 

 

 

 

 

 

 

 

 

 

P ( = xi

 

 

 

 

 

 

 

 

)

=

zk

, = y j )

=

 

 

 

 

(

)

 

 

 

 

 

 

 

(

) i

 

j

 

k

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k

 

 

 

 

 

 

 

(k )

i, j :x

y

 

=z

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Тогда

 

 

. Имеем

 

 

 

 

=

 

 

 

 

 

 

k

 

(

i )

(

j )

 

 

 

 

 

i

 

j

 

(

i )

(

j )

 

 

 

 

 

 

 

z

 

P

 

= x

P = y

 

=

 

 

 

 

 

x

y

 

P

 

= x

P = y

 

=

 

(k )

(i, j ):x

y

j

=z

k

 

 

 

 

 

 

 

 

(k )

(i, j ):x

y

j

=z

k

 

 

 

 

 

 

 

 

 

 

i

 

 

 

 

 

 

 

 

 

 

 

i

 

 

 

 

 

 

 

 

 

 

 

i

 

j

 

(

 

=

x

y

 

P

 

 

 

(i, j )

 

 

 

 

 

i )

 

(

 

j )

 

i

(

 

= x

P

 

y = y

 

=

x P

 

 

 

 

 

 

 

 

(i )

 

 

i )

 

i

(

= x

 

y P =

 

 

( j )

 

y

j

)=

 

 

E E .

Теорема доказана.

С помощью принципа математической индукции можно доказать, что эта теорема верны для любого натурального количества случайных величин.

Теорема (о свойствах дисперсии суммы независимых случайных

величин). Если

дисперсиями

D

,

1

 

,

1

D

2

 

 

2

 

, то

D

(

- независимые случайные величины с

 

+

) = D

+ D

2 .

1

2

1

 

Доказательство. При доказательстве используем свойства математического ожидания независимых случайных величин:

D ( 1 + 2 )2 = E ( 1 + 2 ) E ( 1 + 2 )2 =

=E (( 1 E 1 ) + ( 2 E 2 ))2 = E ( 1 E 1 )2 +

+E ( 2 E 2 )2 2 E ( 1 E 1 )( 2 E 2 ) =

=D 1 + D 2 2 E ( 1 2 1 E 2 2 E 1 + E 1 E 2 ) =

= =

D + D

2

2(E

2

E

1

 

1

 

 

1

D + D

2

2(2 E E

2

2

1

1

 

 

 

E

2

E

2

E +

 

 

 

1

E

 

E

) = D +

1

2

 

 

1

E

 

1

D

2

 

E

) =

2

 

.

Теорема доказана.

Примеры (вычисления математического ожидания и дисперсии случайной величины).

Пусть

сумму

 

i

. Мы можем представить эту случайную величину как

 

B (n, p)

 

независимых и одинаково распределенных случайных величин

=

+

2

1

 

+... +

n

 

, где i - индикатор того, что в i-м испытании произошел

успех.

Тогда мы получаем:

E D

= E + E

2

+... + E

n

=

 

1

 

 

 

 

 

= D

+ D

2

+... + D

n

= np

1

 

 

 

 

 

 

np

(

 

1

.

p)

=

npq

.

Ковариация и коэффициент корреляции двух случайных величин

Определение. Ковариацией двух случайных величин называется величина

и

(

 

)

(

)(

)

 

 

 

 

 

 

 

 

cov

,

 

= E

E E

 

= E E E

 

 

 

 

 

 

 

 

 

 

 

 

 

.

 

 

 

 

 

 

 

Докажите самостоятельно, что для любых случайных величин

 

и

верно равенство:

 

 

 

 

 

 

 

 

 

D( + ) = D + D 2cov ( , ).

 

 

 

 

 

 

 

 

 

Покажите,

что если случайные величины

 

и

 

2

независимы, то

1

 

cov(

,

2

)

1

 

 

=

0

.

Определение. Коэффициентом корреляции двух случайных величин

и

 

 

( , ) =

с конечной дисперсией называется величина

(

 

)

 

(

 

)(

)

 

E E E

 

cov

,

 

=

E

E

E

 

=

 

.

D D

 

D D

 

D D

 

 

 

 

 

 

 

 

 

Полезно знать, что операция вычитания математического ожидания из случайной величины называется её центрированием, а процесс деления на корень из дисперсии – нормированием. Это связано с тем, что после того, как над любой случайной величиной проделать обе эти операции, то получим величину со средним 0 и дисперсией 1. Проверьте это самостоятельно.

Теорема (о свойствах коэффициента корреляции). Для

произвольных случайных величин верно:

и

с ненулевой дисперсией

1.если и

2.для любых

независимы, то ( , ) = 0 ; вещественных a и b верно равенство

 

( + a, +b) = ( , );

3.

( , ) 1

.

 

Доказательство. Первое свойство, очевидно, получается из свойств математического ожидания.

Для доказательства второго свойства достаточно произвести следующие преобразования:

 

(

 

 

)

(

 

 

 

(

 

 

 

))(

cov

 

+ a, + b

 

= E

 

+ a E

+ a

+ b

 

(

 

)(

 

 

)

 

(

 

 

)

.

 

= E

E

E

 

 

= cov

 

,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Согласно свойствам дисперсии

E ( +

D( + a)

b

=

)) =

D

,

D + b

)

= D

. Следовательно,

 

(

 

( + a, + b) =

cov ( + a, + b)

D + a

D + b

 

=cov ( , )

D D

=

( , )

.

Для доказательства третьего свойства используем неравенство КошиБуняковского:

 

 

 

 

E E

E

 

 

2

 

(

 

(

E

)(

 

( ( , ))

2

=

(

 

 

 

)(

 

)

 

 

 

 

E

 

E

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

D D

 

 

 

 

 

 

 

 

 

 

D D

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

 

)

2

(

)

2

 

 

D D

 

 

 

 

 

 

 

E

 

E

E E

=

 

 

 

 

 

 

 

= 1

.

 

 

 

 

 

 

 

 

D D

 

 

D D

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Следовательно, ( ( , ))

2

 

1 и

 

(

,

 

 

 

 

 

 

 

)

))2

1

.

Теорема доказана. Следствие (без доказательства). Модуль коэффициента корреляции

двух случайных величин

 

и

 

равен 1 тогда и только

 

 

существуют вещественные числа a 0

и c такие, что P ( = a

При этом константа

a

и ( , ) имеют одинаковый знак, т.е.

 

( , ) =1, а если a 0

, то

( , ) = −1 .

тогда, когда

+ c) =1

.

 

если a 0 , то

Определение. Если

( , ) = 0

, то

 

называются некоррелированными.

случайные величины и

Все независимые случайные величины согласно первому пункту предыдущей теоремы некоррелированы, но не все некоррелированные величины независимы. Это доказывает следующий пример.

 

 

1

0

1

 

Пример. Пусть дана следующая случайная величина.

 

1 / 3

 

.

 

 

1 / 3

1 / 3

Очевидно, что

E

=

0

,

D 0

(покажите это самостоятельно).

Пусть

=

2

. Тогда

 

0

1

 

. Покажите, что

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1 / 3

2 / 3

 

 

Так как = 3

= , то E = 0 , следовательно,

( , ) =

E E E

= 0

.

 

 

 

 

 

D D

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

D

0

.

Мы получили, что величины

 

и

 

они не являются независимыми.

некоррелированны. Докажите, что

Определение. Случайный

нормальное распределение,

 

 

 

 

 

 

1

 

(

 

 

 

 

 

 

 

 

1

 

p

(x

,..., x

) =

 

 

n

e

2

 

 

1

n

 

(

2 )

det

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

вектор

= ( 1,..., n ) имеет n–мерное

если его плотность имеет вид

 

 

T

 

1

 

 

 

 

 

)

 

)

 

 

x

 

(x

 

 

,

где

x1

x = ... - вектор-столбец,

xn

(a

 

)

 

 

T

 

 

- транспонированный вектор

a

 

 

,

det - определитель

матрицы

, =

cov ( i , j ) n n - ковариационная

матрица вектора

 

1

n

 

, составленная из попарных ковариаций

 

 

= (

,...,

)

 

 

 

 

 

 

 

(

 

 

)

 

 

 

 

случайных величин

 

,...,

n ,

 

 

 

T

 

 

)

- вектор математических

1

 

 

 

1

n

 

 

 

 

 

 

= (E

,..., E

 

ожиданий случайных величин 1 , …, n .

Для этого распределения используется обозначение

= (

,...,

n

1

 

Матрицу

)

N ( , ).

еще обозначают как

cov (

 

,

 

)

.

Определение. Пусть

Z

m n

 

=

 

ij

m n

 

 

 

- матрица размеров

m n

с элементами –

случайными

величинами

 

 

ij

с

конечными

математическими

 

 

 

 

 

 

 

 

 

 

 

ожиданиями

E ij + .

Тогда

 

 

по

определению

математическим

ожиданием

матрицы

Z

m n

называется матрица,

составленная из

 

 

 

 

 

 

 

 

 

математических ожиданий её элементов:

E Z = E ij m n .

Докажите самостоятельно, что

1). если

D =

A Z B + C

, где A, B, C –подходящие по размеру числовые

матрицы, то

E D =

A (E Z ) B

+ C

;

2). верно равенство

= cov( , ) = E ( E ) ( E )T .

Теперь рассмотрим случай, когда нормальное распределение.

n

=

2

,

т.е. рассмотрим двумерное

Пусть

Пусть

=12

(

,

2

)

1

 

 

= D

 

 

 

1

,

,

=

22

E = (

= D

2

 

1

2

, где

 

, )

 

, тогда

1

=

E 1

,

2

= E

2

 

.

cov (

,

2

1

 

2

= 1

1 2

) = (

,

2

)

 

 

 

1

 

 

 

2

 

 

 

 

 

1

 

, где

 

2

 

 

 

 

 

 

2

 

 

 

 

 

D

D

2

1

 

( 1, 2 )

=1 2

=.

(

 

,

2

)

 

1

 

 

,

Легко вычислить, что

det =

 

 

 

 

=

 

 

2

2

2

2

 

2

2

2

1

 

2

1

2

 

 

1

2

(

 

1

2

)

.

Следовательно, используя алгебраические методы, можно найти, что

 

1

=

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

2

 

1 2

)

 

 

 

 

1

 

 

2

(

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

1

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

1

 

2

1

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

2

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

2

 

2

1

 

 

2

=

 

 

 

 

 

 

2

 

 

 

 

 

 

 

1

2

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Тогда

 

1

 

 

 

 

T

 

 

 

 

 

 

 

 

 

1

 

 

 

(x

)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

(x

 

 

)

 

1

(x

 

 

)= −

 

 

 

 

 

 

1

 

1

 

 

 

 

 

 

 

 

 

 

(

 

 

 

)

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

(x

− )(x

 

)

+

(x

)

2

 

 

 

 

 

 

 

 

 

 

 

 

1

1

 

 

2

 

2

 

2

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

2

 

 

 

 

 

 

 

2

 

 

 

.

Следовательно, плотность двумерного нормального распределения имеет вид:

p

(x

, x

 

1

2

при 1

) = 2

0 ,

 

2

 

 

1

 

2

1

0

1 2

,

 

 

 

 

 

 

 

1

 

 

(x

)

 

 

 

exp

 

 

 

 

 

 

2

 

 

(

 

)

1

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

2 1

2

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(x1 1 )(x2

2 )

 

(x2 2 )2

,

2

 

1 2

 

 

 

+

 

22

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Если

=

1

, то плотность не определена.

Для двумерного нормального

следующее обозначение:

= (

,

2

1

 

распределения иногда используют

)

N (

,

,

 

2

,

 

2

, )

 

 

 

 

 

 

 

 

 

1

2

 

1

 

 

2

 

 

Утверждение (без доказательства).

случайные величины

1

1

,

2

)

и

 

2

~ N

1

 

 

~ N (

 

 

 

(

Если

2

,

2

2

)

,

 

 

 

даны две нормальные то они независимы тогда

итолько тогда, когда их коэффициент корреляции равен нулю, т.е.

( 1, 2 ) = 0 .

Докажите самостоятельно следующее

Утверждение. Если дан случайный вектор

компоненты его нормальны:

 

~ N (

,

 

2

)

,

 

 

~

1

1

 

1

 

 

 

2

 

= ( 1, 2

N (

,

2

 

 

2

2

 

) N ( 1, 2 , 12 , 22 , ) , то

).