
Мишулина Основы теории вероятностей 2011
.pdf
2.Докажите свойство линейности оператора математического ожидания для случайного вектора непрерывного типа.
3.Чему равно математическое ожидание разности двух случайных величин?
4.Чему равно математическое ожидание случайного вектора Y AX , где X – случайный вектор размерности n, а А – неслучай-
ная матрица размерности [m×n]?
5.Чему равно математическое ожидание произведения неза-
висимых случайных величин Xi, i 1, n ?
6. |
Напишите расчетную формулу для |
n |
|
и приведите |
D ci Xi |
||||
|
|
i 1 |
|
|
ее доказательство. |
|
|
|
|
7. |
|
n |
|
в векторно- |
Запишите расчетную формулу для D ci Xi |
||||
|
|
i 1 |
|
|
матричной форме.
8.Как изменится дисперсия скалярной случайной величины, если ее отмасштабировать с помощью коэффициента с?
9.Является ли равенство нулю ковариационного момента случайных величин X1 и X2 необходимым условием их независимости?
10.Следует ли из равенства нулю ковариационного момента случайных величин X1 и X2 их независимость?
11.Справедливо ли равенство:
k12 = M[ X 1 X 2 ] M[ X 1 X 2 ] ?
12.Какими свойствами обладает ковариационная матрица случайного вектора с независимыми компонентами?
13.Какими свойствами обладает корреляционная матрица случайного вектора с независимыми компонентами?
14.Чему равна дисперсия суммы попарно независимых случайных величин?
15.Докажите, что D[X1 X2 ] D[X1 X2 ] .
16.Какова область возможных значений коэффициента корреляции случайных величин? Приведите доказательство.
151
17. Является ли равенство | r12 | 1 необходимым условием ли-
нейной зависимости случайных величин X1 и X2 ? Приведите доказательство.
18. Является ли равенство | r12 | 1 достаточным условием ли-
нейной зависимости случайных величин X1 и X2 ? Приведите доказательство.
19.Чему равен коэффициент корреляции r12 , если случайные величины X1 и X2 связаны равенством X1 3 X 2 5 ?
20.Случайный вектор X = col(X1, X2) имеет математическое ожидание mX= col( mX1 , mX 2 ) и ковариационную матрицу
|
3 |
2 |
|
K |
2 |
4 |
. |
|
|
Чему равна дисперсия случайной величины Y = 2X – 3Y + 3?
§ 26. Условные моменты случайного вектора
Рассмотрим двумерный случайный вектор X = col(X1 , X2) непрерывного типа с совместной плотностью распределения вероятностей f X1, X 2 (x1, x2 ) . В § 23 было введено понятие условной плот-
ности распределения вероятностей случайной величины X1 относи-
тельно условия X2 = x2: f X1 | X 2 (x1 | x2 ) .
Условное математическое ожидание произвольной функции ξ(X1) случайной величины X1 при условии, что случайная величина X2 приняла значение x2 , определяется следующим выражением:
|
|
M[ ( X1) | X 2 x2 ] (x1) f X1| X 2 (x1 | x2 ) dx1 . |
(3.102) |
- |
|
Если ξ(X1) = X1 , то получим условное математическое ожидание случайной величины X1 относительно события X2 = x2:
mX1| X 2 (x2 ) M[X1 | X 2 x2 ] x1 f X1| X 2 (x1 | x2 ) dx1 . (3.103)
-
152
Функция mX |
1 |
| X |
2 |
(x2 ) |
называется регрессией случайной величины X1 |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
на X2 . В частности, функция |
mX |
1 |
| X |
2 |
(x2 ) может быть линейной: |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
mX |
1 |
| X |
2 |
(x2 ) = a x2 b . |
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Тогда a и b называются коэффициентами линейной регрессии. |
||||||||||||||||||
Поскольку X2 является случайной величиной, то можно усред- |
||||||||||||||||||
нить значения |
mX |
1 |
| X |
2 |
(x2 ) |
с плотностью f X |
2 |
(x2 ) . Результатом |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
усреднения будет безусловное математическое ожидание случайной величины X1:
|
|
|
|
M X 2 [mX1| X 2 |
( X 2 )] mX1| X 2 (x2 ) f X 2 (x2 ) dx2 |
mX1 . |
(3.104) |
|
|
|
|
Справедливость приведенного равенства показывается прямой подстановкой выражения (3.103) для mX1 | X 2 (x2 ) в (3.104) и ис-
пользованием свойств (3.32) и (3.49) совместной плотности распре-
деления f X1, X 2 (x1, x2 ) .
Заметим, что в случае независимости случайных величин X1 и X2
mX1 | X 2 (x2 ) mX1 ,
т.е. условное и безусловное математические ожидания случайной величины X1 совпадают.
Если в формуле (3.102) положить |
( X1 ) ( X1 |
mX |X |
2 |
(x2 ))2 |
, |
|
|
1 |
|
|
то получим выражение для условной дисперсии случайной величины X1 относительно события X2 = x2:
|
d |
X |
| X |
|
|
(x ) M[( X |
1 |
m |
X |X |
|
(x ))2 |
| X |
2 |
x ]. |
(3.105) |
|||
|
|
2 |
2 |
|
|
2 |
|
2 |
|
2 |
|
|||||||
|
|
1 |
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|||
Величина |
d X |X |
2 |
(x2 ) |
называется |
также |
остаточной |
дисперсией |
|||||||||||
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
случайной величины X1 при X2 = x2. Она отражает ту меру неопределенности (рассеяния) значения случайной величины X1 , которая осталась после измерения X2 = x2. Средняя остаточная дисперсия
|
|
|
|
|
|
|
|
d X |
|
|
|
(x2 ) |
d X |X |
2 |
вычисляется усреднением условной дисперсии |
1 |
| X |
2 |
|||||||
1 |
|
|
|
|
|
|
|
|||||
по значениям случайной величины X2: |
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
M X 2 [d X1| X 2 ( X 2 )] d X1| X 2 (x2 ) f X 2 (x2 ) dx2 |
|
d |
X1| X 2 . |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
153 |

Функция регрессии mX1 | X 2 (x2 ) является наилучшей в средне-
квадратичном смысле оценкой значения случайной величины X1, если известно значение X2 = x2:
M[( X1 mX1|X 2 (x2 ))2 ] min M[( X1 h (x2 ))2 ] .
h( x2 )
Это свойство широко используется в теории статистического оценивания и прикладных задачах статистики.
Приведенные определения и свойства условных моментов, рассмотренные выше для случайных величин непрерывного типа, справедливы и для дискретных случайных величин.
Обобщим понятие условного математического ожидания на случайные векторы X = col(X'Т, X"Т), X' = col(X1, X2, …, Xm), X" = col(Xm+1, Xm+2, …, Xn). Условным математическим ожиданием
mX i | X"(x") случайной величины Xi , i 1, m , при условии, что слу-
чайная величина X" приняла значение x", называется: mX i | X"(x") mX i | X"(xm 1, xm 2 , ..., xn )
|
n |
|
(3.106) |
|
|||
M Xi | |
( X k xk ) . |
|
|
|
k m 1 |
|
|
Вектор условного математического ожидания mX'|X"(x") определяется выражением:
mX'|X"(x") = col( mX1| X" (x"), mX 2| X" (x"), ..., mX m| X" (x") )
и называется функцией регрессии вектора X' на вектор X".
Пример 3.14. В примере 3.9 было рассмотрено дискретное распределение вероятностей двух статистически зависимых случайных величин X1 и X2 на множестве возможных значений {0, 1, 2} каждой из них. Для расчета условных математических ожиданий mX1 | X 2 (x2 ) , x2 = 0, 1, 2, используем формулу
2
mX1 | X 2 (x2 ) = i1 pX1 | X 2 (i1 | X 2 x2 ) .
i1 0
Воспользуемся фрагментом табл. 3.7, в котором приведены необходимые для расчетов безусловные и условные распределения случайных величин X1 и X2 :
154
1 |
|
|
|
|
|
|
x1i , x2i |
|
|
|
|
|
|
0 |
|
|
1 |
|
|
2 |
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
2 |
|
|
|
|
|
|
p |
X1 |
(i ) |
|
|
|
|
|
|
0,08 |
0,40 |
|
0,52 |
|||
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
|
|
|
|
|
p |
X 2 |
(i ) |
|
|
|
|
|
0,38 |
0,34 |
|
0,28 |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4 |
|
|
|
|
p |
X1 |
| X 2 |
(i | X |
2 |
0) |
|
|
0,0 |
0,474 |
|
0,526 |
||||||
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
5 |
|
|
|
|
p |
X1 | X 2 |
(i | X |
2 |
1) |
|
|
0,088 |
0,412 |
|
0,500 |
|||||||
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
||||
6 |
|
|
|
|
p |
X1 |
| X 2 |
(i | X |
2 |
2) |
|
|
0,178 |
0,286 |
|
0,536 |
||||||
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Расчет регрессии X1 на X2 приводит к следующему результату: |
||||||||||||||||||||||
mX |
1 |
| X |
2 |
(0) |
= 1,526; |
mX |
1 |
| X |
2 |
(1) |
= 1,412; |
mX |
1 |
| X |
2 |
(2) = 1,354. |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Проверим выполнение равенства (3.104), согласно которому ус-
реднение mX |
1 |
| X |
2 |
(x2 ) |
по значениям случайной величины X2 при- |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
водит к безусловному математическому ожиданию mX |
1 |
. С этой |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
целью рассчитаем |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
M X |
2 |
[mX |
1 |
| X |
2 |
( X 2 )] |
mX |
1 |
| X |
2 |
(i2 ) pX |
2 |
(i2 ) |
|
|
||
|
|
|
|
|
|
i2 0 |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
с использованием приведенного во фрагменте таблицы распределения pX 2 (i2 ) :
M X 2 [mX1|X 2 ( X 2 )] = 0,38·1,526 + 0,34·1,412 + 0,28·1,354 = 1,44.
Проведем расчет математического ожидания mX1 :
2
mX1 = i1 pX1 (i1) = 0·0,08 + 1·0,40 + 2·0,52 = 1,44.
i1 0
Равенство (3.104) выполнено.
Контрольные вопросы и задачи
1. Что называется условным математическим ожиданием произвольной функции ξ(X1) случайной величины X1 при условии, что случайная величина X2 приняла значение x2? Напишите определение для случайных величин непрерывного и дискретного типов.
155
2.Что называется регрессией случайной величины X1 на X2?
3.Напишите выражение для линейной регрессии X1 на X2 .
4.Как безусловное математическое ожидание mX1 случайной
величины X1 связано с условным математическим ожиданием mX1| X 2 (x2 )? Приведите доказательство.
5.Чему равно условное математическое ожидание случайной
величины X1 относительно X2 в случае независимости случайных величин? Приведите доказательство.
6.Что называется остаточной дисперсией случайной величины X1 при X2 = x2?
7.Как вычисляется средняя остаточная дисперсия X1 относи-
тельно X2?
8.Какое свойство функции регрессии X1 на X2 широко используется в теории статистического оценивания и прикладных задачах статистики?
9.Как обобщается понятие функции регрессии на векторные случайные величины?
10.Напишите общее выражение для функции линейной регрес-
сии случайной величины X1 на вектор X' = col(X2, X3, …, Xn).
§ 27. Характеристическая функция случайного вектора
Понятие характеристической функции скалярной случайной величины, введенное в § 18, обобщается на векторные случайные величины.
Характеристической функцией n-мерного случайного вектора
X = col(X1, X2, …, Xn) |
|
называется |
комплексная |
функция |
|||||||||
X ( 1, 2 , ..., n ) n действительных аргументов λ1, λ2, …, λn : |
|||||||||||||
|
|
|
|
|
|
|
|
|
j i X i |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
( , |
|
, ..., |
|
) M |
|
e |
i 1 |
|
. |
(3.107) |
|
X |
2 |
n |
|
|
|||||||||
|
1 |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Определение (3.107) можно записать в краткой векторной форме:
(λ) M[ e jλT X], |
(3.108) |
X
где λ = col(λ1, λ 2, …, λ n).
156

Отметим основные свойства характеристической функции случайного вектора. Эти свойства будут далее иллюстрироваться на примере распределений непрерывного типа.
1. Для любых i , i 1, n, характеристическая функция φX(λ) ограничена | φX(λ) | ≤ 1 и удовлетворяет условию
φX(0) = 1. |
(3.109) |
Это утверждение следует из определения (3.108)
|
|
|
X( 1, 2 , ..., n ) |
|
|
|
|
n |
|
|
|
|
j i X i |
(3.110) |
|
|
... e |
i 1 |
fX (x1, x2 , ..., xn ) dx1 dx2 ... dxn |
|
|
|
|
и свойства нормировки распределения вероятностей.
2. Характеристическая функция случайного вектора X = col(X1, X2, …, Xn) с независимыми компонентами X1, X2, …, Xn равна произведению их характеристических функций:
n
X ( 1, 2 , ..., n ) X i ( i ) . (3.111)
i 1
Сформулированное утверждение основано на свойстве (3.90) оператора математического ожидания, в котором произвольная
функция |
( X |
) положена равной |
e j i X i : |
|
||
i |
i |
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
j i X i |
n |
n |
||
|
|
|
|
|
M[ e |
j i X i ] X i ( i ) . |
X ( 1, 2 , ..., n ) M e |
i 1 |
|
||||
|
|
|
|
|
i 1 |
i 1 |
|
|
|
|
|
|
|
3. Характеристическая функция суммы независимых случайных
n |
|
|
|
величин Z X k равна произведению |
их |
характеристических |
|
k 1 |
|
|
|
функций: |
|
|
|
n |
|
|
|
Z ( ) X |
k |
( ) . |
(3.112) |
k 1 |
|
|
|
|
|
|
Для доказательства равенства (3.112) применяется определение (2.71) характеристической функции Z ( ) скалярной случайной
157

величины Z и свойство (3.90) оператора математического ожидания:
|
n |
|
|
|
|
|
|
j X i |
|
n |
|
n |
n |
||
|
|
|
|
M[e j X k ] X k ( ) . |
|||
Z ( ) = M e |
i 1 |
|
M e j X k |
||||
|
|
|
k 1 |
|
k 1 |
k 1 |
|
|
|
|
|
|
|
|
|
4. Если случайный вектор Y размерности m является линейным преобразованием случайного вектора X размерности n
Y = AX + B,
где А – матрица размерности [m×n]; B – вектор размерности m, то
|
Y |
(λ) = e jλ T B |
X |
(AT λ) . |
(3.113) |
|
|
|
|
Действительно, используя определение характеристической функции и свойства оператора математического ожидания, получим:
|
Y |
(λ) = M[e jλTY] M[e jλT (AX B)] |
||
|
|
|
|
|
= e |
jλTB M[e jλTAX] e jλTB |
X |
(AT λ) . |
|
|
|
|
|
5. Если случайный вектор X = col(X1, X2, …, Xn) имеет смешан-
ный начальный момент |
(X) |
|
порядка |
( r |
|
r ... r |
), где |
||||||||
|
|
|
r1 ,r2 ,...,rn |
|
|
|
|
1 |
2 |
|
n |
||||
r1, r2 , ..., rn – натуральные числа, |
то он равен |
|
|
|
|
|
|
|
|
||||||
|
|
|
(X) |
,...,r = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
r ,r |
|
|
|
|
|
|
|
|
|
|
||
|
|
|
1 2 |
|
n |
|
|
|
|
|
|
|
|
|
|
|
(r r |
... r ) (r1 r2 ... rn ) |
X |
( , |
2 |
, ..., |
n |
) |
|
|
|
|
|
||
|
|
|
|
|
|
||||||||||
= ( j) |
1 2 |
n |
|
1 |
|
|
|
|
i 0, |
. |
|
(3.114) |
|||
|
|
r |
r |
r |
|
|
|
|
|
|
|||||
|
|
|
1 2 |
... n |
|
|
|
|
|
i 1, 2,..., n |
|
|
|
||
|
|
|
1 |
2 |
|
n |
|
|
|
|
|
|
|
|
|
Этот результат может быть получен дифференцированием левой
иправой частей равенства (3.110) по переменным λ1, λ 2, …, λ n .
6.Плотность распределения вероятностей случайного вектора
X = col(X1, X2, …, Xn) непрерывного типа может быть определена с помощью его характеристической функции по формуле обратного преобразования:
158

|
|
|
|
|
|
fX (x1, x2 , ..., xn ) = |
|
(3.115) |
||
|
|
|
|
|
n |
|
|
|
|
|
|
1 |
|
|
|
j i X i |
|
|
|
||
= |
|
|
... e |
i 1 |
X ( 1, 2 |
, ..., |
n ) d 1 d 2 |
... d n . |
||
|
||||||||||
(2 )n |
|
|||||||||
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
Контрольные вопросы и задачи
1.Дайте определение характеристической функции n-мерного случайного вектора.
2.Напишите расчетные выражения для характеристической функции случайных векторов непрерывного и дискретного типов.
3.Какова область возможных значений абсолютной величины характеристической функции?
4.Каким свойством обладает характеристическая функция случайного вектора с независимыми компонентами? Приведите доказательство для случайного вектора дискретного типа.
5. |
Выведите выражение для характеристической функции |
(λ) |
|
центрированного случайного вектора X , если известна ха- |
X
рактеристическая функция X (λ) .
6.Чему равна характеристическая функция суммы независимых случайных величин?
7.Как определить характеристическую функцию случайного вектора Y размерности m, если он является линейным преобразованием Y = AX + B случайного вектора X размерности n с извест-
ной характеристической функцией X (λ)?
|
(X) |
,...,r |
поряд- |
8. Как можно вычислить начальный момент r ,r |
|||
|
1 2 |
n |
|
ка ( r1 r2 |
... rn ) для случайных величин (X1, X2, …, Xn) при из- |
||
вестной |
характеристической функции случайного |
вектора |
X = col(X1, X2, …, Xn)?
9. Как рассчитать плотность распределения вероятностей случайного вектора X = col(X1, X2, …, Xn) непрерывного типа, если известна его характеристическая функция X (λ) ?
159

10. Пусть случайный вектор X = col(X1, X2, …, Xn) с известной характеристической функцией X (λ) представлен своими подвек-
торами X' и X": X = col(X'Т, X"Т), где X' = col(X1, X2, …, Xm),
X" = col(Xm+1, Xm+2, …, Xn). Как определить характеристическую функцию X' (λ') подвектора X'?
§28. Нормальный закон распределения вероятностей случайного вектора
В§ 19 был изучен нормальный закон распределения вероятностей скалярной случайной величины X (закон Гаусса). Перейдем к изучению многомерного нормального распределения.
Случайный вектор X = col(X1, X2, …, Xn) распределен по нормальному закону, если совместная плотность распределения веро-
ятностей |
fX (x1, x2 , ..., xn ) приводится к виду |
|
|||||||||||
|
|
|
|
|
|
1 |
|
|
|
|
1 |
(x m)T K 1(x |
|
f |
X |
(x , x , ..., x ) = |
|
|
|
|
exp |
|
|
m) , (3.116) |
|||
|
|
|
|
|
|||||||||
|
1 |
2 |
n |
(2 )n |K | |
|
|
2 |
|
|
||||
|
|
|
|
|
|
|
|
||||||
где |
x |
= |
col(x1, x2, …, xn); m |
= |
col(m1, m2, …, mn); |
mi M[ Xi ] , |
i 1, n ; K – ковариационная матрица случайного вектора X; K 1 –
обратная ковариационная матрица; | K | – определитель ковариационной матрицы.
Характеристическая функция X ( 1, 2 , ..., n ) нормального
случайного вектора X, вычисляемая в соответствии с определением
(3.108), равна
|
|
T |
m |
1 |
X ( 1, 2 |
, ..., n ) = X (λ) = exp j λ |
|
|
|
|
2 |
|||
|
|
|
|
λ |
T |
|
(3.117) |
|
K λ , |
||
|
|
|
|
где λ = col(λ1, λ принимает вид
X ( 1,
2, …, λ n). В скалярной форме выражение (3.117)
|
|
n |
1 |
n n |
|
|
2 |
, ..., n ) = exp j λimi |
|
kil λi λl |
. (3.118) |
||
|
||||||
|
|
i 1 |
2 i 1 l 1 |
|
|
Из выражений (3.116), (3.117) следует, что многомерное нормальное распределение зависит только от математического ожидания m и ковариационной матрицы K случайного вектора. Это озна-
160