
- •Введение.
- •1.1 Случайные величины и методы их описания
- •1.1.1 Определение случайной величины и ее описание
- •1.1.2 Статистические характеристики случайных величин
- •1.1.3 Гауссовские случайные величины и их характеристики
- •1.1.4 Различные типы случайных величин
- •1.1.5. Задачи к разделу 1.1
- •1.1.6 Вопросы к разделу 1.1
- •1.2 Случайные векторы и методы их описания
- •1.2.1 Определение случайного вектора и его описание
- •1.2.2 Статистические характеристики случайных векторов
- •Определение
- •1.2.3 Гауссовские случайные векторы и их характеристики
- •1.2.4 Среднеквадратический эллипс ошибок, круговая вероятная ошибка.
- •1.2.5. Задачи к разделу 1.2
- •1.2.6 Вопросы к разделу 1.2
- •1.3 Преобразование случайных величин и векторов
- •1.3.1 Функции случайных величин
- •1.3.2 Функции случайных векторов
- •1.3.3 Линейные преобразования случайных векторов.
- •1.3.4 Определение статистических свойств длины проекции случайного двумерного вектора на заданное направление
- •1.3.5 Ортогонализация случайных величин. Связь матрицы ковариаций и среднеквадратического эллипса
- •1.3.6. Задачи к разделу 1.3
- •1.3.7 Вопросы к разделу 1.3
- •1.4 Условная плотность распределения вероятностей
- •1.4.1. Формулы Байеса. Условные математическое ожидание и матрица ковариаций
- •1.4.2 Правила нахождения параметров условной гауссовской плотности
- •1.4.3 Примеры нахождения параметров условной гауссовской плотности
- •1.4.4 Задача регрессии.
- •1.4.5 Задачи к разделу 1.4
- •1.4.6 Вопросы к разделу 1.4
- •1.5 Моделирование случайных величин и векторов и вычисление их выборочных характеристик.
- •1.5.1. Псевдослучайные последовательности, датчики случайных чисел
- •1.5.2 Метод Монте-Карло.
- •1.5.3 Выборочные статистические характеристики
- •1.5.4 Гистограмма
- •1.5.5 Моделирование случайных величин в Matlab
- •1.5.7 Вопросы к разделу 1.5
- •1.6 Задание для моделирования с использованием Matlab.
- •1.7 Заключение.

|
|
|
|
|
|
|
|
58 |
|
|
|
|
|||
fy ( y) = |
dFy ( y) |
, |
|
|
|
|
|
|
|
(1.3.4) |
|||||
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
dy |
|
|
|
|
|
|
|
|
|||
причем F ( y) имеет обратную |
F −1 |
(x) . Введем новую с.в. с помощью преобразования |
|||||||||||||
y |
|
y |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x − a |
|
|
|||||
y = g(x) = F −1 |
|
|
|
. |
|
(1.3.5) |
|||||||||
|
|
|
|
||||||||||||
|
|
|
|
|
y |
b |
− a |
|
|
||||||
Поскольку по определению обратной функции |
|
|
|
|
|||||||||||
|
|
|
|
x − a |
|
|
|
|
x − a |
|
|||||
F |
|
F −1 |
|
|
|
|
= F (g(x)) = |
|
, |
||||||
|
|
|
|||||||||||||
y |
y |
b − a |
|
|
y |
b − a |
|
||||||||
|
|
|
|
|
|
|
|
|
справедливо равенство
(b − a)Fy (g(x)) + a = x ,
из которого следует, что функция h(g(x)) = h(y) , обратная для g(x) , имеет вид
h(y) = (b − a)Fy (y) + a .
Используя теперь соотношение (1.3.2) применительно к рассматриваемому случаю, получаем
fy ( y) = fx (h( y)) |
|
dh( y) |
|
= |
1 |
(b − a) |
dFy ( y) |
|
|
||||||
|
dy |
|
b − a |
dy |
|||
|
|
|
|
|
Проиллюстрируем сказанное на следующем примере.
Пример 1.3.2. Предположим задана с.в., равномерно распределенная Требуется сформировать с.в. с экспоненциальной ф.п.р.в [1.6, с.49].
fy ( y) = αe−αy , 0 < y < ∞.
Поскольку
= dFy ( y) . dy
на интервале [0,1].
y
Fy ( y) = ∫αe−αu du =1 − e−αy ,
0
то, принимая во внимание вид обратной функции для Fy ( y) =1 − e−αy , получаем, что
экспоненциальную ф.п.р.в будет иметь случайная величина, формируемая как
y= − α1 ln(1 − x) .♦
1.3.2Функции случайных векторов
Выше речь шла о преобразованиях случайных величин. Обсудим теперь задачу преобразования случайных векторов. Можно показать, что правила нахождения ф.п.р.в. для случайного вектора y = g(x) , полученного путем преобразования с помощью нелинейной
вектор функции g(x) = (g1 (x),..., g n (x)) , аналогичны приведенным выше для одномерного

|
|
59 |
|
|
|
случая. Предположим, что задана плотность распределения |
f x (x) |
для n -мерного вектора x . |
|||
Когда |
g(x) взаимно однозначна |
во всей области возможных значений, т. |
е. существует |
||
обратная функция x = h(y) такая, |
что x = h(y) = h(g(x)), |
то для |
плотности |
распределения |
|
fy ( y) |
справедливо соотношение [1.5] |
|
|
|
fy ( y) = fx (h( y)) det
в котором
|
|
|
|
dh1 |
||
|
dh |
|
|
|
||
dy |
||||||
|
|
|
|
= det |
1 |
|
det |
|
т |
|
|||
dy |
|
|
dhn |
|||
|
|
|
|
|
dy |
|
|
|
|
|
|
1 |
|
dh |
|
|
|
|
|
|
|
|
, |
(1.3.6) |
|
|
||||
|
|
т |
|
|
|
dy |
|
|
|
|
... dh1 dyn
... dhn dyn
представляет собой якобиан преобразования. Если функция g(x) не однозначна во всей области значений x , то разбивая ее на подобласти, в которых условия однозначности выполняются, нетрудно вместо (1.3.6) получить выражение, аналогичное (1.3.2) [1.5].
Рассмотрим пример.
Пример 1.3.3. Предположим, что задан гауссовский случайный двумерный вектор x = (x1 , x2 ) с независимыми компонентами, плотность распределения которого может быть записана как
|
f |
x |
(x) = N(x; x, P), x = (x |
, x |
2 |
)т, |
P = D1 |
0 |
. |
(1.3.7) |
||||
|
|
|
|
|
1 |
|
|
|
0 |
D |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
Считая, |
что x1 , x2 являются декартовыми координатами точки на плоскости, перейдем к |
|||||||||||||
полярным координатам А и ϕ с помощью преобразования |
|
|
|
|
|
|
|
|
||||||
|
A = x12 + x22 |
≥ 0; |
|
|
|
|
|
|
|
(1.3.8) |
||||
|
ϕ = arctg |
x2 |
, |
| ϕ|≤ π. |
|
|
|
|
|
|
|
(1.3.9) |
||
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
x1 |
|
|
|
|
|
|
|
|
|
|
Введем |
вектор y = (y1 , y 2 )т = (A, ϕ) т ) |
с компонентами |
A и |
ϕ |
и |
найдем |
для них |
совместную ф.п.р.в., т.е. определим, как преобразуется функция плотности распределения вероятности двумерного гауссовского вектора при переходе к полярной системе координат.
Значения A и ϕ могут трактоваться как амплитуда и фаза колебания, формируемого при вращательном движении точки с координатами x1 , x2 вокруг начала координат. Поэтому сформулированную задачу можно трактовать как задачу нахождения совместной ф.п.р.в.
амплитуды и фазы.
Поскольку в данном случае

|
|
|
|
|
|
60 |
|
|
|
|
|
|
|
|
|
|
|
x2 |
+ x2 |
|
|
|
|
||
y = g(x) = |
|
1 |
|
2 |
|
, |
|
|
||||
|
arctg |
x2 |
|
|
|
|||||||
|
|
|
|
|
x1 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
||
то обратное преобразование имеет вид |
|
|
|
|
|
|
|
|
|
|||
x1 |
|
= g |
−1 |
|
|
|
|
|
A cos ϕ |
(1.3.10) |
||
|
|
|
|
(y) = h(y) = |
. |
|||||||
x2 |
|
|
|
|
|
|
|
|
|
A sin ϕ |
|
Применяя описанное выше правило нахождения ф.п.р.в. для функции от случайных величин
и принимая во внимание тот факт, что |
|
|
|
||
|
dh( y) |
cos ϕ |
− Asin ϕ |
= A , |
|
det |
= det |
|
|||
dy т |
|||||
|
sin ϕ |
Acos ϕ |
|
можно получить следующее выражение для совместной плотности распределения амплитуды и фазы [1.5]
|
|
|
A |
|
1 |
|
(Acosϕ−x ) |
2 |
|
(Asinϕ−x |
|
) |
2 |
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|||||||
f |
A,ϕ |
(A, ϕ) = |
|
exp − |
|
|
1 |
|
+ |
|
|
|
|
|
, |
(1.3.11) |
|
|
|
|
|
|
|
|
|
||||||||||
|
|
2π(D D )1/ 2 |
|
2 |
D1 |
|
|
D2 |
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
1 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| ϕ|≤ π .
Интегрируя (1.3.11) по ϕ или A , нетрудно найти плотности распределения отдельно для
амплитуды и фазы. Различным значениям параметров |
x1 , x2 , D1 , D2 будут соответствовать |
|||
различные |
виды распределений [1.5, |
с. |
122]. Так, в простейшем случае, когда |
|
x1 = x2 = 0, |
D1 = D2 = D , амплитуда и |
фаза, |
между |
собой независимы, при этом для |
амплитуды получаем плотность распределения Рэлея, а для фазы - равномерную плотность в пределах от − π до + π, т. е.
f A ( A) = Aexp{−(A2 ) / 2D)}/ D, A ≥ 0; |
(1.3.12) |
|||
1 |
ϕ[−π, |
+π], |
|
|
|
|
|
||
|
|
|||
fϕ (ϕ) = 2π |
ϕ[−π, |
+π]. |
(1.3.13) |
|
0 |
|
|||
|
|
|
|
Обратное преобразование от полярных координат к декартовым осуществляется с помощью (1.3.10). Таким образом, получаем, что в условиях, когда совместное распределение случайных величин A и ϕ имеет вид (1.3.11), случайный вектор, компоненты которого получены с использованием (1.3.10), будет гауссовским с плотностью распределения, задаваемой соотношением (1.3.7). В частности, когда амплитуда A, имеющая плотность распределения Рэлея, и равномерно распределенная фаза независимы между собой, случайные величины x1 = A cos ϕ и x2 = A sin ϕ будут центрированными независимыми случайными величинами с одинаковыми дисперсиями. Данный результат представляется примечательным, поскольку гауссовские величины x1 , x2 формируются на основе нелинейного преобразования случайных
61
величин, имеющих достаточно специфические распределения. ♦
Обратим внимание на то, что размерности векторов x и y в соотношении (1.3.6)
предполагались одинаковыми. Вместе с тем, часто возникает необходимость отыскания ф.п.р.в. случайного вектора y , связанного функциональной зависимостью с другими векторами,
размерности которых не совпадают с размерностью y . Например, нередко известна совместная
ф.п.р.в. |
f v,x (v, x) для двух случайных векторов |
v, x , |
размерности |
|
n и m и требуется найти |
||||||||||||||||||||||||||
ф.п.р.в. для |
m - мерного вектора |
y |
|
= |
g 1 ( x , v ) |
|
. В этом случае целесообразно ввести |
||||||||||||||||||||||||
составные векторы одинаковой размерности |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
~ |
~ |
|
|
y |
|
g1 (x, v) |
|
|
z1 |
|
|
v |
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
z1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
z = ~ |
|
= = |
|
x |
и z = |
= |
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
z2 |
|
x |
|
|
|
|
z 2 |
|
|
x |
|
|
|
|
|
|
|
||||||||
и воспользоваться приведенным выше правилом для нахождения ф.п.р.в. |
~ |
~ |
~ |
~ |
|||||||||||||||||||||||||||
f z |
,z |
2 |
(z1 |
, z2 ) для |
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
вектора |
~ |
|
|
|
|
|
|
|
|
~ |
~ |
|
|
|
|
|
|
|
|
|
|
|
интегрирования |
||||||||
z = g(z) . Искомая плотность |
|
f z |
(z1) ≡ fy ( y) далее получается путем |
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
~ |
~ |
~ |
~ |
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
f z |
,z |
2 |
(z1, z2 ) |
по z2 = x . Поясним эту процедуру на следующем весьма важном при решении |
|||||||||||||||||||||||||||
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
задач оценивания примере. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Пример 1.3.4. Пусть задана ф.п.р.в. |
|
f v,x (v, x) |
двух случайных векторов x , |
v размерности n |
|||||||||||||||||||||||||||
и m и вектор y , связанный с этими векторами как |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
y = s(x) + v , |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(1.3.14) |
||||||||
где s(x) - |
m -мерная вектор-функция известного вида. |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
Требуется найти ф.п.р.в. для вектора y . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
В данном случае вектор |
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
z целесообразно ввести в виде |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
~ |
|
|
~ |
|
|
y |
s(x) + v |
s(z 2 ) + z1 |
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
z1 |
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
z ≡ ~ |
|
≡ = |
|
|
x |
|
≡ |
|
|
|
z 2 |
|
. |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
z2 |
|
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
При этом обратная функция |
|
|
|
|
~ |
|
будет определяется как |
|
|
|
|
|
|
|
|||||||||||||||||
z = h(z) |
|
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
z |
|
|
|
v y − s(x) |
~ |
|
~ |
|
) |
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
z |
− s(z |
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
z ≡ |
|
1 |
|
≡ |
= |
|
|
x |
|
≡ |
|
1 |
~ |
2 |
. |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
z 2 |
x |
|
|
|
|
|
|
z2 |
|
|
|
|
|
|
|
|||||||
Принимая во внимание тот факт, что |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
~ |
|
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ds(z2 ) |
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
dh(z ) |
|
|
E |
− |
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
~ |
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
det |
|
|
~ т |
= det |
|
|
|
dz |
2 |
|
=1 |
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
dz |
|
|
|
0 |
|
|
E |
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
и, используя (1.3.6), можем записать |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
~ |
~ |
|
|
|
|
|
|
|
|
|
|
~ |
|
~ |
~ |
|
|
|
|
|
|
|
|
|
(1.3.15) |
|
|
|
|
|
|
f z |
(z ) ≡ fy,x ( y, x) = f v,x (z1 |
− s(z2 ), z2 ) = f v,x ( y − s(x), x) . |
|
|
|
Теперь для нахождения искомой ф.п.р.в. y = s(x) + v достаточно проинтегрировать стоящее справа выражение по аргументу x , т.е.
62
~ |
~ |
(1.3.16) |
f z1 |
(z1) ≡ fy ( y) = ∫ f v,x ( y − s(x), x)dx . |
Если векторы x и v независимы, то это выражение конкретизируется к виду fy ( y) = ∫ f v ( y − s(x)) fx (x)dx .♦
В частном случае, когда y = x + v , используя (1.3.16), получаем выражения для плотности
распределения суммы двух векторов |
|
|
|
|||
|
|
|
fy ( y) = ∫ |
f v,x ( y − x, x)dx , |
|
(1.3.17) |
которое при независимых векторах x v, записывается как |
|
|
||||
|
|
|
fy ( y) = ∫ |
fx (x) f v ( y − x)dx . |
|
(1.3.18) |
При нахождении ф.п.р.в. для суммы двух векторов в качестве вектора |
~ |
может быть также |
||||
z |
||||||
~ |
y |
x + v |
|
|
|
|
использован вектор z |
= |
= |
. Тогда вместо (1.3.17), (1.3.18) можно получить (см. задачу |
|||
|
v |
|
v |
|
|
|
1.3.3) следующие аналогичные выражения |
|
|
|
|||
|
|
|
fy ( y) = ∫ |
f v,x (v, y − v)dv , |
|
(1.3.19) |
|
|
|
fy ( y) = ∫ |
f v (v) fx ( y − v)dv . |
|
(1.3.20) |
Определение ф.п.р.в. для суммы двух независимых векторов по известным плотностям для слагаемых называется композицией ф.п.р.в. [1.7, с.47]. Из (1.3.18), (1.3.20) следует, что композиция представляет собой интеграл свертки.
Сиспользованием (1.3.16) или (1.3.18) можно в частности показать, что сумма двух независимых с.в., имеющих одинаковое - равномерное распределение будет представлять собой с.в. с ф.п.р.в. треугольного вида (см. задачу 1.3.4), а при увеличении числа слагаемых это распределение будет стремиться к гауссовскому. В этом случае говорят, что происходит нормализации ф.п.р.в. Более общий результат, связанный с нормализацией ф.п.р.в. формулируется в виде центральной предельной теоремы. Суть этой теоремы заключается в том, что при формировании случайной величины в результате суммирования независимых между собой центрированных с.в. с одинаковой дисперсией, доказывается, что при увеличении числа слагаемых ф.п.р.в. такой с.в. стремится к гауссовской ф.п.р.в. [1.5]. Этот весьма важный с практической точки зрения результат, поскольку он служит некоторым обоснованием часто используемого предположения о гауссовском характере тех или иных величин. Действительно, если некоторая величина, например ошибка измерителя, формируется в результате суммирования ошибок, обусловленных различными независимыми между собой факторами, то такую с.в. можно с определенной долей приближения считать гауссовской с.в.
Сучетом приведенных выше соотношений можно также убедиться в том, что сумма совместно гауссовских векторов является гауссовским вектором. Более общий результат формулируется так: при линейных преобразованиях гауссовских векторов гауссовский вид