- •Введение.
- •1.1 Случайные величины и методы их описания
- •1.1.1 Определение случайной величины и ее описание
- •1.1.2 Статистические характеристики случайных величин
- •1.1.3 Гауссовские случайные величины и их характеристики
- •1.1.4 Различные типы случайных величин
- •1.1.5. Задачи к разделу 1.1
- •1.1.6 Вопросы к разделу 1.1
- •1.2 Случайные векторы и методы их описания
- •1.2.1 Определение случайного вектора и его описание
- •1.2.2 Статистические характеристики случайных векторов
- •Определение
- •1.2.3 Гауссовские случайные векторы и их характеристики
- •1.2.4 Среднеквадратический эллипс ошибок, круговая вероятная ошибка.
- •1.2.5. Задачи к разделу 1.2
- •1.2.6 Вопросы к разделу 1.2
- •1.3 Преобразование случайных величин и векторов
- •1.3.1 Функции случайных величин
- •1.3.2 Функции случайных векторов
- •1.3.3 Линейные преобразования случайных векторов.
- •1.3.4 Определение статистических свойств длины проекции случайного двумерного вектора на заданное направление
- •1.3.5 Ортогонализация случайных величин. Связь матрицы ковариаций и среднеквадратического эллипса
- •1.3.6. Задачи к разделу 1.3
- •1.3.7 Вопросы к разделу 1.3
- •1.4 Условная плотность распределения вероятностей
- •1.4.1. Формулы Байеса. Условные математическое ожидание и матрица ковариаций
- •1.4.2 Правила нахождения параметров условной гауссовской плотности
- •1.4.3 Примеры нахождения параметров условной гауссовской плотности
- •1.4.4 Задача регрессии.
- •1.4.5 Задачи к разделу 1.4
- •1.4.6 Вопросы к разделу 1.4
- •1.5 Моделирование случайных величин и векторов и вычисление их выборочных характеристик.
- •1.5.1. Псевдослучайные последовательности, датчики случайных чисел
- •1.5.2 Метод Монте-Карло.
- •1.5.3 Выборочные статистические характеристики
- •1.5.4 Гистограмма
- •1.5.5 Моделирование случайных величин в Matlab
- •1.5.7 Вопросы к разделу 1.5
- •1.6 Задание для моделирования с использованием Matlab.
- •1.7 Заключение.
45
1.2.3 Гауссовские случайные векторы и их характеристики
Гауссовским случайным вектором называется такой, для которого ф.п.р.в. определяется в виде
fx (x) = N (x; x, P) = |
1 |
|
exp{− 0.5(x − x)т P −1 |
(x − x)}. |
(1.2.11) |
|
(2π)n / 2 (det P)1/ 2 |
||||||
|
|
|
|
|||
В этом выражении x и P представляют |
собой математическое |
ожидание и |
матрицу |
|||
ковариаций, которые, как и в одномерном случае, полностью определяют гауссовскую ф.п.р.в. Из условия согласованности следует, что для отдельных компонент вектора ф.п.р.в. будут
определяться как |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
(xi − xi ) |
2 |
|
|
|
|
f |
|
|
(x |
) = N (x |
; x |
, P |
) = |
exp − |
|
|
, i=1.n . |
||||
x |
|
|
|
|
|
||||||||||
|
i |
i |
i |
i |
ii |
|
(2π)1/ 2 P 1/ 2 |
|
2Pii |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
ii |
|
|
|
|
|
|
|
Аналогично можно записать гауссовскую плотность для произвольного набора компонент. Для этого необходимо из вектора математических ожиданий выбрать необходимые компоненты, а из полной матрицы ковариаций сформировать соответствующую им матрицу ковариаций.
Векторы называются совместно гауссовскими, если их совместная плотность распределения гауссовская. Заметим, что возможны ситуации, при которых каждый вектор или с.в. по отдельности -гауссовские, а их совместная плотность таковой не является [1.3].
Если совместно гауссовские векторы x и y не коррелированы и таким образом
M x,y {x − x)( y − y)т} = 0 ,
то они и независимы между собой, т.е.
fx,y (x, y) = fy ( y) fx (x) .
В частности, в этом легко убедиться на примере, когда x и y скаляры, поскольку
|
|
x x |
|
P |
0 |
|
|
|
1 |
|
|
|
(x |
− |
x) |
2 |
|
( y |
− |
y) |
2 |
|
|||||
f |
|
(x, y) = N |
|
|
|
|
11 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
x,y |
; |
y |
, |
|
|
P |
= |
|
|
|
|
|
exp − |
|
|
|
|
− |
|
|
|
|
|
= |
|||
0 |
|
|
1/ 2 |
|
1/ 2 |
2P |
|
2P |
|
|
|||||||||||||||||
|
y |
|
|
|
|
(2π) |
P |
P |
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
22 |
|
|
|
|
|
|
|
11 |
|
|
|
22 |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
11 |
22 |
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
1 |
|
|
|
(x − x) |
2 |
|
|
1 |
|
|
( y − y) |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
= |
|
|
|
|
exp − |
|
|
|
|
|
|
|
exp − |
|
|
. |
|
1/ 2 |
|
1/ 2 |
2P |
|
|
1/ 2 |
|
1/ 2 |
2P |
|
|||||
|
(2π) |
P |
|
|
|
2π) |
P |
|
|
|
||||||
|
|
|
|
11 |
|
|
|
|
|
22 |
|
|
||||
|
|
|
11 |
|
|
|
|
22 |
|
|
|
|||||
Как отмечалось ранее, в общем случае такое утверждение не справедливо. Проанализируем вид двумерной гауссовской ф.п.р.в.
Предположим для начала, что математическое ожидание двумерного вектора равно нулю, а матрица ковариаций диагональная, т.е.
|
2 |
0 |
|
P = σ1 |
. |
||
|
0 |
σ 2 |
|
|
|
2 |
|
46
В этом случае ф.п.р.в. может быть записана как
|
1 |
|
1 |
|
x |
2 |
|
x |
2 |
|
|
|
|
|
|
|
2 |
|
|
||||||
N (x;0, P) = |
|
exp − |
|
|
|
1 |
+ |
|
. |
(1.2.12) |
||
2πσ σ |
|
|
|
|
2 |
|||||||
|
|
2 |
σ |
2 |
|
σ |
|
|
|
|||
|
1 2 |
|
|
1 |
|
2 |
|
|
||||
|
|
|
|
|
|
|
|
|
||||
Полученные с использованием Matlab (так как это описано в приложении) графики этой функции и соответствующие им изолинии для одинаковых дисперсий по каждой из компонент при σ1 =σ 2 =1 представлены на Рис.1.2.1.
x1
x2
x2
x1
Рис.1.2.1 Вид ф.п.р.в. и соответствующие ей изолинии для центрированного гауссовского вектора с единичной матрицей ковариаций.
Как и в одномерном случае, при уменьшении дисперсий область значений, в которой ф.п.р.в. существенно отличается от нуля, значительно уменьшается. Здесь также можно показать, что
|
|
|
1 |
|
1 |
|
2 |
2 |
|
|
|
|
|
|
|
lim |
|
exp − |
|
x1 |
+ |
x2 |
|
= δ(x )δ(x |
2 |
) . |
|||
|
|
|
|
|
|
|||||||||
σ1 |
,σ2 →0 2πσ1σ2 |
|
2 |
|
σ2 |
|
σ2 |
|
|
1 |
|
|||
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
1 |
2 |
|
|
|
|
|
|
При разных значениях σ1 |
и σ 2 |
изолинии, |
соответствующие |
плотности (1.2.12) и |
||||||||||
показателю ее экспоненты, представляют собой эллипсы
|
|
|
|
47 |
|
x2 |
|
x2 |
= c2 , |
|
|
1 |
+ |
2 |
(1.2.13) |
||
σ 2 |
σ 2 |
||||
|
|
|
|||
1 |
|
2 |
|
|
называемые эллипсами равных вероятностей.
На Рис.1.2.2 эллипсы (1.2.13) изображены для случая σ1 =1.3 и σ2 = 0.5 .
x2
x1
Рис.1.2.2 Изолинии ф.п.р.в. для центрированного гауссовского вектора при σ1 =1.3 и σ2 = 0.5 .
Предположим теперь, что матрица ковариаций недиагональная,т.е.
σ2 |
r * |
(1.2.14) |
|
Р = 1 |
σ22 |
. |
|
r * |
|
|
|
Вводя нормированный коэффициент корреляции в виде
r = |
r * |
|
, |
|
|
|
|
|
|
|
|
|
(1.2.15) |
|
σ1σ |
2 |
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|||
нетрудно убедиться в том, что |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
− r |
|
|
|||
|
|
|
1 |
|
|
σ12 |
|
|
σ1 σ2 |
|
|
|||
P−1 = |
|
|
|
|
. |
(1.2.16) |
||||||||
|
|
|
||||||||||||
|
(1 |
− r 2 ) − |
|
r |
1 |
|
|
|
||||||
|
|
|
|
|
|
σ1 σ2 |
|
2 |
|
|
|
|||
|
|
|
|
|
|
|
|
σ2 |
|
|
||||
Таим образом ф.п.р.в. для двумерного гауссовского вектора может быть записана как
|
1 |
|
|
N (x;0, P) = |
|
|
|
|
|
exp − |
|
|
2 |
||
|
2πσ1σ 2 1 − r |
|
|
|
|
|
Уравнение
|
|
|
x 2 |
|
2rx x |
2 |
|
|||
g(x , x |
|
) = |
1 |
− |
|
|
1 |
|
+ |
|
|
σ 2 |
|
|
|
|
|
||||
1 |
2 |
|
|
σ |
1 |
σ |
2 |
|
||
|
|
|
1 |
|
|
|
|
|||
|
|
1 |
|
2 |
|
2rx1x2 |
|
2 |
|
||||
|
|
|
x1 |
− |
+ |
x2 |
. (1.2.17) |
||||||
2(1 |
|
|
σ 2 |
|
σ 2 |
||||||||
− r 2 ) |
|
σ |
1 |
σ |
2 |
|
|
||||||
|
|
|
|
|
1 |
|
|
|
|
2 |
|
||
|
x22 |
|
= c 2 , |
|
|
|
|
|
|
|
|
(1.2.18) |
|
|
σ 2 |
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
как и уравнение (1.2.13), при разных значениях c задает эллипсы. Но при этом их оси
48
развернуты относительно вертикальной оси на некоторый угол. В качестве примера на Рис.1.2.3 изображены изолинии при r = 0.75 . Обращаем внимание, что здесь, как и в случае,
изображенном на рис. 1.2.1, СКО, соответствующие компонентам x1 и x2 , между собой совпадают ( σ1 = σ2 =1), но поскольку коэффициент корреляции отличен от нуля, изолинии представляют собой эллипсы, а не окружности.
x2
x1
Рис.1.2.3 Изолинии ф.п.р.в. для центрированного гауссовского вектора при σ1 = σ2 =1
иr = 0.75 .
1.2.4Среднеквадратический эллипс ошибок, круговая вероятная ошибка.
Проанализируем более подробно характеристики, используемые для описания свойств двумерных гауссовских векторов. Двумерный случай весьма важен в задачах обработки статистической информации. Так, при решении навигационных задач на плоскости нередко полагают, что координаты объекта представляют собой гауссовский случайный вектор с математическим ожиданием в точке его предполагаемого местонахождения. Для описания неопределенности расположения точки на плоскости используют введенные выше эллипсы равных вероятностей, в частности, эллипс, соответствующий уравнению (1.2.18) при c =1. Поскольку этот эллипс пересекает оси в точках, совпадающих со значениями соответствующих
СКО, т.е., при x2 = 0, x1 = σ1 , а при x1 = 0, x2 = σ2 , он получил наименование
среднеквадратического эллипса ошибок или стандартного эллипса [1.4]. В навигационных приложениях для его описания используют параметры эллипса: большую a и малую b полуоси и дирекционный угол τ , задающий ориентацию большой полуоси относительно оси x2 . Эти три параметра, как отмечается далее в подразделе 1.3.5, полностью определяют матрицу ковариаций двумерной гауссовской плотности. На Рис.1.2.4 изображен частный
49
случай, когда σ2 = b , σ1 = a , τ = 90o , и таким образом
a 2 |
0 |
|
, |
(1.2.19) |
P = |
b2 |
|
||
0 |
|
|
|
|
|
|
|
|
|
т.е. размеры полуосей эллипса определяют значения СКО по каждой координате.
x2
b
x1
a
Рис.1.2.4.Эллипс ошибок для двумерного гауссовского вектора с независимыми компонентами.
При оценивании точности местоположения подвижных объектов весьма важным представляется умение охарактеризовать неопределенность местоположения одним числом. Для этих целей обычно используют значения, вероятности попадания точки на плоскости в ту или иную заданную область Ω . Для двумерного центрированного гауссовского вектора с ф.п.р.в. (1.2.17) эта вероятность определяется как
|
|
|
|
1 |
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Pr(x Ω) = |
|
|
|
|
|
|
|
∫∫exp − |
|
|
|
|
|
|
g(x1 |
, x2 ) dx1dx2 |
, (1.2.20) |
|||
|
|
|
|
|
|
2 |
|
|
|
|
2 |
|
||||||||
|
2πσ σ |
|
1 |
− r |
Ω |
|
|
2(1 |
− r |
|
) |
|
|
|
|
|||||
|
2 |
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
где g(x1 , x2 ) - эллипс равных вероятностей (1.2.18). |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
Если в качестве Ω выступает область, |
ограниченная |
g(x1 , x2 ) ,то, |
переходя к полярным |
|||||||||||||||||
координатам, можно показать, что [1.5, с. 68] |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
c |
2 |
|
|
|
|
|
|
|
|
|
Pr(x : g(x , x |
|
) ≤ c2 ) = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
2 |
1 − exp − |
|
|
|
|
|
. |
|
|
|
|
(1.2.21) |
||||||||
|
|
|
|
|
|
|
|
|
||||||||||||
1 |
|
|
|
|
|
|
|
2(1 − r |
2 |
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
|
||||
Для случая независимых с.в. при σ1 = σ2 = σ , эллипс превращается в окружность радиуса
R = cσ и таким образом из (1.2.21) получаем, что вероятность нахождения случайного вектора в круге с таким радиусом определяется введенным в разделе 1.1.1 распределением Рэлея
|
2 |
2 |
|
R |
2 |
|
|
2 |
2 |
|
|
|
R |
2 |
|
|
|
|
x1 |
+ x2 |
|
|
|
|
|
|
|
|
|
||||||
Pr x : |
|
|
≤ |
|
|
|
= Pr x : |
x1 |
+ x2 |
≤ R |
= F(R) =1 − exp − |
|
|
|
|
, R>0. (1.2.22) |
|
|
2 |
|
2 |
|
|
2 |
|||||||||||
|
σ |
|
|
σ |
|
|
|
|
|
|
|
|
2σ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Величина |
R , |
соответствующая |
пятидесятипроцентному |
попаданию гауссовского |
|||||||||||||
