Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Рекуррентное оценивание вектора состояния динамических систем. Учебное пособие
.pdf
1.1.4. Нормально распределенные
X
x
X
p
M
D
случайные векторные величины
Широкое распространение нормального распределения (часто называемого гауссовским) в теории связи, оценивания и управления обусловлено двумя основными причинами: а) экспериментально доказано,
что нормальное распределение обеспечивает приемлемую аппроксимацию случайного поведения многих физических систем; б) центральная предельная теорема дает теоретическое обоснование применения
нормального распределения при описании многих случайных явлений.
Напомним
, что случайная скалярная величина , подчиняющаяся
нормальному распределению, имеет плотность
как
где
личины X.
математическим ожиданием
симметрия относительно точки х = 2. Максимального значения плот-
ность распределения достигает в точке
этой точке равна
функции уменьшается, но увеличивается ее протяженность по оси х.
Поэтому условие () 1
сии. Из определения дисперсии следует, что чем «шире» кривая плотности нормального распределения, тем больше дисперсия. Вопросы:
какое из приведенных на рис. 1.4 распределений имеет: а) большее
Nm
На рис. 1.4 кривой 1 показана кривая плотности распределения с
()
X
; б) большую
2
,
XX
2
,m
:
xm
px
() exp
– математическое ожидание и дисперсия случайной ве-
2
1
2
X
mMNm
XXX
1
. При увеличении дисперсии максимум
xdx
()
X
будет выполняться при любой диспер-
?
обычно обозначаемую
2
2
,2
m , величина плотности в
,
2
2
. Хорошо видна
21
X
N
X
X
X
X
Рис. 1.4. Графики плотностей нормально
распределенной случайной величины
Нормально распределенный n-мерный случайный вектор X имеет
(,)
плотность распределения
(обозначаемую как
mV
X
):
() exp ( ) ( )
px x m V x m
где
m – вектор математического ожидания;
V
матрица;
– определитель этой матрицы. В дальнейшем предпола-
гается, что матрица
11
(2 )
n
V
X
2
V положительно определена (см. раздел 1.1.1), и
T1
XX
V – ковариационная
X
,
для сокращения записи квадратичной формы, являющейся аргументом
функции
exp,
будем использовать выражение (см. (1.1.5))
()()
xm V xm xm
T1
. (1.1.36)
XX X X
2
1
V
X
На рис. 1.5 приведены изолинии плотностей распределения
(, )
двухмерной случайной величины
XX
12
с плотностью распре-
деления
T
xx
(, ) exp
px x V
12
11
(2 )
V
X
11
xx
2
22
22
1
,
где вектор математического ожидание нулевой, а ковариационная мат-
X
X
V
рица
задавалась как:
30
V
а)
X
01
– проекции не коррелированы (изолинии на
рис. 1.5, а));
б)
X
0.6 1
– проекции коррелированы (изолинии на
30.6
V
рис. 1.5, б)).
а б
Рис. 1.5. Изолинии двумерной плотности распределения
Видно, что при отсутствии корреляции двумерная плотность распределения имеет осевую симметрию. Ненулевая корреляция нарушает это свойство – оси эллипса поворачиваются на некоторый угол. Это
приводит к тому, что случайные векторы с одинаковой длиной имеют
разную вероятность. Например, сравните вероятности попадания вектора
в окрестности точек (1, 1) и (–1, 1) (используйте для этого
рис. 1.5, б)).
Введем случайный
,m
V,
n
размерности
,V
()nm
и m соответственно с числовыми характеристиками
V
,
VV , где
YX XY
-мерный вектор
T
23
, где
()()VMXmYm
,
– СВ
T
,m
взаимная ковариационная матрица размером nm. Тогда условная
X
X
X
X
X
Z
X
M
X
X
плотность распределения имеет вид
Xy
2
, (1.1.37)
1
V
y
|
где
m условное математическое ожидание, определяемое выра-
pxy x m
y
11
n
2
V
Xy
exp
2
жением
1
а
V
mMXYymVVym
Xy
условная ковариационная матрица, равная
y
VVVVV
. (1.1.39)
Xy
XY Y YX
XY Y Y
1
, (1.1.38)
Важные свойства нормального распределения: а) многомерное
нормальное распределение полностью определяется
матического ожидания и ковариационной матрицей
вектором мате-
, т. е. первым и
вторым моментами; б) независимые нормально распределенные векторы не коррелированы и, наоборот,
не коррелированные векторы, под-
чиняющиеся нормальному распределению, независимы.
Свойство 1.1.2.
мальному распределению, то векторы
ниями (1.1.31), (1.1.33), также подчиняются
нию
.
Если случайные векторы
, определяемые преобразова-
нормальному распределе-
подчиняются нор-
,XY
Свойства условного математического ожидания нормального
распределения.
Эти свойства имеют фундаментальное значение для
построения алгоритмов оценивания, в частности фильтра Калмана.
Свойство 1.1.3. Условное математическое ожидание
m
y
XY y
линейной комбинацией проекций случайного вектора y.
ются
это случайный вектор, компоненты которого явля-
Это свойство непосредственно следует из соотношения (1.1.38).
Напомним, что «безусловное» математическое ожидание
является случайным вектором.
равенство двух векторов:
mm
Вопрос: в каком случае выполняется
y
?
24
m уже не
Свойство 1.1.4. Вектор разности
X
X
M
X
M
x
N
ного вектора
, полученного линейным преобразованием вектора y.
Свойство 1.1.5. Если случайные векторы
,.
Xyz M Xy M Xz m
Xm
не зависит от случай-
y
,YZ
независимы, то
(1.1.40)
Свойство 1.1.6. Если ,YZ – зависимые случайные векторы, то
,
yz M Xy M z m
, (1.1.41)
где
zzMZy
. (1.1.42)
Доказательства последних трех свойств приведены в [12, с. 115–117]
и в силу их громоздкости здесь опущены.
1.1.5. Моделирование случайных величин
в пакете MathCAD
В дальнейшем проведение вычислительного эксперимента, иллюстрирующего работоспособность того или иного алгоритма, потребует
генерирования случайных (точнее, псевдослучайных) чисел, распределенных по требуемому закону с заданными числовыми характеристиками (математическим ожиданием, дисперсией и т. д.). Пакет
MathCAD включает в себя большой набор функций не только для генерирования случайных чисел, но и
стических вычислений. Кратко рассмотрим эти функции [9].
Функции MathCAD для вычисления плотности распределения.
В таблице приведены функции (имена начинаются с буквы d – первая
буква слова
density), позволяющие вычислить значения функции плот-
ности наиболее используемых распределений (
рого вычисляется плотность распределения).
2
Кратко напомним о
-распределении, которое широко использу-
ется в математической статистике. Пусть
нормально распределенные случайные величины с нулевым математи-
ческим ожиданием и единичной дисперсией, т. е. ~ (0,1)
N означает нормальное распределение; 0 – нулевое математическое
где
для проведения различных стати-
значение, для кото-
, ...,
N – независимые,
1
n
NN ,
i
25
Функции MathCAD для вычисления плотности распределения
Ч
M
x
x
x
x
x
M
N
Распределение
Нормальное распределение
1()
2
exp , 0
2
x
2
2
Функция
MathCAD
(, , )dnorm x
(, , )qnorm
(,, )rnorm m
исловые
характеристики
()
Xa
()
DX
Распределение Пуассона
x
e
x
!
целое неотрицательное
(
число,
0
)
(, )dpois x
(, )qpois
(,)rpois m
()
MX
()
DX
2
Равномерное распределение
1
ba
0, если
, если
[, ]
ab
[, ]
ab
Биноминальное распределение
xnx
(1 )
Cp p
n
2
распределение
0, если
1
n
/2
2(/2)
(
0n
ex
n
число степеней свободы)
,
0
x
/2 1
n
2
0x
;
, если
n
(, , )dunif x a b
(, , )qunif a b
(,,)runif m a b
(, , )dbinom x n p
0x
(, , )qbinom n p
(,, )rbinom m n p
(, )dchisq x n
(, )qchisq n
(,)rchisq m n
MX
DX
MX np
() (1 )
DX np p
ab
()
()
ba
()
()
()
Xn
() 2
DX n
2
12
2
Распределение Стьюдента
1
(
1
n
nn
0n
число степеней свободы)
2
(/2)
1
2
x
n
n
2
(, )dt x n
(, )qt n
(,)rt m n
–
ожидание; 1 – среднеквадратическое отклонение, которое равно корню
квадратному из дисперсии. Тогда распределение случайной величины
2222 2
nn
NN N
123
...
26
называется распределением
M
D
x
p
x
p
2
– случайной величиной
на
n
2
с п степенями свободы, а сама величи-
n
2
с п степенями свободы.
Заметим, что количество степеней свободы п является единственным параметром распределения, и значения
2
P
n
. Распределение
00
2
с п степенями свободы имеет следу-
n
ющие математическое ожидание и дисперсию:
2
2
n
n
. При числе степеней свободы 30n
хорошо аппроксимируется нормальным распределением
параметрами
2
,2an n .
На рис. 1.6 показаны плотности распределения
личины
и
ность
2
при 5n
n
(сплошная кривая), 10n
30n (штриховая кривая). Видно, что при увеличении
()px
«приближается» к плотности нормального распределения.
2
неотрицательны, т. е.
2
-распределение
n
(, )Na
()px
случайной ве-
(точечная кривая)
2
n
n
плот-
;
n
2
с
Рис. 1.6. Плотности распределения 2
Функции MathCAD для вычисления квантилей распределения.
Напомним, что число
ния с плотностью
линейного уравнения:
называется квантилем уровня p распределе-
q
()
x
, если оно является решением следующего не-
q
() .
xdx q
27
В таблице во второй строке каждой ячейки среднего столбца при-
ведены функции MathCAD (имена начинаются с буквы
квантилей соответствующих вычислений.
Пример 1.1.7. Вычислить квантили уровней 0.90, 0.95, 0.99 для
следующих распределений: нормального
деления.
На рис. 1.7 приведен фрагмент документа MathCAD, в левой части
(30, 64)N
q ) вычисления
2
,
30
-
распре-
которого приведены графики плотности распределений
кривая – распределение
2
ние
Видно хорошее совпадение квантилей одного уровня, но разных распределений, что говорит о приемлемой аппроксимации
ления нормальным распределением
ние. Объясните,
проекции которого являются случайными числами, распределенными
по определенному закону, называется случайным вектором.
функций (начинаются с буквы
. В правой части документа вычислены нужные квантили.
30
Рис. 1.7. Графики распределений примера 1.1.7
Заметим, что чем больше уровень квантиля, тем больше его значе-
почему. ♦
Функции MathCAD генерирования случайных векторов. Вектор,
В таблице в правой колонке (третья строка) приведены имена
(30,64)N
, точечная кривая – распределе-
(30, 64)N
r
), вычисляющих случайный вектор с
.
сплошная
2
-
распреде-
30
28
соответствующим распределением его проекций. Параметр – m-раз-
мерность случайного вектора.
()rnd x
Функция
генерирует одно случайное число, равномерно
распределенное в интервале [0, 1].
Пример 1.1.8. На рис. 1.8 показан фрагмент документа MathCAD, в
котором генерируются два случайных вектора:
– проекции имеют
N
нормальное распределение (математическое ожидание равно –20,
дисперсия 100, третий фактический параметр равен корню из диспер-
сии);
– проекции имеют
2
-
распределение (с числом степеней сво-
боды 20). Размерность векторов равна 100. Здесь же вычислено выборочное среднее (функция
var
) этих векторов. ♦
mean
) и выборочная дисперсия (функция
Рис. 1.8. Моделирование случайных чисел
Задание. Составьте документ MathCAD, в котором генерируются
случайные векторы с числом проекций 200, проекции которых подчиняются:
– распределению Пуассона с параметром
– равномерное распределение с параметрами
2 ;
10, 20ab
.
Построить графики проекций случайных векторов. Вычислить выборочные среднее и дисперсию этих двух случайных векторов.
29
1.2. СЛУЧАЙНЫЕ ПРОЦЕССЫ
X
И ИХ ХАРАКТЕРИСТИКИ
Во многих областях человеческой деятельности существуют явления, развитие которых во времени (или по какой-нибудь другой переменной) подчиняется вероятностным законам, например отклонение
летательного аппарата на расчетной траектории в результате случайных ошибок в его системе управления. Варианты развития во времени
любого такого явления можно отобразить с помощью случайного
процесса
.
1.2.1. Определение случайного процесса
Векторным случайным процессом называется семейство случайных
(),
k
ttI
()k
векторов
параметра принадлежат некоторому множеству индексов
нейшем в качестве
моментов времени
времени не обязательно одинаково удалены друг от друга. Для упрощения проведем однозначную замену
дексов примет вид
{ : 0, 1, 2, }
Подчеркнем, что «семейство случайных векторов» в определение
случайного процесса особенно важно. Оно означает, что случайный
процесс состоит из ансамбля случайных векторов, определенных на
множестве индексов
лен случайный вектор, имеющий определенную плотность распределения и числовые характеристики (например, первый и второй моменты), значения которых могут зависеть от значения индекса
с дискретным множеством индексов (1.2.1) часто называют
последовательностью.
скалярный случайный процесс {(), }kkI
ется
каждого
Пример 1.2.1. Рассмотрим скалярный случайный процесс {(),yk
0, 1, 2 }
k . Для каждого значения k предполагается: а)
нормальное распределение с нулевым средним и дисперсией
, зависящих от параметра t, все значения этого
I . В даль-
I будет использоваться множество дискретных
{: 0,1,2,}
tk
k
k
I. Другими словами, для каждого kI
Частным, но распространенным случаем явля-
– скалярная случайная величина.
, где
t на k и тогда множество ин-
k
tt
. (1.2.1)
и моменты
1kk
k . Процесс
случайной
, в котором для
()yk
опреде-
имеет
30
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]