книги из ГПНТБ / Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы
.pdf570 |
|
ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ |
|
|
[ГЛ. 14 |
|
|
|
|
|
|||
Но |
по свойству 6° псевдообратных |
матриц (см. |
§ |
1 |
гл. 13) |
|
At (AtA't)+= A t . Поэтому |
|
|
|
|
||
|
|
nit = A t l*. |
|
|
(14.144) |
|
|
Далее, |
опять-таки по теореме о |
нормальной |
корреляции |
||
yt = E — A t At = Е — At {AtA))+At = |
|
|
|
|
||
= |
МѲѲ* - |
МѲ (gO* (м f e O ( l O T (мѳ (|*)У = м [(Ѳ - m t) |
(Ѳ - |
т , У ] . |
||
|
|
|
|
|
|
(14.145) |
С другой стороны, систему уравнений (14.143) можно пред ставить в следующем эквивалентном виде, принятом в рас
смотренной выше схеме фильтрации: |
|
Ѳг + і — Ѳ*, Ѳ0 = Ѳ; It + 1 = Щ+ іѲ, £0 = 0 |
(14.146) |
(ср. с системой (13.46), (13.47)). Из уравнений фильтрации
(13.56) |
и (13.57) применительно к схеме (14.146) |
находим, что |
|||
m t + ! = |
m t + |
YА |
+1 ( a t + iYА + 1)+ (S* +1 — a t + >m t)> |
m o = |
°> |
|
|
|
|
|
(14.147) |
Vt +1 = |
Y( — |
Yta ) + |
1 ( a t + .Yta t + .) + a t + iYi. |
Y0 — |
E - |
|
|
|
|
|
(14.148) |
Итак, требуемое рекуррентное уравнение (14.141) для у( уста новлено. Чтобы теперь из (14.147) вывести уравнение (14.140), поступим следующим образом.
Пусть 2 — Ѳ*х. Тогда |
|
|
|
= |
М AtQQ*x — Atx = у \ |
|
|
' Mltz = |
MatQQ*x = |
atx = yt, |
(14.149) |
Mm,2 = |
M A tltz = |
A t M ltz = |
A t y t = xt. |
Умножая левую и правую части (14.147) на г и беря затем математическое ожидание от полученных выражений, находим
МЩ + lz = Mmtz + ytat + l (at + {ytat +,)+[M|£+ lz — at +,Mmtz\,
что вместе с (14.149) приводит к искомому уравнению (14.140). Из (14.139) и (14.137) вытекает также, что xk = x°.
Для доказательства заключительной части теоремы положим для данного t
t
b = at + \ — xi!iCsas, |
(14.150) |
S = = 1 |
|
где числа cu . . . , ct выбраны так, чтобы величина bb* была минимальной. Обозначая с вектор-строку (щ, . . . , с,), запи шем (14.150) в векторной форме:
b = at + 1 — cAt. |
( 1 4 . 1 5 1 ) |
§ 5] |
ПРИБЛИЖЕННЫЕ РЕШЕНИЯ |
571 |
Тогда |
|
|
bb |
— at + lat + 1 ^at + [^tc |
cAtAtc. |
Отсюда в силу минимальности величины bb* вытекает, что вектор с = (с\. с,) удовлетворяет системе линейных алге браических уравнений с [AtA]} — at+lA*u и, следовательно,
|
|
с = о,+|Л ;( Л ,Л ;р = я ,+ |Л,+. |
(14.152) |
||||
Из (14.151) и (14.152) следует, что |
|
|
|
|
|||
|
|
b = |
al+ l ( E - A + At) |
|
|
|
|
и |
|
|
|
|
|
|
|
bb' = |
at+ l( E - 2 A + At + {A + A t) y t+ l = |
|
|
|
|
||
|
|
|
= аі+ЛЕ — ATAt) ЯІ+І = a t+iytat+u |
||||
где мы воспользовались свойством 4° псевдообратных матриц |
|||||||
(§ 1 гл. 13). |
А равен к, |
то ранги |
матриц |
At, |
|||
Если |
ранг матрицы |
||||||
t = 1, |
. . . , |
k, равны t. Поэтому при любом t = 1, |
. . . , k |
строка |
|||
аі+] не является линейной комбинацией строк |
аи . . . , |
а(, |
и, |
||||
следовательно, bb* > 0. Но bb* — at+\4ta)+v поэтому at+]\ tat+l > 0. |
|||||||
Теорема доказана. |
|
|
|
|
|
||
3. |
|
Обратимся теперь к тому случаю, когда система алгебраи |
|||||
ческих уравнений Ах = у несовместна. |
Оказывается, что и в этом |
||||||
случае для отыскания псевдорешения х° — А +у можно построить рекуррентную процедуру, не требующую «псевдообращения» матрицы А.
Будем предполагать, что матрица А — \\аң\\ имеет поря
док (kyin). При описании рекуррентных процедур существенно различать случаи k ^ . n и k > n . Рассмотрим здесь лишь слу чай
Т е |
о р е м а 14.5. Пусть k ^ n и rang А = k. Тогда псевдоре |
шение |
х®= А +у совпадает с вектором х*, найденным из системы |
рекуррентных уравнений (14.140), (14.141).
Для доказательства нам потребуется Л е м м а 14.10. Пусть В — матрица порядка (тУ^гі) и Е —-
единичная матрица порядка (п~Хп). Тогда |
|
lim (аЕ + В*В)-]В* = В +, |
(14.153) |
а4-0 |
|
lim (аЕ Ат В*В)~1а = Е — В +В. |
(14.154) |
аіО |
|
572 |
ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ |
[ГЛ. 14 |
Д о к а з а т е л ь с т в о . Имеем
Д (а)= В +— {аЕ + ß ’ß)-1 В * = (аЕ + |
ß ’ß )-1[(aß+ ß ’ß) В+— В*\= |
||||||||||
|
|
|
|
= (аЕ + |
ß ’ß )-1 [aß+ + aß*ßß+ — aß*]. |
||||||
Но В*ВВ+ — В* (свойство |
7°, § 1 |
гл. |
13). Поэтому |
|
|
||||||
и |
|
А (а) = |
а (aß + |
ß ’ß)-1 ß + |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
А (а) (А (а))* = а2(aß + |
ß ’ß )-1 (ß‘ß)+ (aß + |
ß ’ß)-1, |
(14.155) |
||||||||
поскольку |
ß + (ß +)’ = |
(ß’ß)T (свойство |
5°, § 1 гл. 13). |
|
|
||||||
Если ß ’ß — диагональная матрица, то справедливость (14.153) |
|||||||||||
следует |
из (14.155), поскольку нули на диагоналях матриц ß ’ß |
||||||||||
и (ß*ß)+ |
совпадают. |
В |
противном |
случае с помощью |
ортого |
||||||
нального преобразования |
S (S ’ = |
S -1) |
получаем |
|
|
||||||
S* (ß*ß) S = diag (ß*ß), S ’ (ß’ß)+S = diag (ß*ß)+ |
|
|
|||||||||
и |
|
|
|
|
|
|
|
|
|
|
|
S*A (a) (A (a))*S = |
|
|
|
|
|
|
|
|
|
||
= а [aß + |
diag (ß’ß)]-1 diag (ß*ß)+ [aß + diag (ß’ß)]-1 -> 0,a J 0. |
||||||||||
Отсюда в силу невырожденности |
матрицы |
S получаем |
|
||||||||
|
|
А (а) (А (а))* -> 0, |
|
а J, 0. |
|
|
|
||||
Итак, (14.153) установлено. |
надо |
теперь |
лишь заметить, |
||||||||
Для |
доказательства |
(14.154) |
|||||||||
что в силу |
(14.153) |
|
|
|
|
|
|
|
|
|
|
ß — ß +ß = |
ß — lim (aß + |
ß ’ß)-1 ß ’ß = |
|
|
|
|
|||||
|
|
a^O |
|
|
|
|
|
|
|
|
|
— E — lim (aß + ß ’ß)-1 (ß*ß -[-aß — aß) = lim (aß-)- ß ’ß)-1 a. |
|||||||||||
|
ayo |
|
|
|
|
|
a^O |
|
|
||
Лемма |
доказана. |
|
т е о р е м ы |
14.5. Если система |
Ах — у |
||||||
Д о к а з а т е л ь с т в о |
|||||||||||
совместна, fo требуемое утверждение вытекает из теоремы |
14.4. |
||||||||||
Перейдем к рассмотрению общего случая. |
|
|
|
||||||||
Покажем прежде |
всего, что вектор xt = A t y l можно |
полу |
|||||||||
чить следующим образом: |
|
|
|
|
|
|
|
||||
|
|
|
|
|
xt — Y\mxat |
|
|
(14.156) |
|||
|
|
|
|
|
ayo |
’ |
|
|
|
|
|
где x“, а > 0, есть решение совместной системы линейных уравне ний
(aß + А]At) x“ = Aty1■ |
(14.157) |
§ 5] П РИБЛИ Ж ЕН НЫ Е РЕШЕНИЯ 573
Действительно, пусть вектор х“ (/) = (х? (/), |
х“(/)) мини |
||
мизирует |
функционал |
|
|
|
4 * а) = 2 к * “ - і ь Г + а 2 (4Т. |
||
|
S= 1 |
/=1 |
|
где ха = |
(х'|1, . .., X“). Тогда нетрудно |
видеть, |
что |
|
xat = ( a E -\г А]А{) |
1А*у*. |
(14.158) |
Отсюда непосредственно следует, что х^ является решением совместной системы уравнений (14.157). Но по лемме 14.10
lim (аЕ + At At) At — A t ’
а0
что вместе с (14.158) |
и доказывает равенство |
xt = |
lim x“ |
|
|||||||||||||
Выведем |
теперь рекуррентные |
уравнения |
|
а * 0 |
|
х^, |
|||||||||||
для векторов |
|||||||||||||||||
t ^ k . |
Для |
этого воспользуемся |
приемом, |
примененным |
при |
||||||||||||
доказательстве |
предыдущей теоремы. |
|
вектор |
с |
МѲ — 0, |
||||||||||||
Пусть |
Ѳ= (Ѳ!, . .. , |
|
Ѳ„) — гауссовский |
||||||||||||||
МѲѲ* = Е , |
и |
пусть е(, |
t = |
1, . . . . |
k ,-—гауссовская |
последова |
|||||||||||
тельность |
независимых |
случайных |
величин |
с |
ІѴЦ = |
0, |
М г \= \, |
||||||||||
не зависящих от вектора Ѳ. |
|
|
|
|
|
|
|
|
|
||||||||
Положим |
|
£/+1= а /+іѲ, + а ,/гв,+„ |
|
а > |
0, |
|
(14.159) |
||||||||||
|
|
|
|
|
|
||||||||||||
где |
Ѳ( = |
Ѳ. |
Тогда |
m“ = |
М (Ѳ, 1 |
. . ., |
l t) = |
М (Ѳ 1g,, |
. .. , |
l t), |
|||||||
Y“ = |
M [(Ѳ — m<})(Ѳ— m<t)*] согласно теореме 13.4 удовлетворяют |
||||||||||||||||
следующей системе уравнений: |
|
|
|
|
|
|
|
|
|||||||||
tnf+, = |
mat + |
V°af+i |
|
(£/+i |
at+\mf)’ |
m« = |
0, |
(14.160) |
|||||||||
а + at + ly'}at + ] |
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Y?+,=Y? ---- |
V°iaf+iaf+iV? |
’ |
Yo = E - |
|
|
|
|
|
(14.161) |
||||||||
|
|
|
|
а "Г at+iY?a;+i |
|
|
|
|
|
|
|
|
|
||||
Согласно |
теореме |
13.15 |
решения |
|
и y“ э т и х |
уравнений |
|||||||||||
•задаются |
формулами |
t- 1 |
|
|
|
|
|
|
|
|
|
|
|||||
m? = К |
|
|
|
|
|
|
|
|
|
|
|
(14.162) |
|||||
+ Л Д ) - ' |
2 |
S + l 6.+I= |
K |
+ |
л и д - 1 |
|
|||||||||||
|
|
|
|
5 = 0 |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
<-i |
|
- 1 |
|
|
|
|
|
|
|
|
|
||
Y“ |
|
ot£+ s2=0aS+lßS+l |
= a(ct£ + |
A]At) - \ |
|
(14.163) |
|||||||||||
574 |
ПРИМЕНЕНИЯ К ЗАДАЧАМ СТАТИСТИКИ |
[ГЛ. |
14 |
Пусть |
А" = y t — atxav А“ = (Д“........ A“), e = (e,, . .., |
eft) |
и |
EtA'1— у — Atxa, где Et — матрица, образованная первыми t строками единичной матрицы Е размерности (k X k). Положим 2 == Ѳха -f- а_і/2е Дп. Тогда
М ^2 = М [а,Ѳ + |
a l/2e j [Ѳ ха + а-І/2е Аа] = atxa + A“ = |
yt, |
M g'z= М [AtQ+ |
аІ/2£,Аа][ѳ У + сГі;Уд°] = |
(14.164) |
|
= Atxa + EtAa = у \ |
|
= (аЕ -f- A*tAt) 1А]Ы\гг = (аЕ + А\А^ ' А\у1— xat . (14.165)
Умножая (справа) на 2 левую и правую части (14.160), вычисляя затем математическое ожидание и принимая во вни мание соотношения (14.164) и (14.165), находим, что
= *? + |
У?аі+1 |
{Уі+і |
at+ix<t)’ *0 — |
(14.166) |
|
Ч+1 |
а 4-п |
ѵал* |
Ѵ^г + І |
|
|
|
а + at+\ytat+\ |
|
|
|
|
В силу леммы (14.10) |
существует |
|
|
||
|
Ііш y* = E — A f A t |
(= Y,)- |
|
||
|
а 4 0 |
|
|
|
|
Поскольку rang Л — k, то at+ly*at+l> 0 при всех а > 0 , что
вытекает из (14.163) и теоремы 14.4. Поэтому в (14.161) воз можен предельный переход при а | 0, что дает для у, = lim уа,
уравнение |
|
а |
4 о |
|
|
|
|
|
|
Ѵ < + і — У і |
~ 4 t a *t+\ ( a f + i ' V < a t + i )a~t 1+ lV t, |
У 0 = Е - |
|
|
Наконец, совершая в (14.166) предельный переход по |
а | |
0, |
||
получаем в силу (14.156) требуемое уравнение (14.140). |
|
|
||
Теорема доказана. |
|
|
|
|
З а м е ч а н и е . |
Система рекуррентных соотношений (14.166), |
|||
(14.161) при а > 0 справедлива и для случая k |
> п, rang А ^ |
п. |
||
Таким образом, с помощью этой системы отыскиваются век
торы х%= (аЕ + А*А) А у - > А +у для матрицы А{кхп) ранга г<Ппіп(&, п) (см. лемму 14.10).
Г Л А В А 15
ЛИНЕЙНОЕ ОЦЕНИВАНИЕ СЛУЧАЙНЫХ ПРОЦЕССОВ
§1. Винеровский процесс в широком смысле
1.В предыдущей главе при отыскании оптимальных линей ных оценок для стационарных последовательностей с дробно
рациональным спектром был использован часто применяемый в теории вероятностей принцип взаимосвязи между свойствами «в широком» и «в узком» смысле. Применительно к исследо ванному случаю этот принцип состоял в том, что для построе ния оптимальной (в среднеквадратическом смысле) линейной оценки достаточно было рассмотреть лишь случай гауссовских последовательностей (лемма 14.1). Этот принцип будет приме нен ниже и в задачах линейного оценивания процессов с не прерывным временем. Полезным при этом оказывается введе ние в рассмотрение понятия винеровского процесса в широком смысле.
2. О п р е д е л е н и е 1. |
Измеримый случайный |
процесс |
|||
W = {Wt), |
О, заданный |
на вероятностном пространстве (П, |
|||
Р), называется винеровским процессом в широком смысле, |
|||||
если |
|
Г 0 = |
0 |
(Р-п. и.), |
|
|
|
|
|||
|
М№, = |
0, |
О, |
(15.1) |
|
N\WtWs — t А s.
Ясно, что всякий винеровский процесс является в то же время винеровским и в широком смысле. Другим примером винеровского процесса в широком смысле является процесс
|
|
|
Wt = nt — t, |
|
(15.2) |
|
где |
П = (%), |
0, — пуассоновский |
процесс |
с Р (я0 = 0) — 1 и |
||
P(„t = Ä) = |
e- * i l |
|
|
|
||
z = |
Пусть |
t, |
0, — неубывающее |
семейство |
ст-подалгебр Т , |
|
(zt,&rt), |
|
t ^ O , — винеровский процесс |
и |
а = (аДсо), |
||
