Цифровая обработка сигналов (сборник книг) / Граничин О.Н. Введения в методы стохастической оптимизации и оценивания, 2003
.pdfфункция оптим льно о устойчи о о фильтр , миними ирую- щ о функцион л к ч ст fl, опр ля тся по формул
H( ) = lR+( ) ( ) 1 ;
и соот тст ующ миним льно н ч ни функцион л к - ч ст р но
min |
f |
|
= Tr[Q] + |
1 |
|
Tr[R |
|
( )R |
|
( 1)T]d : |
||
l |
2 i I |
|
|
|||||||||
fH( )g |
|
|
|
|
|
|
||||||
В случ ск лярно о проц сс yn c ро но-р цион льной |
||||||||||||
сп ктр льной плотностью проц ур постро ния |
функции |
|||||||||||
( ) с о ится, по сущ ст у, к н хо нию корн й и полюсоро но-р цион льной функции Syy( ), которы по солютнойличин ольш иницы. С п р ция функции lR( ) этом случ состоит ы л нии ц лой ч сти функции с посл -ующим опр л ни м "устойчи ых" и "н устойчи ых" полюсо у получ нной ро но-р цион льной функции.
Прим р: оптим льный про но проц сс . Ïð ïîëî èì,
÷òî ïðè n = : : : ; 1; 0; 1;2; : : : н лю тся ск лярный проц сс fyng: yn = ' n + vn;
f ng è fvng стох стич ски н исимы ст цион рно
ñ ÿ ííû ïðîö ññû: Efvng = 0, Efvn2g = v2, ïðè÷ ì f ng îïð ëÿ òñÿ óð í íè ì
n+1 = a n + wn+1;
котором 0 < jaj < 1; Efwng = 0; Efwiwjg = w2 Æij:
Âííîì ñëó÷ Svv = v2;
|
|
|
|
2 |
|
|
|
+ '2S |
|
|
S |
|
( ) = |
|
w |
|
; S ( ) = S |
|
|
( ): |
|
|
|
|
|
vv |
|
|||||
|
|
(1 |
a )(1 |
a 1) |
yy |
|
|
|||
|
|
|
|
|
|
|
|
51
Для про ния ф ктори ции функции Syy( ) н й м - щ ст нны постоянны c1 è c2 è óð í íèÿ
v2(1 a )(1 a 1) + '2 w2 = (c1 + c2 )(c1 + c2 1):
Í ñëî íû ð ñ÷ òû þò
|
|
|
1 |
|
|
|
1 |
|
|
|
|
|
|
|
c1 = |
2( 1 |
+ 2); c2 = |
2( 1 |
2); |
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
= '2 |
2 + 2(1 |
|
a)2 |
; = '2 2 |
+ 2 |
(1 + a)2: |
||||||
1 |
|
w |
v |
|
2 |
p |
w |
v |
|
|
||
Ïîëî è p |
|
( ) = c1 + c2 |
|
|
|
|
||||||
|
|
|
; |
|
|
|
|
|
||||
|
|
|
|
|
|
1 a |
|
|
|
|
|
|
ñ ó÷ òîì ííûõ î î í ÷ íèé, èì ì: |
|
|
|
|
||||||||
|
|
|
Syy( ) = ( ) ( 1)T: |
|
|
|
|
|||||
При этом функции ( ) è ( ) 1 устойчи ы , т к к к jc1j > jc2j. Д л , поскольку
|
|
|
' 2 |
|
|
|
Sy ( ) = |
|
w |
|
; |
||
(1 |
a )(1 a 1) |
|||||
|
|
|
||||
òî |
|
|
' 2 |
|
|
|
|
|
|
|
|
||
R( ) = |
|
|
w |
: |
|
|
(1 |
a )(c1 + c2) |
|
||||
Р ссмотрим чу о оптим льном про но н о ин ш , |
||||||
ò. . ñëó÷ é l = 1. Для р ш ния н о прои сти с п р цию функции:
|
1 |
R( ) = |
|
|
' w2 |
|
|
|
|
|||
|
|
(1 |
a )(c1 + c2) |
: |
|
|
|
|||||
В р ульт т с п р ции получ м |
|
|||||||||||
|
' 2 a 1 |
|
|
|
' 2 c1 1 |
|
||||||
R+( ) = |
w |
|
|
|
|
; R ( ) = |
w |
|
|
: |
||
c1 + c2a |
|
1 a |
c1 + c2a |
|
c1 + c2 |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
52 |
Сл о т льно, п р точн я функция оптим льно о фильтр им т и
|
' 2 a |
|
||
H( ) = |
w |
|
|
: |
c1 + c2a |
|
c1 + c2 |
||
Отсю л м ы о , что посл о т льны оптим ль- |
||||
^ |
^ |
|
|
|
íû îö íêè n+1 |
è n с я ны соотнош ни м |
|||
|
^ |
^ |
' w2 a |
|
|
c1 n+1 |
+ c2 n = |
c1 + c2a |
yn: |
Îòì òèì, ÷òî ïîñë í óð í íè ìî íî ï ð ïèñ òü è
^ |
^ |
^ |
|
|
||
n+1 |
= a n a '(' n yn); |
|||||
|
w2 |
|
|
|
|
|
|
|
1 |
c2 |
|
||
= |
c1(c1 + c2a) |
|
a'2 |
c1 |
+ a : |
|
3.2.Фильтр К лм н Бьюси
Т ория Вин р Колмо оро оптим льной фильтр ции послу ил мощным стимулом поиск но ых пут й опр л ния конкр тных спосо о синт т ор тич ски оптим льно о фильтр . Большой пр ктич ский инт р с пр ст ля т о - мо ность синт иро ть оптим льный фильтр р курр нтным спосо ом, о сп чи я у о ст о о р ли ции при исполь-о нии ВМ.
Ïð ïîëî èì, ÷òî ïðè n = 1; 2; : : : í ëþ òñÿ ñëó÷ é-
íûé ïðîö ññ
yn = 'Tn n + vn;
пр ст ляющий со ой см сь пр о р о нно о кторно о проц сс f ng и кторной пом хи fvng. Прямоу ольны м т- рицы 'n это о пр о р о ния счит ются и стными и отличи от т ории Вин р Колмо оро мо ут и м няться о
53
р м ни. В кторный проц сс f ng поро тся соотнош ни м
n+1 = An n + wn+1;
котором 0 = 0 è An и стн я м тричн я функция р м - ни, fwng посл о т льность ц нтриро нных н исимых случ йных кторо с и стными м триц ми ко ри -
öèè:
EfwnwjTg = Qw(n)Ænj :
Î û÷íî ñ÷èò þò, ÷òî ïîì õ fvng т к пр ст ля т со ой посл о т льность ц нтриро нных н исимых случ йныхкторо с и стными м триц ми ко ри ции
EfvnvjTg = Bv(n)Ænj;
которы при с х n н ыро нны , и f'ng т рминиро нн я посл о т льность м триц.
О р ничимся р ссмотр ни м чи о оптим льном о но-
ø î îì ïðî íî . Äëÿ n = 1; 2; : : : òð ó òñÿ ïî í ëþ -
^
íèÿì y1; y2; : : : ; yn í éòè ëèí éíû îö íêè n+1 í ÷ íèé ïðîö ññ f ng ìîì íòû ð ì íè n + 1, миними ирующи ср н к р тичны отклон ния
^ |
2 |
g: |
fn = Efk n+1 |
n+1k |
Выпиш м н о хо имы и ост точны усло ия оптим льности лин йной оц нки т рмин х корр ляционных м триц р ссм три мых проц ссо . Пр поло им, что оптим льн я оц нк им т и
|
|
n |
|
|
|
^ |
X |
|
|
|
n+1 = |
Hn(i)yi: |
||
|
|
|||
|
|
i=1 |
|
|
^ |
миними иру т функцион л к ч ст fn, òî |
|||
Åñëè îö íê n+1 |
||||
ëÿ ëþ î î j = 1; 2; : : : ; n ыполн но усло и |
||||
|
^ |
|
T |
g = 0: |
|
Ef( n+1 n+1)yj |
|||
|
|
|
|
54 |
то соотнош ни им т простой ом трич ский смысл: слу-
^
ч йн я личин n+1, я ляющ яся лин йной ком ин ци й случ йных личин y1; : : : ; yn, ол н ыть стро о орто о- н льной про кци й ктор n+1 н по простр нст о, н тянуто н соот тст ующи кторы н лю ний. В силу пр - пол мо о и оптим льно о фильтр , и посл н о ыр -ния получ м н ст цион рный ри нт óð í íèÿ Âèí ð Õîïô ( искр тном р м ни) относит льно со ых функ-
öèé Hn(i)
n
X Hn(i)EfyiyjTg:
i=1
Î î í ÷è Bij = EfyiyjTg è Kn = Hn(n), и посл н о ур н ния, пис нно о ля ух посл о т льных н ч ний
ð ì íè n è n + 1, с о ной стороны, получ м
n 1
Ef( n+1 n)yjTg = X(Hn(i) Hn 1(i))Bij + KnBnj:
i=1
С ру ой стороны, учиты я и фильтр , поро ющ о проц сс f ng, èì ì
n 1
Ef( n+1 n)yjTg = (An I) X Hn 1(i)Bij:
i=1
È ïîñë íèõ óõ óð í íèé ñë ó ò, ÷òî ïðè j = 1;2; : : :
: : : ; n 1
n 1
X AnHn 1(i) Kn'Tn Hn 1(i) Hn(i) Bij = 0;
i=1
ò ê ê ê ñèëó óð í íèÿ í ëþ íèé
n 1
Bnj = EfynyjTg = 'Tn Ef nyjTg + EfvnyjTg = 'Tn X Hn 1(i)Bij :
i=1
55
А н чит, оптим льной ср н к р тичном смысл оц нкойктор n ïî í ëþ íèÿì y1; y2; : : : ; yn 1 ò ê ÿ ëÿ òñÿ è
îö íê
n 1
~n = (H ( ) D ( ))
X n 1 i n i yi;
i=1
Dn(i) = AnHn 1(i) Kn'Tn Hn 1(i) Hn(i):
Поэтому |
|
|
~ |
|
^ |
|
|
|
||
|
|
|
|
|
2 |
g = 0 |
|
|||
|
|
Efk n nk |
|
|||||||
èëè |
|
|
|
|
|
|
|
|
|
|
|
n 1 |
|
|
2 |
|
|
n 1 |
|
|
|
E |
n X |
D (i)'T |
|
o |
+ |
X |
D (i)TB (i)D (i) = 0: |
|||
|
n i |
i |
|
|
|
n |
v n |
|||
|
|
|
|
|
|
|
||||
|
i=1 |
|
|
|
|
|
i=1 |
|
|
|
Ò ê ê ê Bv(i) > 0 ïðè i = 1; 2; : : : ; n 1, òî Dn(i) = 0, ò. .
Hn(i) = AnHn 1(i) Kn'Tn Hn 1(i):
то и сть искомо соотнош ни , которому ол н у о л т о- рять со я функция оптим льно о фильтр . Учиты я о, н сло но н йти р ностно^ ур н ни ля посл о т льности оптим льных оц нок f ng:
|
|
n 1 |
|
|
|
|
|
^ |
X |
|
|
|
|
|
n+1 = Knyn + |
Hn(i)yi = Knyn+ |
||||
|
|
|||||
|
|
i=1 |
|
|
|
|
n 1 |
|
|
|
|
|
|
X |
T |
|
|
|
T ^ |
|
+ AnHn 1(i) Kn'n Hn 1(i) yi = Knyn +(An Kn'n ) n = |
||||||
i=1 |
|
|
|
|
|
|
|
^ |
|
|
T ^ |
|
|
|
= An n Kn('n n yn): |
|
||||
Î î í ÷èì ÷ ð |
|
|
|
|
|
|
|
^ |
|
|
^ |
T |
g |
|
n = Ef( n n)( n n) |
|
||||
|
|
|
|
|
|
56 |
ко ри ционны м трицы оши ок оц ни ния. М тричны функции Kn, í û ìû к лм но скими коэффици нт ми усил ния, í ïîñð ñò ííî ñ ÿ íû ñ n, ò ê ê ê è óð í íèÿ Âèí ð Õîïô ñë ó ò
^ |
T ^ |
T |
g = |
0 = Ef( n+1 |
n+1)(yn 'n n) |
|
= (An Kn'Tn ) n'n + KnBv(n):
Сформулиру м оконч т льный р ульт т.
К лм но ский коэффици нт усил ния Kn îïð ëÿ òñÿ ïî
формул
Kn = An n'n(Bv(n) + 'Tn n'n) 1;
n ко ри ционн я м триц оши ки оц ни ния, посл -о т льность которых у о л т оря т р курр нтному соотнош нию
n+1 = (An Kn'Tn ) n(An Kn'Tn )T +KnBv(n)KTn +Qw(n+1):
Посл няя формул л ко ы о ится и р ностно о ур н - ния, с я ы ющ о посл о т льны оц нки.
Исполь уя м трично то ст о и р . П.2, р курр нтны соотнош ния ля м триц n ìî íî ï ð ïèñ òü è
n+1 = An nATn Kn'Tn nATn + Qw(n + 1)
èëè
n+1 = An n n'n(Bv(n)+'nT n'n) 1'nT n AnT+Qw(n+1): |
|||||
|
|
^ |
è 0 м ст с формулой |
||
Посл ния н ч льных н ч ний 0 |
|||||
ëÿ ïîñë î ò ëüíî î ï ð ñ÷ ò îö íîê |
|
|
|||
^ |
^ |
T |
|
1 |
T ^ |
n+1 |
= An n An n'n(Bv(n) + 'n |
n'n) |
|
('n n yn) |
|
эти соотнош ния, н ы мы фильтром К лм н Бьюси, оп- р ляют мкнутую сист му ля р курр нтно о ычисл ния
57
^n è n о с мом нты р м ни . Т ки формулы мо -
n
но получить при р ссмотр нии н только т рминиро нной посл о т льности f'ng, но и сли счит ть р ли ци й н которо о м трично о н исимо о случ йно о проц сс , н -
êîðð ëèðî ííî î ñ ïîì õ ìè fvng è ñ ïîðî þùèì ïðîö ñ- ñîì fwng.
Стоит м тить, что при An I; Qw(n) 0 и ы ор м трицы со ых коэффици нто Rn = Bv(n) 1 фильтр К л-
м н Бьюси точности со п т с о о щ нным р курр нтным МНК и р . 2.3, что и н у и ит льно.
Н пр ктик получ нны соотнош ния ч сто упрощ ют, исполь уя ля ычисл ния оц нок формулу
^ |
^ |
T ^ |
n+1 |
= An n An 'n ('n n yn) |
|
с нными поло ит льно опр л нными м триц ми и. Д льн йш упрощ ни о мо но при ы ор ск лярно он ч ния > 0.
 ñëó÷ ûðî ííûõ ïîì õ í ëþ íèÿ fvng, ч стности при нии их н и стными т рминиро нными о р - нич нными функциями, о к ч ст оц нок фильтр К лм - н Бьюси тру но что-ли о ск ть. Если пр поло ить, что f'ng посл о т льность н исимых о ин ко о р спр - л нных случ йных личин с и стным ср ним н ч ни м и поло ит льной о р нич нной исп рси й, то ля р ш ния
чи о про но иро нии [9] пр ло но осполь о ться р н оми иро нным л оритмом и
^ |
^ |
T ^ |
n+1 |
= An n An n('n n yn); |
|
n = 'n Ef'ng. Т м пок но, что усло иях ск лярных н лю ний н фон н и стной, но о р нич нной н случ йной пом хи получ мы по этому л оритму оц нки мо ут ть ост точно хорош к ч ст о пр ск ния при
An A : kAk < 1.
58
Прим р: оптим льный про но проц сс . Ïð ïîëî èì, ÷òî ïðè n = 1; 2; : : : н лю тся ск лярный проц сс fyng
yn = 'n n + vn;
f'ng, f ng è fvng стох стич ски н исимы проц ссы: Efvng = 0, Efvn2 g = v2 > 0, 0 = 0 è f ng îïð ëÿ òñÿ óð í íè ì
n+1 = a n + wn+1;
котором 0 < jaj 1, Efwng = 0; Efwn2 g = w2 > 0. Â ííîì ñëó÷
|
B |
(n) |
|
2; Q |
|
(n) |
|
2 |
|
|||||||
|
^ |
v |
|
v |
|
|
w |
|
|
w |
|
|||||
|
|
|
0 = 0 оптим льн я посл о т ль- |
|||||||||||||
è ïðè íèè 0 = 0; |
||||||||||||||||
ность про но ирующих оц нок ычисля тся по формул м |
|
|||||||||||||||
^ |
^ |
|
n |
|
|
|
|
|
|
|
^ |
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|||||||
n+1 = a n a 2 + |
n |
'2 'n('n n yn); |
|
|||||||||||||
|
|
|
|
|
v |
|
n |
|
|
|
|
|
|
|||
2 |
a2 v2 |
|
|
a2 v4 |
|
|
|
|
|
2 |
|
|
a2 2n'n2 |
|
2 |
|
n+1 = w + |
'2n 'n2 ( v2 + n'n2 ) a |
n v2 + n'n2 + w : |
||||||||||||||
 ñò öèîí ðíîì ñëó÷ ïðè 'n |
' èëè òîé ñèòó öèè, |
|||||||||||||||
êî f'ng рнулли ский проц сс: |
|
|
|
|
|
|||||||||||
'n = '; Ef'ng = 0;
посл о т льность f ng ñõî èòñÿ ê ïð ëó 1, который мо но н йти и ур н ния
2 |
+ |
a2 v2 |
|
a2 v4 |
; |
|
|||
1 = |
'2 |
|
'2( 2 + 1'2) |
|
|||||
w |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
v |
|
|
|
р ш ни которо о сть |
|
|
|
|
|
|
|
|
|
1 = '2 w2 + (a2 1) v2 + |
|
|
|
|
|||||
p |
('2 w2 + (a2 |
1) v2)2 + 4'2 w2 v2 |
: |
||||||
|
|
|
|
2'2 |
|
|
|
||
|
|
|
|
|
|
|
|
59 |
|
 ïð ë ïðè n ! 1 ля оц нок фильтр К лм н Бьюси им м при ли нно соотнош ни
|
|
|
^ |
|
|
^ |
|
|
|
|
|
^ |
|
|
|
|
|
|
|
|
|
||
|
|
|
n+1 a n |
a 'n('n n yn); |
|
|
|
|
|
||||||||||||||
котором о о н ч но |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
1 |
|
|
c2 + c1c2 |
=a |
|
|
|
|
1 |
|
c2 |
|
|
|
|
|
||||
= v2 + 1'2 = 1 |
'2c12 |
|
a'2 |
c1 |
+ a |
; |
|
||||||||||||||||
|
|
|
|
|
|
||||||||||||||||||
è |
|
|
|
1 |
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
c1 = |
2( 1 |
+ 2); c2 = |
|
2 |
( 1 |
2); |
|
|
|
|
|
|||||||||
|
p |
|
|
|
|
|
|
|
|
|
p |
|
|
|
|
|
|
|
|
|
|||
= |
'2 2 + 2(1 |
|
a)2; = |
'2 2 |
+ 2 |
(1 + a)2 |
: |
||||||||||||||||
1 |
|
|
w |
v |
|
2 |
|
|
|
|
|
w |
|
|
v |
|
|
|
|
||||
Ò êèì î ð îì, ñò öèîí ðíîì ñëó÷ ('n ') оц нки фильтр К лм н Бьюси пр л со п ют с оц нк ми фильтр Вин р Колмо оро . т с я ь о усло л н м - то ом н им ньших к р то , ло нным осно у о оих фильтро . Посл няя формул т к иллюстриру т о осно-нность м ны н которых случ ях оц нок фильтр К л- м н Бьюси н оц нки, ост ля мы л оритмом упрощ н-
íî î òèï . Êðîì òî î, ñëè f'ng рнулли ский н и- |
||
симый проц сс, то л оритм |
|
|
^ |
^ |
^ |
n+1 |
= a n a 'n('n n yn) |
|
относится к типу р н оми иро нных. К к пок но [9], он мо т ть у о л т орит льны оц нки н только случ н исимых ц нтриро нных пом х н лю ния, но и при н и стных о р нич нных т рминиро нных пом х х. З - м тим, что при a 1 è w << v
w : ' v
60