Цифровая обработка сигналов (сборник книг) / Граничин О.Н. Введения в методы стохастической оптимизации и оценивания, 2003
.pdfприло ниях оно ыполня тся. Второ усло и н о р ничи- т льно и им т ост точно ст ст нный х р кт р.
Осно н я и я ок т льст кон чной схо имости л о- ритм ключ тся сл ующ м. Пр поло им, что мно с- т n и м няются скон чно число р . Пусть эти и м н - ния происхо ят мом нты р м ни, мы посл о - т льностью fnig. Р ссмотрим число ую посл о т льность fdig, îïð ëÿ ìóþ ïî ïð èëó
^ |
2 |
|
di = k ni k |
; |
i = ^0; 1; 2; : : : : И спосо постро ния по посл о т льности f ni g сл у т, что ля эл м нто число ой посл о - т льности fdig ïðè ê îì i = 0; 1; 2; : : : ыполняются н р -нст
di di 1 Æ:
Просуммиро эти н р нст N р (N > 0), èì ì
0 dN d0 ÆN:
Åñëè ïîñë í ì í ð íñò N > d0=Ж, то получ м проти-
ор чи . Сл о т льно, колич ст о п р ключ ний с о но о
^
í ÷ íèÿ i н ру о кон чно, н чит, и мно ст посл -о т льности f ng и м няются только кон чно число р . И посл н о н р нст при о р нич нном исхо ном мно-ст мо но получить оц нку ля м ксим льно о числ и м н ний мно ст КСА:
Nmax diam( )=Æ;
ñü diam( ) н и ольш и р сстояний м у умя про- и ольными точк ми мно ст .
Конкр тный и р курр нтных л оритмо ля р ш ния р ноо р ных ц л ых н р нст с о осно ни м их схо и- мости мо но н йти [11, 58, 59, 72]. Д л у т р ссмотр н лишь ч стный, но ный случ й, относящийся к лин йным н р нст м.
101
6.3. Ал оритм "Полоск "
H и ол простой и функции (w; ) ëèí éíûé:
'Tn + n 0;
n = 1; 2; : : : : Ç ñü
wn = 'n ;n
f'ng è f ng н которы посл о т льности кторо и чис л соот тст нно. Во мо ны спосо ы р ш ния т кой сист мы лин йных н р нст п р он ч льно р ссм три - лись [60].
Оч и но, что этой ч п р о усло и постро ния кон чно-схо ящ ося л оритм , ыполн но. Второ усло и о н ч т, что сущ ст уют т ки ктор и Ж > 0, ÷òî
'Tn + n Æk'nk;
n = 1; 2; : : : : Ч щ с о прило ниях к лин йным сист - м м с о р нич нными пом х ми стр ч тся ч стный случ й р курр нтных лин йных н р нст
j'Tn + nj "n;
ñü n = 1;2; : : : è f"ng н котор я посл о т льность поло ит льных чис л. В этом случ торо усло и постро - ния кон чно-схо ящ ося л оритм о н ч т, что сущ ст уют числ 0 < Æ < 1, 0 < "? и ктор (н и стный), т ки , что при n = 1; 2; : : :
"n "?k'nk; j'Tn + nj Æ"n:
В этом случ к о и р курр нтных н р нст ы ля ткторном простр нст п р м тро опр л нную полосу,
102
шириной н м н 2"?. Выполн ни посл н о н р нстр нтиру т, что с эти полосы ключ ют с я н который ш р р иусом Ж, со р щий .
Для посл н о случ [44, 59] формулиру тся ол про-
стой кон чно-схо ящийся л оритм постро ния посл о т ль- |
||||||||||||||
|
^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
ности точ к f ng, при и м н нии которых н о п р стр и ть |
||||||||||||||
ñîîò òñò ^óþùè ìíî ñò f ng, ñî ð ùè . |
|
|||||||||||||
Пусть 0 2 è 0 = . |
|
|
|
|
|
|
|
|
|
|
||||
Åñëè |
|
|
|
T ^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ nj "n; |
|
|
|
|||||||
|
|
|
j'n n 1 |
|
|
|
||||||||
òî |
|
^ |
|
^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
è n = n 1; |
|
|
|||||||||
|
|
n = n 1 |
|
|
||||||||||
проти ном случ |
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
T ^ |
|
|
|
|
|
|
T ^ |
+ n)Æ"n |
|
|
^ |
^ |
|
'n n 1 + n |
|
sgn('n n 1 |
|
||||||||
n = |
n 1 'n |
|
|
|
k |
'n |
k |
2 |
|
|
; |
|||
n |
= n 1 |
\ f |
: 'Tn + n |
|
Æ"n |
g |
; n = 1; 2; : : : : |
|
||||||
|
|
|
|
|
|
|
|
|
|
ò ïðîö óð í û òñÿ л оритмом "Полоск ".
Если исхо но мно ст о со п т со с м простр нст ом или я ля тся мно о р нным, то получ ющи ся по сформулиро нному л оритму мно ст то мно о р нники. К к у отм ч лось, н которых л оритм х стох стич ской п- проксим ции при о р нич нных пом х х ц л соо р но исполь о ть оп р цию про ктиро ния н мно ст о, соот т- ст ующую поиску ли йш о эл м нт . Кон чн я схо и- мость л оритм п р стро ния мно ст n н по ум причин м. Во-п р ых, ино при ок т льст симптоти- ч ских с ойст по ния оц нок, постро нных по л оритму
ñпро ктиро ни м, но ыть у р нными, что, н чин я
ñн которо о мом нт , о р ничи ющ о мо ны н ч ния п р м тро мно ст о н м ня тся. Воторых, при пр кти- ч ской р ли ции л оритм про ктиро ния н мно о р н- но мно ст о н о им ть конструкти ный спосо опис ния
103
н ор плоскост й, которы о о р ничи ют. При скон ч- ном колич ст о р ничи ющих плоскост й тру но пр ст -ить с р льный спосо хр н ния т кой информ ции.
При с о й к ущ йся простот , опис нный спосо с -т ки им т сущ ст нны тру ности при р ли ции н пр ктик . Во мно их случ ях исполь уют ол просты л оритмы, хотя при этом тру но ок ть их кон чную схо имость. Еслил оритм пр пол тся исполь о ть м ст с ру им, ол чутким, то кон чную схо имость л оритм мо но о сп чить простым пр ктич ским усло и м: пр кр тить корр кции пос- л р н нно о опр л нно о колич ст ш о . H и-ол у о ным с точки р ния оп р ций про ктиро ния и хр н ния информ ции я ля тся посл о т льно постро нипростр нст п р м тро прямоу ольнико , со р щих н - которо р ш ни сист мы р курр нтных ц л ых н р нст .
6.4.М то эллипсои о
Дру им прим ром л оритм постро ния мно ст , у о - ных ля ыполн ния оп р ций про ктиро ния и хр н ния н о хо имой информ ции, я ля тся м то эллипсои о (ñì. [21, 53]).
Р ссмотрим чу о р ш нии лин йных р курр нтных н -
ð íñò
'Tn + n 0;
n = 1; 2; : : : : Пр поло им, к к и р н , сущ ст о ни т ких ктор и конст нты Ж > 0, ÷òî ïðè n = 1;2; : : :
'Tn + n Æk'nk:
H ум ляя о щности, у м счит ть, что н ч льно мно ст о, со р щ р ш ни сист мы р курр нтных н р нст ,
но и эллипсои (или ш р ):
0 = |
|
: ( |
|
^ |
T |
1 |
( |
|
^ |
|
1 |
|
f |
|
0) |
|
R0 |
|
0) |
|
g |
104
с ц нтром н которой точк ^0 и симм тричной поло ит льно
îïð ë ííîé ì òðèö é R0. Р ссмотрим р курр нтный л о- ритм постро ния посл о т льности эллипсои о f ng:
^ |
T |
1 |
^ |
n = f : ( n) |
|
Rn |
( n) 1g; |
опр ля мый посл о т льно п р считы мыми точк ми |
||||||||||||||||||||||
^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
f ng и поло ит льно опр л нными м триц ми fRng. Ïð - |
||||||||||||||||||||||
èëî èõ ï ð ñ÷ ò ñë óþù : ïðè n = 1; 2; : : : ; |
|
|||||||||||||||||||||
T ^ |
+ n |
|
|
|
|
^ |
|
^ |
|
|
|
|
|
|
= Rn 1; |
|
||||||
ñëè 'n n 1 |
0, òî n |
= n 1; Rn |
|
|||||||||||||||||||
проти ном случ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
^ ^ |
|
|
|
|
|
|
Rn 1'n |
|
|
|
|
|
||||||||||
|
n = n 1 |
|
|
|
|
|
; |
|
|
|
||||||||||||
(r + 1) 'nTRn 1'n |
|
|||||||||||||||||||||
Rn = |
|
r2 |
|
Rn 1 |
|
2 pRn 1'n'nTRTn 1 |
; |
|||||||||||||||
r2 1 |
n + 1 |
|
'nTRn 1'n |
|
||||||||||||||||||
сь r р м рность простр нст п р м тро . Для м к- |
||||||||||||||||||||||
ñèì ëüíî î ìî íî î ÷èñë êîðð êöèé |
эллипсои о f ng |
|||||||||||||||||||||
мо но получить оц нку с рху: |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
^ |
|
|
|
|
|
|
|
|
|
|
|
N |
max |
|
|
r |
|
|
|
lnfk 0 k=Æg |
|
|
; |
|
|
|||||||||
|
|
|
ln |
f |
(r + 1)(r2 |
|
|
1) |
|
2 |
r r |
g |
|
|||||||||
котор я при ольших r при ли ит льно р н |
|
|||||||||||||||||||||
|
|
2r2(1 + |
|
|
|
|
|
|
^ |
|
|
|
|
|
|
|
||||||
|
|
O |
(n 2)) ln k 0 k: |
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Æ |
|
|
|
|
|
Ал оритм им т простую ом трич скую инт рпр т цию.
^
Åñëè ïð û óù ÿ îö íê n 1 н у о л т оря т оч р ному ц л ому н р нст у, ющ му н которую ип рплоскостьпростр нст п р м тро , то п р лл льно й ч р ц нтр посл н о и постро нных эллипсои о про о ится ип р- плоскость. т ип рплоскость лит эллипсои н ч сти,
105
о н и которых со р ит точку . Посл это о но ый эллипсои строится к к н им ньший по о ъ му, со р щий ну - ную ч сть пр ы ущ о эллипсои . При этом ок ы тся, что отнош ни о ъ мо но о о и ст ро о эллипсои о н пр -осхо ит личины
rr |
|
|
< 1: |
(r + 1)(r2 1) |
r 1 |
|
|
2 |
|
|
106
Ï Ð È Ë Î Æ Å Í È Å.
НЕКОТОР Е НЕОБХОДИМ Е МАТЕМАТИЧЕСКИЕ СВЕДЕНИ
П.1. Т ория роятност й
Для ол лу око о поним ния осно т ории роятност й и м то о о р отки случ йных проц ссо со ту м прочит ть кни и [22, 55]. В этом р л при о ятся опр л ния осно - ных понятий и формулиро ки р ульт то , исполь у мых посо ии.
Ï.1.1. Ñëó÷ éíû
|
|
|
|
личины |
|
|
|
Пусть ( ; F) н которо |
и м римо простр нст о и |
||||
(R; |
B |
(R)) число я прям я с сист мой ор л ских мно- |
||||
|
|
|
(R). Д йст ит льн я функция = (!), îïð ë íí ÿ |
|||
ñò |
B |
|||||
í ( ;F), í û òñÿ F-и м римой функци й èëè ñëó÷ éíîé |
||||||
личиной, ñëè ëÿ ëþ î î B |
2 B |
(R) |
f! : (!)
Пусть ( ; F; P) прои ольно роятностно простр н- ст о. Ì ò ì òè÷ ñêèì î è íè ì Ef g прои ольной слу- ч йной личины н ы тся инт р л Л от F-и м римой функции = (!) ïî ì ð P, ля которо о (н ря у с Ef g) исполь уются т к сл ующи о о н ч ния:
Z (!) Pfd!g
èëè
Z dP:
107
Äèñï ðñè é случ йной личины н ы тся личин
2 = Ef( Ef g)2g, при этом личин > 0 í û òñÿ
ст н ртным отклон ни м.
Пусть и п р случ йных личин. Их êî ðè öè é н ы тся личин
covf ; g = Ef( Ef g)( Ef g)g:
Åñëè covf ; g = 0, то о орят, что случ йны личины и
í êîðð ëèðî íû.
Р спр л ни м случ йной личины í (R; B(R)) í û-
тся роятностн я м р P ( ) í (R; B(R)):
P (B) = P |
! : (!) |
2 |
B |
; B |
2 B |
(R): |
||||||||
f |
|
|
|
|
|
|
g |
|
|
|
||||
È îïð ë íèÿ ñë ó ò, ÷òî |
|
|
|
|
|
|
|
|
|
|
||||
E |
|
|
= |
ZR |
xP (d x): |
|
|
|
|
|||||
f |
g |
|
|
|
|
|
|
|
|
|
|
|||
Функция |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P (x) = P |
|
! : (!) |
|
x |
; x |
2 |
R; |
|||||||
|
f |
|
|
|
|
|
g |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
í û òñÿ функци й р спр л ния случ йной личины . Н отриц т льн я функция p ( ) í û òñÿ плотностью функции р спр л ния случ йной личины , сли
|
|
|
x |
|
|
|
|
|
||
P (x) = |
Z1 |
p (t)dt: |
|
|
|
|||||
Случ йн я личин н ы тся óññî ñêîé (èëè íîð- |
||||||||||
ì ëüíî ð ñïð ë ííîé) ñ ï ð ì òð ìè M è 2 ( |
N |
(M; 2)), |
||||||||
jMj < 1, > 0, сли ыр ни ля плотности p ( ) èì ò |
||||||||||
сл ующий и : |
|
|
|
|
|
|
|
|
|
|
p (x) = |
|
1 |
|
|
|
(x M)2 |
|
|
|
|
|
|
|
e |
|
: |
|
|
|||
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
2 2 |
|
|
|
|
p2 |
|
|
|
|
|||||
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
108 |
Случ йны личины 1; : : : ; n í û þòñÿ н исимыми
(н исимыми со окупности), ñëè ëÿ ëþ ûõ B1; : : : ; Bn 2 B(R)
Pf 1 2 B1; : : : ; n 2 Bng = Pf 1 2 B1g Pf n 2 Bng:
Пусть и н исимы случ йны личины с
Efj jg < 1 è Efj jg < 1:
Òî
Efj jg < 1
è
Ef g = Ef gEf g:
Поняти случ йн я личин ст ст нным о р ом о о - щ тся и н кторный случ й. Для случ йных кторо пон ло ии мо но опр лить м т м тич ско о и ни , ис- п рсию, м трицы ко ри ции, р спр л ни и т.п.
Со окупность случ йных личин X = f 1; 2; : : :g í û-þò ñëó÷ éíûì ïðîö ññîì ñ èñêð òíûì ð ì í ì èëè слу- ч йной посл о т льностью. Для к о о фиксиро нно о
! 2 посл о т льность f n(!)g í û òñÿ ð ëè öè é èëè тр ктори й ïðîö ññ , ñîîò òñò óþù é èñõî ó !.
П.1.2 Н которы н р нстля случ йных личин
Í ð íñò î × ûø [55, ñ. 209]. Пусть н отри- ц т льн я случ йн я личин . То ля сяко о " > 0
Pf "g Ef" g:
Í ð íñò î È íñ í [55, ñ. 209]. Пусть g(x) ыпук- л я функция, случ йн я личин с Ef g < 1. Òî
g(Ef g) Efg( )g:
109
Í ð íñò î Ã ëü ð [55, ñ. 210] Пусть 1 < p < 1;
1 < q < 1 è
1p + 1q = 1:
Åñëè Efj jpg < 1 è Efj jqg < 1, òî Efj jg < 1
è
Efj jg < (Efj jpg)1=p(Efj jqg)1=q:
П.1.3. З кон ольших чис лля н исимых случ йных личин
З кон ольших чис л [55, ñ. 347]. Пусть 1; 2; : : :
посл о т льность н исимых о ин ко о р спр л нных случ йных личин с
Ef 1g < 1; Ef 1g = M
è ïðè n = 1; 2; : : :
Sn = 1 + : : : + n
Òî ïðè n ! 1 |
|
|
|
|
|
|
|
8" > 0 |
P |
|
Sn |
|
" ! 0: |
|
|
|
n M |
|
|
||||
|
|
|
|
|
|
||
Ò îð ì Ê íò ëëè [55, ñ. 376]. |
Пусть 1 |
; 2 |
; : : : ïîñë - |
о т льность н исимых случ йных личин с кон чным ч т ртым мом нтом:
Efj n Ef ngj4g C < 1;
Sn = 1 + : : : + n n = 1; 2; : : : :
Òî ïðè n ! 1 с роятностью иниц
Sn nEfSng ! 0:
110