Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Цифровая обработка сигналов (сборник книг) / Граничин О.Н. Введения в методы стохастической оптимизации и оценивания, 2003

.pdf
Скачиваний:
83
Добавлен:
05.03.2016
Размер:
863.2 Кб
Скачать

прило ниях оно ыполня тся. Второ усло и н о р ничи- т льно и им т ост точно ст ст нный х р кт р.

Осно н я и я ок т льст кон чной схо имости л о- ритм ключ тся сл ующ м. Пр поло им, что мно с- т n и м няются скон чно число р . Пусть эти и м н - ния происхо ят мом нты р м ни, мы посл о - т льностью fnig. Р ссмотрим число ую посл о т льность fdig, îïð ëÿ ìóþ ïî ïð èëó

^

2

 

di = k ni k

;

i = ^0; 1; 2; : : : : И спосо постро ния по посл о т льности f ni g сл у т, что ля эл м нто число ой посл о - т льности fdig ïðè ê îì i = 0; 1; 2; : : : ыполняются н р -нст

di di 1 Æ:

Просуммиро эти н р нст N р (N > 0), èì ì

0 dN d0 ÆN:

Åñëè ïîñë í ì í ð íñò N > d0=Ж, то получ м проти-

ор чи . Сл о т льно, колич ст о п р ключ ний с о но о

^

í ÷ íèÿ i н ру о кон чно, н чит, и мно ст посл -о т льности f ng и м няются только кон чно число р . И посл н о н р нст при о р нич нном исхо ном мно-ст мо но получить оц нку ля м ксим льно о числ и м н ний мно ст КСА:

Nmax diam( )=Æ;

ñü diam( ) н и ольш и р сстояний м у умя про- и ольными точк ми мно ст .

Конкр тный и р курр нтных л оритмо ля р ш ния р ноо р ных ц л ых н р нст с о осно ни м их схо и- мости мо но н йти [11, 58, 59, 72]. Д л у т р ссмотр н лишь ч стный, но ный случ й, относящийся к лин йным н р нст м.

101

6.3. Ал оритм "Полоск "

H и ол простой и функции (w; ) ëèí éíûé:

'Tn + n 0;

n = 1; 2; : : : : Ç ñü

wn = 'n ;n

f'ng è f ng н которы посл о т льности кторо и чис л соот тст нно. Во мо ны спосо ы р ш ния т кой сист мы лин йных н р нст п р он ч льно р ссм три - лись [60].

Оч и но, что этой ч п р о усло и постро ния кон чно-схо ящ ося л оритм , ыполн но. Второ усло и о н ч т, что сущ ст уют т ки ктор и Ж > 0, ÷òî

'Tn + n Æk'nk;

n = 1; 2; : : : : Ч щ с о прило ниях к лин йным сист - м м с о р нич нными пом х ми стр ч тся ч стный случ й р курр нтных лин йных н р нст

j'Tn + nj "n;

ñü n = 1;2; : : : è f"ng н котор я посл о т льность поло ит льных чис л. В этом случ торо усло и постро - ния кон чно-схо ящ ося л оритм о н ч т, что сущ ст уют числ 0 < Æ < 1, 0 < "? и ктор (н и стный), т ки , что при n = 1; 2; : : :

"n "?k'nk; j'Tn + nj Æ"n:

В этом случ к о и р курр нтных н р нст ы ля ткторном простр нст п р м тро опр л нную полосу,

102

шириной н м н 2"?. Выполн ни посл н о н р нстр нтиру т, что с эти полосы ключ ют с я н который ш р р иусом Ж, со р щий .

Для посл н о случ [44, 59] формулиру тся ол про-

стой кон чно-схо ящийся л оритм постро ния посл о т ль-

 

^

 

 

 

 

 

 

 

 

 

 

 

 

 

ности точ к f ng, при и м н нии которых н о п р стр и ть

ñîîò òñò ^óþùè ìíî ñò f ng, ñî ð ùè .

 

Пусть 0 2 è 0 = .

 

 

 

 

 

 

 

 

 

 

Åñëè

 

 

 

T ^

 

 

 

 

 

 

 

 

 

 

 

 

 

 

+ nj "n;

 

 

 

 

 

 

j'n n 1

 

 

 

òî

 

^

 

^

 

 

 

 

 

 

 

 

 

 

 

 

 

è n = n 1;

 

 

 

 

n = n 1

 

 

проти ном случ

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

T ^

 

 

 

 

 

 

T ^

+ n)Æ"n

 

^

^

 

'n n 1 + n

 

sgn('n n 1

 

n =

n 1 'n

 

 

 

k

'n

k

2

 

 

;

n

= n 1

\ f

: 'Tn + n

 

Æ"n

g

; n = 1; 2; : : : :

 

 

 

 

 

 

 

 

 

 

 

ò ïðîö óð í û òñÿ л оритмом "Полоск ".

Если исхо но мно ст о со п т со с м простр нст ом или я ля тся мно о р нным, то получ ющи ся по сформулиро нному л оритму мно ст то мно о р нники. К к у отм ч лось, н которых л оритм х стох стич ской п- проксим ции при о р нич нных пом х х ц л соо р но исполь о ть оп р цию про ктиро ния н мно ст о, соот т- ст ующую поиску ли йш о эл м нт . Кон чн я схо и- мость л оритм п р стро ния мно ст n н по ум причин м. Во-п р ых, ино при ок т льст симптоти- ч ских с ойст по ния оц нок, постро нных по л оритму

ñпро ктиро ни м, но ыть у р нными, что, н чин я

ñн которо о мом нт , о р ничи ющ о мо ны н ч ния п р м тро мно ст о н м ня тся. Воторых, при пр кти- ч ской р ли ции л оритм про ктиро ния н мно о р н- но мно ст о н о им ть конструкти ный спосо опис ния

103

н ор плоскост й, которы о о р ничи ют. При скон ч- ном колич ст о р ничи ющих плоскост й тру но пр ст -ить с р льный спосо хр н ния т кой информ ции.

При с о й к ущ йся простот , опис нный спосо с -т ки им т сущ ст нны тру ности при р ли ции н пр ктик . Во мно их случ ях исполь уют ол просты л оритмы, хотя при этом тру но ок ть их кон чную схо имость. Еслил оритм пр пол тся исполь о ть м ст с ру им, ол чутким, то кон чную схо имость л оритм мо но о сп чить простым пр ктич ским усло и м: пр кр тить корр кции пос- л р н нно о опр л нно о колич ст ш о . H и-ол у о ным с точки р ния оп р ций про ктиро ния и хр н ния информ ции я ля тся посл о т льно постро нипростр нст п р м тро прямоу ольнико , со р щих н - которо р ш ни сист мы р курр нтных ц л ых н р нст .

6.4.М то эллипсои о

Дру им прим ром л оритм постро ния мно ст , у о - ных ля ыполн ния оп р ций про ктиро ния и хр н ния н о хо имой информ ции, я ля тся м то эллипсои о (ñì. [21, 53]).

Р ссмотрим чу о р ш нии лин йных р курр нтных н -

ð íñò

'Tn + n 0;

n = 1; 2; : : : : Пр поло им, к к и р н , сущ ст о ни т ких ктор и конст нты Ж > 0, ÷òî ïðè n = 1;2; : : :

'Tn + n Æk'nk:

H ум ляя о щности, у м счит ть, что н ч льно мно ст о, со р щ р ш ни сист мы р курр нтных н р нст ,

но и эллипсои (или ш р ):

0 =

 

: (

 

^

T

1

(

 

^

 

1

 

f

 

0)

 

R0

 

0)

 

g

104

с ц нтром н которой точк ^0 и симм тричной поло ит льно

îïð ë ííîé ì òðèö é R0. Р ссмотрим р курр нтный л о- ритм постро ния посл о т льности эллипсои о f ng:

^

T

1

^

n = f : ( n)

 

Rn

( n) 1g;

опр ля мый посл о т льно п р считы мыми точк ми

^

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f ng и поло ит льно опр л нными м триц ми fRng. Ïð -

èëî èõ ï ð ñ÷ ò ñë óþù : ïðè n = 1; 2; : : : ;

 

T ^

+ n

 

 

 

 

^

 

^

 

 

 

 

 

 

= Rn 1;

 

ñëè 'n n 1

0, òî n

= n 1; Rn

 

проти ном случ

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

^ ^

 

 

 

 

 

 

Rn 1'n

 

 

 

 

 

 

n = n 1

 

 

 

 

 

;

 

 

 

(r + 1) 'nTRn 1'n

 

Rn =

 

r2

 

Rn 1

 

2 pRn 1'n'nTRTn 1

;

r2 1

n + 1

 

'nTRn 1'n

 

сь r р м рность простр нст п р м тро . Для м к-

ñèì ëüíî î ìî íî î ÷èñë êîðð êöèé

эллипсои о f ng

мо но получить оц нку с рху:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

^

 

 

 

 

 

 

 

 

 

 

 

N

max

 

 

r

 

 

 

lnfk 0 kg

 

 

;

 

 

 

 

 

ln

f

(r + 1)(r2

 

 

1)

 

2

r r

g

 

котор я при ольших r при ли ит льно р н

 

 

 

2r2(1 +

 

 

 

 

 

 

^

 

 

 

 

 

 

 

 

 

O

(n 2)) ln k 0 k:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Æ

 

 

 

 

 

Ал оритм им т простую ом трич скую инт рпр т цию.

^

Åñëè ïð û óù ÿ îö íê n 1 н у о л т оря т оч р ному ц л ому н р нст у, ющ му н которую ип рплоскостьпростр нст п р м тро , то п р лл льно й ч р ц нтр посл н о и постро нных эллипсои о про о ится ип р- плоскость. т ип рплоскость лит эллипсои н ч сти,

105

о н и которых со р ит точку . Посл это о но ый эллипсои строится к к н им ньший по о ъ му, со р щий ну - ную ч сть пр ы ущ о эллипсои . При этом ок ы тся, что отнош ни о ъ мо но о о и ст ро о эллипсои о н пр -осхо ит личины

rr

 

 

< 1:

(r + 1)(r2 1)

r 1

 

2

 

 

106

2 Bg 2 F:

Ï Ð È Ë Î Æ Å Í È Å.

НЕКОТОР Е НЕОБХОДИМ Е МАТЕМАТИЧЕСКИЕ СВЕДЕНИ

П.1. Т ория роятност й

Для ол лу око о поним ния осно т ории роятност й и м то о о р отки случ йных проц ссо со ту м прочит ть кни и [22, 55]. В этом р л при о ятся опр л ния осно - ных понятий и формулиро ки р ульт то , исполь у мых посо ии.

Ï.1.1. Ñëó÷ éíû

 

 

 

 

личины

 

 

 

Пусть ( ; F) н которо

и м римо простр нст о и

(R;

B

(R)) число я прям я с сист мой ор л ских мно-

 

 

 

(R). Д йст ит льн я функция = (!), îïð ë íí ÿ

ñò

B

í ( ;F), í û òñÿ F-и м римой функци й èëè ñëó÷ éíîé

личиной, ñëè ëÿ ëþ î î B

2 B

(R)

f! : (!)

Пусть ( ; F; P) прои ольно роятностно простр н- ст о. Ì ò ì òè÷ ñêèì î è íè ì Ef g прои ольной слу- ч йной личины н ы тся инт р л Л от F-и м римой функции = (!) ïî ì ð P, ля которо о (н ря у с Ef g) исполь уются т к сл ующи о о н ч ния:

Z (!) Pfd!g

èëè

Z dP:

107

Äèñï ðñè é случ йной личины н ы тся личин

2 = Ef( Ef g)2g, при этом личин > 0 í û òñÿ

ст н ртным отклон ни м.

Пусть и п р случ йных личин. Их êî ðè öè é н ы тся личин

covf ; g = Ef( Ef g)( Ef g)g:

Åñëè covf ; g = 0, то о орят, что случ йны личины и

í êîðð ëèðî íû.

Р спр л ни м случ йной личины í (R; B(R)) í û-

тся роятностн я м р P ( ) í (R; B(R)):

P (B) = P

! : (!)

2

B

; B

2 B

(R):

f

 

 

 

 

 

 

g

 

 

 

È îïð ë íèÿ ñë ó ò, ÷òî

 

 

 

 

 

 

 

 

 

 

E

 

 

=

ZR

xP (d x):

 

 

 

 

f

g

 

 

 

 

 

 

 

 

 

 

Функция

 

 

 

 

 

 

 

 

 

 

 

 

 

 

P (x) = P

 

! : (!)

 

x

; x

2

R;

 

f

 

 

 

 

 

g

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

í û òñÿ функци й р спр л ния случ йной личины . Н отриц т льн я функция p ( ) í û òñÿ плотностью функции р спр л ния случ йной личины , сли

 

 

 

x

 

 

 

 

 

P (x) =

Z1

p (t)dt:

 

 

 

Случ йн я личин н ы тся óññî ñêîé (èëè íîð-

ì ëüíî ð ñïð ë ííîé) ñ ï ð ì òð ìè M è 2 (

N

(M; 2)),

jMj < 1, > 0, сли ыр ни ля плотности p ( ) èì ò

сл ующий и :

 

 

 

 

 

 

 

 

 

 

p (x) =

 

1

 

 

 

(x M)2

 

 

 

 

 

 

e

 

:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2 2

 

 

 

 

p2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

108

Случ йны личины 1; : : : ; n í û þòñÿ н исимыми

(н исимыми со окупности), ñëè ëÿ ëþ ûõ B1; : : : ; Bn 2 B(R)

Pf 1 2 B1; : : : ; n 2 Bng = Pf 1 2 B1g Pf n 2 Bng:

Пусть и н исимы случ йны личины с

Efj jg < 1 è Efj jg < 1:

Òî

Efj jg < 1

è

Ef g = Ef gEf g:

Поняти случ йн я личин ст ст нным о р ом о о - щ тся и н кторный случ й. Для случ йных кторо пон ло ии мо но опр лить м т м тич ско о и ни , ис- п рсию, м трицы ко ри ции, р спр л ни и т.п.

Со окупность случ йных личин X = f 1; 2; : : :g í û-þò ñëó÷ éíûì ïðîö ññîì ñ èñêð òíûì ð ì í ì èëè слу- ч йной посл о т льностью. Для к о о фиксиро нно о

! 2 посл о т льность f n(!)g í û òñÿ ð ëè öè é èëè тр ктори й ïðîö ññ , ñîîò òñò óþù é èñõî ó !.

П.1.2 Н которы н р нстля случ йных личин

Í ð íñò î × ûø [55, ñ. 209]. Пусть н отри- ц т льн я случ йн я личин . То ля сяко о " > 0

Pf "g Ef" g:

Í ð íñò î È íñ í [55, ñ. 209]. Пусть g(x) ыпук- л я функция, случ йн я личин с Ef g < 1. Òî

g(Ef g) Efg( )g:

109

Í ð íñò î Ã ëü ð [55, ñ. 210] Пусть 1 < p < 1;

1 < q < 1 è

1p + 1q = 1:

Åñëè Efj jpg < 1 è Efj jqg < 1, òî Efj jg < 1

è

Efj jg < (Efj jpg)1=p(Efj jqg)1=q:

П.1.3. З кон ольших чис лля н исимых случ йных личин

З кон ольших чис л [55, ñ. 347]. Пусть 1; 2; : : :

посл о т льность н исимых о ин ко о р спр л нных случ йных личин с

Ef 1g < 1; Ef 1g = M

è ïðè n = 1; 2; : : :

Sn = 1 + : : : + n

Òî ïðè n ! 1

 

 

 

 

 

 

 

8" > 0

P

 

Sn

 

" ! 0:

 

 

n M

 

 

 

 

 

 

 

 

Ò îð ì Ê íò ëëè [55, ñ. 376].

Пусть 1

; 2

; : : : ïîñë -

о т льность н исимых случ йных личин с кон чным ч т ртым мом нтом:

Efj n Ef ngj4g C < 1;

Sn = 1 + : : : + n n = 1; 2; : : : :

Òî ïðè n ! 1 с роятностью иниц

Sn nEfSng ! 0:

110