Цифровая обработка сигналов (сборник книг) / Граничин О.Н. Введения в методы стохастической оптимизации и оценивания, 2003

Р ссмотрим посл о т льность оц нок f^ng, формиру -

мых по р н оми иро нному л оритму стох стич ской п-

проксим ции с о ним и м р ни м. О о н чим n = (^n )2

D

и, учиты я ц нтриро нности n и н исимость n îò vn, îö íèì óñëî íî ì ò ì òè÷ ñêî î è íè :

î îðÿ, n случ йн я личин ). С уч том посл н й формулы, приним я о ним ни ц нтриро нность n, û î èì:

n = n n n=2. Если пр поло ить, что ля число ых посл о т льност й f ng è f ng ыполняются усло ия

то ыполн ны с усло ия л ммы П.1 Ро инс Си мун о

схо имости почти суп рм ртин ло . Сл о т льно, посл -

^

о т льность оц нок f ng сильносостоят льн я. При этомисп рсия оши ки оц ни ния прямо пропорцион льн 2n= n2, что ху соот тст ующ о н ч ния исп рсии оши ки л-оритм Ро инс Монро, сли пом хи н исимы и ц нтриро нны 2.

4.5.П сси н я стох стич ск я ппроксим ция

Пусть Xn è Yn н ч ния и r-м рно о щ ст нно о простр нст . В осно ной форм л оритм Ро инс Монро Yn = G(wn; Xn) í ëþ ìû c ïîì õîé wn òî÷ê õ Xnн ч ния н которой ктор-функции от X. Посл о т льность fXng ы ир тся эксп рим нт тором ( кти ный эксп - рим нт). Ц ль ключ тся н хо нии точки , которойн ч ни функции

g(X) = EwfG(w; X)g

р но нулю. В н которых прило ниях н ч ния точ к Xn, которых прои о ятся н лю ния, н рируются и н и н мо ут ыть ы р ны эксп рим нт тором, которому н о хо и- мо н йти кор нь функции g(X).

Р ссмотрим чу: по шумл нным н лю ниям

Yn = g(Xn) + wn

н ч ний функции g( ) ìûõ è í òî÷ê õ fXng (п с- си ный эксп рим нт) опр лить н и стный кор нь функции g(X) ( ля простоты пр поло им инст нный). З сь fwng посл о т льность пом х (шумо ) и

G(w; X) = g(X) + w:

2Т ким н ост тком о л т и кл ссич ск я проц ур Киф р Вольфо иц .

72

Для р ш ния этой чи [26] пр л тся осполь о-ться л оритмом п сси ной стох стич ской ппроксим циим то ом стох стич ской ппроксим ции ком ин ции с проц урой н п р м трич ско о оц ни ния с н которым -

м л , и т кущ н лю ни Y ок т м ло лияни н ит р цию. Для ц л й ро стности число ы посл о т льности n è n мо но ы р ть постоянными. Скорость схо и- мости это о л оритм исит от л кости иссл у мой функции и о щ м случ ху , ч м у кл ссич ской проц у- ры Ро инс Монро.

4.6.Мо ифик ции л оритмо стох стич ской ппроксим ции

В этом р л о су ются н которы мо ифик ции л-оритмо стох стич ской ппроксим ции, моти иро нны пр ктич скими прило ниями.

Ì òî ïîíè íèÿ èñï ðñèè. Опиш м сп ци льном случ м то , который ст тистик носит н ни послойн яы орк [69]. Пр поло им, что мы оц ни м ср н н - ч ни н которой ч стной х р кт ристики популяции и отных : ск м, с. то мо но с л ть по случ йной ы-орк : случ йным о р ом р м эк мпляры ин и и уумо ,

ши м их и уср ня м. Пр ст им с осо ую ситу - цию, ко популяцию р или н руппы о ин ко о о р м р , с ин и и уумы к ой рупп им ют о ин ко-ый с. Пусть эксп рим нт тор им т о мо ность ы р ть

73

руппу, и которой л тся ин и и у льн я ы орк . То

ля получ ния ср н о н ч ния ост точно ы р ть по о ному эк мпляру и к ой руппы и уср нить р ульт т.

Н мно о о о щим ситу цию. Пр поло им, что иссл у - мы о ъ кты р л ны н н п р с к ющи ся руппы, которы о о н чим L (л ки ) и H (тя лы ). Пусть ноприорно р спр л ни о ъ кто по кл сс м, т. . ны - роятности PL, PH = 1 PL прин л ности соот тст ующим кл сс м и с я нны с ними, но н и стны функции р спр -

ë íèÿ GL( ; X) è GH( ; X) c н и стными ср ними н ч - ниями gL(X); gH (X), которы я ляются н у ы ющими функ-

циями.

Для посл о т льной оц нки п р м тр , соот тст ующ -о нной ср н й х р кт ристик с о мно ст , мо ноосполь о ться проц урой Ро инс Монро ля о щ й фун-

êöèè ð ñïð ë íèÿ G( ; X) = PLGL( ; X) + PHGH( ; X), но лучш исполь о ть л оритм с со н т льным ы ором руп-

ïû. Åñëè î î í ÷èòü ÷ ð L2 ( ) è H2 ( ) соот тст ующи усло ны исп рсии оши ок, то при ольших n исп рсия

îøè îê ëÿ ëüò ðí òè íî î л оритм при ли ит льно р -

í

PL L2 ( ) + PH H2 ( ):

т личин н пр осхо ит н ч ния исп рсии оши ок ля ори ин льной проц уры с ы ором о ъ кто случ йным о - р ом и с й популяции:

PL L2 ( ) + PH H2 ( ) + PL(gL( ) g( ))2 + PH(gH ( ) g( ))2:

Т ким о р ом, исп рсия оши ки при льт рн ти ной про- ц ур с н ху исп рсии оши ки ори ин льно о л о- ритм и р н й только случ gL( ) = gH( ).

Пусть PH = 2=7. Во мо ны н сколько ри нто и м н - ния осно но о л оритм ля пони ния исп рсии. Н при- м р, мо но ор ни о ть р оту с рупп ми по с мь испыт - ний, исполь уя сх му HHLLLLL, или с рупп ми по ч тыр ,

74

ко п р ы три ы ир ются по сх м HLL, ч т рто случ йным о р ом и с о н ор ри нто . Если о н и форм л оритм хорошо о осно н и схо ится, то и ост льны р отоспосо ны.

Альт рн ти ный ы ор по популяции монстриру т - ную осо нность прим н ниях проц уры Ро инс Монро,

йст ит льности и с х прим н ний стох стич ской п- проксим ции. К ч ст о по ния л оритм (скорость схо-имости и исп рсия ср н о отклон ния оц нок) оч нь сильно исит от óðî íÿ ïîì õ, и с усилия, н пр л нны но пони ни , по ыш ют эфф кти ность л оритм .

Óñð í íè ïî èò ð öèÿì: уср н ния Поляк . Если уст но л н схо имость оц нок к л мой точк , то ст но-ится кту льным опрос о о мо ности улучш ния проц сс схо имости. Для это о [36, 71] ыло пр ло но р ссмотр ть посл о т льность уср н нных оц нок

fNng н котор я число я посл о т льность, стр мя- щ яся к скон чности, и n Nn 0. Т к я попытк м ны мо т ли о улучшить оц нки, ли о н т, исимости пр

с о от ы ор число ой посл о т льности личин р м -

îö íîê f ng í ëó÷ø , ÷ ì ó f ng и мо т ыть ху смысл ср н к р тичной скорости схо имости. В [36, 71] пок но,

÷òî òîì ñëó÷ , êî ïîðÿ îê ó û íèÿ n íè , ÷ ì O(1=n), л оритм с уср н ни м исполь о ть пр почтит ль- н . Ко исполь уют л оритм с уср н ни м, личину р м р ш n û èð þò îëüø , ÷ ì ñîîò òñò óþù ì

о ычном л оритм . то^ïðè î èò ê п р скоку окру посл -о т льности оц нок f ng. Уср н ния комп нсируют эти

75

п р скоки, и при ост точно о щих усло иях скорость схо и-

~

мости оц нок f ng ñî ï ò ñ ì êñèì ëüíî î ìî íîé ñêî-

^

ростью схо имости ля оц нок f ng при оптим льном ы ор м тричных коэффици нто л оритм , что сущ ст нно о л - ч т р ш ни сло ной про л мы их опр л ния. В но м - тить, что это с ойст о уни рс льно ля с х л оритмо сто- х стич ской ппроксим ции.

Î ð íè÷ íèÿ. Н пр ктик опустимы н ч ния п р - м тр ч сто прин л т н которому н и м нному мно с- т у , нному я но или н я но. Ино проц сс оц ни-ния информ ция о этом мно ст о о щ тся, и о опи- с ни мо т и м няться. Н сколько соот тст ующих прим - ро у т при но посл н м р л . Если компон нтыктор фи ич ски или экономич ски личины, то с- т ст нно счит ть их ключ нными р ницы м у ни - ним и рхним н ч ниями. Д сли фи ич ский или экономич ский смысл п р м тро н н кл ы т приорных о р - нич ний н их н ч ния, то с р но ст ст нно с по о р - ни м относиться к получ ющимся р ульт т р оты л о- ритм относит льно ольшим н ч ниям оц нок ср н нии с о и шимися.

Прост йш я н и ол ч сто исполь у м я мо ифик ция л-оритмо ключ тся óñ ÷ íèè оц нок, ко они ст но ятся слишком ольшими или слишком м лыми. Пр поло им,

÷òî íû êîí ÷íû Ai < Bi; i = 1; : : : ; r; ò êè , ÷òî ñëè

^

i-я компон нт ктор n л оритм получ тся ольш Bi

(èëè ñîîò òñò ííî ì íüø Ai), òî ð òñÿ n i Bi (èëè

^ =

^ =

n i Ai).

Если н ш ц ль состоит миними ции н которой функции пот рь f( ) при усло ии о сп ч ния ц л о о н р нст

f( ) C0

с н которым м ксим льно опустимым уро н м C0, òî ëÿ

76

ýòî î ïðèì ð èì ìíî ñò î î ð íè÷ íèé

= f : Ai i Bi; f( ) C0 0g:

Îïð ëèì P (X) оп р тор про ктиро ния н мно ст ок к р ульт т ы ор ли йш й к X точки и . Если

X 2 , òî P (X) = X. Ïî õî ÿùèé л оритм с о р нич - ниями (èëè ñ ïðî êöè é) èì ò è

^ = (^ )

n P n 1 nYn ;

Yn к к я-ни у ь ппроксим ция ктор- р и нт функ-

( ) ^

öèè f òî÷ê n 1.

Ро стны л оритмы. При пр ктич ском исполь о-нии то о или ино о л оритм о мо н ситу ция, ко

опр л нны н лю ния р ли ции случ йной личиныют оч нь ольши н ч ния. К к пр ило, р льных сист - м х при ольших н ч ниях п р м тро м лои стны мо лиин мики или тру но что-ли о пр поло ить о ст тистич с- ких с ойст х пом х. В т ких ситу циях мо ль ч сто опр - ляют и соо р ний у о ст исполь о ния или тр иций. О н ко н л т льно, что ы о но ольшо по личин н -лю ни сущ ст нно ск лось н ычисл нии т кущ й оц н- ки. Для это о н о исполь о ть ол ðî ñòíû ïðîö óðû по н ло ии с проц ур ми ро стно о ст тистич ско о н - ли .

Опиш м о ин и о мо ных по хо о . Пусть i( ); i = 1; : : : ; r; о р нич нны щ ст нны функции, нны н

щ ст нной оси, н у ы ющи и у о л т оряющи усло и-

ÿì: i(0) = 0; i(u) = i( u) è i(u)=u ! 0 ïðè u ! 1. О ин и н и ол ч сто исполь у мых ри нто функций:

i(u) = minfu; Kig ëÿ u 0, Ki нны конст нты.

77

Î î í ÷èì

я ля тся по хо ящ й проц урой и ро стной ст тистики. Е о но пр имущ ст о состоит том, что о р нич н эф- ф кт ольших н ч ний пом х х н лю ния. Д йст ит льно, сли чр м рно н ч ни пом хи р ли о лось н лю-ниях, то это н лю ни у т прои нориро но ( отличи от л оритм c про ктиро ни м, ср тся н ч ни полу- ч мой т кущ й оц нки). Если л оритм стох стич ской п- проксим ции исполь у тся р льной сист м , н проц сс компьют рно о мо лиро ния, и поя ились н лю ния сольшими н ч ниями, то, оо щ о оря, н о пост р ться опр лить фи ич скую причину т ко о н ч ния, н отк ы-ться от уч т это о н лю ния сяких опросо .

В [32] иссл о лся опрос о с я и к ч ст оц нок с ы-ором функции ( ) исимости от и функции р спр -л ния пом хи, сли и стно, что Yn р ульт т и м р ния (или ^ычисл ния) ктор- р и нт функции пот рь f( ) точк n 1, прои нно о с ити ной пом хой. В ч стности, при пр поло нии о том, что н исимы ц нтриро н- ны пом хи им ют плотность р спр л ния p( ), о осно ы-

тся оптим льный и функции ( ):

(Yn) = r lnfp(Yn)g:

В [33] похо ий спосо ы ор функции ( ) пр л тся к к оптим льный н котором миним ксном смысл ля опр - л нно о кл сс л оритмо .

78

Выпукл я н ифф р нциру м я оптими ция.

Пусть f( ) щ ст нн я ыпукл я функция кторно ор ум нт р м рностью r. В ктор g н ы тся ñó ð è í- òîì функции f( ) òî÷ê , ñëè

f( + X) f( ) gTX

ëÿ ñ õ X 2 Rr . Î î í ÷èì ÷ ð @f(X) мно ст о су р -и нто функции f( ) точк X. то мно ст о мкнуто

и ыпукло . Р ссмотрим чу миними ции функции f( ).

^

Пусть f ng посл о т льность оц нок н которо о мини-

(^ )

í ëþ íèÿ è gn 2 @f n 1 . В этой ситу ции ля миними - ции функции f( ) [14] пр л тся осполь о ться л о- ритмом Ро инс Монро:

n = n 1 nYn = n 1 n(gn + wn):

Åñëè f( ) н пр ры но ифф р нциру м я функция, то

êòîð- ð è íò rf(X) ÿ ëÿ òñÿ èíñò ííûì ýë ì íòîì ìíî ñò @f(X), ин ч л оритм исполь у тся су р -и нт, ы ир мый н которым о р ом и мно ст @f(X).

О носторонняя схо имость. В н которых пр ктич с- ких прило ниях при н хо нии корня н и стной функции но построить т кую посл о т льность оц нок, кото- р я схо ил сь ы к искомой точк с о ной стороны. Н прим р,иоло ич ских испыт ниях и отным ют фиксиро нныо ы Xn н которо о пр п р т с ц лью оц нки инт нси ности р кции опр л нно о и н о при м. Для к о о испыту мо о мо но н лю ть только исхо ли о и ль: yn = 0, ëè î û è íè : yn = 1. Всякому по опытномуи отному соот тст у т н котор я миним льн я л т льн яо , пр ыш ни которой ы ы т и ль и отно о. При м ньш й о и отно ы и т. Пусть G(w; X) функция

79

р спр л ния исхо о испыт ний с о ой пр п р т , р ной X, и g(X) ср н н ч ни исхо о соот тст ующих испы- т ний. При нном уро н g òð ó òñÿ н йти соот т- ст ующую му о у . Для р ш ния чи мо но ыло ыосполь о ться о ыкно нным л оритмом Ро инс Монро, но и экономич ских и ум нных соо р ний хоч тся ум ньшить колич ст о см рт льных исхо о испыт ний. то ости-

òñÿ ñ÷ ò ìî èôèê öèè îñíî íîé ïðîö óðû:

^ = ^ ( + )

n n 1 n g n yn ;

исполь ующ й ополнит льную число ую посл о т льность f ng. В р от Т.П. Кр сулиной [20] о осно ы тся ля лю-о о сколь у о но м ло о " сп ци льный спосо ы ор посл о т льност й f ng è f ng, о сп чи ющий c роятностью 1 " í ïð ûø íè ^ нно о уро ня см ртности g при исполь о нии оц нок f ng.

4.7. Ал оритмы случ йно о поиск

Ал оритмы стох стич ской ппроксим ции относятся к о- л широкому кл ссу л оритмо случ йно о поиск [12, 38, 39].

В упрощ нном ри нт суть м то случ йно о поиск прим нит льно к ч о н хо нии точки минимум фун-

êöèè f( ) состоит сл ующ м. З тся случ йным или -

^

т рминиро нным спосо ом н ч льно при ли ни 0. Í

ø ñ íîì ðîì n û èð òñÿ ñëó÷ éíûì î ð îì n êòîð

^

í ïð ë íèÿ è ì í íèÿ ïð û óù é îö íêè n 1. О ычно исполь уются случ йны кторы, р ном рно р спр л н-

ны н иничной сф р . Вычисля тся н ч ни функции

^ + (^ )

òî÷ê n 1 n è ñð íè òñÿ ñî í ÷ íè ì f n 1 . Î÷ -

80