
книги из ГПНТБ / Ганин, М. П. Прикладные методы теории марковских случайных процессов учебное пособие
.pdfЕсли начальная ордината х является случайной величиной с из вестной плотностью распределения / х (х ), то математическое ожи дание z времени Z достижения процессом границы области D K1. на ходится но формуле
_ |
К - __ |
(31.36) |
'■= j г (х) fK(x)dx. |
Пусть, например, при броуновском движении начальная орди ната х имрет равномерное распределение в интервале от К до ц, т. е.
|
1 |
при л < |
х < |
и; |
|
(31.37) |
L (х) = |
\ 11 - |
|
||||
х |
к и при X > |
р. |
||||
|
О |
при X < |
|
|||
Тогда |
j (х — к) (р - x ) d x |
|
|
|
||
Ь(р- 75у |
= ^ (р - |
к)\ |
(31.38) |
Кроме математического ожидания времени пребывания процесса в области £>Х|м без решения дифференциального уравнения в част ных производных (31.22) при выполнении тех же условий можно найти моменты более высокого порядка. Для этого необходимо со ставить соответствующее дифференциальное уравнение для иско
мого момента. Обозначим через fz (t, х; z) |
плотность распределения |
времени пребывания процесса в области |
если в момент t его |
ордината равна фиксированному значению х. Тогда |
по аналогии |
||||
с (31.19) |
|
|
|
|
|
fz(t, |
х; Z) |
дР (t, х; т) |
|
(31.39) |
|
д |
- = z + t |
||||
|
|
|
|||
|
|
|
|
Когда коэффициенты сноса и диффузии не зависят от времени, условная плотность распределения fz (t, х; z) не зависит от t, при чем
/г (7, х, |
z) — fz{x, |
z) |
дР ( х , |
т — t) |
|
дР (х, z) |
|
||
|
dx |
|
dz |
' |
|||||
|
|
|
|
|
T= Z + t |
||||
|
|
|
|
|
|
|
|
(31.40) |
|
С учетом этого |
равенства из |
(31.29) |
после дифференцирования |
по |
|||||
z — x — t приходим к следующему уравнению: |
|
|
|||||||
dfz(x, |
z) |
|
dfz(x, z) |
, |
Ь(х) |
d2fz{x, |
z) |
|
|
dz |
|
— ( |
1 |
dx |
+ |
2 |
dJ? |
( 3 1 . 4 1 ) |
|
|
|
|
240
Обозначим через Ez (х, и) условную характеристическую функ цию, связанную с fz (х, z) равенством
|
Ez{x, и ) = j e'uzfz (х, z)dz. |
(31.42) |
|||
Чтобы |
получить уравнение |
относительно Ег {х, и), |
умножим обе |
||
части |
(31.41) на е'и/ и проинтегрируем но всем возможным значе |
||||
ниям 2. Так как |
|
|
|
|
|
|
j giuz |
dz = |
- |
iuEz (x, и), |
(31.43) |
то в результате указанного преобразования получаем |
|
||||
ШЕг (.х, и) + а(х) дЕЛ£ — |
+ |
|
- Щ * * — |
= °- (31 -44) |
|
|
|
|
|
ди2 |
|
Характеристическую функцию Ег(х, |
и) можно представить в виде |
||||
|
Ег{х, и) — 1 -f iu z {х) |
-f- |
(ill)2 т2(х) |
(31.45) |
|
|
|
|
|
2! |
|
где z(x) определяется формулой |
(31.32), а т2(х) — условный вто |
рой начальный момент времени достижения процессом границы об
ласти Dip. Если подставить |
(31.45) в (31.44) и сравнить, члены |
||||
при Ш, то получим уравнение |
(31.31). Сравнивая члены при (ш )2, |
||||
приходим к следующему уравнению: |
|
|
|
||
d2m2(x) |
, 2а(х) |
dm2(x) |
— 4 z(x) |
|
/0, |
~~d& |
+ ~ H x T ~ d ^ = |
b(x) |
• |
(ЗЬ46) |
|
Граничные условия для т2(х) |
по аналогии с (31.33) |
записываются |
|||
в виде: |
|
|
|
|
|
|
т ф ) = |
0; т 2(р) = |
0. |
|
(31.47) |
Зная решение т2(х) уравнения (31.46), которое находится так же, как (31.33), можно определить условную дисперсию D(Z/x) времени достижения процессом границы области Dip, используя для этого равенство
• D(Z/x)— т2(х) — (z(x)]2. |
(31.48) |
безусловная дисперсия случайной величины Z находится по фор муле
D(Z) = M[D(Z/x)] + D[z(x)]. |
(31.49) |
16 |
241 |
Если, например X(t) — процесс броуновского движения, |
то ре |
||
шение уравнения (31.46) записывается в виде |
|
||
т, (х)= з £ г [(? - X)3(х- \) - |
2 (v - |
X) (х- X)3 + (х- X)4]•(31.50) |
|
Тогда условная дисперсия |
|
|
|
D(Z/x) = ^ [ ( i i - K ) 3( x - X ) - З ( ц - Л ) 2( * - Л )2 + |
|
||
+ 4 ( ц - Л ) ( х - Я ) 3 - 2 ( х - Х ) 4]. |
(31.51) |
||
При использовании (31.37) получаем: |
|
|
|
M\D(Z/x) |
|
(31.52) |
|
D [z(*)] |
18Qb2 • |
(31.53) |
|
Следовательно, |
|
|
|
D (Z ) — |
180 b2 |
' |
(31.54) |
[ > |
|
§32. СТОХАСТИЧЕСКОЕ ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ
ИДИФФУЗИОННЫЙ МАРКОВСКИЙ ПРОЦЕСС
Теория непрерывных марковских процессов широко исполь зуется в приложениях потому, что она тесно связана с так назы ваемыми стохастическими дифференциальными уравнениями, с по мощью которых описывается большое число физических явлений и функционирование различных нелинейных систем автоматического регулирования. В одномерном случае стохастическое дифференци альное уравнение имеет вид
|
*(0 = < p tm я+ч>[вд, |
(32.1) |
|
где ф(х, |
t) и ф(х, ^ — заданные |
непрерывные |
функции аргумен |
тов х и |
t. Функция i(t) из (32.1) |
представляет собой нормальный |
белый шум, т. е. l(t) является первой производной от процесса броуновского движения (см. § 28). Математическое ожидание этой
случайной функции равно нулю, т. е. g(/) = 0. Без ограничения общности можно считать, что интенсивность белого шума равна
единице, а потому корреляционная функция для |(/) |
определяется |
формулой |
|
* 6 (т ) = М [& (0 & (< / + * ) 1 = б ( * ) . |
(32.2) |
242
Вместо дифференциального уравнения (32.1) можно рассматри вать интегральное уравнение, получающееся из (32.1) в резуль тате интегрирования от t0 до t:
X(t) = X(t0) + § 9 [X(t'), |
t'\dt' -f- j b\X(t'), |
(32.3) |
to |
to |
|
Из (32.3) следует, что случайный процесс X(t) марковский. Действительно, так как ординаты нормального белого шума |(^) независимы, то при известном X(t0) их значения до произвольного фиксированного момента to никак не влияют на поведение про
цесса |
X(t) в любой |
момент времени f > t 0. Вследствие этого |
со |
гласно |
(32.3) закон |
распределения случайной функции X{t) |
при |
t > t0 и заданном значении X(t0) не зависит от того, как изменялся этот процесс до любого фиксированного момента t0. Выполнение указанного условия и означает, что X(t) — марковский случайный процесс.
Чтобы найти коэффициенты сноса a(t, х) п диффузии |
Ь(/, х) |
для X(t), положим |
|
Z (t -J- At) — Z{t) — AZX(t) -)- AZg (/), |
(32.4) |
где |
|
t +A t |
(32.5) |
AZi(t)= jq>[X (t'), t W , |
|
t |
|
t + A t |
|
AZ2(t)= j\p[X(f), t']l(t')dt'. |
(32.6) |
t
Подставляя (32.4) в (30.1) и (30.2), приходим к следующим выра жениям:
d(t, |
x) = |
lim — |
M {[AZj (t) + |
AZ2 (t)]/X(t) ~ |
x}. |
|
|
A t - * 0 tit |
|
|
|
b(t, |
x) = |
lim A - |
M {[AZ, (t) + |
AZ2 (t)]2IX{t) = |
x ). |
|
|
A t - * 0 tit |
|
|
|
(32.7)
(32.8)
По условию ф(х, t) является непрерывной функцией аргумен тов х и t. Так как марковский процесс X(t) также непрерывный, то при 0 случайную функцию AZ^t) можно представить в виде
AZ,(/) = qP (f},f]A f + 0(AO. |
(32.9) |
Для случайной функции AZ2(t), в зависимости от определения сто хастического интеграла (32.6), могут быть получены два различ ных выражения. Вследствие этого для коэффициента сноса a(t, х) также получаются два различных выражения, которые называются
хкоэффициентами сноса для стохастического дифференциального уравнения по определению К. Ито и Р. Л. Стратоновича соответ-
243
ственно. Если по аналогии с (32.9) непрерывную случайную функ цию г|)[^(Г), П из-под знака интеграла в (32.6) вынести началь ным значением при t' — t, то
t+it |
|
AZ2 (t) = ф[ЛГ (t), t\ \%{t’)dt'. |
(32.10) |
t
Подставляя (32.9) и (32.10) в (32.7) и (32.8), приходим к следую щим равенствам:
|
|
|
|
a it, |
х) = lim |
Дt |
М\ч{х, t)\t + |
|
||
|
|
|
|
|
|
A t-o |
|
|
|
|
|
|
|
|
|
|
t+A t |
|
|
|
(32.11) |
|
|
|
-j- ф (л*, |
t) |
J ? ( П Л ' |
+ |
0 (Д0 1; |
|||
|
|
|
|
|
|
t |
|
|
|
|
|
|
|
b(t, JC) == lim-г^т-М {[?(*, t)bt + |
|
||||||
|
|
|
|
v |
|
At-»0 А Г |
|
|
|
|
|
|
|
|
|
|
И -At |
|
|
|
(32.12) |
|
|
|
+ |
<tix, |
t) |
j 6 ( П Л ' |
+ |
0 (ДО]8}- |
||
|
|
|
|
|
|
t |
|
|
|
|
Так как \ {t) — 0, то |
|
|
|
|
|
|
||||
|
|
|
|
't+At |
|
|
t + At |
|
(32.13) |
|
|
|
M |
j W ) d f |
j |
\{t')dt’ -. :0. |
|||||
Имеем |
|
|
|
|
|
|
|
|
|
|
|
t+A t |
|
|
|
|
=. M |
At At |
|
dt" |
|
M |
%{t')dt' |
|
|
|
|
|||||
j |
|
о |
|
|
||||||
|
|
|
|
|
|
о |
|
|
|
|
|
= |
j |
j |
K, {?' - |
1') dt' dt" |
= |
2 J (Д* - t) 8 (t) dx. |
|
||
|
|
о |
« |
|
|
|
|
|
|
|
Используя равенства |
|
|
|
|
|
|
||||
|
|
|
|
|
At |
|
|
|
At |
(32.14) |
|
|
|
|
|
f S ( t ) * = |
0,5; |
|
jxo(T)rfT = 0, |
||
находим |
|
|
|
|
|
г t+At |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
M- |
j \ { t ' ) d t ' |
— \ t . |
(3 2 .1 5 ) |
24 4
С учетом (32.13) и (32.15) из (32.11) и (32.12) получаем следую щие выражения для коэффициентов сноса и диффузии стохастиче ского дифференциального уравнения (32.1):
a(t, *) = <р(х, 0 ; b(t, *) = [ф(*, t)f. |
(32.16) |
Данные выражения называются коэффициентами сноса и диффу зии по Ито.
Равенства (32.16) получены при замене функции ф[Х(^), t'] из
(32.6), когда t |
t -f- н Д^-9-0, на ip[^(^), f\. Подобная замена |
производится при |
определении общего стохастического интеграла |
по Ито. Указанный стохастический интеграл содержит недифференцируемую случайную функцию (процесс броуновского движе ния), а потому правила преобразования и вычисления этого ин теграла отличаются от соответствующих правил для дифференци руемых функций. Например, если w(t) — дифференцируемая функ ция, то
|
t |
|
J |
w(x)dw(i) = — \\w(t)Y— [®>^o)]2}- |
(32.17) |
to |
|
|
Если же W(t) |
— процесс броуновского движения, то при определе |
|
нии стохастического интеграла по Ито получается |
|
|
t |
' |
|
j V СО dW(x) = ± { { w (О]2 - \W(*0)]2 - ( t - t0)) . |
•(32.18) |
|
to |
|
|
Реальные случайные процессы, близкие к процессу броуновского движения, в большинстве случаев дифференцируемые. Поэтому сто хастический интеграл желательно определять так, чтобы соблюда лась устойчивость по отношению к предельному переходу от диф ференцируемого случайного процесса к процессу броуновского дви
жения. |
Такое определение |
дано Р. |
JI. Стратоновичем. При этом |
|||
в (32.6) |
подынтегральная |
функция |
ф Р ф '), t'] заменяется |
не |
на |
|
ф [*(0 , А. а на разложение в ряд с учетом первых двух членов, т. |
е. |
|||||
принимается ty[X(t'), |
П = |
^ + ^х[^(0 > (ДО, |
|
|
||
где |
|
|
|
|
|
|
|
+ |
|
l(n d t"- + Q(t' - t) . |
(32.19) |
||
Тогда вместо (32.10) |
будет |
t |
|
|
|
|
|
t+ At |
|
|
|||
|
bZ, (t) = |
Ф[X (t), |
|
|
||
|
t\ j \ (t') dt’ -f- |
|
|
|||
|
|
|
|
t |
|
|
245
|
|
|
|
|
t+At |
|
|
|
|
|
+ < ?;!*(*), |
*]| ? [* (* ), |
t\ j ( t ' - t m n d t ' ± |
|
|||||
|
|
t + At |
|
|
|
|
|
|
|
-h Ц* [ЛГ(0 , |
t] |
j |
и |
|
Л '1 + |
0(Л*). |
(32.20) |
||
|
|
|
t |
|
|
|
|
|
|
Подставляя (32.9) |
и (32.20) |
в (32.7), получаем |
|
|
|
||||
|
|
|
|
|
|
t + A t |
t |
|
|
а (t, х) |
= <р(х, t) + |
'К {х, |
t) <Ь{х, t) liin |
1 |
\ |
\ Ь{ f - |
t") dt" d f . |
||
|
|
|
|
|
At-^O |
|
|
|
|
|
|
|
|
|
|
t |
t |
|
(32.21) |
|
|
|
|
|
|
|
|
|
|
Полагая f |
— tf/ — т, с |
учетом (32.14) находим |
|
|
|
||||
|
|
i |
i 8(T>di |
dt' = 0,5 Дt. |
|
|
(32.22) |
||
|
|
t |
о |
|
|
|
|
|
|
Следовательно, для коэффициента сноса справедливо следующее выражение:
a(t, х) = <?{х, * )+ - £ - <Н*, !f)'I/(x, t). |
(32.23) |
Нетрудно убедиться, что дополнительные члены в правой части
(32.20) не влияют |
на коэффициент диффузии, а потому справед |
|
ливо равенство |
|
|
|
b(t, х) = [ф(х, t)f. |
(32.24) |
Выражения (32.23) |
и (32.24) называются |
коэффициентами сноса |
и диффузии для стохастического дифференциального уравнения
(32.1) по |
Стратоповичу. |
Для функций <р (*,-/) |
и ф (х, |
t) |
при этом |
справедливы следующие выражения: |
|
|
|
||
9 (х, t) = |
a (t, х) - -1 |
дЬ{^ / ~ : Ф(*. *) = |
/ Н Г * ) |
■ |
(32.25) |
Таким образом, если марковский случайный процесс X(t) опре делен стохастическим дифференциальным уравнением (32.1), то ко эффициенты сноса и диффузии по Стратоповичу находятся с по мощью соотношений (32.23) и (32.24). Если a(t, х) и b(t, х) — коэффициенты сноса и диффузии марковского случайного процесса X(t), то коэффициенты <р(х, t) и ф(х, t) стохастического дифферен циального уравнения (32.1) определяются формулами (32.25).
Из сравнения (32.16) с (32.23) и (32.24) следует, что в обоих рассмотренных выше случаях определения стохастического инте грала коэффициенты диффузии одни и те же, а коэффициенты
246
сноса |
совпадают, только если функция г|з(-*, t) |
не зависит от х, т. е. |
|
когда |
ф' (х, t) = 0. При коэффициентах сноса |
и диффузии |
(32.16) |
по Ито вместо (32.25) справедливы равенства: |
|
|
|
|
<р(х, t)=a(t, х); ф(х, t) = \fb(t, х) . |
(32.26) |
Рассмотрим систему автоматического регулирования с запазды ванием, функционирование которой описывается следующим диф ференциальным уравнением:
X(t + |
r]) = <p[X(t),t] + q[X(t),t}Ut), |
(32.27) |
где использованы те же обозначения, что и в (32.1), |
а г) — малое |
|
время запаздывания |
(ц > 0 и ц -* 0). При этом вместо |
(32.4) будет |
X (t + п + |
ДО — X (t -f n) = Д^1 (t) + AZ2(t), |
(32.28) |
гдй AZi(t) и AZ3(t) определяются равенствами (32.5) и (32.6). Положим:
Если для AZi(t) и AZ2(t) |
использовать выражения |
(32.9) и (32.10), |
|||||||
то по аналогии с (32.16) |
получим |
|
|
|
|
|
|||
an (t, x) =cp(x, |
t)\ |
bn(t, x ) = ['[> |
(x, |
7)]3. |
|
(32.33) |
|||
Коэффициенты сноса |
a(t, х) |
и |
диффузии |
b(t, х) |
применительно |
||||
к уравнению |
(32.27) |
определяются как предельные значения функ |
|||||||
ций а-,](/, х) |
и brt(t, х) |
при т) |
0. |
Из (32.33) следует, что при этом |
|||||
справедливы равенства (32.16). Убедимся, |
что |
данные выражения |
|||||||
справедливы и в том случае, |
если случайную |
функцию ДZ2(t) оп |
|||||||
ределить другим рассмотренным |
выше способом. |
Вместо |
(32.19) |
||||||
в соответствии с (32.28) имеем |
|
|
|
|
|
||||
о |
X ( n - X ( t ) = q i X ( t - n ) , t - r \ ] ( t ' - t ) + |
|
|||||||
|
|
|
t ' - T ) |
|
|
|
|
||
|
+ ф [Х(г — -n), i |
t]] |
U t")dt"+0(t'-t). |
(32 .34) |
247
Так как время г| мало, то можно считать |
|
|
||||||
|
X{t') - X(t) = q>[X(t), |
t](t' — t) + |
|
|||||
|
|
t' |
|
|
|
|
|
(32.35) |
|
+ 4 W ) , п | б ( ^ - л ) Л " |
+ |
0 ( ^ - 0 + 0(л). |
|||||
|
|
t |
|
|
|
|
|
|
С учетом этого выражения по аналогии с (32.21) находим |
|
|||||||
|
a A t, х) = <?(х, |
£)-fO(r()-f |
|
|||||
|
|
|
t + At |
|
V |
|
|
|
+ ^ (* . |
* )1, т . - Л |
|
8 |
{t' - |
t" г г,) dt" dt'. |
(32-36) |
||
|
At—*0 |
-*£• |
t |
|
t |
|
|
|
|
|
|
|
|
|
|
||
Полагая во внутреннем интеграле |
t' — t" = т, получаем |
|
||||||
|
t' |
|
|
|
t’ - t |
8 ( i +■»))<&. |
|
|
|
o ( t ' - t " + ^)dt" = |
|
j |
|
||||
|
t |
|
|
|
oJ |
|
|
|
Так как |
t' — t^ 0 , то |
т + |
г )> 0 , |
а потому 8 (т + г]) = 0. Следова |
||||
тельно, |
a-4t, х) — у(х, |
0 + |
0 (Tl)) |
а |
|
потому коэффициент |
сноса |
|
a{t, х) = |
<р(х, t). |
|
|
|
|
|
|
|
Таким образом, если в системе, функционирование которой опи сывается стохастическим дифференциальным уравнением (32.27), время запаздывания ц -> 0, то коэффициенты сноса и диффузии оп ределяются формулами (32.16); при этом справедливы обратные равенства (32.26)
Следует отметить, что к одному и тому же уравнению Колмо горова с коэффициентами сноса a(t, х) и диффузии b(t, х) сво дится не только стохастическое дифференциальное уравнение (32.1), а и более общие дифференциальные уравнения. Поэтому обратная задача имеет не единственное решение, т. е. по заданным коэффи циентам сноса и диффузии могут быть построены различные сто хастические дифференциальные уравнения. Любому из указанных уравнений может быть поставлено в соответствие стохастическое дифференциальное уравнение (32.1), коэффициенты которого по a(t, х) и b(t, х) определяются рассмотренными выше способами. Стохастические дифференциальные уравнения, сводящиеся к од ному и тому же уравнению Колмогорова, называются стохастически эквивалентами. При решении практических задач сложное стоха стическое дифференциальное уравнение может быть заменено бо лее простым стохастически эквивалентным дифференциальным уравнением вида (32.1).
248
§ 33. С Т А Ц И О Н А Р Н А Я П Л О Т Н О С Т Ь Р А С П Р Е Д Е Л Е Н И Я
Одномерная, плотность распределения f\(y, т) марковского слу чайного процесса является решением дифференциального уравне ния Колмогорова (30.24), или, что то же самое, уравнения (30.26), т. е.
<?М у; Я> |
, d S ,( y ; х) _ п |
(33.1) |
||
дг |
+ ' |
ду |
||
|
||||
где |
|
|
|
|
5 , Су ; х) = а ( х , у) А (у; т ) -------У ) М у ; Т)1 • |
(33.2) |
В общем случае функция f\(y; т) зависит от обоих аргументов, т. е. от ординаты у и от времени т. Если с увеличением т одномерная плотность распределения f\(y, т) стремится к определенному пре делу f(y), то говорят, что существует стационарное решенпе урав нения (33.1). Функция f(y) называется стационарной плотностью распределения, причем
f(y) = Umfi(y; т). |
(33.3) |
Ясно, что стационарное решение уравнения (33.1) |
существует не |
всегда. Необходимым условием существования такого решения яв
ляется |
независимость коэффициентов |
сноса а(т, у) и диффузии |
Ь(т, у) |
от времени т. |
плотность, распределения |
При |
указанном условии условная |
f(t, х ; т, у), являющаяся решением дифференциального уравнения (30.23), по прошествии большого промежутка времени т — t обычно не зависит не только от t и т, но и от начального состояния х. Пре дельное значение этой условной плотности распределения назы вается стационарным решением уравнения (30.23). Так как коэф фициенты уравнений (30.23) и (30.24) совпадают, то стационарным решением уравнения (30.23) является та же стационарная плот ность распределения f(y). Следовательно, если стационарное реше ние существует, то
f ( y ) = Hmf(/, х; т, у). |
(33.4) |
Т—t-~ |
|
От начального условия стационарная плотность распределения не зависит, а от вида граничных условий зависит.
Дифференциальное уравнение для [(у) получается из (33.1) и (33.2) при замене функций fi (у; т), а (г, у) и Ь (т, у) соответственно
на f(y), а(у) и Ь(у). Так как ^ ^ = 0, то из (33.1) следует, что
dSj
f~= 0, а потому ноток вероятности Si (у; т) постоянный, т. е. один dy
249