
книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdf6 силу (19) |
и (20) |
для функций |
|
|
|
|
|||
введя обозначение |
|
/ ( г ) = ф( г ) + ф ( г ) , |
|
|
|||||
|
|
Ф(2 ) - [ / ( г ) ] ' , |
|
|
|
||||
найдем |
|
о» |
|
|
|
|
|||
1 |
|
|
|
|
|
|
( 21) |
||
|
------\ e |
~ ‘ ‘^ d z |
Г |
(co')rf(i/ |
= [ / ( « ) 1 +, |
||||
|
2 u |
h |
|
- * |
|
|
|
|
|
Применив |
(21) |
к (18) |
в случае, |
когда Г = 0 |
(чистое сглажива |
||||
ние) и функция |
|
|
|
|
|
|
|
|
|
|
|
|
f ( z ) = |
S^--2r— |
|
|
|
(22) |
|
|
|
|
|
|
G* (z) |
|
|
|
|
не имеет полюсов на вещественной осп, |
получим |
|
|
||||||
|
|
// (со) |
|
1 |
|
|
|
|
|
|
|
|
2 л G (со) |
G* (о>) |
’ |
|
|||
|
|
|
|
|
|
т. е. для указанного случая передаточную функцию Н (со) можно найти путем разложения функции (22) па элементарные дроби.
Л е к ц и я 15. МАРКОВСКИЕ ПРОЦЕССЫ
Понятие марковского процесса. Обобщенное уравнение Маркова.
Уравнения Колмогорова для марковских процессов. Стационарный нормальный марковский процесс.
Обобщенное уравнение Маркова
Простейшим процессом является процесс с независимыми сече ниями. Он полностью определяется одномерным законом распреде ления (см. лекцию 6). Однако в природе, строго говоря, таких про цессов нет, так как все реальные процессы обладают некоторой зависимостью между сечениями.
Простейшей моделью реального процесса, учитывающей эту
зависимость, является марковский процесс. |
|||
Пусть |
|
, |
. |
|
|
1(хп/хи х2, . . . , х п- }) |
|
есть условная |
плотность вероятности сечения |
||
|
|
Xn- X ( f „ ) |
|
процесса X(t) |
в момент времени /,, при условии, что сечения |
||
Х| |
У (/,), Х2^ Х (/2) ,..., |
A'n—i = X (in_ t) |
|
этого процесса |
|
в предыдущие моменты |
времени |
равны |
|
|
XI,х2,. . ., Xп—1. |
|
Процесс X(t) |
называется марковским, если |
|
||
|
|
f(x„/x ,, а'2, .... .*„-]) = /(*„/*„_,), |
(1) |
|
т. е. если |
распределение сечения Хп в «будущий» момент времени tn |
|||
зависит |
только |
от |
значения *„_i сечения Xn- i |
в «настоящий» |
момент времени |
|
i и не зависит от того, как изменялось сечение |
||
в «прошлом». |
|
марковский процесс — это процесс без после |
||
Таким |
образом, |
|||
действия. |
|
|
|
|
111
Для трехмерной плотности вероятности имеем
|
/ (X,, Х2, Х Л) = |
f (х3/х,, х 2) f (х2/х, ) f ( x ,) . |
|
Но в силу |
(1) |
/ (х3/хI, х2) = f(x3/х2) , |
|
поэтому |
/ (Л-Ь Х |
2 , х3) = |
f (Х3/х2)/ (Х2/Х,)/ (Х, ) . |
Аналогично для я-мерной плотности вероятности получим |
|||
|
/(Х |,х2 |
|
П—1 |
|
) x „ )= f(x i) П /(х *+1/хЛ), |
||
|
|
|
к= 1 |
т. е. я-мсрная плотность вероятности марковского процесса X(t) при любом п выражается через условные плотности вероятности типа f(Xk+i xk) и плотность вероятности / (х,) сечения Аь Но из вестно, что )(Хк+\ /хД и / (х |) выражаются через двумерную плот ность вероятности.
Итак, для марковского процесса любой л-мерный закон распре деления выражается через двумерный, что и отмечалось в лекции 6.
Условную плотность вероятности
/ (x*+i /х'*) = f (Xf,, I x*. 4.1, iк+1) |
(2) |
удобно рассматривать как плотность вероятности перехода некото
рой физической |
системы |
из |
состояния (xk, t k) в |
состояние |
|
{Хк+ 1, tk+l) ■ |
|
|
|
|
|
Проинтегрировав равенство |
|
|
|||
/ (х|, х2, Х3) = |
f (Х|, / |)/ |
(х,, / 1 1х2, t2)f (х2, / 21Л'з, /:1) |
|
||
по х2, получим |
|
|
|
|
|
/ (X ,, Х з ) = |
/ ( Х , , |
/,) J / (X1, /, |х 2, /2)f ( Х 2 , /2|х :), /3)дх2. |
|
||
поэтому |
/ ( X i , Х 3 ) = / (хь /| )/ (хь /1| Х з , / 3 ) , |
|
|||
|
|
/( х 1, /, |х2, /2)/(х 2, /2 1Хз, /Л)дх2. |
(3) |
||
/(х ь /| |хз, /3) = j |
Итак, плотность вероятности перехода (2) марковского процесса X(t) удовлетворяет интегральному уравнению (3), которое назы вается обобщенным уравнением Маркова. Оно выражает суммар ную плотность вероятности перехода из (х ,,/,) в (х3, / 3) через все промежуточные состояния (х2, /2).
Уравнения Колмогорова
Пусть
х, = х, /, = / — Д / ( Д / > 0 ) , |
х2 = |
2, u = t, |
(4) |
Хз = |
У, |
J |
112
Тогда уравнение (3) примет вид |
|
|
|
|
|
||||||
|
f(x,t — At\y,x) = |
J f(x,t |
- At \ z , t ) f ( z , i \ y , x ) d z . |
(5) |
|||||||
С другой стороны, в силу |
|
|
|
|
|
|
|
||||
|
|
|
[ f(x, t — At\z, t)dz = |
1 |
|
|
|||||
|
|
|
— 00 |
|
|
|
|
|
|
|
|
HMGGM |
|
|
г© |
f(x,t\y,x)f(x,t — At\z,t)dz. |
(G) |
||||||
|
|
f ( x , i \ y , r ) = j |
|||||||||
Вычтя (6) из (5), получим |
|
|
|
oo |
|
|
|
||||
|
|
|
|
|
|
|
|
[1(г,(\у,т) — |
|
||
|
f{x,t — At\y,x) — f(x,t \y, x) — j' |
|
|||||||||
|
|
|
|
|
|
|
—• oo |
|
|
|
|
|
|
|
— f (X, t\y,x)]f (X, l — |
At \ z , t)dz.- |
|
(7) |
|||||
В интеграле |
(7)* функцию f(z,t\y,x) |
разложим |
в ряд Тейлора |
||||||||
по переменной z |
в окрестности точки z = |
x. Тогда |
(7) примет вид |
||||||||
f(X. < - |
АЧ у,т) - |
/ ( х , « I |
t ) - |
? |
± |
k\ |
|
дхк |
И*.‘А |
||
|
|
|
|
|
|
1 |
|
|
|||
|
|
|
|
— At | г, t)dz. |
|
|
|
|
(8) |
||
Поделив |
равенство (8) на |
At |
и перейдя к пределу |
At-+0, |
|||||||
получим |
|
|
|
|
|
|
|
|
|
|
|
|
- ^ f { x j \ y ^ |
) = ± ^ ^ ~ l { x , t \ y , x ) , |
(9) |
||||||||
где |
|
dt |
i |
ifTi |
k\ |
|
дхк |
|
|
||
|
|
о» |
|
|
|
|
|
|
(10) |
||
|
ak(x, <) = lim ----- f \ z — x)kf(x, t — At\z, t)dz. |
||||||||||
|
|
|
д<-о At |
|
|
|
|
|
|
|
|
Пусть at (x, t) |
и a2(x, t) |
конечны и не равны нулю, а ак (х, t) = О |
|||||||||
при к > |
3. |
При |
этих условиях |
в силу |
(9) |
плотность вероятности |
перехода f(x, t\y,x) как функция начального состояния |
(х, t) удов |
||
летворяет уравнению |
|
|
|
- 4~f(x,t\y,T) + al (x, t) - ^- f(x, t \ y, x) + |
|
||
dt |
|
дх |
|
2 |
а*(х, t\) ■ |
f(x, 11у, x) = О, |
(И) |
дх2 |
|
||
которое называется первым уравнением Колмогорова. |
|
||
Аналогично можно доказать, |
что f(x, t \ y, т) как функция конеч |
||
ного состояния (у, т) |
удовлетворяет и второму уравнению Колмо |
||
горова |
|
|
|
^ - l ( x , t \ y , x ) + - ^- |
К (yt x)f (х, t \ y , x ) \ - |
|
|
di |
ду |
|
|
8 |
1318 |
113 |
1 |
дг [a* (y, T:)f(x,i\y, x)\=0, |
( 12) |
2 |
ду* |
|
где а{(у, т) и а2(у, х) |
те же функции, что и в уравнении |
(11), но |
взятые в точке конечного состояния (у,т ). |
|
|
Имеем |
X(t t)= Xu X(t2) ~ X 2, |
|
поэтому интеграл (10) в силу (4) есть условное математическое ожидание случайной величины
при условии, что |
— Х\. Следовательно, |
|
|
«I (*и t i ) = |
lim -----^----- М[Х2 — XJXi = л:,]; |
|
|
|
|
t3 — t, |
|
a2(xu i2) = |
lim ----------- M \ (X2— X^/ Xi = x ,], |
|
|
|
|
t2 t{ |
|
т. e. ai(x, ^)— средняя скорость изменения сечения, а а2(х, |
t) — |
||
средняя скорость изменения условной дисперсии сечения |
про |
||
цесса X(t). |
|
|
|
Уравнения Колмогорова (11) и (12) есть уравнения с частными производными параболического типа. Чтобы получить однозначное решение f(x,i\y,x), к этим уравнениям надо добавить начальные
п граничные условия. Например, |
для уравнения (12) при заданных |
|||||
х и / начальным условием будет |
|
|
|
|
||
|
f(x,t\y,r)\z =t = |
Ь(х — У). |
(13) |
|||
Если же начальное сечение X(t) |
задано не числом х, а плот |
|||||
ностью вероятности }о(х), |
то вместо |
(13) получим |
|
|||
|
f ( xj \ y , r ) \ r =t |
= fo(y). |
|
|||
При — оо < у < -}- оо |
граничным условием для уравнения |
(12) |
||||
^Удет |
lim f (х, i \у, т) = |
0 при любом т^>- t. |
(14) |
|||
|
I иI-* “ |
|
|
|
|
|
Кроме начальных и граничных условий функция f(x,t\ty,x) |
как |
|||||
плотность вероятности должна удовлетворять требованиям |
|
|||||
|
т )> 0 , |
J f(x, t\y,x)dy = 1. |
(15) |
|||
Итак, |
если а{(х, t) и |
a2(x,t) |
конечны и не равны нулю, а |
|||
ah(x, t) = |
0 при к^-3, то плотность вероятности перехода f{x,t\y,x) |
|||||
марковского процесса X(t) |
можно найти из уравнений Колмогорова |
|||||
(11), (12) |
и соответствующих начальных и граничных условий. При |
этом марковский процесс определяется двумя неслучайными функ циями а{(х, t) и a2(x,t).
114
Рассмотрим один из методов решения уравнений Колмогорова.
Для этого от x,y,t, х перейдем к новым переменным: |
|
|
||||||||||||
х' — ф(х, |
/), У' = |
Ч>(У, т), /' = |
|
|
= Ф(т). |
|
|
|||||||
Тогда уравнения Колмогорова (11) и (12) для |
f'(x', t'\ у', х') |
|||||||||||||
примут прежний вид: |
|
|
- |
U |
|
|
|
< |
*0; |
r |
,(16)f |
|||
И!_ |
J- ai |
(х\ П -дх2 1' |
|
|
|
|
||||||||
дГ |
|
|
|
|
||||||||||
f |
— |
[ai (у'.т)/'] |
|
2 |
а#' |
|
т')П = |
0, |
(17) |
|||||
дх' |
а#' |
1 |
|
|
|
|
|
|
|
|
|
|||
где |
а х(x't V) = |
_1_ |
|
д2Ф(*. /) |
а2(.г, /) + |
|
|
|
|
|||||
|
|
|
|
|
|
|||||||||
|
2 |
' |
|
дх2 |
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|||
f |
5ф(хД) |
|
|
|
аФ(л-, /) . |
дГф(^) . |
|
|
||||||
|
|
М * ./) |
|
а Г ~ |
dt |
|
’ |
|
|
|||||
|
дх |
|
|
|
|
|
|
|||||||
а2 (х\ V) = |
dg>(*, 0 |
«2 (А-, /) |
dt |
|
|
|
|
|||||||
а* |
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||
и х, t\ у, т предполагаются выраженными через х', |
/'; |
у', |
х. |
|
||||||||||
Пусть теперь функции ф и ф выбраны так, |
что |
|
|
|
|
|||||||||
|
|
ах (х', /') = |
0, |
а2(х’, t') = |
1. |
|
|
|
|
|||||
Тогда уравнения (16) и (17) примут вид: |
|
|
|
|
|
|
||||||||
|
|
а/' |
, |
1 |
‘ |
аа/' |
|
= |
; |
|
|
|
|
(18) |
|
|
а*' |
|
2 |
дх" |
|
|
0 |
|
|
|
|
|
|
|
|
а/' |
|
1 |
|
а»/' |
|
= |
о. |
|
|
|
|
(19) |
|
|
а-а |
|
2 |
|
ду'* |
|
|
|
|
|
|
|
где (19) есть уравнение теплопроводности, а уравнение (18)— ему сопряженное.
Из теории уравнения теплопроводности известно, что единствен ное решение уравнений (18) и (19), удовлетворяющее условиям
(13) — (15), есть
f(x',t'\y',x')= |
. |
1 .^ |
g ~ 2<T' - r >. |
(20) |
1 |
Y 2тс (x' — t') |
|
||
Если в (20) вернемся к старым переменным х, у, t, х, то получим |
||||
искомое решение уравнений Колмогорова (11) и (12), |
которое |
|||
будет уже не обязательно нормальным, как (20). |
|
|||
Итак, уравнения Колмогорова |
(11) |
и (12) решены, если они |
||
преобразованы к виду (18) |
и (19). |
|
|
|
Например, если |
|
|
|
|
ax{x,t) = |
ax{t), |
a2( x , t ) = a 2(t), |
|
8* |
115 |
то заменой переменных
— j at(z)dz, у' = у - J al (z)dz,
t ' = j a2(z)dz, т '= J a2(z)dz a
уравнения Колмогорова
df_ = . |
df |
1 |
|
/ a |
d2f |
; |
(21) |
dt |
dx |
г й П О -т т |
|||||
2 |
|
|
ox2 |
|
|
||
|
df_ |
— |
1 |
/ |
ч <?2/ |
|
( 22) |
0- |
dy |
|
«2(T) — 4 - |
|
|||
2 |
|
dy“ |
|
|
сводятся к уравнениям (18) и (19). Поэтому в силу (20) искомое решение уравнений (21) и (22) есть
|
_ |
(У - x - A Y |
f(x,t\y,T)-- |
- е |
1 , |
где |
:V2 TZ |
|
|
|
|
А = | а, (г) г/г; |
|
|
|
/ |
|
аг = |
J a2(z)dz. |
|
|
t |
|
Стационарный нормальный марковский процесс
Марковский процесс Х(1) называется стационарным, если его плотность вероятности перехода f(xl, t I \x2, t 2) по времени зависит только от разности /2 — Л, т. е. если согласно (2)
/(М, Л 1*2, h)=f(y, xl x),
где |
х = х и У = |
Х 2, Т = / 2 — |
/ | . |
|
Для такого процесса равенства (10), (12) примут вид |
|
|||
|
ак( у ) = Пт — |
Г (z — y)*f(z,xly)dz, |
(23) |
|
|
Т-+0 -с |
|
|
|
|
д_ |
[fli (у) { (У, 't/х) ] — |
|
|
|
/ (У, tlx) + |
|
||
|
дх |
ду |
|
|
|
4 — ГТ I02(у)А у>х1х) 1 = °- |
(24) |
||
|
|
|||
Пусть Х(/) — стационарный нормальный |
процесс, для |
которого |
||
шх = |
0, Dx — o2 и коэффициент корреляции гх — г(х). Тогда |
|||
|
1 |
ехр |
(.У — ГХ)2 |
(25) |
|
/( у , т/х) |
2 а2 (1 — г2) |
||
|
з1/2тс(1 — г2) |
|
116
Из (23) и (25) найдем
а, (у) = |
lim — |
f ( z - y ) f ( z , x l y ) d z = |
- ~ \ \ m |
- ± - ] (ry - |
|
||||||
|
т-*-ьО Т Jso |
|
|
|
|
|
V |
+и т — |
|
||
|
______-Ра |
|
dv = |
|
г _ 1 |
|
|
(26) |
|||
— v a V l — г'2— |
У ) е |
2 |
lim -------------У = |
У г ' |
|
||||||
|
|
|
|
|
|
|
Т - . + 0 |
X |
|
|
|
аг{у)— Пт — ? { z - y ) 2f { z , x ! y ) d z = - ^ \ \ m - ^ - ] { n j - |
|
||||||||||
— vo V |
г2—у)*е |
2 dv = |
lim — [cr2(1 — r2)-{-y2( 1 — r)2]= |
|
|||||||
|
|
|
|
|
т - * + |
0 |
т |
|
|
|
|
|
|
|
= — 2 a V ( + 0 ) ; |
|
|
(27) |
|||||
|
|
|
ak (y) = 0 |
при |
3. |
|
|
|
|||
Используя (25) — (27), найдем |
частные производные: |
|
|||||||||
|
|
|
|
|
|
|
|
г |
х(у — гх) |
|
|
dx |
|
\ |
dr |
|
|
|
1 — г2 |
о2(1 — г2) |
|
||
|
|
г(у — гх)2 |
r'(x)f(y, т/лс); |
|
|
(28) |
|||||
|
|
СТ2 ( 1 — /-2)2 |
|
|
|
|
|
|
|||
[«[(</) Ду, x/jc) ] = |
г'( -| |
0). |
|
'■'(+0)0(0 — « ) |
f(y, x/jc); |
(29) |
|||||
|
о2(1 — г2) |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
||
|
1 |
d2 |
[02(У)/(У,Т/Х)]< |
г '(+ 0 ) |
|
|
|
||||
|
2 |
dy2 |
1 — г2 |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|||
|
|
/•'(+ 0) ( У - ^ ) 2 |
f (У. +*)• |
|
|
(30) |
|||||
|
|
|
0 2 ( 1 |
_ |
Г 2 ) 2 |
|
|
|
|
||
Подставив (28)— (30) в |
(24), |
получим |
|
|
|
||||||
L , х |
[г{х)х — у][х — г(х)у] |
\ г'(т) — г(т )г'(+0) _ _ п |
|
||||||||
Г (т)---------- а ф |
- ' ! М ]— |
|
I — |
|
|
|
|
||||
Выражение в фигурных скобках не равно нулю. Поэтому |
|
||||||||||
|
|
г '( т ) - г ( т ) г '( + 0 ) = 0 . |
|
|
|
Единственное решение этого уравнения, удовлетворяющее
условиям |
r (0 )= 1, г(— т) sr (x ), |
|
есть |
||
г (т )= е~ х1т1, |
||
где |
||
Х = - г ' ( + 0 ) . |
||
|
117
Итак, доказана т е о р е м а Д у б а : нормальный стационарный процесс является одновременно и марковским тогда и только тогда, когда его корреляционная функция имеет вид
kx( x) = £,е~*М . |
(31) |
Дубом доказана и о б р а т н а я т е о р е м а : |
марковский стацио |
нарный процесс является одновременно и нормальным тогда и только тогда, когда его корреляционная функция имеет вид (31).
Нормальный стационарный процесс с корреляционной функцией
вида, отличного от |
(31), не может быть марковским. Но процесс |
с корреляционной |
функцией (31) не дифференцируем в ср. кв., |
поэтому стационарный нормальный марковский процесс не диффе ренцируем в ср. кв.
Л е к ц и я 16. ЦЕПИ МАРКОВА
Определение цепи Маркова. Матрица перехода. Матрица пере хода за k шагов.
Первая предельная теорема для регулярных цепей Маркова. Вторая предельная теорема для регулярных цепей Маркова.
Эргодические цепи Маркова.
Основные понятия
Применяя принцип отсутствия последствия к последователь ности случайных событий, аналогично непрерывным марковским процессам получим цепи Маркова.
Пусть производится последовательность опытов, в каждом из которых происходит то или иное из п случайных несовместных событий,
|
|
А 1, |
Л2, ..., Ап. |
(1) |
|||
Говорят, что эта последовательность опытов образует цепь |
|||||||
Маркова |
|
|
|
|
|
|
|
если |
|
|
A f , |
|
АЧ+п......... |
|
|
Р (A{) +i)l А1? , |
А \ |
0)) = |
Р (А{)+1)1 А1?), |
|
|||
|
|
||||||
т. е. если в (s-f- 1)-м опыте |
(5 = |
0, |
1, |
2,...) условная вероятность |
|||
события |
= |
Г • • •, п) |
зависит только от того, какое |
собы |
|||
тие А {Р (г — |
1 , . . . , п) |
произошло в предыдущем s-м опыте и не за |
|||||
висит от того, какие события из |
(1) |
произошли во всех |
более |
||||
ранних опытах. |
|
|
|
|
|
|
|
Условная вероятность |
|
|
|
|
|
||
|
|
P i j S p(A{3,+ ')lA{?) |
(2) |
называется вероятностью перехода из А1/' в
Будем рассматривать только однородные цепи Маркова, т. е. цепи Маркова, в которых вероятность перехода (2) не зависит от номера опыта s.
Цепь Маркова часто рассматривают как физический процесс, который в каждый момент времени находится в одном из возмож-
119