 
        
        книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdf| 6 силу (19) | и (20) | для функций | 
 | 
 | 
 | 
 | |||
| введя обозначение | 
 | / ( г ) = ф( г ) + ф ( г ) , | 
 | 
 | |||||
| 
 | 
 | Ф(2 ) - [ / ( г ) ] ' , | 
 | 
 | 
 | ||||
| найдем | 
 | о» | 
 | 
 | 
 | 
 | |||
| 1 | 
 | 
 | 
 | 
 | 
 | 
 | ( 21) | ||
| 
 | ------\ e | ~ ‘ ‘^ d z | Г | (co')rf(i/ | = [ / ( « ) 1 +, | ||||
| 
 | 2 u | h | 
 | - * | 
 | 
 | 
 | 
 | |
| Применив | (21) | к (18) | в случае, | когда Г = 0 | (чистое сглажива | ||||
| ние) и функция | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |
| 
 | 
 | 
 | f ( z ) = | S^--2r— | 
 | 
 | 
 | (22) | |
| 
 | 
 | 
 | 
 | 
 | G* (z) | 
 | 
 | 
 | 
 | 
| не имеет полюсов на вещественной осп, | получим | 
 | 
 | ||||||
| 
 | 
 | // (со) | 
 | 1 | 
 | 
 | 
 | 
 | |
| 
 | 
 | 
 | 2 л G (со) | G* (о>) | ’ | 
 | |||
| 
 | 
 | 
 | 
 | 
 | 
 | ||||
т. е. для указанного случая передаточную функцию Н (со) можно найти путем разложения функции (22) па элементарные дроби.
Л е к ц и я 15. МАРКОВСКИЕ ПРОЦЕССЫ
Понятие марковского процесса. Обобщенное уравнение Маркова.
Уравнения Колмогорова для марковских процессов. Стационарный нормальный марковский процесс.
Обобщенное уравнение Маркова
Простейшим процессом является процесс с независимыми сече ниями. Он полностью определяется одномерным законом распреде ления (см. лекцию 6). Однако в природе, строго говоря, таких про цессов нет, так как все реальные процессы обладают некоторой зависимостью между сечениями.
Простейшей моделью реального процесса, учитывающей эту
| зависимость, является марковский процесс. | |||
| Пусть | 
 | , | . | 
| 
 | 
 | 1(хп/хи х2, . . . , х п- }) | |
| есть условная | плотность вероятности сечения | ||
| 
 | 
 | Xn- X ( f „ ) | 
 | 
| процесса X(t) | в момент времени /,, при условии, что сечения | ||
| Х| | У (/,), Х2^ Х (/2) ,..., | A'n—i = X (in_ t) | |
| этого процесса | 
 | в предыдущие моменты | времени | 
| равны | 
 | 
 | XI,х2,. . ., Xп—1. | 
 | 
| Процесс X(t) | называется марковским, если | 
 | ||
| 
 | 
 | f(x„/x ,, а'2, .... .*„-]) = /(*„/*„_,), | (1) | |
| т. е. если | распределение сечения Хп в «будущий» момент времени tn | |||
| зависит | только | от | значения *„_i сечения Xn- i | в «настоящий» | 
| момент времени | 
 | i и не зависит от того, как изменялось сечение | ||
| в «прошлом». | 
 | марковский процесс — это процесс без после | ||
| Таким | образом, | |||
| действия. | 
 | 
 | 
 | 
 | 
111
Для трехмерной плотности вероятности имеем
| 
 | / (X,, Х2, Х Л) = | f (х3/х,, х 2) f (х2/х, ) f ( x ,) . | |
| Но в силу | (1) | / (х3/хI, х2) = f(x3/х2) , | |
| поэтому | / (Л-Ь Х | 2 , х3) = | f (Х3/х2)/ (Х2/Х,)/ (Х, ) . | 
| Аналогично для я-мерной плотности вероятности получим | |||
| 
 | /(Х |,х2 | 
 | П—1 | 
| 
 | ) x „ )= f(x i) П /(х *+1/хЛ), | ||
| 
 | 
 | 
 | к= 1 | 
т. е. я-мсрная плотность вероятности марковского процесса X(t) при любом п выражается через условные плотности вероятности типа f(Xk+i xk) и плотность вероятности / (х,) сечения Аь Но из вестно, что )(Хк+\ /хД и / (х |) выражаются через двумерную плот ность вероятности.
Итак, для марковского процесса любой л-мерный закон распре деления выражается через двумерный, что и отмечалось в лекции 6.
Условную плотность вероятности
| / (x*+i /х'*) = f (Xf,, I x*. 4.1, iк+1) | (2) | 
удобно рассматривать как плотность вероятности перехода некото
| рой физической | системы | из | состояния (xk, t k) в | состояние | |
| {Хк+ 1, tk+l) ■ | 
 | 
 | 
 | 
 | 
 | 
| Проинтегрировав равенство | 
 | 
 | |||
| / (х|, х2, Х3) = | f (Х|, / |)/ | (х,, / 1 1х2, t2)f (х2, / 21Л'з, /:1) | 
 | ||
| по х2, получим | 
 | 
 | 
 | 
 | 
 | 
| / (X ,, Х з ) = | / ( Х , , | /,) J / (X1, /, |х 2, /2)f ( Х 2 , /2|х :), /3)дх2. | 
 | ||
| поэтому | / ( X i , Х 3 ) = / (хь /| )/ (хь /1| Х з , / 3 ) , | 
 | |||
| 
 | 
 | /( х 1, /, |х2, /2)/(х 2, /2 1Хз, /Л)дх2. | (3) | ||
| /(х ь /| |хз, /3) = j | |||||
Итак, плотность вероятности перехода (2) марковского процесса X(t) удовлетворяет интегральному уравнению (3), которое назы вается обобщенным уравнением Маркова. Оно выражает суммар ную плотность вероятности перехода из (х ,,/,) в (х3, / 3) через все промежуточные состояния (х2, /2).
Уравнения Колмогорова
Пусть
х, = х, /, = / — Д / ( Д / > 0 ) , |
| х2 = | 2, u = t, | (4) | 
| Хз = | У, | J | 
112
| Тогда уравнение (3) примет вид | 
 | 
 | 
 | 
 | 
 | ||||||
| 
 | f(x,t — At\y,x) = | J f(x,t | - At \ z , t ) f ( z , i \ y , x ) d z . | (5) | |||||||
| С другой стороны, в силу | 
 | 
 | 
 | 
 | 
 | 
 | 
 | ||||
| 
 | 
 | 
 | [ f(x, t — At\z, t)dz = | 1 | 
 | 
 | |||||
| 
 | 
 | 
 | — 00 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
| HMGGM | 
 | 
 | г© | f(x,t\y,x)f(x,t — At\z,t)dz. | (G) | ||||||
| 
 | 
 | f ( x , i \ y , r ) = j | |||||||||
| Вычтя (6) из (5), получим | 
 | 
 | 
 | oo | 
 | 
 | 
 | ||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | [1(г,(\у,т) — | 
 | ||
| 
 | f{x,t — At\y,x) — f(x,t \y, x) — j' | 
 | |||||||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | —• oo | 
 | 
 | 
 | |
| 
 | 
 | 
 | — f (X, t\y,x)]f (X, l — | At \ z , t)dz.- | 
 | (7) | |||||
| В интеграле | (7)* функцию f(z,t\y,x) | разложим | в ряд Тейлора | ||||||||
| по переменной z | в окрестности точки z = | x. Тогда | (7) примет вид | ||||||||
| f(X. < - | АЧ у,т) - | / ( х , « I | t ) - | ? | ± | k\ | 
 | дхк | И*.‘А | ||
| 
 | 
 | 
 | 
 | 
 | 
 | 1 | 
 | 
 | |||
| 
 | 
 | 
 | 
 | — At | г, t)dz. | 
 | 
 | 
 | 
 | (8) | ||
| Поделив | равенство (8) на | At | и перейдя к пределу | At-+0, | |||||||
| получим | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
| 
 | - ^ f { x j \ y ^ | ) = ± ^ ^ ~ l { x , t \ y , x ) , | (9) | ||||||||
| где | 
 | dt | i | ifTi | k\ | 
 | дхк | 
 | 
 | ||
| 
 | 
 | о» | 
 | 
 | 
 | 
 | 
 | 
 | (10) | ||
| 
 | ak(x, <) = lim ----- f \ z — x)kf(x, t — At\z, t)dz. | ||||||||||
| 
 | 
 | 
 | д<-о At | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |
| Пусть at (x, t) | и a2(x, t) | конечны и не равны нулю, а ак (х, t) = О | |||||||||
| при к > | 3. | При | этих условиях | в силу | (9) | плотность вероятности | |||||
| перехода f(x, t\y,x) как функция начального состояния | (х, t) удов | ||
| летворяет уравнению | 
 | 
 | 
 | 
| - 4~f(x,t\y,T) + al (x, t) - ^- f(x, t \ y, x) + | 
 | ||
| dt | 
 | дх | 
 | 
| 2 | а*(х, t\) ■ | f(x, 11у, x) = О, | (И) | 
| дх2 | 
 | ||
| которое называется первым уравнением Колмогорова. | 
 | ||
| Аналогично можно доказать, | что f(x, t \ y, т) как функция конеч | ||
| ного состояния (у, т) | удовлетворяет и второму уравнению Колмо | ||
| горова | 
 | 
 | 
 | 
| ^ - l ( x , t \ y , x ) + - ^- | К (yt x)f (х, t \ y , x ) \ - | 
 | |
| di | ду | 
 | 
 | 
| 8 | 1318 | 113 | 
| 1 | дг [a* (y, T:)f(x,i\y, x)\=0, | ( 12) | 
| 2 | ду* | 
 | 
| где а{(у, т) и а2(у, х) | те же функции, что и в уравнении | (11), но | 
| взятые в точке конечного состояния (у,т ). | 
 | |
| Имеем | X(t t)= Xu X(t2) ~ X 2, | 
 | 
поэтому интеграл (10) в силу (4) есть условное математическое ожидание случайной величины
| при условии, что | — Х\. Следовательно, | 
 | |
| «I (*и t i ) = | lim -----^----- М[Х2 — XJXi = л:,]; | 
 | |
| 
 | 
 | t3 — t, | 
 | 
| a2(xu i2) = | lim ----------- M \ (X2— X^/ Xi = x ,], | 
 | |
| 
 | 
 | t2 t{ | 
 | 
| т. e. ai(x, ^)— средняя скорость изменения сечения, а а2(х, | t) — | ||
| средняя скорость изменения условной дисперсии сечения | про | ||
| цесса X(t). | 
 | 
 | 
 | 
Уравнения Колмогорова (11) и (12) есть уравнения с частными производными параболического типа. Чтобы получить однозначное решение f(x,i\y,x), к этим уравнениям надо добавить начальные
| п граничные условия. Например, | для уравнения (12) при заданных | |||||
| х и / начальным условием будет | 
 | 
 | 
 | 
 | ||
| 
 | f(x,t\y,r)\z =t = | Ь(х — У). | (13) | |||
| Если же начальное сечение X(t) | задано не числом х, а плот | |||||
| ностью вероятности }о(х), | то вместо | (13) получим | 
 | |||
| 
 | f ( xj \ y , r ) \ r =t | = fo(y). | 
 | |||
| При — оо < у < -}- оо | граничным условием для уравнения | (12) | ||||
| ^Удет | lim f (х, i \у, т) = | 0 при любом т^>- t. | (14) | |||
| 
 | I иI-* “ | 
 | 
 | 
 | 
 | 
 | 
| Кроме начальных и граничных условий функция f(x,t\ty,x) | как | |||||
| плотность вероятности должна удовлетворять требованиям | 
 | |||||
| 
 | т )> 0 , | J f(x, t\y,x)dy = 1. | (15) | |||
| Итак, | если а{(х, t) и | a2(x,t) | конечны и не равны нулю, а | |||
| ah(x, t) = | 0 при к^-3, то плотность вероятности перехода f{x,t\y,x) | |||||
| марковского процесса X(t) | можно найти из уравнений Колмогорова | |||||
| (11), (12) | и соответствующих начальных и граничных условий. При | |||||
этом марковский процесс определяется двумя неслучайными функ циями а{(х, t) и a2(x,t).
114
Рассмотрим один из методов решения уравнений Колмогорова.
| Для этого от x,y,t, х перейдем к новым переменным: | 
 | 
 | ||||||||||||
| х' — ф(х, | /), У' = | Ч>(У, т), /' = | 
 | 
 | = Ф(т). | 
 | 
 | |||||||
| Тогда уравнения Колмогорова (11) и (12) для | f'(x', t'\ у', х') | |||||||||||||
| примут прежний вид: | 
 | 
 | - | U | 
 | 
 | 
 | < | *0; | r | ,(16)f | |||
| И!_ | J- ai | (х\ П -дх2 1' | 
 | 
 | 
 | 
 | ||||||||
| дГ | 
 | 
 | 
 | 
 | ||||||||||
| f | — | [ai (у'.т)/'] | 
 | 2 | а#' | 
 | т')П = | 0, | (17) | |||||
| дх' | а#' | 1 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |||
| где | а х(x't V) = | _1_ | 
 | д2Ф(*. /) | а2(.г, /) + | 
 | 
 | 
 | 
 | |||||
| 
 | 
 | 
 | 
 | 
 | 
 | |||||||||
| 
 | 2 | ' | 
 | дх2 | 
 | 
 | 
 | 
 | 
 | 
 | ||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |||
| f | 5ф(хД) | 
 | 
 | 
 | аФ(л-, /) . | дГф(^) . | 
 | 
 | ||||||
| 
 | 
 | М * ./) | 
 | а Г ~ | dt | 
 | ’ | 
 | 
 | |||||
| 
 | дх | 
 | 
 | 
 | 
 | 
 | 
 | |||||||
| а2 (х\ V) = | dg>(*, 0 | «2 (А-, /) | dt | 
 | 
 | 
 | 
 | |||||||
| а* | 
 | 
 | 
 | 
 | 
 | |||||||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |||
| и х, t\ у, т предполагаются выраженными через х', | /'; | у', | х. | 
 | ||||||||||
| Пусть теперь функции ф и ф выбраны так, | что | 
 | 
 | 
 | 
 | |||||||||
| 
 | 
 | ах (х', /') = | 0, | а2(х’, t') = | 1. | 
 | 
 | 
 | 
 | |||||
| Тогда уравнения (16) и (17) примут вид: | 
 | 
 | 
 | 
 | 
 | 
 | ||||||||
| 
 | 
 | а/' | , | 1 | ‘ | аа/' | 
 | = | ; | 
 | 
 | 
 | 
 | (18) | 
| 
 | 
 | а*' | 
 | 2 | дх" | 
 | 
 | 0 | 
 | 
 | 
 | 
 | 
 | |
| 
 | 
 | а/' | 
 | 1 | 
 | а»/' | 
 | = | о. | 
 | 
 | 
 | 
 | (19) | 
| 
 | 
 | а-а | 
 | 2 | 
 | ду'* | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |
где (19) есть уравнение теплопроводности, а уравнение (18)— ему сопряженное.
Из теории уравнения теплопроводности известно, что единствен ное решение уравнений (18) и (19), удовлетворяющее условиям
(13) — (15), есть
| f(x',t'\y',x')= | . | 1 .^ | g ~ 2<T' - r >. | (20) | 
| 1 | Y 2тс (x' — t') | 
 | ||
| Если в (20) вернемся к старым переменным х, у, t, х, то получим | ||||
| искомое решение уравнений Колмогорова (11) и (12), | которое | |||
| будет уже не обязательно нормальным, как (20). | 
 | |||
| Итак, уравнения Колмогорова | (11) | и (12) решены, если они | ||
| преобразованы к виду (18) | и (19). | 
 | 
 | |
| Например, если | 
 | 
 | 
 | 
 | 
| ax{x,t) = | ax{t), | a2( x , t ) = a 2(t), | 
 | |
| 8* | 115 | 
то заменой переменных
— j at(z)dz, у' = у - J al (z)dz,
t ' = j a2(z)dz, т '= J a2(z)dz a
уравнения Колмогорова
| df_ = . | df | 1 | 
 | / a | d2f | ; | (21) | 
| dt | dx | г й П О -т т | |||||
| 2 | 
 | 
 | ox2 | 
 | 
 | ||
| 
 | df_ | — | 1 | / | ч <?2/ | 
 | ( 22) | 
| 0- | dy | 
 | «2(T) — 4 - | 
 | |||
| 2 | 
 | dy“ | 
 | 
 | |||
сводятся к уравнениям (18) и (19). Поэтому в силу (20) искомое решение уравнений (21) и (22) есть
| 
 | _ | (У - x - A Y | 
| f(x,t\y,T)-- | - е | 1 , | 
| где | :V2 TZ | 
 | 
| 
 | 
 | |
| А = | а, (г) г/г; | 
 | |
| 
 | / | 
 | 
| аг = | J a2(z)dz. | 
 | 
| 
 | t | 
 | 
Стационарный нормальный марковский процесс
Марковский процесс Х(1) называется стационарным, если его плотность вероятности перехода f(xl, t I \x2, t 2) по времени зависит только от разности /2 — Л, т. е. если согласно (2)
/(М, Л 1*2, h)=f(y, xl x),
| где | х = х и У = | Х 2, Т = / 2 — | / | . | 
 | 
| Для такого процесса равенства (10), (12) примут вид | 
 | |||
| 
 | ак( у ) = Пт — | Г (z — y)*f(z,xly)dz, | (23) | |
| 
 | Т-+0 -с | 
 | 
 | 
 | 
| 
 | д_ | [fli (у) { (У, 't/х) ] — | 
 | |
| 
 | / (У, tlx) + | 
 | ||
| 
 | дх | ду | 
 | 
 | 
| 
 | 4 — ГТ I02(у)А у>х1х) 1 = °- | (24) | ||
| 
 | 
 | |||
| Пусть Х(/) — стационарный нормальный | процесс, для | которого | ||
| шх = | 0, Dx — o2 и коэффициент корреляции гх — г(х). Тогда | |||
| 
 | 1 | ехр | (.У — ГХ)2 | (25) | 
| 
 | /( у , т/х) | 2 а2 (1 — г2) | ||
| 
 | з1/2тс(1 — г2) | 
 | ||
116
Из (23) и (25) найдем
| а, (у) = | lim — | f ( z - y ) f ( z , x l y ) d z = | - ~ \ \ m | - ± - ] (ry - | 
 | ||||||
| 
 | т-*-ьО Т Jso | 
 | 
 | 
 | 
 | 
 | V | +и т — | 
 | ||
| 
 | ______-Ра | 
 | dv = | 
 | г _ 1 | 
 | 
 | (26) | |||
| — v a V l — г'2— | У ) е | 2 | lim -------------У = | У г ' | 
 | ||||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | Т - . + 0 | X | 
 | 
 | 
 | 
| аг{у)— Пт — ? { z - y ) 2f { z , x ! y ) d z = - ^ \ \ m - ^ - ] { n j - | 
 | ||||||||||
| — vo V | г2—у)*е | 2 dv = | lim — [cr2(1 — r2)-{-y2( 1 — r)2]= | 
 | |||||||
| 
 | 
 | 
 | 
 | 
 | т - * + | 0 | т | 
 | 
 | 
 | 
 | 
| 
 | 
 | 
 | = — 2 a V ( + 0 ) ; | 
 | 
 | (27) | |||||
| 
 | 
 | 
 | ak (y) = 0 | при | 3. | 
 | 
 | 
 | |||
| Используя (25) — (27), найдем | частные производные: | 
 | |||||||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | г | х(у — гх) | 
 | |
| dx | 
 | \ | dr | 
 | 
 | 
 | 1 — г2 | о2(1 — г2) | 
 | ||
| 
 | 
 | г(у — гх)2 | r'(x)f(y, т/лс); | 
 | 
 | (28) | |||||
| 
 | 
 | СТ2 ( 1 — /-2)2 | 
 | 
 | 
 | 
 | 
 | 
 | |||
| [«[(</) Ду, x/jc) ] = | г'( -| | 0). | 
 | '■'(+0)0(0 — « ) | f(y, x/jc); | (29) | |||||
| 
 | о2(1 — г2) | 
 | |||||||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | ||
| 
 | 1 | d2 | [02(У)/(У,Т/Х)]< | г '(+ 0 ) | 
 | 
 | 
 | ||||
| 
 | 2 | dy2 | 1 — г2 | 
 | 
 | 
 | |||||
| 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
 | |||
| 
 | 
 | /•'(+ 0) ( У - ^ ) 2 | f (У. +*)• | 
 | 
 | (30) | |||||
| 
 | 
 | 
 | 0 2 ( 1 | _ | Г 2 ) 2 | 
 | 
 | 
 | 
 | ||
| Подставив (28)— (30) в | (24), | получим | 
 | 
 | 
 | ||||||
| L , х | [г{х)х — у][х — г(х)у] | \ г'(т) — г(т )г'(+0) _ _ п | 
 | ||||||||
| Г (т)---------- а ф | - ' ! М ]— | 
 | I — | 
 | 
 | 
 | 
 | ||||
| Выражение в фигурных скобках не равно нулю. Поэтому | 
 | ||||||||||
| 
 | 
 | г '( т ) - г ( т ) г '( + 0 ) = 0 . | 
 | 
 | 
 | ||||||
Единственное решение этого уравнения, удовлетворяющее
| условиям | r (0 )= 1, г(— т) sr (x ), | |
| есть | ||
| г (т )= е~ х1т1, | ||
| где | ||
| Х = - г ' ( + 0 ) . | ||
| 
 | 
117
Итак, доказана т е о р е м а Д у б а : нормальный стационарный процесс является одновременно и марковским тогда и только тогда, когда его корреляционная функция имеет вид
| kx( x) = £,е~*М . | (31) | 
| Дубом доказана и о б р а т н а я т е о р е м а : | марковский стацио | 
нарный процесс является одновременно и нормальным тогда и только тогда, когда его корреляционная функция имеет вид (31).
Нормальный стационарный процесс с корреляционной функцией
| вида, отличного от | (31), не может быть марковским. Но процесс | 
| с корреляционной | функцией (31) не дифференцируем в ср. кв., | 
поэтому стационарный нормальный марковский процесс не диффе ренцируем в ср. кв.
Л е к ц и я 16. ЦЕПИ МАРКОВА
Определение цепи Маркова. Матрица перехода. Матрица пере хода за k шагов.
Первая предельная теорема для регулярных цепей Маркова. Вторая предельная теорема для регулярных цепей Маркова.
Эргодические цепи Маркова.
Основные понятия
Применяя принцип отсутствия последствия к последователь ности случайных событий, аналогично непрерывным марковским процессам получим цепи Маркова.
Пусть производится последовательность опытов, в каждом из которых происходит то или иное из п случайных несовместных событий,
| 
 | 
 | А 1, | Л2, ..., Ап. | (1) | |||
| Говорят, что эта последовательность опытов образует цепь | |||||||
| Маркова | 
 | 
 | 
 | 
 | 
 | 
 | 
 | 
| если | 
 | 
 | A f , | 
 | АЧ+п......... | 
 | |
| Р (A{) +i)l А1? , | А \ | 0)) = | Р (А{)+1)1 А1?), | 
 | |||
| 
 | 
 | ||||||
| т. е. если в (s-f- 1)-м опыте | (5 = | 0, | 1, | 2,...) условная вероятность | |||
| события | = | Г • • •, п) | зависит только от того, какое | собы | |||
| тие А {Р (г — | 1 , . . . , п) | произошло в предыдущем s-м опыте и не за | |||||
| висит от того, какие события из | (1) | произошли во всех | более | ||||
| ранних опытах. | 
 | 
 | 
 | 
 | 
 | 
 | |
| Условная вероятность | 
 | 
 | 
 | 
 | 
 | ||
| 
 | 
 | P i j S p(A{3,+ ')lA{?) | (2) | ||||
называется вероятностью перехода из А1/' в
Будем рассматривать только однородные цепи Маркова, т. е. цепи Маркова, в которых вероятность перехода (2) не зависит от номера опыта s.
Цепь Маркова часто рассматривают как физический процесс, который в каждый момент времени находится в одном из возмож-
119
