![](/user_photo/_userpic.png)
книги из ГПНТБ / Коваленко И.Н. Полумарковские модели в задачах проектирования систем управления летательными аппаратами
.pdfлагается, что по реализациям случайной функции ѵ(/) можно прое-ледить за всеми изменениями, которые проис ходят в системе: моментами появления заявок, момента ми окончания обслуживания и т. п.). Примером процесса ѵ(0 может служить число заявок, находящихся в СМО в произвольный момент времени і.
Иногда естественно рассматривать процесс ѵ(£) как совокупность нескольких параметров, имеющих тот или иной физический смысл. Так, например, при рассмотре нии системы управления с приборами, которые могут от
казывать, имеет смысл считать, что процесс ѵ(£) |
двумер |
ный: |
|
■ѵ(0= {ѵі(0. ѵа(0}. |
О-83) |
где ѵі(£) — число заявок в системе в момент t; |
ѵг(£) — |
число неисправных приборов в тот же момент времени. Если известны вероятностные законы, управляющие входящим потоком требований, а также распределение длительности обслуживания и порядок обслуживания за
явок, то ѵ(/) задан как случайный процесс.
Перейдем к изложению смысла метода вложенных цепей Маркова, предложенного Д. Кендаллом {14, 71].
Изучается некоторый случайный процесс ѵ(£), о кото ром известно, что он не обладает марковским свойством. Выбираются такие моменты времени {£,,}, (tn<tn+1 ), что
значения процесса {ѵ(£„)} образуют цепь Маркова. За тем методами, обычными для цепей Маркова, исследует ся распределение случайных величин v(tn). Наконец, по этому распределению делают выводы о свойствах исход ного процесса ѵ(/). Во многих случаях этот последний этап исключается, поскольку сами величины ѵ(£„) дают исчерпывающую информацию о функционировании СМО.
Чаще всего рассматривается случай, когда множество возможных значений процесса ѵ(/), а следовательно, и вложенной цепи Маркова конечно или счетно. Однако можно рассматривать и непрерывное множество состоя ний, С этой точки зрения метод вложенных цепей Марко
ва охватывает и теорию случайных |
блужданий, также |
используемую в задачах массового обслуживания. |
|
Таким образом, вложенная цепь |
Маркова — это по |
следовательность значений процесса в специально выб ранные моменты времени {/„}; эти значения образуют цепь Маркова. Подчеркнем, что моменты {/„}, как пра вило, оказываются не детерминированными, а случай-
30
мыми, зависящими от поведения самого процесса л>(/). О моментах {/„} здесь ничего не говорится.
Вложенная цепь Маркова |
может быть определена и |
|||
в том случае, когда моменты |
{Іп} |
образуют |
сложную |
|
статистическую |
связь, которая не может быть |
описана |
||
цепью Маркова. |
Важный частный |
случай выделяется |
посредством определения полумарковского процесса, ко торое мы приведем, .следуя работам (14, 42].
Пусть N—некоторое конечное или счетное множество и пусть для каждого і из этого множества определены:
вероятности перехода Рц со свойствами |
|
|
0 < Я (7< 1 ; |
|
(і'.84) |
і т |
|
|
распределение вероятностей Fi(x) |
положительной |
|
случайной величины Ц‘) |
|
|
^ |W = ^ U (0 <JC); /7(+ 0) = 0; |
i £ N . |
(1.85) |
Будем считать также заданным распределение случай ного вектора (go. ѵо), первая компонента которого—неот рицательная случайная величина, а вторая — может при нимать значения из множества N.
Полумарковский процесс конструируется из введен ных объектов по следующему принципу.
Пусть случайный вектор (g0, ѵо) принял некоторое значение (х, і) в соответствии с распределением, о кото
ром говорилось выше. Тогда определим v{t) |
в интервале |
|
времени от 0 до g0 как ѵо: |
|
|
v(t) ==і\ 0^. і <х . |
(1.86) |
|
Затем из случайной совокупности N выбирается значение |
||
ѵь вероятность того, что будет выбрано |
именно |
ѵі = / |
равна Pij (напомним, что і — значение, принятое |
ѵо). |
После этого выбирается значение случайной величины \ \ = у в соответствии с законом распределения Fj(x), что позволяет определить процесс ѵ(£) в более широком про межутке времени:
v(t) =/; x^~t<x + y. |
(1-87) |
Вслед за этим производится новый выбор элемента %’а из множества N. На этот раз вероятность того, что Ѵ2
примет значение k, равна Pjk, ft 6 N. Коль скоро стало известно, что ѵг= It, выбирается значение случайной ве-
31
личины І2 = 2 в соответствии с распределением Fh(x), что
дает:
v{t) =/г; x + y ^ l < x + y+.z |
(1.88) |
ит. д.
Врезультате такого построения случайный процесс
ѵ(0 определится в интервале времени (0, і*), где
t* = x + y + z + .... |
(1-89) |
Чаще всего £*=оо, так что процесс определяется при всех С>0. Это и будет пОлумарковский процесс
Наконец, дадим определение линейчатого процесса, которым мы также будем пользоваться в дальнейшем.
Пусть имеется полумарковский процесс v(t), причем с вероятностью единица он продолжается неограниченно
долго, т. е. согласно приведенной конструкции v(t) |
опре |
деляется при всех /> 0 . Тогда для любого £>0 |
можно |
определить случайную функцию у* (0 как время, |
про |
шедшее с момента последнего выбора случайной вели чины. Более точно
У |
— (Іо+£і + -. + іп), |
(1-90) |
|
где п находится из условия |
|
|
|
£о"Ні + |
—+ £л<^<£о + &і-|- — + £л + £я-ы- |
(1*91) |
|
Чтобы это определение было справедливо всегда, по |
|||
ложим, ЧТО при t<'g0 y*{t) =t. |
случайный |
процесс |
|
Легко видеть, что двумерный |
|||
{ѵ(і), у*{/)} будет марковским. |
Действительно, |
пусть |
известно, что при фиксированном t v(t) = 1, у* (t) =х. Это означает, в частности, что последний «цикл» длится уже X единиц времени. Но тогда вероятность окончания цикла в интервале (t, t + y ) составляет
Л - (•* + У ) — Fi (X)
1 - F d x )
До окончания цикла процесс v(t) не изменит своего значения, а процесс у* будет все время возрастать с еди-
1 Полумарковскиіі процесс определяется и несколько иначе: счи тают, что время пребывания в данном состоянии зависит от после дующего состояния процесса. Оба определения эквивалентны. Для перехода от одного из них к другому может потребоваться лишь из менение множества состоянии процесса.
32
иичной скоростью. Если же цикл окончился, то известно, что может произойти дальше: с вероятностью Рц процесс v(t) переходит к значению v(l) = j и все дальнейшее опре деляется независимо от того, чтобыло до момента t.
Сделаем еще одно замечание. Если для некоторых і из множества N функция распределения Fi(x) имеет вид
Fl (x) = l — e~xF- * > 0 ,
то при ѵ(і:)=і не нужно определять вторую компоненту процесса, т. е. у*{t): остаток длительности цикла, как легко видеть, зная основное свойство показательного рас пределения, не зависит от у* (t).
Таким образом можно рассматривать процесс g*^), в который обязательно включается компонента v(t)\ вто
рая компонента, именно у*{t), определяется лишь для тех случаев, когда Fi(x) имеет вид, отличный от показатель ного {14].
Термин «линейчатый марковский процесс» для про цессов несколько иного типа был предложен Ю. К. Бе ляевым [8]. Заметим также, что линейчатый процесс — есть функционал от полумарковского процесса.
1.4. ПРОЦЕССЫ ВОССТАНОВЛЕНИЯ
Пусть go, |i,..., In,... — последовательность неотрица тельных независимых случайных величин, где gi, g2 ,... об
ладают общей функцией распределения F(x), a go — функцией распределения F0(x). Последовательность мо
ментов времени £7l = gо+... + |п |
(« = 0, 4, |
2,...) называется |
п р о ц е с с о м в о с с т а н о в л е н и я . В |
частном |
случае, когда |
FQ(X) = F ( X), процесс восстановления |
называется п р о с |
|
т ы м . |
|
|
Если некоторая из случайных величин tn равна t, го ворят, что в момент t происходит восстановление. С про цессом восстановления связывается случайный процесс Nt, определяемый как число восстановлений в интервале (О, 0. Если 0 < t 0< t i < . . . < t n<..., тогда Nt =0 при 0<.t<.to\ Nt = 1 при tQ< t < t u...; Nt = n при tn- \ < t < t n ит.д. В этом случае траектория процесса восстановления представля ет собой ступенчатую функцию, возрастающую единич ными скачками. Если некоторые моменты восстановления совпадают (скажем ti = t2= t3), возможны и большие
скачки.
Основой изучения процессов восстановления является понятие ф у н к ц и и в о с с т а н о в л е н и я .
2 |
3353 |
33 |
Функцией восстановления данного процесса восста новления называется функция
H{t)=M[Nt], |
(1.92) |
Выведем формулу для функции восстановления. Пусть t ^ O — фиксированное число и U(x) —1 при x<t,
U( х )= 0 при x^t. Тогда, если U(tn) = 1, значит п = е вое-
оо
становление произошло ранее t. Следовательно, ^ U (tn) л=0
представляет собой общее число восстановлений, проис шедших ранее t, или, что то же, Nt.
Таким образом |
|
H(t) = M 2 */(*„) |
(1.93) |
_П=0 |
л=0 |
Однако, U(tn) — случайная величина, принимающая од но из двух возможных значений: «0» или «1». Поэтому
Ж [U (/„)] = |
Р {tn< t)= Р (Ц0 + |
^ + ... + ?я < 0- |
(1-94) |
Окончательно |
|
|
|
^ Й |
= 2 Р №0Н + - |
+ Е»</). |
(1-95) |
|
/1= 0 |
|
|
Перейдем к преобразованиям Лапласа-Стилтьеса. Если F( t) — неубывающая функция, то преобразованием Лапласа-Стилтьеса этой функции называется функция
|
оо |
|
комплексного переменного |
cp(s) = J e~sldF ((); |
если |
|
о |
кото |
F(oо) <оо, тогда cp(s) определена при всех s, для |
||
рых Re s^sO. |
|
|
Дадим также следующее |
объяснение рассматривае |
мому преобразованию. Если функция F(t) имеет скачки величины Ап в точках хп (0<х'і<х2<...), а в интервалах между этими точками обладает непрерывной производ ной F' (t), тогда
e-Wr"Ä« + f z~stF'{t)dt-\-
П6
+ j e-*‘F'(t)dt-\-. .. . |
(1.96) |
Xi |
|
34
Обозначим
w |
со |
tFo(s) = j e - sldF0(ty, |
<p(s)=f e~*‘dF{t); |
о |
0 |
oo |
(1.97) |
о
Введем также функции распределения
(1.98)
и их преобразования Лапласа-Стилтьеса
'?«(«) = |
J |
e - 0s ^- „ ( |
(1.99) |
о |
|
|
|
Тогда символически можно записать |
|
||
|
со |
|
(1.100) |
dH{t) = |
^ d F n{t), |
||
|
п=0 |
|
|
откуда |
|
|
|
4*(s)= |
2 |
'P-W* |
(1.101) |
|
и=0 |
|
|
Известно, что преобразование Лапласа-Стилтьеса суммы независимых случайных величин равно произве дению преобразований слагаемых. Тогда
cP/,(s)= |
'Po(s)<?,,(s) |
(1.102) |
и |
|
|
*(s) = ffl0(s) V |
<p«(s) = ,о( } . |
(1. ЮЗ) |
Jm |
1 — ?(Л |
|
л«=*0 |
|
|
Пусть имеется простой процесс восстановления. Соот ветствующую ему функцию восстановления обозначим Н0(і). Согласно предыдущему
Н 0(І)= М 2 и «п) |
-M[U{Q\ + M 2 и ѵ„) . (1. 104) |
L/i=o |
Л - 1 |
2* |
.35 |
Поскольку M[U(to)] = F(t), можно записать
t f o ( 0 = ^ ( 0 + ] м 2 ^ ( * Ж = * d F {X). (1.105)
Л=*1
Если to^t, то и все tn^ t , так что U(t„) =0. Таким об разом, в последнем интеграле можно взять в качестве верхнего предела t Далее, если известно, что t0 = x, слу чайная величина tn имеет то же распределение, что и слу чайная величина Л,_і+ л'.
Итак,
М y u { Q \ t * = x |
, м 2 |
|
Л «1 |
п-1 |
|
= 2 p V n < t - x ) = H n{ t - x ) . |
(1. 106) |
л—0
Окончательно
H 0{t) = F { t ) + ( H , { t - x ) d F { x ) .
6
Найденное соотношение носит название уравнения восстановления.
Возвратимся теперь к исходному процессу восстанов ления, для которого функция Fo(t) может быть отличной от F(t). Можно записать
H(t) = F0( t ) + \ H 0{ t - x ) d F 0(x). |
(1.107) |
о |
|
Уравнение для вероятности события, связанного с процессом восстановления
Пусть нас интересует вероятность р некоторого собы тия А, определенного следующим образом. Событие А может произойти лишь в один из моментов tn (п^О). Если событие А не произошло в моменты 7,- (і < п ), то в момент tn оно произойдет с вероятностью а(і), если из вестно, что tn —t независимо от значений 7; (і<п).
Пусть, например, /„ — моменты отказа некоторого устройства, функционирующего на отрезке времени [0, Т]
36
в переменных условиях. Если отказ произошел в момент t, то этот отказ приведет к катастрофе с вероятностью а ((). (Естественно положить a(t) =0 при t >T). Тогда ка тастрофа как раз и будет событием с описанными свой ствами.
Для простоты вывода предположим, что |„ (л ^ 0 ) об
ладают соответствующими |
|
плотностями. Пусть |
qn(t)dl |
|||
обозначает |
вероятность события, |
состоящего в том, что |
||||
t < t n< t + d t |
и в моменты t0,.-.,tn событие А не произошло. |
|||||
Тогда |
|
|
|
|
|
|
|
q = \ |
|
|
|
|
(1. 108) |
Далее имееій интегральное соотношение |
|
|||||
Ч п (0 = Р(0 [ Ч „ - і (х) P' {t — x)dx, |
ге> 1, |
(1.109) |
||||
|
6 |
|
|
|
|
|
где ß(0 = 1—a(t). |
|
|
|
|
|
|
Далее можно записать |
|
|
|
|
|
|
|
со |
со |
со |
|
|
|
а {t) Fо 00 dt -(- ^ |
^ |
I"qn(t)F~(x)a(t-\-x)dtdx. |
||||
|
п=о о |
6 |
|
|
(1, 110) |
|
|
|
|
|
|
|
|
Первый член правой части соответствует случаю, ког |
||||||
да событие А происходит |
в |
момент |
to\ выражение |
qn(t)F'(x)a(t+x)didx есть вероятность следующего со
бытия: п-е |
восстановление произошло в момент іп, где |
t < t „ < t + d t ; |
событие А не произошло в моменты t0, Л,.., |
tn; (га+1)=е восстановление и событие А произошли в момент £„+і, где tn + x < t n+l< t n+ х + dx.
Поменяв местами знаки суммы и интеграла, найдем
Р = \ a{t)Fü'{t)dt + |
] |
f 2 |
чп it) F' (х) а (/ -{- х) dt dx. |
о |
6 |
6 |
(1.1И) |
|
|
|
|
Обозначим |
|
|
|
|
9(0== 2 |
Чп |
|
|
|
л«=0 |
37
Далее имеем
^oW= /7 o'(OP(0-
Тогда
ч W=Л/ (О Р(0 + Р(0 ( 2 |
А'л-іW ^ •(* •- *)äx |
(1. 112) |
||||||||
|
|
|
О |
л - 1 |
|
|
|
|
|
|
или |
|
|
|
|
|
|
|
|
|
|
|
9(0 = |
/Y (0 + |
J q { x ) F ' { t - x ) d x |
р(0- |
(1.113) |
|||||
|
|
|
|
о |
|
|
|
|
|
|
Определив функцию q(i) |
согласно |
интегральному урав |
||||||||
нению (1. 113), вычислим р по формуле |
|
|
||||||||
р = I"а (t)F0' (t)dt-\- ^ |
j"q(t)F (x)a(t-\-x)dtdx. |
(1.114) |
||||||||
0 |
|
|
0 |
0 |
|
|
|
|
|
|
Таким образом, поставленная задача решена. |
||||||||||
Для последующих исследований |
важны следующие |
|||||||||
теоремы. |
|
|
|
|
|
|
|
|
|
|
1. Элементарная теорема восстановления. |
|
|||||||||
Пусть т=М [|„]^оо при |
1. Тогда |
|
|
|||||||
|
|
|
И т - ^ - = - - . |
|
|
(1.115) |
||||
|
|
|
<-» |
t |
т |
|
|
|
' |
|
2. Узловая теорема восстановления. |
|
функ- |
||||||||
Пусть |
Q (/)— невозрастающая |
ограниченная |
||||||||
|
|
со |
Q (t) dt < |
|
Тогда, если F(t) — не- |
|||||
ция, для которой ! |
оо. |
|||||||||
|
|
о |
|
|
|
|
|
|
|
|
решетчатая функция распределения ’, то |
|
|
||||||||
|
|
( |
|
|
|
|
|
оо |
|
|
|
lim |
Г Q { t - x ) d H { x ) = — |
[ Q{t)dt. |
(1.116) |
||||||
|
/-►CO J |
|
|
|
|
Т |
J |
|
|
|
|
|
о |
|
|
|
|
|
о |
|
|
Более |
подробно |
эти |
вопросы |
рассмотрены ів кни |
||||||
ге [22]. |
|
|
|
|
|
|
|
|
|
|
1 Имеется в виду, что либо | п — не дискретная, |
либо |
— дис |
кретная случайная величина, но не все ее значения соизмеримы.
38
Стационарные процессы восстановления
Предположим, что для любого фиксированного ,ѵ>0 распределения числа восстановлении в интервале (t, t + +х) не зависит от t (t^.0). Процесс восстановления с та ким свойством называется стационарным процессом вос становления. Если задана F(t) = P(£n<t) при n ^ l , при чем т=М £і<оо, то необходимым и достаточным услови ем стационарности процесса восстановления является существование у случайной величины go плотности вида
^ > 0 . |
(1.117) |
Если же т= оо, процесс восстановления не может быть стационарным.
Для стационарных процессов восстановления Н (і) —
= — (^О).Если |
Е( + 0) =0, то вероятность восстановле- |
т |
|
имя в интервале |
(t, t'+At) равна — Дгі+ о(Д/); вероят- |
|
т |
ность более одного восстановления в интервале (£, f+A^) составляет о (At).
Обозначим через уі время от момента t до следующе го после этого момента восстановления.
Имеем |
|
|
|
|
|
|
|
|
t + Vt=tNt+1- |
|
|
(1.118) |
|
Для |
стационарного |
процесса |
восстановления с |
|||
Е( + 0 )= 0 |
случайная величина yt |
имеет |
распределение, |
|||
не зависящее от t при t ^O |
и обладающее плотностью |
|||||
|
А . М = — [1— ^ (■*)]; л ->0. |
(1.119) |
||||
|
1 |
X |
|
|
|
|
Стационарный |
процесс восстановления |
с Е (+ 0 )= 0 |
||||
иначе называется потоком |
однородных |
событий типа |
||||
Пальма. Теория |
таких потоков |
развита А. Я- Хннчп- |
||||
ным :[46]. |
|
|
|
|
|
|
Случайная замена времени в процессах |
|
|||||
восстановления |
|
|
|
|
||
Пусть |
{ Д } — произвольный процесс |
восстановления, |
а х(і) — неубывающий, не зависимый от {А} случайный процесс, для которого с вероятностью равной единице
39