2.2 Марківські процеси з дискретними станами і з дискретним часом (ланцюги Маркова)
Розглянемо систему
з дискретними станами
.
Припустимо, що випадкові переходи
системи зі стану в стан можуть проходити
тільки в певні моменти часу
.
Ці моменти будемо називати кроками
процесу; а
−
його початком.
Сам процес
– випадковим
блуканням
системи
по станам. Траєкторія
блукання –
це реалізація випадкового процесу, яка
отримана в результаті одного випробування.
Нехай випадковий
процес відбувається в системі
з дискретними станами
,
які вона може приймати в послідовності
кроків з номерами
.
Ймовірність того, що на −му кроці система буде знаходитися в стані позначається:
,
(2.4)
Процес, якій відбувається у такій системі називається марківським процесом з дискретними станами та дискретним часом або марківським ланцюгом.
Основною задачею дослідження марківського ланцюга є знаходження безумовних ймовірностей перебування системи на будь-якому ( −му) кроці в стані :
,
(2.5)
Для знаходження
ціх ймовірностей необхідно знати умовні
ймовірності переходу системи
на
−му
кроці в стан
,
якщо відомо, що на попередньому кроці
вона була в стані
.
Позначимо цю ймовірність як
,
(2.6)
Для знаходження ціх ймовірностей необхідно знати умовні ймовірності переходу системи на −му кроці в стан , якщо відомо, що на попередньому кроці вона була в стані . Позначимо цю ймовірність як
, (2.6)
Ймовірності
називаються перехідними
ймовірностями
марківського ланцюга на
−му
кроці. Їх можна записати у вигляді
матриці
:
(2.7)
Так як на кожному кроці система може знаходитися тільки в одному зі своїх станів, то для будь-якої − ї строки матриці (2.7) маємо:
(2.8)
Матриця з такою
властивістю називається
стохастичною.
Всі елементи стохастичної матриці
задовольняють умові
.
В силу умови (2.8)
(2.9)
Для знаходження
ймовірностей
необхідно знати матрицю перехідних
ймовірностей та початковий розподіл
ймовірностей при
:
(2.10)
(2.11)
Ланцюг Маркова
називається однорідним,
якщо перехідні ймовірності не залежать
від номеру кроку
:
.
Безумовні ймовірності перебування системи на −му кроці в стані обчислюються за рекурентною формулою:
,
(2.12)
Запишемо формулу (2.12) в матричному вигляді
,
(2.13)
де
−
матриця перехідних ймовірностей,
.
2.3 Марківські процеси з дискретними станами і з дискретним часом (стаціонарний режим)
В деяких ланцюгах Маркова з часом встановлюється стаціонарний режим, під час якого стани системи хоча й змінюються випадковим чином, але їх ймовірності залишаються постійними
(2.14)
Ці ймовірності називаються фінальними ймовірностями станів. Фінальні ймовірності не залежать від початкових умов.
Умови існування стаціонарного режиму для системи зі скінченим числом станів :
а) множина всіх станів системи повинна бути ергодичною;
б) ланцюг повинен бути однорідним;
в) ланцюг не повинен бути циклічним.
Ланцюги Маркова, які задовольняють цім умовам називаються ергодичними ланцюгами Маркова .
Для знаходження фінальної ймовірності для стану використовують балансову умову
,
(2.15)
та умову
. (2.16)
Відкидаючи одне з рівнянь (2.15), отримуємо систему алгебраїчних рівнянь, яка має єдиний розв’язок. Розв’язуючи систему (2.15), (2.16) знаходимо фінальні ймовірності.