Моделирование систем и процессов. Статистическое моделирование. Учебное пособие

Поскольку mf p, а последовательность дисперсий при увеличении N сходится к нулю, то, как видно из приведенных выше сведений, частота события С. К. сходится к его вероятности (в данном случае – к неслучайной величине р). Следовательно, частота события сходится П. В. к его вероятности.

Последнее утверждение представляет собой классический закон больших чисел (теорема Бернулли).

Вторая теорема относится к последовательности сумм случайных величин. Пусть независимые случайные величины Х1, Х2, … имеют одну и ту же функцию распределения и конечное среднее значение mX. Тогда случайная величина (среднее арифметическое их суммы)

сходится П. В. к mX (теорема Хинчина).

Одно практически значимое утверждение теоремой обычно не называют, а именуют «правилом трех сигма»: вероятность отклонения случайной величины X от своего математического ожидания mX в ту или иную сторону более

чем на утроенное стандартное отклонение X не превосходит 19:

1 Р(( X mX 3 X ) 9 .

Это утверждение справедливо для любого распределения, но в конкретных случаях вероятность отклонения обычно существенно меньше. Так, для нормального распределения она составляет всего 0,002 7.

Сумма случайных величин (в том числе с различными распределениями и не обязательно независимых) фигурирует еще в одной группе теорем, именуемых предельными. Одна из них носит название центральной предельной теоремы для одинаково распределенных слагаемых.

Пусть Х1, Х2, … – последовательность независимых случайных величин с одинаковыми распределениями. Предположим, что существуют математиче-

Существенно, что теорема справедлива вне зависимости от конкретного вида распределения Х1, Х2, … .

81

А.7. Случайные процессы

Случайный процесс – это процесс перехода системы (физической или абстрактной) по мере изменения некоторого параметра t и под влиянием случайных факторов из одного состояния в другое. Конкретный вид случайного процесса, полученный как исход некоторого опыта (т. е. в результате наблюдения процесса или специально организованного его воспроизведения) называют реализацией случайного процесса. Реализация – это уже неслучайная зависимость состояний от времени. Случайный процесс можно рассматривать и как совокупность, ансамбль всех возможных его реализаций.

Исходя из физических соображений, параметру t обычно приписывают смысл времени, хотя возможны и другие его истолкования, например, как пространственной координаты. Состояние системы можно отождествлять с происходящим в ней в момент времени t некоторым случайным событием. Состояние (событие) может заключаться в том, что одна или несколько случайных величин (случайный вектор), связанных с системой, принимают некоторые из своих возможных значений. Состояние может изначально описываться в качественном плане, например, «машина исправна», «машине требуется ремонт», «машина ремонтируется» и т. п. В этом случае можно условно сопоставить каждому «качественному» состоянию числовое значение, например, 1, 2, 3 некоторой случайной величины. Тем самым «качественные» состояния можно не рассматривать как самостоятельный класс и связывать с понятием состояния только случайные величины (номера состояний).

Взависимости от характера изменения этих величин и времени t, случайные процессы подразделяют на ряд категорий.

1. Случайный процесс называется процессом с дискретными состояниями, если в любой момент времени t множество его состояний (значений соответствующей случайной величины или вектора) конечно или счетно.

2. Случайный процесс называется процессом с непрерывными состояниями, если характеризующая его случайная величина (или вектор) непрерывна, т. е. множество ее значений несчетно.

3. Случайный процесс называется процессом с дискретным временем, если изменения состояний могут происходить только в моменты времени, число которых конечно или счетно. Такие процессы называют также случайными последовательностями или временны́ми рядами.

4. Случайный процесс называется процессом с непрерывным временем, если изменения состояний могут происходить в любой момент времени t из некоторого промежутка.

Кроме того, случайные процессы делят на одномерные (характеристикой состояния является одна случайная величина) и многомерные (характеристикой состояния является случайный вектор). Внутри указанных категорий проводят более подробную классификацию случайных процессов, учитывая определенные закономерности переходов между состояниями.

Вэтом пункте будут изложены сведения, относящиеся к одному из классов одномерных случайных процессов – с непрерывными состояниями и непре-

82

рывным временем (для краткости называемых далее просто непрерывными) . Один класс процессов с дискретными состояниями и дискретным временем будет рассмотрен в следующем пункте.

Итак, пусть X(t) – непрерывный случайный процесс. Значение X при каждом фиксированном t представляет собой непрерывную случайную величину, часто именуемую сечением случайного процесса. Сечения, относящиеся к моментам времени t1, t2, …, tk , образуют систему в общем случае взаимосвязанных случайных величин X(t1), X(t2) ,…, X(tk).

Как известно из п. 4, такие системы могут быть заданы k-мерной функцией распределения вида (А.52)

F(x1, x2, …, xk; t1, t2, …, tk) P (X (t1) < x1, X (t2) < x2, …, X (tk) < xk) (А.80)

Отметим, что число аргументов здесь удваивается по сравнению с функциями (А.52), (А.53), поскольку среди них нужно указать не только возможные значения случайных величин, но и моменты времени, к которым они относятся. Кроме того, полнота описания случайного процесса требует задания этих функций при любом числе k и любом расположении на оси времени моментов t1, t2, …, tk. В результате описание случайного процесса оказывается очень сложным и малопригодным для решения практических задач. В целях достижения конструктивных результатов чаще всего ограничиваются упрощенным описанием случайных процессов в рамках так называемой корреляционной теории.

Математическое ожидание сечения X(t) в момент t согласно (А.30) определяется формулой

где f(x,t) – одномерная плотность распределения, соответствующая формуле (А.81) при k = 1 (индекс «1» опущен). При интегрировании зависимость от t остается, и поэтому mХ, вообще говоря, является функцией времени. В частном случае, когда mX(t) 0, процесс называют центрированным. Он может быть получен из исходного (не центрированного) процесса путем вычитания mX(t).

Корреляционный момент сечений X(t1) и X(t2) вычисляется согласно

(А.49)

Такие процессы иногда называют случайными функциями, имея в виду, что в качестве аргумента может выступать не обязательно время. На сути дела такая разница в терминологии никак не сказывается.

83

где f(x1, x2; t1, t2) – двумерная плотность распределения, отвечающая (А.81) при k = 2. Корреляционный момент является функцией двух аргументов t1, t2 и в теории случайных процессов называется корреляционной функцией KX(t1, t2) (для стандартизации обозначений индекс заменен на X). Для нее сохраняются свойства (А.50), приобретающие вид

ние. Оба этих показателя в общем случае зависят от времени.

Случайные процессы, для которых математическое ожидание, дисперсия и стандартное отклонение не зависят от времени (mX = const, DX = const, X = = const), а корреляционная функция зависит не по отдельности от t1, t2, а только от их разности τ t1 – t2, называются стационарными в смысле корреляционной теории (или в «широком смысле»).

Свойства (А.84) приобретают вид

Типовые примеры корреляционных функций стационарных случайных процессов:

где α и – числовые параметры.

Для стационарных случайных процессов наряду с корреляционной функцией используют функцию SX ( ), являющуюся косинус-преобразованием Фурье корреляционной функции и называемую спектральной плотностью стационарного случайного процесса

84

Спектральная плотность обладает свойствами неотрицательности и чет-

ности

Обратное преобразование Фурье позволяет выразить корреляционную функцию через спектральную плотность

KX( ) SX( )cos d . (А.93)

В силу четности корреляционной функции и спектральной плотности формулы (А.91) и (А.93) могут быть записаны в виде, учитывающем только положительные значения аргументов ω и τ:

Дисперсия стационарного процесса связана со спектральной плотностью формулами, вытекающими из формул (А.93) и (А.95) при τ 0,

Спектральные плотности, отвечающие корреляционным функциям (А.87)– (А.90) имеют вид соответственно:

Формулы (А.91) и (А.93) встречаются в литературе в формах, отличающихся от приведенных здесь иными постоянными множителями перед интегралами.

85

Случайные процессы, обладающие нормальным распределением, т. е. такие, для которых совместная плотность распределения любых n сечений дается формулой (А.61), называются нормальными (или гауссовскими). Для них описание в рамках корреляционной теории оказывается достаточным и в плане описания на основе плотностей или функций распределения. Это следует из вида (А.61), куда входят только математические ожидания и корреляционные моменты, которые определяются корреляционной функцией.

Особое место в теории случайных процессов занимает процесс W(t), именуемый «белым шумом», любые два не совпадающие сечения которого некоррелированы. Для него

дисперсия бесконечна, а корреляционная функция выражается через δ–функцию Дирака :

Случайный процесс этого типа, одномерная плотность распределения которого подчиняется нормальному закону, называют нормальным белым шумом.

А.8. Цепи Маркова

Рассмотрим случайный процесс для системы с дискретными состояниями E1, E2, …, En и дискретным временем: изменения состояний могут происходить только в фиксированные моменты времени t0, t1, t2, …, tk,… .

Состояния Ei (i 1, 2, …, n) могут быть «качественными» или каждому из них может соответствовать одно из возможных значений xi случайной величины X (об этом уже говорилось ранее в п. 6). Без ущерба для общности допустимо считать, что каждому состоянию соответствует случайная величина, принимающая значения 1, 2, …, n, т. е. рассматривать вместо конкретных состояний их номера. Число состояний n будем считать конечным, хотя, вообще говоря, возможен и случай бесконечного, но счетного их множества.

Множество моментов времени t0, t1, … будем считать счетным. Чаще всего полагают, что эти моменты разделены одинаковыми промежутками Δt, хотя это условие отнюдь не является обязательным.

86

Такой случайный процесс называется простой цепью Маркова (или марковской цепью), если вероятность любого состояния Ej в момент времени tk не зависит от того, в каких состояниях находится система в момент tk-2, tk-3, … и может зависеть только от непосредственно предшествующего Ei состояния в момент tk-1. Это свойство процесса часто именуют «марковским» .

Кроме зависимости вероятности “текущего” состояния Ej от «предшествующих» состояний возможна и зависимость от времени, т. е. от номера (индекса) «текущего» момента tk. При наличии такой зависимости цепи Маркова называют неоднородными, а при ее отсутствии – однородными.

Далее будут рассмотрены только простые однородные цепи Маркова с конечным числом состояний. Для всех моментов времени, кроме t0, описание любой такой цепи исчерпывающим образом дается набором вероятностей вида

Предполагается, что состояние Ej относится к некоторому текущему моменту tk, а Ei к предшествующему tk–1. В силу однородности цепи зависимости вероятностей от k нет.

Смысл обозначения в левой части равенства (А.103) состоит в том, что это условная вероятность состояния Ej при условии, что ему предшествует состояние Ei, или вероятность перехода из состояния Ei в состояние Ej. По этой причине pij обычно именуются переходными вероятностями.

Момент времени t0 начала процесса отличается от остальных тем, что состоянию системы в этот момент не предшествует никакое другое. Поэтому вероятности πj 0 того, что в момент t0 имеют место состояния Ej (j 1, 2, …, n) (начальные вероятности), должны быть заданы отдельно, чем и завершается полное описание цепи Маркова.

Число переходных вероятностей равно n2: на каждое из n возможных состояний для текущего момента приходится n предшествующих. Эти вероятности объединяют в матрицу переходных вероятностей P, имеющую размер (n n), а начальные вероятности записывают в форме столбца П0

Название связано с именем знаменитого русского математика А. А. Маркова (1856– 1922), основоположника теории этих процессов.

Существует и понятие сложных цепей Маркова, в которых зависимость распространяется на несколько предшествующих tk моментов времени. Путем расширения набора состояний сложную цепь можно привести к простой. Наряду с цепями Маркова изучают и марковские процессы – процессы с непрерывным временем и непрерывными состояниями, обладающие марковским свойством.

87

Строка с номером i матрицы P содержит вероятности перехода из состояния Ei в возможные состояния E1, E2, …, En (переход Ei – Ei означает сохранение состояния Ei). В силу обычных свойств вероятностей элементы P неотрицательны и не превосходят 1

Кроме того, в силу свойств несовместности и полноты случайных событий, участвующих в переходах, имеет место формула, подобная (А.10):

j 1

т. е. сумма элементов каждой строки матрицы P равна 1. В общей теории матрицы, обладающие свойствами (А.105) и (А.106), называют стохастическими.

Аналогичными свойствами обладают и начальные вероятности

i 1

Вероятности pij можно назвать переходными вероятностями за один шаг – из состояния Ei в момент tk-1 (при любом k) в состояние Ej в следующий момент. Наряду с ними вводят вероятности pij(q) перехода из состояния Ei в момент tk – q в состояние Ej в момент tk, т. е. за q шагов. Их также объединяют в матрицу (обозначим ее P(q))

Очевидно, что pij(1) pij и P(1) P.

Имеет место важная формула

т. е. матрица переходных вероятностей за q шагов получается возведением в степень q матрицы P.

88

Цепь Маркова называют правильной , если моменты попадания в отдельные состояния или группы состояний не равны определенным (неслучайным) промежуткам времени, кратным величине шага. Например, матрицы переходных вероятностей

соответствуют: P1 – правильной цепи, а P2 – цепи, не являющейся правильной. Во втором случае система циклически оказывается в одном из трех своих состояний через каждые три шага (… 1 – 2 – 3 – 1 – 2 – 3 – 1…).

Во многих случаях наглядности описания марковской цепи способствует применение направленного графа состояний: схемы, на которой состояниям отвечают вершины графа, а возможные переходы за один шаг обозначаются стрелками, иногда с указанием численных значений вероятностей. Для P1 и P2 графы показаны на рис. А.4, а, б.

2

2

1 1

1

1 3

1 3

Рис. А.4. Графы переходов, соответствующие матрицам P1 (а) и P2 (б)

Граф б хорошо иллюстрирует циклический характер переходов.

Для правильных цепей существуют предельные переходные вероятности, т. е. вероятности перехода из состояния Ei в состояние Ej за весьма большое, теоретически – бесконечное число шагов

или в матричной записи с учетом (А.109)

К сожалению, общепринятой терминологии в теории цепей Маркова нет, и потому в литературе можно встретить другие наименования. Так, правильные цепи иногда называют непериодическими. Здесь будет использована терминология так называемой алгебраической теории цепей Маркова (см., например, Ф. Р. Ганмахер. Теория матриц. – Москва: Наука, 1966. – С. 381–394).

89

Исходя из соображений симметрии, нетрудно предсказать, что, например,

для матрицы P1 из (А.110) все pij 13.

Состояния правильной цепи можно в общем случае разбить на (s + 1) групп, обладающих следующими свойствами. Из любого состояния группы Gl (l = 1, 2, …, s) возможен переход в любое состояние той же группы (может быть, более чем за один шаг) и невозможен переход в состояния других групп. Таким образом, оказавшись в одном из состояний какой-либо из групп G1, G2, …, Gs, в дальнейшем система «блуждает» по состояниям только этой группы, рано или поздно проходя каждое из них. Группа GS + 1 объединяет состояния, любое из которых после одного или более шагов переходит в состояние одной из первых s групп.

Если перенумеровать состояния так, чтобы первыми шли состояния группы G1, затем G2 и т. д. до GS + 1, то матрица переходных вероятностей цепи приобретет следующий блочный вид:

Пример такой матрицы при пяти состояниях (n 5) и s 2:

Для удобства номера состояний, отвечающих индексу i, нанесены слева, а j – сверху матрицы. Блоки выделены тонкими линиями.

Из этого примера видно, что если исходным (стартовым) состоянием является E3, то система так и останется в нем, т. е.

p31 0, p32 0, p33 1, p34 0, p35 0.

90