Теория случайных процессов. Основные понятия и определения теории случайных процессов. Модели и характеристики случайных сигналов. Ч.1. Учебное пособи

пример, напряжение, которое случайным образом принимает значе- ние 0 или 10 В в зависимости от того, открыт или заперт коммутатор, является реализацией дискретного случайного процесса. Плотность вероятностей такой случайной величины содержит только дельта- функции.

Случайная функция X(t) – это функция, значения которой при ка- ждом значении аргумента t (в практических приложениях – обычно время) представляют собой случайные величины, называемые сече- ниями случайной функции. Если независимая переменная t изменя- ется непрерывно, то случайная функция называется случайным про- цессом. Если t принимает дискретные значения t1, t2, …, tn, то функ-

ция называется случайной последовательностью. Конкретный вид x(t), принимаемый случайной функцией X(t) в ходе некоторого экс- перимента, называется ее реализацией. Реализация x(t) представляет собой неслучайную функцию. Совокупность реализаций x1(t), x2(t), …, xn(t), полученных в результате нескольких испытаний, называется

ансамблем случайной функции X(t).

Сечением случайной функции X(t) называются m случайных вели-

чин X(t1), X(t2), …, X(tm). Система из этих случайных величин с неко- торым приближением может заменить случайную функцию. С уве- личением m, в пределе при m → ∞ и (ti+1 – ti) → 0, такая замена будет полностью описывать случайную функцию X(t). Таким образом, слу- чайная функция может быть представлена системой бесконечного множества случайных величин. Это обстоятельство позволяет ис- пользовать характеристики случайных величин для описания слу- чайных функций.

Функция, значение которой при каждом данном значении незави- симой переменной является случайной величиной, является случай- ной функцией. Случайная функция, зарегистрированная в той или иной форме по результатам опыта, является реализацией случайной функции. Множество возможных реализаций и обобщается понятием «случайная функция». С практической точки зрения выборочная функция является результатом отдельного эксперимента, после кото- рого данную реализацию xk(t) можно считать детерминированной функцией. Сам случайный процесс в целом должен анализироваться с позиции бесконечной совокупности таких реализаций, образующих

статистический ансамбль.

Предположим, что в результате эксперимента получена некоторая зависимость x1(t). Эта зависимость, которая уже не является случай- ной, а представляет собой известную (измеренную) функцию време-

41

ни, является реализацией случайного процесса X(t). При следующем измерении будет получена другая реализация x2(t) и т.д. Таким обра- зом, бесконечная совокупность всех реализаций называется ансамб- лем реализаций. При некотором фиксированном значении t = t1 зна- чения

x(t1) = {xi(t1); i = 1, 2, 3, …} = Xi

представляют собой случайную функцию Xi, являющуюся сечением случайного процесса X(t).

Иногда при экспериментальных исследованиях время меняется дискретно, т.е. измерения проводятся в некоторые дискретные момен- ты t1, t2, … . Такие случайные процессы называются случайными по- следовательностями в отличие от случайных функций непрерывно изменяющегося времени. Результатом измерения случайных последо- вательностей являются случайные величины X1 = X(t1), X2 = X(t2). За- метим, что при статистической обработке экспериментальных ре- зультатов на ЭВМ практически всегда приходится обрабатывать слу- чайные последовательности, так как при вводе в ЭВМ аргументы случайных функций обязательно дискретизируются. Многие экспе- риментальные установки, например радиолокационные станции, сра- зу выдают случайные последовательности.

Иногда сама случайная функция X(t) принимает дискретные зна- чения, например X(t) = 0, 1, 2,… Такие процессы являются дискрет- ными. Таковы, например, число запросов на обслуживание в системе коллективного пользования, число импульсов в некоторой системе регистрации, число частиц (молекул, ионов) в некотором объеме и т.п.

В системах передачи информации рассматривается класс случай- ных процессов, описываемых функциями вида

X (t) = ϕ(t, A), A = (A1, A2 , ..., An ),

где ϕ – детерминированная функция времени t и случайных парамет-

ров A , число которых может быть и бесконечным, например:

∞

X (t) = ∑( Ak cosωk t + Bk sin ωk t ),

k =0

здесь {Ak, Bk} – случайные коэффициенты; { ωk} – известные часто- ты.

42

Такие процессы называются импульсными случайными процесса-

ми; если все импульсы имеют одинаковую форму, а отличаются лишь временем появления, то

X (t) = ∑F(t − tk ) ,

k

где F – детерминированная функция; {tk} – случайные моменты вре- мени.

Аргументы случайных функций (t, r ) считают действительными,

тогда как сами случайные функции могут быть и комплексными. Та- кие комплексные случайные функции (процессы) можно рассматри- вать как две действительные случайные функции, например:

X (r , t ) = Re X (r , t ) + i Im X (r , t ); (i = −1).

Использование комплексных случайных функций часто делает более удобным описание многих физических процессов.

Для математического описания случайного процесса целесооб- разно рассмотреть m сечений случайной функции X(t), т.е. m случай-

ных величин X(t1), X(t2), …, X(tm).

Статистические характеристики случайных процессов

Функциональные характеристики случайного процесса. Как было сказано выше, случайная функция, для которой независимой переменной является время t, называется случайным процессом. В каждый отдельный момент времени t = ti наблюдается так называе- мое сечение случайного процесса. В каждом сечении случайный процесс представляет собой обыкновенную случайную величину X, которую можно охарактеризовать законами распределения – инте- гральным F(x) и дифференциальным f(x), иначе называемым плотно- стью вероятности.

По аналогии со случайной величиной случайный процесс также можно охарактеризовать дифференциальным законом распределе- ния. Но, поскольку в разных сечениях процесса распределение слу- чайной величины может быть различным, то плотность вероятности зависит уже от двух аргументов, одним из которых является время t. Итак, одной из вероятностных характеристик случайного процесса является закон распределения f(x, t), называемый одномерным зако- ном распределения. Одномерный закон распределения характеризует случайный процесс только для данного, хотя и произвольного, сече-

43

ния и не позволяет ответить на вопрос о характере изменения слу- чайных величин X(t) при различных t, т.е. в разных сечениях. Подоб- ная зависимость свойственна большинству реальных случайных процессов, порождаемых источниками с ограниченными энергетиче- скими возможностями. Более того, именно благодаря этой зависимо- сти можно с некоторой вероятностью прогнозировать течение слу- чайного процесса и тем самым повышать эффективность функцио- нирования систем управления определенных типов.

Основные характеристики случайной функции X(t) являются ха- рактеристиками бесконечного множества случайных величин, пред- ставляющих собой сечения этой случайной функции. Для простоты эти характеристики рассматриваются в предположении, что сечения случайных функций представляют собой непрерывные случайные величины.

Одномерная функция распределения вероятностей (x, ti) опреде-

ляет вероятность того, что в момент времени ti значение случайной величины X(ti) не превысит значения x:

F(x, ti) = P{X(ti) ≤ x}.

Очевидно, что в диапазоне значений вероятностей от 0 до 1 функ- ция F(x, t) является неубывающей с предельными значениями F(–∞, t) = 0 и F(∞, t) = 1. При известной функции F(x, t) вероятность того, что значение X(ti) в выборках будет попадать в определенный интервал значений [a, b] будет определяться выражением

P{a < X(ti) ≤ b} = F(b, ti) – F(a, ti).

Одномерная плотность вероятностей p(x, t) случайного процесса Х(t) характеризует распределение вероятностей реализации случай- ной величины Х(ti) в произвольный момент времени ti. Она представ- ляет собой производную от функции распределения вероятностей:

p(x,ti ) = dF(x, ti ) . dx

Моменты времени ti являются сечениями случайного процесса X(t) по пространству возможных состояний, и плотность вероятно- стей p(x, ti) представляет собой плотность вероятностей случайных величин X(ti) данных сечений. Произведение p(x, ti)dx равно вероят- ности реализации случайной величины X(ti) в бесконечно малом ин- тервале dx в окрестности значения x, откуда следует, что плотность вероятностей также является неотрицательной величиной. Функции

44

вероятностей определяются при большом объеме выборки N и для дискретной модели случайного процесса сопоставляются с теорети- ческими распределениями при N → ∞.

При известной функции плотности вероятностей вероятность реа- лизации значения X(ti) в произвольном интервале значений [a, b] вы- числяется по формуле

b

P(a < X (ti ) ≤ b) = ∫ p(x, ti )dx .

a

Функция плотности вероятностей является нормированной, так как случайная величина должна принимать какое-либо значение из числа возможных, образующих полное пространство случайных величин:

∞

∫ p(x, ti )dx = 1.

−∞

По известной плотности распределения вычисляется и функция распределения вероятностей:

x

F(x, ti ) = ∫ p(x, ti )dx .

−∞

Аналогично можно представить трех-, четырех- и n-мерные плот- ности вероятности.

Основной статистической характеристикой случайного процесса X(t) является его n-мерная плотность распределения fn(xi, ti; i = 1, 2, …, n), которая может быть определена следующим образом:

т.е. fndx – это вероятность того, что в момент ti значения сигналов определяются соотношением xi ≤ X (ti ) < xi + dxi ; i = 1, 2, ..., n . Отме-

тим, что иногда fn записывают как условную плотность распределе-

ния вида fn(x1, …< xn / t1, …, tn).

Плотность распределения fn обладает следующими свойствами:

∞

1. Условие нормировки ∫ fndx = 1 .

−∞

45

2. Свойство симметрии: fn не меняется при перестановке любых пар аргументов xi, ti, так как при этом не меняется вероятность P, напри-

мер: f2(x1, t1; x2, t) = f2(x2, t2; x1, t1).

3. Свойство согласования: плотность распределения fk для любого k < n можно получить, интегрируя fn по «лишним» переменным:

При интегрировании по xi из fn исчезает и соответствующий мо- мент времени ti. Таким образом, свойства 2 и 3 налагают очень силь- ные ограничения на вид формулы, описывающей плотность fn.

Случайный процесс X(t) считается заданным, если известны (за- даны) плотности распределения fn(xi, ti; i = 1, 2, …, n) для сколь угод- но больших значений n. Такое задание вполне возможно, по крайней мере, для двух часто встречающихся в технике классов случайных процессов – нормальных и марковских.

Полной статистической характеристикой системы случайных про- цессов является N-мерная плотность вероятностей р(xn, tn). Однако как экспериментальное определение N-мерных плотностей вероятно- стей процессов, так и их использование в математическом анализе представляет значительные трудности. Поэтому на практике обычно ограничиваются одно- и двумерной плотностью вероятностей про- цессов.

Моментные функции случайного процесса. Свойства случайно-

го процесса могут характеризоваться с той или иной полнотой так называемыми моментными функциями, являющимися результатом приложения к случайным процессам понятия моментов случайных величин. К основным из них относятся функции математического ожидания, дисперсии и корреляционная функция.

Начальным моментом k-го порядка случайного процесса X(t) на- зывается величина

46

Чертой здесь и в дальнейшем обозначается усреднение по плотно- сти распределения fn, или, как часто говорят, усреднение по ансамб- лю реализаций случайного процесса. Для случайных величин момен- ты распределения представляют собой просто числа, тогда как для случайных процессов это функции выбранных моментов времени. Фактически это – совместные моменты распределения сечений слу- чайного процесса. Для вычисления момента распределения k-го по- рядка mk требуется знать плотность распределения fs, где s – число различных моментов времени, участвующих в mk, например:

−∞

Момент m1(t1) определяют как математическое ожидание случай- ного процесса, причем индекс «1» обычно опускают:

∞

m(t) = ∫ xf (x, t)dx = M [X (t)] = X (t).

−∞

Из этого соотношения следует, что математическое ожидание – функция времени t.

Центрированным случайным процессом называется процесс, опи-

сываемый следующим образом:

0

X (t) = X (t) − m(t) .

0

Соответственно, моменты X (t) называют центральными момен-

тами случайного процесса X(t). Так, центральный момент k-го поряд- ка описывается так:

47

В частности, дисперсия случайного процесса выражается соотно- шением

Основными простейшими характеристиками случайной функции являются математическое ожидание и корреляционная функция.

Математическое ожидание mx(t) случайной функции X(t) – это неслучайная функция, которая при каждом значении равна матема- тическому ожиданию соответствующего сечения:

+∞

mx (t) = M [X (t)] = ∫ xf1(x, t)dx .

−∞

Двумерная плотность вероятностей p(x1, x2; t1, t2) определяет веро- ятность совместной реализации значений случайных величин Х(t1) и Х(t2) в произвольные моменты времени t1 и t2 и в какой-то мере уже позволяет оценивать динамику развития процесса. Двумерная плот- ность вероятностей описывает двумерную случайную величину {X(ti), X(tj)} в виде функции вероятности реализации случайной ве- личины X(ti) в бесконечно малом интервале dxi в окрестностях xi в момент времени ti при условии, что в момент времени tj значение X(tj) будет реализовано в бесконечно малом интервале dxj в окрест- ностях xj:

Характеристикой динамики изменения двумерной случайной ве- личины {X(ti), X(tj)} является корреляционная функция, которая опи- сывает случайный процесс в целом:

RX(ti, tj) = M{X(t1), X(t2)}.

Корреляционная функция представляет собой статистически ус- редненное произведение значений случайного процесса X(t) в момен- ты времени ti и tj по всем значениям временных осей ti и tj, а следова- тельно, тоже является двумерной функцией. В терминах теории ве- роятностей корреляционная функция определяется вторым началь- ным моментом случайного процесса.

48

На рисунке приведены примеры реализаций двух случайных про- цессов, которые характеризуются одной и той же функцией матема- тического ожидания и дисперсии.

На рисунке видно, что хотя пространство состояний обоих про- цессов практически одно и то же, динамика развития процессов в реализациях существенно различается. Единичные реализации кор- релированных процессов в произвольный момент времени могут быть такими же случайными, как и некоррелированных, а в пределе во всех сечениях оба процесса могут иметь один и тот же закон рас- пределения случайных величин. Однако динамика развития по коор- динате t (или любой другой независимой переменной) единичной реализации коррелированного процесса по сравнению с некоррели- рованным является более плавной, а следовательно, в коррелирован- ном процессе имеется определенная связь между последовательными значениями случайных величин. Оценка степени статистической за- висимости мгновенных значений какого-либо процесса Х(t) в произ- вольные моменты времени t1 и t2 и производится с помощью функции корреляции. По всему пространству значений случайного процесса X(t) корреляционная функция определяется выражением

49

Rx (t1, t2 ) = M [{X (t1) − mx (t1)}{X (t2 ) − mx (t2 )}] =

+∞ +∞

= ∫ ∫ [x1 − mx (t1)][x2 − mx (t2 )] f2 (x1, x2 , t1, t2 )dx1dx2.

−∞ −∞

Корреляционная (автокорреляционная) функция kx(t1, t2) случай-

ной функции X(t) – это неслучайная функция двух аргументов t1 и t2, равная корреляционному моменту двух соответствующих сечений.

Свойство симметричности корреляционной функции относитель- но аргументов t1 и t2 записывается в виде

Rx(t1, t2) = Rx(t2, t1).

При t1 = t2 = t корреляционная функция превращается в дисперсию Dx(t) = Rx(t, t) случайной функции, т.е. в неслучайную функцию, ко- торая при каждом значении t равна дисперсии соответствующего се- чения. По дисперсии Dx(t) может быть определен стандарт

σx (t) = Dx (t) случайной функции, т.е. неслучайная функция, рав-

ная при любом t стандарту соответствующего сечения. По Rx(t1, t2) и σx(t) может быть получена нормированная корреляционная функция:

т.е. неслучайная функция, которая при каждой паре значений t1 и t2 равна коэффициенту корреляции системы двух сечений: X(t1) и X(t2).

Если случайное явление определяется системой [X(t), Y(t)] двух случайных функций X(t) и Y(t), то для характеристики системы зада- ются функции mx(t), Rx(t1, t2), my(t), Ry(t1, t2) и взаимные корреляцион- ные функции Rxy(t1, t2) Ryx(t1, t2) случайных функций X(t) и Y(t). Неслу- чайная функция Rxy(t1, t2) при конкретных значениях t1 и t2 равна кор- реляционному моменту системы двух случайных величин, из которых одна – X(t1) – является сечением X(t), а другая – Y(t2) – сечением Y(t):

Rxy(t1, t2) = M[{X(t1) – mx(t1)}{Y(t2) – my(t2)}].

Аналогично, неслучайная функция kyx(t1, t2) при значениях t1 и t2 равна корреляционному моменту сечений X(t2) и Y(t1):

Ryx(t1, t2) = M[{Y(t1) – my(t1)}{X(t2) – mx(t2)}].

В отличие от автокорреляционной функции взаимные корреляци- онные функции не симметричны относительно аргументов t1, t2, но при этом выполняется равенство

50