Теория случайных процессов. Основные понятия и определения теории случайных процессов. Модели и характеристики случайных сигналов. Ч.1. Учебное пособи

Теорема 2. Необходимым и достаточным условием существова- ния в точке t производной в среднем квадратичном c ограниченным моментом второго порядка случайного процесса второго порядка Х(t) является существование производной

При этом справедливо соотношение

Интеграл от случайного процесса в среднем квадратичном.

Понятие интеграла в среднем квадратичном от случайного процесса X (t) (стохастического интеграла в среднем квадратичном) опреде-

ляется следующим образом.

Пусть X (t ) – ограниченный случайный процесс, определенный на интервале значений аргумента t T = [0, θ) , и на этом же интерва-

ле задана неслучайная функция g ( t ) . Разобьем интервал [0, θ) на n

где ti = ti − ti−1; ti′ [ti−1,ti ).

Интегралом Римана от случайного процесса второго порядка X (t) в среднем квадратичном (стохастическим интегралом Римана

в среднем квадратичном) с функцией g(t) на интервале [0, θ) назы-

вается предел в с.к.:

если он существует и одинаков при любом разбиении [0, θ) на непе- ресекающиеся полуинтервалы.

61

Теорема 3. Необходимым и достаточным условием интегрируе-

0

DJ = M I (θ)2 = Q − [MJ ]2 = Q0 .

При θ = const J(θ) есть случайная величина. Если θ = t = var, то J = J(t) – случайный процесс:

t

J(t) = ∫ g(t′)X (t′)dt′ .

0

Без доказательства приведем следующую теорему.

Теорема 4. Необходимым и достаточным условием интегрируе- мости на интервале [0, θ) случайного процесса второго порядка X(t) с

M (J * (θ))2 < ∞ является существование конечного интеграла Рима- на – Стилтьеса:

θ θ

Q* = ∫∫ g(t1)g(t2 )dt1dt2 K (t1, t2 ) < ∞.

0 0

Если это условие выполняется при любом θ = t, то

t

J * (t) = ∫ g(t′)dX (t′) = J * (t) – случайный процесс второго порядка.

0

62

2.3.Классификация случайных процессов

Винженерной практике существует много случайных процессов различных классов. Так как методы описания этих процессов в зна- чительной степени зависят от их природы, необходимо осуществить классификацию случайных процессов таким способом, чтобы облег- чался выбор соответствующего типа их представления.

Как отмечалось ранее, в теории случайных процессов рассматри- ваются не отдельные реализации случайных функций, а изучаются свойства всей совокупности этих функций в целом. Случайные про- цессы различают по степени однородности их протекания во време- ни (по аргументу). Ранее было отмечено, что случайный процесс представляет собой совокупность функций времени и имеет вероят- ностное описание. Соответствующими вероятностными характери- стиками могут быть безусловные и совместные плотности вероятно- стей всех случайных величин, являющихся точечными функциями процесса для фиксированных моментов времени. Ниже будет ис- пользоваться именно такой вид вероятностного описания.

Полная совокупность функций времени представляет собой ан- самбль и обозначается {x(t)}, где любая компонента x(t) ансамбля есть выборочная функция случайного процесса. Обычно наблюдается только одна выборочная функция; остальные представляют собой другие возможные реализации, которые в принципе могут сущест- воввать, но отсутствуют в данной ситуации. Произвольная случайная функция обозначается как X(t). Значения ее реализаций x(t) в некото- рый момент времени t1 определяют случайную величину X(t1), или

просто X1.

Распространение методов анализа случайных величин на случай- ные процессы оказывается достаточно простым в части используе- мых математических процедур; действительно, все основные поня- тия уже были рассмотрены выше. Однако более сложным этапом, имеющим концептуальное значение, является установление связи математических представлений случайных величин с физическими свойствами случайного процесса. Поэтому далее производится ана- лиз этой связи с помощью ряда иллюстративных примеров.

Для облегчения математического описания и исследования слу- чайных процессов необходимо накладывать на них определенные ограничения. Наиболее легко поддаются описанию и обработке про- цессы Маркова. Особенность процессов Маркова заключается в том, что в каждый данный момент времени дальнейший ход процесса

63

обусловливается только состоянием его в этот момент и совершенно не зависит от характера протекания процесса в предшествующий пе- риод.

Подавляющее большинство случайных процессов, однако, не яв- ляются марковскими. Среди не марковских процессов в первую оче- редь необходимо выделить стационарные случайные процессы как представляющие наибольший практический интерес.

Выше отмечалось, что можно определить плотность вероятностей случайных величин, но до сих пор ничего не было сказано о зависи- мости этой плотности вероятностей от времени. Если все безуслов- ные одномерные и совместные плотности вероятностей случайного процесса не зависят от выбора начала отсчета времени, то такой про- цесс называется стационарным. В этом случае математическое ожи- дание и моменты, рассмотренные выше, являются постоянными, не зависящими от абсолютного значения времени.

Если какая-либо из плотностей вероятностей изменяется при сдвиге начала отсчета времени, то случайный процесс является не- стационарным. В этом случае хотя бы одна из статистических ха- рактеристик (математическое ожидание, моменты) будет зависеть от времени. Так как анализ систем при действии на их входе нестацио- нарных случайных сигналов оказывается гораздо более трудоемким, чем в случае стационарных сигналов, при последующем изложении ограничимся анализом стационарных случайных процессов.

В строгом смысле физически не существует стационарных слу- чайных процессов, так как любой процесс должен начаться в опреде- ленный момент времени в прошлом и, вероятно, завершиться в неко- торый момент в будущем. Однако есть много физических ситуаций, когда статистические характеристики процесса существенно не из- меняются на интервале времени наблюдения. В этих случаях пред- положение о стационарности приводит к удобной математической модели, которая является достаточно точной аппроксимацией реаль- ной ситуации.

Обоснование справедливости или неправомерности допущения о стационарности для любой заданной ситуации может оказаться не- простой задачей. Для недетерминированных случайных процессов оно зависит от механизма, их порождающего, и времени наблюдения процесса. Чисто интуитивно напрашивается мысль допустить, что процесс стационарный, если нет очевидных изменений в параметрах источника процесса или если здравый смысл не диктует противопо- ложное. Например, тепловой шум, порождаемый случайными дви-

64

жениями электронов в резисторе, в нормальных условиях справедли- во может считаться стационарным. Однако если этот резистор под- вергать нагреванию путем прерывистого пропускания через него электрического тока, то допущение о стационарности несправедливо. В качестве другого примера представляется приемлемым допущение о том, что ветер (и его случайная скорость) в течение одного часа порождается стационарным источником, тогда как здравый смысл подсказывает, что для интервала времени, равного одной неделе, это предположение некорректно.

Случайные процессы стационарны только при выполнении опре- деленных, весьма специфических условий, например

Для случайного процесса, определенного соотношением (2.13), легко показать (путем вычисления математического ожидания), что процесс может быть (и в действительности является) стационарным, если величина θ равномерно распределена на интервале [0, 2π], и на- верняка не является таковым, если θ равномерно распределена на интервале [0, π]:

n=0

Случайный процесс, определенный соотношением (2.14), стацио- нарен, если An и Bn – независимые гауссовские случайные величины с нулевыми математическими ожиданиями и для идентичных индек- сов n – с одинаковыми дисперсиями. Однако в большинстве других ситуаций этот процесс будет нестационарным. Требование, чтобы все безусловные и совместные плотности вероятностей были незави- симы от выбора начала отсчета времени, часто является более стро- гим, чем это требуется для анализа систем, Процессы, удовлетво- ряющие этому требованию, называются стационарными в узком смысле.

Менее жесткое требование, которое часто оказывается достаточ- ным, заключается в том, чтобы математическое ожидание любой случайной величины X(t1) не зависело от выбора t1, а корреляционная

функция двух случайных величин X (t1)X (t2 ) зависела только от

разности (t2 – t1). Процессы, удовлетворяющие этим двум условиям,

называются стационарными в широком смысле. Стационарность в широком смысле является достаточной гарантией того, чтобы мате-

65

матическое ожидание, среднеквадратическое значение, дисперсия и коэффициент корреляции любой пары случайных величин были по- стоянными, не зависящими от выбора начала отсчета времени. Ана- лиз этих процессов существенно упрощается, если справедливо до- пущение о стационарности воздействий в узком или широком смыс- ле. Так как результаты идентичны для стационарности любого типа, не представляется необходимым делать различие между ними при дальнейшем изложении.

Обобщая, можно следующим образом определить эти два класса процессов.

Процессы, для которых значения функций математического ожи- дания, дисперсии и корреляции могут быть зависимыми от момента времени t, т.е. изменяться во времени, составляют класс нестацио-

нарных процессов.

Процесс называют стационарным, если плотность вероятностей процесса не зависит от начала отсчета времени и если на интервале его существования выполняются условия постоянства математиче- ского ожидания и дисперсии, а корреляционная функция является функцией только разности аргументов τ = t2 – t1:

mх(t1) = mх(t2) = mх = const;

Dх(t1) = Dх(t2) = Dх = const;

Rх(t1, t1 + τ) ≡ Rx(t2 – τ, t2) = Rх(τ) ≡ Rх(–τ); rx(τ) = Rx(τ)/Dx, rx(0) = 1, |rx(τ)| ≤ 1, rx(–τ) = rx(τ).

Выражения для коэффициентов корреляции свидетельствуют о четности корреляционной (а равно и ковариационной) функции и функции корреляционных коэффициентов. Из них вытекает также еще одно свойство смешанных моментов стационарных процессов:

|Rx(τ)| ≤ Rx(0), |Kx(τ)| ≤ Kx(0) ≡ Dx.

Чем медленнее по мере увеличения значений τ убывают функции Rx(τ) и rx(τ), тем больше эффективный интервал корреляции случай- ного процесса, и тем медленнее изменяются во времени его реализа- ции.

Среди стационарных процессов выделяют строго стационарные процессы, для которых постоянны во времени не только математиче- ское ожидание, дисперсия и корреляция, но и все остальные моменты высших порядков (в частности, асимметрия и эксцесс).

66

Стационарные случайные процессы наиболее часто встречаются при решении физических и технических задач. Теория стационарных случайных функций разработана наиболее полно, и для ее использо- вания обычно достаточно определения стационарности в широком смысле: случайная функция считается стационарной, если ее матема- тическое ожидание постоянно, а корреляционная функция зависит только от одного аргумента. Случайные процессы, удовлетворяющие условиям стационарности на ограниченных интервалах наблюдения, также обычно относят к числу стационарных в широком смысле и называют квазистационарными.

Случайный процесс является стационарным, если все его вероят- ностные характеристики не зависят от времени, т.е. не изменяются при любом сдвиге по оси времени. В частности, для стационарного случайного процесса mx(t) = mx = const, Dx(t) = dx = const, а корреля- ционная функция зависит не от самих переменных t1 и t2, а лишь от

разности между ними, т.е. Rx(t1, t2) = Rx(τ), где τ = t1 – t2.

Вообще для любой совокупности реализаций случайной функции ее вероятностные характеристики можно определять двояким спосо- бом. Так, например, математическое ожидание случайной функции x(t) можно находить как среднее по множеству:

мени t случайная величина X заключена в соответствующих преде- лах. Заметим, что в общем случае x(t) есть функция времени. То же

математическое ожидание можно находить как среднее по времени:

причем переход к пределу необходим для того, чтобы характеризо- вать не какой-то отдельный участок процесса x(t), а всю его возмож- ную реализацию. Очевидно, в общем случае x хотя и не зависит от времени, но будет принимать разные значения для различных реали- заций.

Для стационарных случайных процессов одномерный закон рас- пределения одинаков в любом сечении, т.е. f(x, t) = f(x), следовательно

67

∞

x(t) = ∫ xf (x)dx = const .

−∞

Эргодические и неэргодические случайные процессы. Некото-

рые стационарные случайные процессы обладают свойством, заклю- чающимся в том, что почти каждый член ансамбля «ведет» себя в статистическом смысле так же, как и весь ансамбль. Таким образом, можно проанализировать статистическую динамику путем исследо- вания только одной типовой реализации. Такие случайные процессы

называются эргодическими (ergodic).

Для эргодических случайных процессов математические ожида- ния и моменты могут быть определены как усреднением по времени, так и усреднением по ансамблю реализаций. В частности, n-й момент определяется так:

Условие эргодичности выполняется только для стационарного процесса. Следовательно, эргодические случайные процессы явля- ются также стационарными.

Таким образом, характеристики случайных процессов оцениваются путем усреднения по ансамблю реализаций в определенные моменты времени (по сечениям процессов). Но большинство стационарных слу- чайных процессов обладает эргодическим свойством. Сущность его за- ключается в том, что по одной достаточно длинной реализации процес- са можно судить о всех его статистических свойствах так же, как по любому количеству реализаций. Другими словами, закон распределения случайных величин в таком процессе может быть одним и тем же как по сечению для ансамбля реализаций, так и по координате развития. Для эргодических процессов справедливы следующие соотношения:

68

Эргодическое свойство стационарных случайных процессов позво- ляет при определении их характеристик рассматривать не бесконечное множество реализаций (что необходимо для усреднения по множест- ву), а одну отдельную реализацию на бесконечном промежутке време- ни. Это существенно упрощает все расчеты и эксперименты. Так, на- пример, для определения корреляционной функции как среднего по множеству необходимо знание двумерного закона распределения:

∞ ∞

Rx (t1, t2 ) = M[x(t1)x(t2 )] = ∫ ∫ x1x2 f (x1, x2 , t1, t2 )dx1dx 2 ,

−∞ −∞

где

что соответствует совместной вероятности нахождения случайной ве- личины X(t1) в диапазоне от x1 до (x1 + dx1) и случайной величины X(t2) в диапазоне от x2 до (x2 + dx2). Вместо этого можно определить корреля- ционную функцию гораздо проще, а именно как среднее по времени:

Последнее выражение имеет большую практическую ценность и широко используется при обработке результатов эксперимента в ви- де записи (осциллограммы) кривой случайного процесса x(t).

Эргодичность является очень важным свойством случайных ста- ционарных, и только стационарных процессов. Математическое ожи- дание эргодического случайного процесса равно постоянной состав- ляющей любой его реализации, а дисперсия является мощностью его флуктуационной составляющей. Так как определение функций произ- водится по ограниченным статистическим данным одной реализации и является только определенным приближением к соответствующим фактическим функциям процессов, целесообразно называть эти функ- ции статистическими. Заметим, что, как это следует из (2.16), вычис- ление корреляционной функции подобно свертке (с делением на ин- тервал реализации) и может записываться символически:

Rx (τ) = 1 x(t)x(t + τ) .

T

69

Свойства эргодичности могут проявляться только по отношению к двум первым моментам случайного процесса, что вполне достаточ- но для использования соответствующих методик исследования про- цессов. Практическая проверка эргодичности процесса обычно про- изводится путем проверки выполнения условия Слуцкого:

T

lim 1 ∫ K (τ)dτ .

T →∞ T 0

Если ковариационная функция процесса стремится к нулю при возрастании значения аргумента (τ), то процесс относится к числу эргодических, по крайней мере относительно моментов первого и второго порядков.

Пример. Случайная функция задана выражением Z(t) = X(t) + Y, где X(t) – стационарная эргодичная функция; Y – случайная величи- на, некоррелированная с X(t). Эргодична ли функция Z(t)?

Определяем характеристики случайного процесса:

mz(t) = mz(x) + my, Rz(τ) = Rx(τ) + Dy.

Итак, функция Z(t) стационарна, но не эргодична, так как при

τ → ∞ Rz(τ) → Dy.

Случайный процесс, не удовлетворяющий свойству (2.15), являет- ся неэргодическим. Все нестационарные случайные процессы неэр- годичны, однако неэргодическими могут быть и стационарные слу- чайные процессы. Например, рассмотрим случайный процесс вида

где ω – постоянная; Y – случайная величина (относительно ансамб- ля); θ – случайная величина, равномерно распределенная в интервале [0, 2π,], причем θ и Y статистически независимы. Можно показать, что этот случайный процесс стационарен, но не эргодичен, так как Y – некоторая величина, постоянная для определенной реализации, но имеющая другие значения для остальных реализаций.

В общем случае трудно, если только вообще возможно, доказать, что эргодичность – обоснованное допущение для какого-либо физи- ческого процесса, так как может наблюдаться только одна реализа- ция этого процесса. Тем не менее обычно имеет смысл предположить эргодичность процесса, если только отсутствуют веские доводы фи- зического характера, препятствующие этому.

70