Churakov_Mat_met_obr_exp_dan_v_ekon
.pdfназывают корреляционной функцией случайного процесса X(t), или
нормированной ковариационной функцией. Если Лд^//, tj) = О, т ворят, что сечения Д//) и X(tj) процесса ДО не коррелированы. В частности, если эти сечения независимы, то они и не коррелиро ваны. Действительно, при независимых сечениях выполняется (4.10), двойной интеграл в (4.15) распадается на два одномерных, каждый из которых равен нулю. Из равенства R^tt, /^) = О в общем случае не следует независимость сечений, но эту зависимость с помощью ковариационной (корреляционной) функции не удает ся зарегистрировать. Из неравенства Лл^^ь {/) "^ О вытекает зависи мость сечений.
Приведем наиболее характерные свойства ковариационной функции.
1. Kx{th tj) = Kx(tj, //), что непосредственно следует из опреде ления (4.15).
2.Kx{ti, //) = Dx{ti) ^ О, что опять же следует из (4.15).
3.Для любых т вещественных чисел 9ь ^2> •••>?/« и моментов времени t\,t2, ...,t^ выполняется неравенство
т т |
(4.17) |
S lqiqjKx(ti.tj)>0. |
/=1у=1
Чтобы убедиться в справедливости неравенства, достаточно построить случайную величину т] = X QiX'^iJi) и вычислить М{г| }.
/=1
Функции со свойством (4.17) принято называть неотрицательно определенными.
4. {Kxitb tj)f < Ыи. td Mtj, tj) = DMD^tj),
что является аналогом известного неравенства Коши-Буняков- ского. Это неравенство следует из (4.17), если положить /w = 2,
5.Если Z{t) = g{t) + X{t), где g{t) — детерминированный про цесс, ДО - случайный процесс, то Kzlifi, tj) = K^ti, tj), т.е. неслу чайное слагаемое не изменяет ковариационную функцию слу чайного процесса. Это объясняется легко получаемым равенст вом Z°(0 =^°(0.
6.Если Z(t) = g(t)X(t), где g{t) — детерминированный процесс, ДО — случайный процесс, то А2(//, tj) "= g(ti)g(tj)Kx{ti, tj). Это нера венство несложно получить, воспользовавшись определением ковариационной функции.
170
Полезно подчеркнуть, что все приведенные определения и свойства справедливы как для непрерывных случайных процес сов, так и для случайных последовательностей. Однако для не прерывного процесса моменты //, /) могут быть любыми в непре рывной области определения процесса, а для случайной последо вательности они должны совпадать с дискретными моментами существования элементов последовательности.
При построении математических моделей непрерывных про цессов большое значение имеет случайный процесс, называемый
белым шумом.
Определение 4.10. Случайный процесс X(t) называется белым шумом, если M{X{t)} = О и А';^//, tj) = с6(/у — ^/), где с = con^t — ин тенсивность белого шума, 5(0 — дельта-функция Дирака, облада ющая свойствами
5(0 = ^ |
' |
/^0 |
, J5(0d/ = 1 при VE>0. |
[о, |
|
_е |
Из этого определения следует, что любые два сечения белого шума при ti Ф tj некоррелированы, а дисперсия Dy/^t) = ©о. В силу этих обстоятельств белый шум является чисто гипотетическим процессом, реально не существующим, но представляющим со бой весьма полезную математическую модель, широко применя емую при решении многих практических задач. Используется и более широкое толкование белого шума, при котором с = c{t) — функция времени.
При решении задач, основанных на концепции случайных последовательностей, используют другое понятие белого шума. Хотя применительно к иной ситуации это понятие уже использо валось, дадим соответствующее определение.
Определение 4.11. Случайная последовательность Х\, Х^, ...
называется дискретным белым шумом, если элементы этой после довательности независимы, М{Х^ = О и K^^ti, tj) = M{XiXj} = c5/j, где, как и выше, с = const — интенсивность, 5/у - дельта-символ Кронекера, уже встречавшийся ранее и определяемый так:
hj-l 1, i = J
171
Таким образом, дискретный белый шум представляет собой последовательность независимых центрированных случайных величин с постоянной дисперсией с. При более общем определе нии дискретного белого шума допускается с = с(//).
Ковариационная функция Kxiti, tj) случайного процесса X{t), как уже отмечалось, является мерой статистической связи двух сечений этого процесса. Для количественной оценки аналогич ной связи, но двух различных процессов используют понятие взаимной ковариационной функции. Дадим соответствующие определения. Пусть X{t) и Y{t) — два случайных процесса.
Определение 4.12. Функция Fx^ }{х, у\ Г/, tj) = P((X(ti) < х)п{ Y{tj) < у)) называется совместным распределением вероятностей про цессов X{t) и Y(t) в моменты времени //, tj.
Определение 4.13. Если Fx yix, у; //, tj) — дифференцируемая
функция, то функцияД у{х, у; //, /у) = - ^ Fx^ у(х, у; //, tj) называ ется совместной плотностью вероятностей процессов X{t) и Y(t) соответственно в моменты времени // и tj.
Определение 4.14. Взаимной ковариационной функцией KxA^h ^j) двух случайных процессов X(t) и Y{t) называется неслу чайная функция переменных //, t/.
Kxy{t,,tj) = M{X4ti)Y^(tj)}==
оо |
оо |
у; //, tj)dxdy. |
J |
J (x-nix(ti))(y-mY(tj))fxj(x, |
—оо—оо
Эта функция, представляющая собой среднее значение про изведения двух центрированных сечений процессов X{t) и Y(t), используется в качестве меры статистической связи этих процес сов. Если при некоторых //, tj Kxyith Ф ~ О, то говорят, что сече ния X{ti) и Y{tj) некоррелированы. Если же это равенство выпол няется при любых ti и tj, то процессы называют некоррелирован ными на всем множестве их определения. В соответствии с опре делением Kxy{ti, tj) = Kyx^tj, ti). Если Z(/) = ДО + Г(0, где X(t) и Y{t) - два случайных процесса, то
Kziti, tj) = M{Z^(tdZ%tj)} =
= Kxiti, tj) + Kniti, tj) + KY)({ti, tj) + Ky{ti, tj),
111
Если же процессы не коррелированы, то KzfJi, tj) = Kxitj, tj) + + KyiU, tj).
Ковариационные и взаимные ковариационные функции ес тественным образом распространяются и на векторные сучайные процессы, но в этих случаях соответствующие ковариационные функции оказываются матричными. Так, если X(t)e R", Y{t)e R™ - два векторных случайных процесса, то по определению:
Kxitb tj) = M{X^{t;){X%tj))^)eBP''\
Kyitb tj) = M{F°(/,)(F°(/,))'^}€R'"^'",
Kx^ti, tj) = M{X\ti){Y\tj))^)^ |
R'^^, |
Ky^iti, tj) = M{Y\ti){X%))')€ |
R'"^^ |
4.5. Стационарные и эргодические случайные процессы
Все случайные процессы принято делить на два широких класса
— стационарные и нестационарные процессы, что связано с ря дом принципиальных различий в их характеристиках.
Определение 4.15. Случайный процесс X{t) называется стацио нарным в узком смысле, если все конечномерные функции распре деления вероятностей любой размерности инвариантны относи тельно сдвига во времени, т.е при Vw, t:
^Л'(^Ь ^ 2 , - , ^Ai; ^Ь ^2, •••» О =
(4.18)
= ^Л'(^Ь ^2, - , ^п\ t\ + t\ t2 + t\ ..., tn + Л.
Из определения следует, что процессы X(t) и Д/ + /) имеют одинаковые распределения. Процессы, не удоволетворяющие определению (4.18), принято называть нестационарными в узком смысле. Из (4.18) вытекает ряд свойств.
1- /\<^Ь ^2» •••) Хт t\, ti, ..., tn) =
= / А ( ^ Ь ^Ъ -М ^п\ t\ + t\ ti + t\ ..., /„ + {),
так как плотность вероятностей как производная от (4.18) также инвариантна относительно сдвига /.
173
2.Пусть л = 1 и выберем / = —//. Тогда/Y(X; //) =/х(х; ti+ t) = =fxix), т.е. одномерная плотность вероятностей стационарного в узком смысле процесса одна и та же во всех сечениях процесса.
3.Пусть л = 2 и выберем / = —//. Тогда^хь ху, //, tj) =/х(х\, Х2\ tj — ti) =/И^ь ^г?'^)) "^ ^ b^^h т.е. двумерная плотность вероятнос тей стационарного в узком смысле случайного процесса не зави сит от того, как выбраны сечения //, tj, а зависит лишь от расстоя ния т между сечениями.
4.Математическое ожидание стационарного в узком смысле процесса является постоянной величиной:
оо
шх = M{X(t)} = J xfx(x)6x = const.
—оо
5. Дисперсия стационарного в узком смысле процесса являет ся постоянной величиной:
% =Л/{(ХЧО)^}= 1 (х-mxffхМ6х |
= const |
—оо |
|
6. Ковариационная функция стационарного в узком смысле процесса не зависит от моментов времени //, tj, а зависит от рас стояния 'I- tj — ti между ними:
оо |
оо |
X2\ T)dxick2 = Ад^(т). |
J^x(ti, tj)= / |
J (xi-mx)(x2-mx)fx(xu |
—оо—оо
l.Dx-KM^
Помимо процессов, стационарных в узком смысле, вьщеляют класс процессов, стационарных в широком смысле.
Определение 4.16. Случайный процесс X(t) называется стаци онарным в широком смысле, если его математическое ожидание и дисперсия постоянны, а ковариационая функция зависит только
от расстояния между сечениями, те. m^^t) — гпх— const, D^t) — Dx—
= const, Kj^ti, tj) = Kx(tj ~ ti) = Kx{x).
Из сопоставления двух последних определений следует, что стационарный в узком смысле процесс одновременно является стационарным и в широком, но не наоборот. Понятия стацио нарности в обоих смыслах совпадают лишь для так называемых гауссовских процессов, у которых одномерные и многомерные распределения являются гауссовскими. Аналогичным образом вводится понятие совместно стационарно связанных случайных
174
процессов. В этом случае M{X(ti)Y(tj)} = Kxiitj — //) = Kxyit). По лезно заметить, что сумма двух нестационарных случайных про цессов может оказаться процессом стационарным.
Свойства числовых характеристик стационарных процессов не противоречат их общим свойствам, изложенным выше. Тем не менее удобно заново их указать с учетом стационарности про цессов.
1. Kxit) = Kjd—x) — четная функция.
2.\Kx(x)\<Dx;\Rx(r)\<L
3.Если функция Кх(т) непрерывна в точке т = О, то она непре рывна при Vx.
4.Для многих стационарных процессов Кх(х) -^ О при т —> ©о. Величина т^^ такая, что |А;^<т)| ~ О при х > Ху^, называется временем
корреляции процесса. Часто принимают |
1 ~ |
xj^ = -— J | Кх (х) | dx. |
|
5.КхЛ^) = Кух{-^х). |
""' |
6.{Kxy(x)f < Кх{0)Ку(0) = DxDy.
7.Если Z(/) = X(t)Y(t), где X{t) и Y(t) - стационарные центрированные независимые случайные процессы, то Kz(x) =
=M{Z^(t)Z^(t + X)} = Кх(т)Ку{т),
8.Если 7(0 -g{t)X(t), где^(0 -детерминированная функция, X{t) - стационарный случайный процесс, то /Гу(//, ф = =^g(ti)g(tj)Kx(x).
Понятие стационарности распространяется как на непрерыв ные процессы, так и на случайные последовательности. Однако в последнем случае необходимо иметь в виду, что расстояние меж ду сечениями представляет собой целое число периодов дискре тизации (х = /и^, m = О, ±1, ±2,...), а ковариационная функция яв ляется решетчатой и ее обозначают символом Кх[т].
Среди стационарных случайных процессов выделяют класс так называемых эргодических процессов, наиболее привлека тельный с практической точки зрения. Пусть X(t) — стационар ный случайный процесс и x(t) - некоторая его реализация, при чем теоретически /G(—©о, ©о). Построим по этой реализации сле дующие величины:
1 |
^ |
- |
1 ^ |
п |
т = lim — |
J x(t)dt, /)= |
lim —7 J |
(xiO-mydt, |
|
^T = lim — |
/ {.x{f)-fh)(,x{f + |
x)-m)ut. |
||
7'—>oo Li |
_rr |
|
|
175
Далее положим, что процесс X{t) имеет математическое ожи дание, дисперсию и ковариационную функцию, определяемые обычным образом:
^Х = / xfx(x)dx, Dx = / (х-шх) |
/(x)dx. |
^х('^)= / / (x\-mxKx2-mx)fx(Xb |
^i\ T)dxidx2. |
—со—oo |
|
Определение 4.17. Стационарный (в узком смысле) случай ный процесс ДО называется эргодическим по математическому ожиданию и ковариационной функции, есл^1 с вероятностью единица вьшолняются равенства: т = гпх, К{х) = А^^т) и, как следствие, D = Dx-
Таким образом, принципиальная особенность эргодического процесса праявляется в том, что основные его числовые характе ристики могут быть определены по одной реализации процесса до статочно большой длительности без использования плотностей вероятностей. Усреднение проводится по времени, те., как гово рят, «вдоль процесса». Для неэргодического процесса эти же харак теристики приходится искать в соответствии с их классическим определением, использующим плотности вероятностей, поиск которых, в свою очередь, основывается на обработке множества реализаций процесса. Поэтому говорят, что характеристики неэр годического процесса находятся усреднением по множеству реа лизаций или «поперек процесса». Не любой случайный процесс является эргодическим. Существуют специальные условия, вы полнение которых обеспечивает эргодичность. В частности, гауссовский процесс является эргодическим, если lim Kx{i) = 0.
Понятие эргодичности распространяется и на случайные по следовательности. Однако интегральные операции при проведе нии временного усреднения здесь уже принципиально неприме нимы и усреднение, если Х/, / = О, ±1, ±2,... — реализация случай ной последовательности, принимает вид:
\ ^ |
- |
1 |
7V |
'"^ ^™ ^^77 ^ |
^'п ^= |
1™ Т77 |
^ (^/-^) ^ |
IN
К[т]= lim-— S (х/-/й)(х,+^~/й).
176
4,6. Спектральная плотность случайного процесса
Определение 4.18. Пусть X{t) — непрерывный стационарный слу чайный процесс с абсолютно интегрируемой ковариационной функцией Кх(т). Тогда спектральной плотностью ij^co) процесса
X(t) называют двустороннее преобразование Фурье от его ковари ационной функции
Sx((o)=l Kx(T)e-J''4T, |
(4.19) |
—оо |
|
где со — параметр, обычно называемый частотой; j — мнимая еди ница (/^=-1).
Так как К;^т) - четная функция и е"-^^'^ = cos сот -ysincox, то можно записать
оо
Sx((o) = 2j KX(T)COS coxdi,
о
откуда следует, что Sx((xy) является четной функцией со. Справедливо обратное представление
1 |
оо |
1 ^^ |
Кх (х) = — |
J Sx (co)e-^''^^dco = -'jSx (co)cos coxdco. |
Из последнего равенства вытекает важное следствие
Dx=Kx(0) = -]sx(o^)d(o. |
(4.20) |
Выявим физический смысл спектральной плотности. С этой целью дополнительно предположим, что X(t) - эргодический центрированный процесс. Тогда
Dx = lim т^ J (x(t)fdt.
Последнее соотношение показывает, что дисперсия представ ляет собой среднюю мощность процесса. Это обстоятельство позволяет следующим образом интерпретировать равенство (4.20): случайный процесс X{t) условно можно представить как
177
линейную комбинацию бесконечного количества составляющих гармонического типа, частоты которых непрерывно заполняют
1 весь диапазон [О, «»); тогда величину •г5л<со)<1(о можно тракто
вать как среднюю мощность составляющих процесса, частоты которых принадлежат отрезку [со, со + dco]; суммирование (интег рирование) этих мощностей по всему диапазону частот приводит к средней мощности всего процесса. Следовательно, сама спект ральная плотность с точностью до множителя 1/я представляет собой плотность распределения мощностей гармонических со ставляющих процесса по частотам.
Спектральные плотности для большинства случайных про цессов, моделирующих реальные явления, построены и система тизированы в различных литературных источниках. Приведем некоторые.
1. Кх{х) = с5(х), с = coast => 5Y(CO) = с.
2. |
^;^(т) = а2ехр{-а|х|}=>5;^(а)) = |
2а^а |
|
|
||
|
|
|
|
2 2 ' |
|
|
3. |
^;^(T) = a^exp{-a|T|}cosPT=>5;i'(co) = —г |
— |
—г. |
|||
4. |
Kxii) |
= о^ ехр {-а | х |} cos (Зх + -r-sinP | х | |
|
|
||
|
_, |
. . |
4aVco^+a^) |
|
|
|
|
=> 5д^ (ш) = |
|
|
|
|
(со^-а^-р2)^+4а2а)^
Полезно отметить еще одно свойство пары «ковариационная функция — спектральная плотность»: чем шире фафик ковариа ционной функции, тем уже график спектральной плотности, и наоборот. Объясняется это следующим обстоятельством. Широ кий график ковариационной функции говорит о том, что процесс характеризуется большим временем корреляции, т.е. его реализа ции медленно меняются во времени. Но это означает, что мощ ность процесса определяют низкочастотные составляющие, и график спектральной плотности концентрируется в области низ ких частот. Узкому фафику ковариационной функции соответст вует малое время корреляции, реализации процесса меняются
178
быстро и в них превалирует роль высокочастотных составляю щих, что «расширяет» график спектральной плотности. Имеются и более строгие доказательства этого свойства.
Понятие спектральной плотности распространяется и на слу чайные последовательности. Однако поскольку ковариационная функция Ajrf/w] случайной последовательности является решет чатой, применить к ней интегральное преобразование вида (4.19) невозможно. Поэтому по определению под спектральной плот ностью Sxliz) стационарной случайной последовательности пони мают двустороннее ^-преобразование ковариационной функции
Ыт]:
Sx{z)= 1 KxMz-'', |
(4.21) |
где z — комплексная переменная, и предполагается, что функция Кх[т] удовлетворяет условиям сходимости ряда (4.21). Часто функцию (4.21) удобнее представить в виде:
Sx(z) = SUz)-^SHz-^)-Kx[Ol |
Sx(z)= iKxMz'-'', |
(4.22) |
m=0
где Sx^iz) — одностороннее ^-преобразование ковариационной функции, для которого существуют обширные справочные мате риалы. Заменой z = в^^% (о^е[~я, п] спектральную плотность Sxiz) часто переводят в частотную область, но в данном случае в этом нет необходимости.
4.7. Преобразование случайного процесса линейным оператором
Пусть X{t) — случайный процесс с известными математическим ожиданием ntxit) и ковариационной функцией Kx{ti, tj)j- в ре зультате воздействия заданным линейным оператором А преоб разуется в случайный процесс 7(0, т.е.
Y(t) =-AX(t), |
(4.23) |
Задача заключается в поиске числовых характеристик случай ного процесса Y(t) и взаимных ковариационных функций про цессов ДО и 7(0-
179