Теория случайных процессов. Основные понятия и определения теории случайных процессов. Модели и характеристики случайных сигналов. Ч.1. Учебное пособи
.pdfRxy(t1, t2) = Ryx(t2, t1).
Если при всех значениях t1, t2 выполняется равенство Rxy(t1, t2) = = Ryx(t1, t2), то случайные функции называются некоррелированными.
Независимые случайные функции всегда не коррелированны.
Зная значения функций Rxy(t1, t2), Ryx(t1, t2) и стандарты распреде- ления σx(t), σy(t) можно получить нормированные взаимные корреля- ционные функции:
|
|
|
Rxy |
(t1 |
, t2 ) |
Ryx |
(t1 |
, t2 ) |
||
rxy |
(t1 |
, t2 ) = |
|
|
|
; ryx (t1, t2 ) = |
|
|
|
, |
|
|
|
|
|
|
|||||
|
|
|
σx (t1)σ y (t2 ) |
σx (t2 )σ y (t1) |
||||||
т.е. такие неслучайные функции, которые при конкретных значениях t1 и t2 равны коэффициентам корреляции соответствующих сечений случайных функций X(t) и Y(t).
Взаимной корреляционной функцией Rxy (t1, t2 ) случайных процес-
сов X(t) и Y(t), определенных на общем вероятностном пространстве, называется неслучайная функция Rxy, которая для каждой пары зна- чений аргументов t1 и t2 равна корреляционному моменту сечений X t1 и Yt2 этих процессов, т.е.
|
|
0 |
0 |
0 |
0 |
|
|
|
Rxy (t1 , t2 ) = M X t1 Y t2 |
= ∫ x y dF ( x, t1; y, t2 ) = |
|
|
|
||||
∑ |
∑ ( xi − mx (t1 ))( y j − mx (t2 ))Pij (t1, t2 ) |
|
|
|
||||
xi N1 y j N 2 |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
для дискретного распределения; |
|
|
|
|||||
= ∞ ∞ |
|
|
|
|
|
|
||
|
∫ |
∫ ( x − mx (t1 ))( y |
− m y (t2 )) f ( x, t1; y, t2 )dxdy |
|
|
|||
|
−∞ −∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
для непрерывного распределения, |
|
|
|
|||||
в этом случае N1 и N 2 – множество значений сечений |
X t1 |
и Yt2 ; |
||||||
Pij (t1,t2 ) = P{X (t1 ) = xi , Y (t2 ) = y j }, F(x,t1; y,t2 ), f (x,t1; y,t2 ) |
– |
функ- |
||||||
ции и плотности совместного распределения сечений X t |
и Yt |
. |
||||||
|
|
|
|
|
|
1 |
|
2 |
Вообще говоря, Rxy (t1,t2 ) ≠ Rxy (t2 ,t1 ) , но Rxy (t1,t2 ) = Ryx (t2 ,t1 ) . |
||||||||
Функция |
Rxy (t1,t2 ) описывает корреляционную связь между зна- |
|||||||
чениями случайных процессов x(t) и y(t) в различные моменты вре- мени. Примером такой связи является связь между положением са-
51
молета вдоль вертикальной оси в момент t2 и силой вертикального порыва ветра в момент t1 < t2, проявляющаяся с некоторым запазды- ванием t2 – t1, зависящим от инерции самолета.
2.2. Элементарные преобразования случайных процессов
Линейные преобразования случайных функций. Для системы,
которая имеет один вход и один выход, описываемой оператором A, справедливо выражение связи входного воздействия V с реакцией системы Z = A(V). Оператор A = L называется линейным, если он об- ладает следующими свойствами:
1)Z = L(cV1) = cL(V1) при V = cV1, где с – константа
2)Z = L(V1 + V2) = L(V1) + L(V2) при V = V1 + V2.
Аналогично, система с двумя входами и ее оператор, связываю- щий два входных воздействия V и W с реакцией Z = L(V, W), линей- ные, если оператор обладает такими свойствами:
1)Z = L(cV1, cW1) = cL(V1, W1) при V = cV1, W = cW1;
2)W = W1 + W2, Z = L(V1 + V2, W1 + W2) = L(V1, W1) + L(V2, W2) при
V = V1 + V2.
При линейном преобразовании одной случайной функции X(t) в
другую Z(t) = L{X(t)} возникает задача определения характеристик Z(t) по аналогичным характеристикам X(t). Обычно при этом ограни- чиваются определением математического ожидания mx(t) и корреля- ционной функции Rz(t1, t2).
Математическое ожидание новой случайной функции
mz(t) = M[Z(t)] = M[L{X(t)}].
Линейный оператор можно выносить за знак математического ожидания.
Рассмотрим, например, простейшее линейное преобразование случайной функции X(t), заключающееся в умножении ее на неслу- чайную функцию y(t), тогда новая случайная функция
Z(t) = y(t)X(t).
Математическое ожидание
mz(t) = M[y(t)X(t)] = y(t)M[X(t)] = y(t) mx(t).
Аналогично, в общем случае
mz(t) = M[L{X(t)}] = L{M[X(t)]}.
52
Корреляционная функция
Rz(t1, t2) = M[{Z(t1) – mz(t1)}{Z(t2) – mz(t2)}] =
M[ Lt1 {X(t1) – mx(t1)} Lt2 {X(t2) – mx(t2)}].
Символами Lt1 и Lt2 обозначен один и тот же оператор L, с той
лишь разницей, что L-преобразования выполнены в первом случае по переменной t1, во втором – по переменной t2. После вынесения опе- раторов Lt1 и Lt2 за знак математического ожидания имеем
Rz(t1,t2) = Lt1 Lt2 {M[(X(t1) – mx(t1))(X(t2) – mx(t2))} = Lt1 Lt2 {Rx(t1, t2)}.
Для случайной функции Z(t)
Rz(t1, t2) = y(t1)y(t2) Rx(t1, t2).
В некоторых случаях требуется определение взаимных корреля- ционных функций Rzx(t1, t2) и Rxz(t1, t2). При этом целесообразно пе- рейти от X(t) и Z(t) к центрированным случайным функциям.
Реальные случайные явления сопровождаются, как правило, ви- доизменениями случайных процессов при протекании их в конкрет- ных системах и устройствах. Так, например, электрические сигналы, описываемые как случайные процессы, при прохождении через сис- темы связи или управления могут складываться, перемножаться, дифференцироваться или интегрироваться, усиливаться или ослаб- ляться и т.д.
Сложение случайных функций. При сложении случайных функ-
ций X(t) и Y(t) и образовании суммы
Z(t) = X(t) + Y(t)
возникает задача определения характеристик Z(t) по характеристикам X(t), Y(t). Математическое ожидание суммы
M[Z(t)] = M[X(t)] + M[Y(t)] = mx(t) + my(t) = mz(t).
Корреляционная функция суммы
M[{Z(t1) – mz(t1)} {Z(t2) – mz(t2)}] =
=M[{X(t1) – mx(t1) + Y(t1) ) – my(t1)} {X(t2) – mx(t2) + Y(t2) ) – my(t2)}] =
=M[{X(t1) – mx(t1)} {X(t2) – mx(t2)}] +
+M[{X(t1) – mx(t1)}{Y(t2) ) – my(t2)}] +
53
+M[{Y(t1) ) – my(t1)}{Y(t2) – my(t2)}] =
=Rx(t1, t2) + Rxy(t1, t2) + Ryx(t1, t2) + Ry(t1, t2) = Rz(t1, t2).
Если X(t) и Y(t) некоррелированы, то Rz(t1, t2) = Rx(t1, t2) + Ry(t1, t2). Все изложенное также распространяется на сумму любого числа слу- чайных функций.
При сложении случайной функции X(t) с неслучайной функцией y(t) сумма
Z(t) = X(t) + y(t)
имеет математическое ожидание mz(t) = mx(t) + y(t) и корреляцион- ную функцию Rz(t1, t2) = Rx(t1, t2).
В частности, если выполняется центрирование случайной величи-
|
0 |
ны X(t), т.е. операция перехода от X(t) к |
X (t) = X (t) − m x (t) , то кор- |
|
0 |
реляционная функция центрированной |
случайной функции X (t) |
совпадает с корреляционной функцией нецентрированной случайной функции Rx(t1, t2). Математическое ожидание центрированной слу- чайной функции, очевидно, равно нулю. Это означает, что вместо
0
случайной функции X (t) = X (t) + m x (t) можно оперировать со слу-
0
чайной функцией X (t) , исключив неслучайную функцию mx(t). Если, например, X(t) – погрешность вычислительного устройства, то пред-
0
ставление ее в виде суммы X (t) и mx(t) позволяет рассматривать ее
составленной из случайной и систематической составляющих.
При сложении случайной функции X(t) с некоррелированной слу- чайной величиной сумма Z(t) = X(t) + Y имеет математическое ожи- дание mz(t) = mx(t) + my и корреляционную функцию
Rz(t1, t2) = Rx(t1, t2) + Dy.
При
Z(t) = aX(t) + bY(t)
можно показать, что
mz(t) = amx(t) + bmy(t);
Rz(t1, t2) = a2Rx(t1, t2) + b2Ry(t1, t2) + ab[Rxy(t1, t2) + Ryx(t1, t2)].
54
Преобразование вида Y(t) = a(t)X(t) + b(t). Здесь X(t) – «входной» случайный процесс, обладающий математическим ожиданием mх(t) и корреляционной функцией Rx (t1, t2 ) ; Y(t) – «выходной» (преобразо-
ванный) случайный процесс; a(t), b(t) – ограниченные неслучайные функции. Из свойств математического ожидания следует:
my (t) = MY (t) = M[a(t)X (t) + b(t)] = a(t)mx (t) + b(t) .
Для корреляционной функции Ry (t1, t2 ) и дисперсии Dy (t) спра-
ведливы выражения:
0 |
0 |
Ry (t1, t2 ) = M Y (t1)Y (t2 ) = a(t1)a(t2 )Rx (t1, t2 ) ; |
|
Dy (t) = R y (t,t) = a2 (t)Dx (t) .
n
Преобразование вида Y (t) = ∑ai (t)Xi (t) . В этом случае
i=1
– совокупность случайных процессов, определенных на общем вероятностном пространстве и обладающих математическими
ожиданиями {mxi (t)}in=1 , корреляционными функциями {Rxi (t1, |
t2 )}in=1 |
||||||||||
и взаимными |
корреляционными |
функциями {RXi X j (t1, t2 )}in, j=1 ; |
|||||||||
{ai (t)}in=1 – неслучайные ограниченные функции. |
|
|
|
|
|
||||||
Нетрудно убедиться, что |
|
|
|
|
|
|
|
|
|
||
|
|
n |
|
|
n |
|
|
|
|
|
|
m y (t ) |
= M ( ∑ ai |
(t ) X i (t )) |
= ∑ ai |
(t ) m x |
i |
(t ) ; |
|
(2.2) |
|||
|
|
i =1 |
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
n |
0 |
|
n |
0 |
|
|
|
|
|
Ry (t1 ,t2 ) = M ∑ ai (t1 ) X i (t1 ) |
∑ a j (t2 ) X j (t2 ) = |
|
|
||||||||
|
|
i =1 |
|
|
j =1 |
|
|
|
|
|
|
n |
|
|
n |
|
|
|
|
|
|
|
|
= ∑ ai (t)ai |
(t2 )Rx |
(t1 , t |
2 ) + ∑ ai (t1 )a j |
(t2 )Rx |
x |
(t1 , t |
2 ); |
(2.3) |
|||
i =1 |
|
i |
i, j =1 |
|
|
i |
|
j |
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
(i ≠ j ) |
|
|
|
|
|
|
|
|
|
n |
|
n |
|
|
|
|
|
|
|
|
D y (t ) = ∑ ai2 (t ) D xi |
(t ) + ∑ ai (t )a j (t ) R xi x j |
(t , t ) . |
|
(2.4) |
|||||||
|
i =1 |
|
i , j =1 |
|
|
|
|
|
|
|
|
|
|
|
( i ≠ |
j ) |
|
|
|
|
|
|
|
55
В формулах (2.2), (2.3) операция математического ожидания выпол-
няется по совместному распределению сечений {Xi (t)}in=1 ).
Если случайные процессы X i (t) взаимно некоррелированы, т.е.
i, j (i ≠ j), t1, t2 ; Rxi x j (t1, t2 ) = 0 ,
|
|
n |
|
|
|
|
|
то |
Ry (t1, t2 ) = ∑ai (t1)ai (t2 )Rx |
(t1, t2 ) ; |
(2.5) |
||||
|
|
i=1 |
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
Dy (t) = ∑ai2 (t)Dx i (t) . |
(2.6) |
||||
|
|
|
|
i=1 |
|
|
|
|
Если i; ai (t) ≡ 1 , то (2.5) и (2.6) принимают следующий вид: |
|
|||||
|
|
n |
|
n |
|
|
|
|
Dy |
(t) = ∑Dx |
i |
(t) + ∑ Rx x |
j |
(t1,t2 ) ; |
(2.7) |
|
|
i=1 |
i |
|
|
||
|
|
|
i, j=1 |
|
|
|
|
|
|
|
|
(i≠ j) |
|
|
|
|
|
|
|
n |
|
|
|
|
|
Dy (t) = ∑Dx i (t) . |
|
|
(2.8) |
||
|
|
|
|
i=1 |
|
|
|
В практических приложениях дисперсия случайного сигнала про- порциональна средней мгновенной мощности его переменной состав- ляющей. Поэтому соотношение (2.8) отражает тот факт, что при сло- жении независимых (некогерентных) сигналов их средние мгновенные мощности складываются. При суммировании когерентных сигналов происходит их взаимное усиление и ослабление, выражаемое членами, содержащими взаимные корреляционные функции в (2.7).
Дифференцирование и интегрирование случайных процессов.
Дифференцирование и интегрирование случайного процесса проис- ходит, например, при его прохождении через дифференцирующую или интегрирующую цепь в системе автоматического управления.
Для того чтобы определить понятие производной и интеграла от случайного процесса, необходимо использовать понятие сходимости последовательности случайных величин. Из теории вероятности из- вестно по крайней мере четыре типа такой сходимости: по распреде- лению, по вероятности, с вероятностью единица (почти наверное) и в среднем квадратичном. Выбор типа сходимости зависит от содержа- ния решаемой задачи. Так, если в задаче исследуется поведение от-
56
дельной траектории (реализации) процесса (например, динамика из- менения какого-либо экономического параметра отдельного пред- приятия), то естественно использовать для этой цели сходимость с вероятностью единица. В тех же случаях, когда исследователя инте- ресует коллективное поведение траекторий процесса (конкретно – средний по их множеству квадрат отклонения от предполагаемого предела), то следует применять сходимость в среднем квадратичном. Известно, что эти типы сходимости не находятся в импликативном отношении: из первого типа сходимости не следует второй, и наобо- рот; существенно и то, что каждый из этих типов сходимости влечет за собой сходимость по вероятности, из которой, в свою очередь, следует сходимость по распределению.
В системах управления и связи при анализе случайных процессов наиболее часто используется сходимость в среднем квадратичном. В этом случае рассматривается сходимость последовательности слу-
чайных величин {Xn}∞n=1 к случайной (в общем случае) величине Х в среднем квадратичном («в с.к.»), т.е. такая, что
lim M (Xn − X )2 = 0 .
n→∞
Для такого типа сходимости используются обозначения
Xn с.к.→ X или l.i.m Xn = X .
n→∞
Свойства этого типа сходимости последовательности случайных величин выражают следующие леммы.
Лемма 1. Пусть {Xm}∞m=1 , {Yn}∞n=1 , X и Y – случайные величины, за- данные на одном вероятностном пространстве, и
Xm |
→ X , |
Yn |
→Y , |
MX |
2 |
< ∞, |
MY |
2 |
< ∞. |
|
с.к. |
|
с.к. |
|
|
|
|
Тогда
lim MX |
Y = M l.i.m X |
|
l.i.mY = MXY . |
|
m,n→∞ |
m n |
m→∞ |
m |
n→∞ n |
Справедливость этой леммы вытекает из соотношений:
XmYn − XY = (Xm − X )(Yn − Y ) + (Xm − X )Y + (Yn − Y )X ;
MXmYn − MXY ≤ M (Xm − X )(Yn − Y ) + M (Xm − X )Y + M (Yn − Y )X .
57
Применяя неравенство Коши – Буняковского и используя условия леммы при m,n → ∞ получим:
| M (X |
m |
− X )(Y − Y ) | ≤ |
M (X |
m |
− X )2 M (Y − Y )2 |
→ 0; |
|
|
n |
|
n |
|
|||
|
| M (Xm − X )Y | ≤ M (Xm − X )2 MY 2 → 0; |
|
|||||
|
|
| M (Y − Y )X | ≤ |
M (Y |
|
− Y )2 MX 2 → 0; |
|
|
|
|
n |
n |
|
|
|
|
отсюда
lim M X m Yn = M X Y .
m , n → ∞
Следствие. Полагая Yn ≡ Y ≡ 1, получим
lim MX m |
= M l.i.m X m = MX . |
m→∞ |
m→∞ |
Лемма 2. Сходимость в среднем квадратичном обладает свойст- вом фундаментальности по Коши в следующей форме. Пусть
{Xk }∞k =1 – последовательность случайных величин, для каждой из которых MXk2 < ∞ . Необходимым и достаточным условием сходимо-
сти в среднем квадратичном последовательности {X k }∞k=1 к некото-
рой случайной величине Х с MX 2 < ∞ является равенство
lim M (Ym − Zn )2 = 0
m,n→∞
для любых двух подпоследовательностей {Y }∞ = и {Z }∞= последо-
m m 1 n n 1
вательности
{X |
}∞ |
({Y } {X |
k |
} , {Z |
} {X |
k |
} ). |
|
k k =1 |
m |
n |
|
|
Доказательство этой леммы опускаем.
Лемма 3. Пусть снова {Ym}∞m=1 и {Zn}∞n=1 – любые подпоследова-
тельности последовательности { X k } . Тогда: |
|
|
|
|
< ∞ ; |
|||
а) если Ym → X , Z → X , MX |
2 |
< ∞, то MYm Zn → MX |
2 |
|||||
с.к. |
с.к. |
|
|
|
|
|
||
б) если MYm Zn |
→ c, | c |< ∞, то X : Xk → X , |
MX |
2 |
< ∞ . |
|
|||
|
|
|
с.к. |
|
|
|
|
|
Первая часть леммы непосредственно следует из леммы 1.
58
Далее, из равенств
(Ym − Zn )2 = Ym2 − 2Ym Zn + Zn2 , lim M (Ym − Zn )2 = c − 2c + c = 0
с учетом леммы 2 следует, что Xk с.к.→ X , MX 2 < ∞, т.е. справед- ливость второй части леммы.
Роль элементов последовательностей случайных величин, фигу- рирующих в приведенных леммах, будут играть сечения исследуемо- го случайного процесса; счетные множества сечений процесса упо- рядочены в леммах целочисленными индексами.
Непрерывность случайного процесса второго порядка в среднем квадратичном определяется следующим образом.
Определение 1. Случайный процесс второго порядка непрерывен в среднем квадратичном при значении аргумента t, если выполнено условие
с.к. |
(2.9) |
X (t + ε ) → X (t ). |
|
ε → 0 |
|
Определение 2. Случайный процесс второго порядка непрерывен в среднем квадратичном, если (2.9) выполняется для всех t T .
Непрерывность случайного процесса в среднем квадратичном, по сути, означает, что среднее значение квадрата разности двух сечений случайного процесса стремится к нулю по мере сближения этих се- чений.
Так как сходимость в среднем квадратичном влечет за собой схо- димость по вероятности, то для непрерывного в среднем квадратич- ном случайного процесса выполняется условие
t T , δ > 0 , lim P { | X (t + ε ) − X (t ) |< δ } = 1,
ε → 0
т.е. вероятность реализации случайного процесса, для которой рас- хождение ее значений для двух близких сечений Xt и Xt +ε не пре-
вышает заданной величины δ, стремится к единице по мере сближе- ния этих сечений процесса.
Это свойство случайного процесса вовсе не означает непрерыв- ность его реализаций: последнее осуществляется (с вероятностью единица), если элементы ω множества исходов Ω, для которых реа-
59
лизации x(ω;t) процесса X(t) непрерывны для всех t, образуют мно- жество A, вероятностная мера которого равна единице, т.е.
P(A) = P{ω : lim x(ω;t + ε) = x(ω;t) для всех t} = 1 .
ε→0
Такое определение непрерывности случайного процесса основано на сходимости с вероятностью единица, которая, однако, не следует из сходимости в с.к. (возможно существование случайного процесса, все реализации которого разрывны, но сам процесс является непре- рывным в с.к.).
Для непрерывных случайных процессов в с.к. справедливы сле- дующие теоремы.
Теорема 1. Необходимым и достаточным условием непрерывно- сти случайного процесса Х(t) в среднем квадратичном при значении аргумента t является непрерывность при t1 = t2 = t ковариационной функции K (t1, t2 ) , определенной выше, или, что то же, непрерыв- ность математического ожидания т(t) и корреляционной функции R(t1, t2 ) случайного процесса Х(t).
Достаточность следует из следующих соотношений:
M[X (t + ε) − X (t)]2 =
=MX (t + ε)X (t + ε) − 2MX (t + ε)X (t) + MX (t)X (t) =
=K (t + ε, t + ε) − 2K (t + ε, t) + K (t, t) → 0 при ε → 0.
Производная случайного процесса в среднем квадратичном.
Теперь можно ввести понятия производной и дифференцируемости случайного процесса в среднем квадратичном смысле.
Производной X ′(t) случайного процесса второго порядка Х(t) в среднем квадратичном в точке t называется предел
X ′(t) = |
dX (t) |
= l.i.m |
X (t + ε) − X (t) |
(2.10) |
|
dt |
ε |
||||
|
ε→0 |
|
(если он существует).
Случайный процесс второго порядка Х(t) является дифференци-
руемым в среднем квадратичном в точке t, если в этой точке сущест- вует предел (2.10).
Если (2.10) выполняется при всех t (t1, t2 ) , то случайный про-
цесс дифференцируем в среднем квадратичном на интервале (t1, t2 ) .
60
