Березкин Основы теории информации и кодирования 2010

заций случайного процесса X (t) .

Рис. 3.2. Реализации случайного процесса X(t)

Величина k -й реализации случайного процесса в определенный момент времени (например, t1 ) называется выборкой случайного процесса xk (t1 ) . Совокупность значений выборок в определенный момент времени t1 образует случайную величину X (t1 ) .

Вероятность того, что в момент времени t1 величина X (t1 )

находится в интервале между x1 и x1 dx1 , имеет вид

P x1 X (t1 ) x1 dx1 f1 (x1 ,t1 )dx1 ,

где f1 (x1 ,t1 ) – одномерная плотность распределения вероятно-

стей случайной величины X (t1 ) .

Плотность вероятности f1 (x1 ,t1 ) есть функция времени, так как

Одномерный закон плотности распределения вероятностей является простейшей статистической характеристикой случайного процесса. Он дает представление о процессе лишь в отдельные, фиксированные моменты времени. Другими словами, характеризует процесс статически и не дает представления о динамике его

71

развития.

Для более полной характеристики случайного процесса необходимо знать связь между вероятными значениями случайной функ-

ции при двух произвольных моментах времени t1 и t2 . Эта связь

выражается через двумерную плотность распределения вероятностей и формулируется следующим образом:

«Вероятность нахождения любой из функций X (ti ) , входящих в случайный процесс X (t) , в интервале (x1 , x1 dx1 ) в момент времени t1 и в интервале (x2 , x2 dx2 ) в момент времени t2 , име-

ет вид

P x1 X (t1 ) x1 dx1; x2 X (t2 ) x2 dx2 f2 (x1 ,t1; x2 ,t2 )dx1dx2 ,

где f2 (x1, t1; x2 , t2 ) – двумерная плотность распределения веро-

ятностей случайного процесса X (t) ».

Рассуждая аналогичным образом, можно ввести понятие о n - мерной fn (x1, t1; x2 , t2 ;...; xn , tn ) плотности распределения вероятностей случайного процесса. Тогда вероятность сложного события, заключающегося в том, что в момент времени ti функция X (ti )

находится в интервале (xi , xi dxi ), i 1, n , равна

P xi X (ti ) xi dxi i 1,n fn (x1,t1;...; xn ,tn )dx1...dxn .

Чем больше число n , тем точнее n - мерная функция плотности характеризует статистические свойства случайного процесса. Однако n - мерные функции могут быть получены с помощью довольно сложной и трудоемкой обработки множества реализаций случайного процесса. При пользовании n - мерными функциями встречаются существенные математические трудности. Поэтому на практике чаще всего оперируют конечным числом числовых характеристик, которые дают, безусловно, менее полную картину процесса, но достаточны для решения ряда важных задач.

3.2. ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНОГО ПРОЦЕССА

Простейшими моментными функциями, в основном используемыми для характеристики случайных процессов, являются момен-

72

ты первых двух порядков: математическое ожидание, дисперсия и корреляционная функция случайного процесса.

Математическое ожидание или первый начальный момент одномерного закона распределения выражается формулой

m[ X (t1 )] x1 f1 (x1 ,t1 )dx1 .

Физически математическое ожидание выражает среднее значение совокупности выборок случайного процесса (случайной величины

X (t1 ) ) в момент времени t1 .

Дисперсия или второй центральный момент одномерного закона распределения – это математическое ожидание квадрата откло-

нения величины X (t1 ) от математического ожидания в момент времени t1 :

D[ X (t1)] m{[ X (t1) m[ X (t1)]]2} {x1 m[ X (t1)]}2 f1(x1,t1)dx1 .

Дисперсия выражает меру разброса значений случайной величины X (t1 ) около математического ожидания. С учетом того, что

f1(x1, t1)dx1 1, можно получить более простое выражение:

D[ X (t1)] m[ X 2 (t1)] m2[ X (t1)] .

Корень квадратный из дисперсии принято называть средне-

квадратическим отклонением случайной величины

[ X (t1 )] D[ X (t1 )] .

Аналогично можно найти среднее значение квадрата случайной величины X (t1 ) :

m[ X 2 (t1)] x12 f1(x1,t1)dx1 .

При этом m[X 2 (t1)] называется среднеквадратическим значе-

нием X (t1 ) .

Приведенные характеристики приближенно характеризуют поведение случайного процесса в отдельные моменты времени, но совершенно не затрагивают связь между значениями случайного

73

процесса в различные моменты времени. Эту связь выражает ав-

токорреляционная функция K XX (t1 ,t2 ) , определяемая как сред-

нее значение произведения значений случайных величин в моменты времени t1 и t2 :

KXX (t1, t2 ) m[ X (t1)X (t2 )] x1x2 f2 (x1,t1; x2 ,t2 )dx1dx2 .

Большое число задач, связанных с описанием случайных сигналов, удается решать на основе двумерной плотности распределения

вероятностей f2 (x1,t1; x2 ,t2 ) .

Иногда рассматривают нормированную автокорреляционную функцию (коэффициент автокорреляции)

Усредненные характеристики могут быть также получены путем обработки одной из реализаций xk (t) случайного процесса на

достаточно большом интервале времени.

Среднее по времени значение случайного процесса определяется выражением

где xk (t) – реализация случайного процесса X (t) , T – время на-

блюдения процесса.

По аналогии пользуются понятиями среднего по времени зна-

Если X (t) представляет собой электрический сигнал (ток), то x – постоянная составляющая случайного сигнала, x2 – средняя

мощность, рассеиваемая на сопротивлении в 1 Ом, [x x]2 – средняя мощность флуктуации сигнала.

3.3. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

ОПРЕДЕЛЕНИЕ 3.1. Под стационарными процессами понима-

ются случайные процессы, для которых функция плотности рас-

fn (x1, t1; x2 , t2 ;...; xn , tn ) fn (x1, t1 ; x2 , t2 ;...; xn , tn ) .

Стационарные процессы имеют вид непрерывных случайных колебаний около некоторого среднего значения, причем ни среднее значение, ни характер этих колебаний не претерпевают существенных изменений во времени. Строго говоря, стационарные процессы бесконечны во времени, т.е. не имеют ни начала, ни конца. Таких процессов практически нет. Однако многие случайные процессы на определенных отрезках времени с определенным приближением можно считать стационарными.

Для стационарных процессов:

1. Одномерная функция плотности распределения вероятностей не зависит от времени, т.е.

f1 (x1 ,t1 ) f1 (x1 ,t1 ) f1 (x) .

2. Двумерная функция плотности зависит только от разности

времени t2 t1 , т.е.

f2 (x1 ,t1; x2 ,t2 ) f2 (x1 , x2 ;t2 t1 ) f2 (x1 , x2 ; ) .

Поскольку математическое ожидание и дисперсия выражаются через одномерную функцию плотности, то можно утверждать, что для стационарного процесса математическое ожидание и дисперсия не зависят от времени. Вследствие зависимости двумерной

функции плотности только от разности времен t2 t1 , автокор-

реляционная функция стационарного процесса также зависит только от разности .

75

Следовательно,

m[ X (t1)] m[X ], D[ X (t1)] D[ X ], m[X 2 (t1)] m[X 2 ],

KXX [t1,t2 ] KXX ( ).

Более того, существует класс случайных стационарных процессов, обладающих важным для практических приложений свойством эргодичности.

Стационарный процесс называется эргодическим, если усреднение по множеству с вероятностью, сколь угодно близкой к единице, равно усреднению по времени:

Стационарные случайные процессы по своей природе проще, чем нестационарные и описываются более простыми характеристиками. Ввиду того, что стационарные процессы встречаются на практике очень часто, получила широкое применение специальная теория стационарных случайных процессов.

Так как свойства стационарного процесса во многом определяются свойствами автокорреляционной функции, то для изучения такого процесса нужно, в первую очередь, определить свойства автокорреляционной функции.

3.4.СВОЙСТВА АВТОКОРРЕЛЯЦИОННОЙ ФУНКЦИИ СТАЦИОНАРНОГО СЛУЧАЙНОГО ПРОЦЕССА

1.Определим, как ведет себя автокорреляционная функция K XX ( ) при неограниченном увеличении разностного временного

76

интервала t2 t1 .

По мере увеличения зависимость между величинами X (t) и X (t ) ослабевает. В пределе при эти величины стано-

вятся независимыми. Тогда с учетом того, что математическое ожидание произведения случайных независимых величин равно произведению математических ожиданий сомножителей и что для стационарного процесса математическое ожидание не зависит от времени, получим

KXX ( ) lim KXX ( ) lim m[ X (t) X (t )] m[ X (t)]m[ X (t )] m2[ X ].

Таким образом, при автокорреляционная функция стремится к квадрату математического ожидания случайного процесса, который можно трактовать как мощность постоянной составляющей реализаций случайного стационарного процесса.

2. При уменьшении интервала зависимость между величина-

Таким образом, при 0 автокорреляционная функция равна начальному моменту второго порядка функции X (t) , который

можно трактовать как среднюю мощность случайного стационарного процесса.

3. Дисперсия случайного стационарного процесса удовлетворяет равенству

D[ X ] m[ X 2 ] m2 [ X ] K XX (0) K XX ( ) . 4. В силу независимости f2 (x1 , x2 ; ) от начала отсчета

K XX ( ) K XX ( ) .

5. Автокорреляционная функция по абсолютному значению максимальна при 0 :

K XX ( ) K XX (0) .

Типичные кривые автокорреляционной функции K XX ( ) име-

ют вид, представленный на рис. 3.3. Как видно из рисунка, асимптотическое приближение функции K XX ( ) к установившемуся

значению m2 [ X ] может происходить как монотонно, так и немо-

нотонно.

77

Математическое ожидание пульсаций равно нулю m[X ] 0 , а дисперсия

Нормированная автокорреляционная функция пульсаций случайного процесса приведена на рис. 3.4.

r XX ( ) K XX ( )

1

Рис. 3.4. Вид коэффициента автокорреляции пульсаций X (t)

78

3.5. КОРРЕЛЯЦИОННЫЙ АНАЛИЗ ДЕТЕРМИНИРОВАННЫХ СИГНАЛОВ

Наряду со спектральным подходом к описанию детерминированных сигналов часто на практике оказывается необходимой характеристика, которая давала бы представление о некоторых свойствах сигнала (скорость изменения во времени) без разложения его на гармонические составляющие.

В качестве такой временной характеристики широко используется автокорреляционная функция.

Для детерминированного сигнала x(t) конечной длительности

автокорреляционная функция определяется следующим выражением:

K XXд ( ) x(t)x(t )dt .

Из этого выражения видно, что K XXд ( ) характеризует степень связи сигнала x(t) со своей копией, сдвинутой на величину по

оси времени. Ясно, что эта функция достигает максимума при0 , так как любой сигнал полностью коррелирован с самим

собой. При этом K XXд (0) x2 (t)dt Э, т.е. максимальное значе-

ние автокорреляционной функции равно энергии сигнала.

С увеличением функция K XXд ( ) убывает и при относительном сдвиге сигналов x(t) и x(t ) на величину, превышающую

длительность сигнала, обращается в нуль.

На рис. 3.5 показано построение автокорреляционной функции для простейшего сигнала в виде прямоугольного импульса

Для периодического сигнала, энергия которого бесконечна, определение автокорреляционной функции аналогично неприемлемо. В этом случае исходят из следующего определения:

79