Теория случайных процессов. Преобразование случайных сигналов. Ч.2. Учебное пособие

3.2. Корреляционная функция бинарного случайного процесса

Реализация дискретного стационарного центрированного случай- ного процесса X(t) имеет два возможных значения: ±А. Эта реализа- ция может через каждые ta секунд с одинаковой вероятностью при- нимать то или иное значение А или же оставаться неизменной. По отношению к ансамблю возможных временных функций (реализа- ций) х(t) время t0 является случайным аргументом, равномерно рас- пределенным по интервалу длиной ta. Это означает, во-первых, что если рассмотрение проводится по всему ансамблю выборочных функций х(t) случайного процесса X(t), то изменение случайной ве- личины X(t) может произойти в любой момент времени t с равной вероятностью и, во-вторых, что значение этой случайной величины на любом интервале статистически не зависит от ее значений на лю- бых других интервалах.

В современных цифровых системах связи сообщения, предназна- ченные для передачи, вначале кодируются двоичными символами. Это осуществляется посредством предварительной дискретизации передаваемого сигнала в равноотстоящие друг от друга моменты времени и последующего квантования выборочных значений по ко- нечному числу уровней. Каждый уровень затем кодируется группой двоичных символов. Например, каждый из 256 уровней квантования может быть однозначно представлен группой из 8 двоичных симво- лов. В свою очередь этим символам можно поставить в соответствие напряжение +A или –А.

Такая форма сигнала является типичной для напряжений, дейст- вующих в цепях систем и каналах связи между компьютерами. Сле- довательно, рассматриваемый случайный процесс является не только одним из самых простых с точки зрения возможности его анализа, но и одним из самых распространенных в системах связи.

Автокорреляционную функцию этого процесса (рис. 3.1) опреде- лим следующим образом. При |τ| > ta моменты времени t1 и t1 + τ = t2 не могут находиться на одном и том же интервале, вследствие чего соответствующие этим моментам случайные величины Х1 = X(t1) и Х2 = X(t2) оказываются статистически независимыми. Поскольку Х1 и Х2 в данном случае являются центрированными величинами, можно ожидать, что их произведение будет равно нулю:

RX (τ) = M[X1 X2 ] = X1 X2 = 0 при | τ | > ta , так как X1 = X2 = 0.

21

RX(τ)

A2

Когда |τ| < ta, t1 и (t1 + τ) могут находиться или не находиться на одном и том же интервале в зависимости от значения t0. Поскольку нахождение момента t0 в любой точке на временнóй оси равновоз- можно, вероятность того, что t1 и (t1 + τ) действительно лежат на од- ном и том же интервале, пропорциональна разности между ta и τ. В частности, при τ ≥ 0 очевидно, что t0 ≤ t1 ≤ t1 + τ < t0 + ta, откуда сле- дует, что t1 + τ – ta < t0 ≤ t1. Следовательно, вероятность того, что t1 и (t1 + τ) находятся на одном интервале, составляет

но, t0 ≤ t1 + τ ≤ t1 < t0 + ta, откуда следует, что t1 – ta < t0 ≤ t1 + τ. Таким образом, вероятность того, что t1 и (t1 + τ) находятся на одном интер- вале, составляет

Обобщая полученные выражения, можно сделать вывод, что ве- роятность того, что t1 и (t1 + τ) находятся на одном и том же интерва-

22

ле, составляет ta − | τ |. Если они располагаются на одном интервале, ta

то произведение Х1 и Х2 всегда равно А2, в противном случае можно ожидать, что это произведение равно нулю. В результате имеем

Вид этой функции показан на рис. 3.1.

Можно отметить, что если |τ| достаточно мало (меньше tа), веро- ятность того, что значения X(t1) и X(t1 + τ) равны и автокорреляцион- ная функция положительна, достаточно велика. Если |τ| > ta, то веро- ятность того, что значения X(t1) и X(t1 + τ) одинаковы, но противопо- ложны по знаку, равна 0,5. При этом автокорреляционная функция примет нулевое значение. В случае когда τ = 0, автокорреляционная

функция становится равной среднему квадрату случайного процесса,

т.е. RX(0) = А2.

Примеры автокорреляционных функций. Учитывая введенные выше свойства корреляционных функций можно сказать, что мате- матическое описание их ограничивается определенным классом за- висимостей, которые должны удовлетворять этим свойствам.

При решении многих задач удобнее оперировать не исходной ав- токорреляционной функцией, сильно искаженной погрешностями, особенно при больших значениях τ, а ее аппроксимацией, которая сводится к выбору одной из типичных аппроксимирующих формул и оценке ее параметров по экспериментальным данным. Свойства, ко- торыми должна обладать автокорреляционная функция, в особенно- сти свойство неотрицательной определенности, сильно ограничива- ют выбор для нее аппроксимирующих формул. Целесообразно рас- смотреть некоторые часто используемые аппроксимации автокорре- ляционных функций действительных случайных процессов.

Корреляционная функция треугольной формы, показанная на рис. 3.1, является типичным примером автокорреляционной функции случайной двоичной последовательности, моменты переключений в которой равномерно распределяются на временнóй оси. Сигналы та- кого типа существуют во многих цифровых системах связи и управ- ления, где непрерывные сообщения периодически дискретизируют-

23

ся, квантуются и полученные выборки преобразуются в двоичные числа. Вид корреляционной функции, представленной на рис. 3.1, предполагает наличие нулевого математического ожидания случай- ного процесса, но это условие не всегда выполняется. Если, напри- мер, случайный сигнал может принимать значения A и 0, то матема-

тическое ожидание такого процесса равно A , а средний квадрат –

2

A2 , автокорреляционная функция подобного сигнала представлена

2

на рис. 3.2.

RX(τ)

A2/2

A2/4

Рис. 3.2. Автокорреляционная функция нецентрированного бинарного случайного процесса

Другим распространенным видом двоичного сигнала является сиг- нал, переключения которого происходят в случайные моменты времени. Если эти моменты равновозможны, то плотность распределения веро- ятностей, связанная с длительностью каждого интервала, является экс- поненциальной функцией. Результирующая автокорреляционная функ- ция представляет собой экспоненциальную функцию (рис. 3.3). Такая автокорреляционная функция представляется обычно выражением

RX (τ) = A2e−α|τ| ,

где α – среднее число переключений в 1 с.

24

RX(τ)

A2

Рис. 3.3. Автокорреляционная функция бинарного сигнала со случайным распределением моментов переключения

Корреляционные функции недвоичных сигналов также могут иметь экспоненциальный вид. Например, такой функцией обладает широкополосный шумовой сигнал (имеющий практически любую плотность распределения вероятностей), полученный на выходе фильтра низких частот.

Как треугольная, так и экспоненциальная автокорреляционные функции имеют общее свойство – это разрыв производной в нуле, т.е. они являются недифференцируемыми, а у недифференцируемого случайного процесса дисперсия производной бесконечна. Например, если напряжение, изменяющееся по случайному закону и имеющее экспоненциальную автокорреляционную функцию, подать на кон- денсатор, то ток заряда будет пропорционален производной напря- жения. Дисперсия его окажется бесконечной. Поскольку это не имеет физического смысла, можно сделать вывод, что случайные процессы с идеальными треугольными или экспоненциальными автокорреля- ционными функциями в природе существовать не могут. Тем не ме- нее очень часто в практических задачах как треугольная, так и экс- поненциальная автокорреляционные функции используются в каче- стве достаточно хорошей аппроксимации реальных процессов.

Часто в качестве аппроксимирующей функции используется функция вида

25

которая недифференцируема при τ = 0, следовательно, она соответ- ствует недифференцируемому случайному процессу. В силу четно- сти достаточно получить значение R(τ) лишь при τ ≥ 0. При β = 0 функция становится монотонной:

Вид этих функций приведен на рис. 3.4. Автокорреляционная функ- ция (3.5) соответствует сигналу, появляющемуся на выходе узкополос- ного полосового фильтра (рис. 3.4, а), на вход которого поступает ши- рокополосный шум, а автокорреляционная функция (3.5) относится к сигналу на выходе идеального фильтра низких частот (рис. 3.4, б).

Рис. 3.4. Автокорреляционная функция сигнала на выходе полосового фильтра (а); идеального фильтра низких частот (б)

Измерение автокорреляционных функций. Важной практиче-

ской задачей при экспериментальном наблюдении случайных про- цессов является определение автокорреляционной функции. В общем случае она не может быть вычислена исходя из совместных плотно- стей распределения вероятностей, так как они редко бывают извест- ны. Усреднение по ансамблю также невозможно, поскольку обычно приходится иметь дело лишь с одной реализацией. При этих обстоя- тельствах единственно возможной операцией является расчет временнóй автокорреляционной функции на ограниченном интерва- ле в предположении, что случайный процесс – эргодический.

26

Предположим, что какой-то случайный процесс X(t) наблюдается в течение интервала времени от 0 до Т секунд в форме реализации напряжения или тока х(t). При этом можно ввести понятие прибли- женной (оценочной) корреляционной функции в виде

По всему ансамблю возможных реализаций х(t) эта приближенная функция является случайной. При этом время усреднения равно (Т – τ), а не Т, потому что указанная реализация (выборочная функ- ция) охватывает только часть наблюдаемых данных, включающих как х(t), так и х(t + τ).

На практике выполнить интегрирование в выражении (3.7), как правило, невозможно, поскольку математическое выражение для х(t) не известно. В связи с этим производят аппроксимацию интеграла суммой выборок из непрерывной временнóй функции в отдельные моменты времени. Таким образом, если выборки из какой-либо реа- лизации х(t) случайного процесса X(t) соответствуют моментам вре- мени 0, t, 2 t, ..., N t и если их значения х(t) равны х0, х1, ..., xN, то дискретным эквивалентом выражения (3.7) будет

Эта приближенная (оценочная) функция по всему ансамблю воз- можных выборок х0, х1, ..., xN также является случайной и обознача- ется RX(n t). Так как значение N весьма велико (порядка нескольких тысяч), лучше всего расчет по (3.8) производить с помощью ЦВМ.

Чтобы оценить качество сделанного приближения, необходимо оп- ределить математическое ожидание и дисперсию функции RX(n t), по- скольку она является случайной, а ее точное значение зависит от кон- кретной рассматриваемой реализации и соответствующего ей набора выборок. Математическое ожидание получить довольно легко, так как

27

Таким образом, математическое ожидание этого приближения совпадает с точными значениями автокорреляционной функции и является ее несмещенной оценкой.

Хотя приближенная функция, описываемая выражением (3.8), явля- ется несмещенной, она не будет непременно наилучшей (эффективной) оценкой по критерию минимума среднего квадрата ошибки и к тому же представлена она в форме, непригодной для практического применения. Вместо нее обычно используется следующее выражение:

представляющее собой смещенную оценку автокорреляционной функции, которая в явном виде присутствует в выражении (3.8), для M[RX(n t)]. Поскольку в обоих случаях формулы отличаются друг от друга только коэффициентом, математическим ожиданием этого но- вого приближения следует считать величину

Хотя такое приближение является смещенной оценкой автокорреля- ционной функции, в большинстве случаев его средний квадрат ошибки оказывается несколько меньшим, чем в случае, описанном выражением (3.8). Кроме того, уравнение (3.9) более удобно для вычислений.

Труднее определить дисперсию данного приближения; тем не менее можно показать, что эта дисперсия должна удовлетворять условию

В этом выражении подразумевается, что (2М + 1) приблизитель- ных (оценочных) значений автокорреляционной функции перекры- вают область, в которой эта функция имеет достаточно большую ам- плитуду. Если произведение (2М + 1) t мало, то дисперсия, опреде- ляемая выражением (3.10), может также быть незначительной. При известном или полученном в результате измерений математическом описании автокорреляционной функции более точная дисперсия приближенного значения имеет вид

28

где Т = N t – длительность наблюдаемой реализации (выборки).

Чтобы убедиться в значении этого результата для определения коли- чества реализаций (объема выборок), необходимых для получения за- данной точности аппроксимации, рассмотрим следующий пример. Предположим, что необходимо дать оценку корреляционной функции, показанной на рис. 3.1, при наличии четырех точек по обе стороны от центра (М = 4). Если допустимая средняя квадратическая ошибка со- ставляет не более 5 % (при этом подразумевается, что стандартное от- клонение приближенного значения автокорреляционной функции не должно превышать 5 % от математического ожидания случайной вели- чины), из уравнения (3.10) следует, что (поскольку ta = 4 t)

Решение этого уравнения относительно N дает значение N ≥ 2200. Ясно, что для получения достаточно точных оценок автокорреляци- онных функций необходимо проводить множество расчетов, исполь- зуя выборки большого объема.

3.3. Взаимная корреляционная функция

Наряду с корреляционной функцией как одной из вероятностных характеристик случайного процесса x(t) (называемой иногда авто- корреляционной функцией), в теории случайных процессов исполь- зуется также понятие взаимной корреляционной функции. Взаимная корреляционная функция Rxy(τ) характеризует взаимную связь двух случайных процессов x(t) и y(t) в разные моменты времени, отстоя- щие друг от друга на величину τ. Такая связь существует, когда два случайных процесса имеют общий источник или один случайный процесс является определенным преобразованием другого. В по- следнем случае процессы называются стационарно связанными.

Взаимная корреляционная функция стационарных случайных процессов x(t) и y(t) определяется выражением

29

В отличие от автокорреляционной функции она не является чет- ной; в то же время справедливо соотношение Rxy(τ) = Ryx(–τ). Кроме того, можно показать, что

Rxy (τ) ≤ Rx (0) Ry (0).

Если случайные процессы статистически независимы, то их вза- имная корреляционная функция тождественно равна нулю при всех τ. Однако обратное утверждение в общем случае неверно. Лишь в некоторых случаях (например, для процессов с нормальным законом распределения) при Rxy(τ) ≡ 0 можно говорить, что процессы x(t) и y(t) независимы.

Можно рассматривать корреляцию между двумя случайными ве- личинами, принадлежащими различным случайным процессам. Та- кая ситуация возникает, когда на систему действует более одного случайного сигнала или если требуется сравнить случайно изме- няющиеся напряжения или токи, действующие в различных точках системы. Если два случайных процесса X(t) и Y(t) совместно стацио- нарны в широком смысле, то для случайных величин

X1 = X(t1) и Y2 = Y(t1 + τ)

можно определить взаимную корреляционную функцию

∞∞

RXY (τ) = M[X1Y2 ] = ∫ dx1 ∫ x1 y2 f (x1, y2 )dy2 .

−∞ −∞

Важен порядок написания индексов: второй из них относится к слу- чайной величине, измеренной в момент (t1 + τ). Существует еще один вид взаимной корреляционной функции, которую можно определить для тех же двух моментов времени. Пусть Y1 = Y(t1) и X2 = X(t1 + τ). То- гда по определению

∞∞

RYX (τ) = M[X1Y2 ] = ∫ dy1 ∫ y1x2 f ( y1, x2 )dx2 .

−∞ −∞

Поскольку оба случайных процесса X(t) и Y(t) являются совместно стационарными, приведенные взаимные корреляционные функции зависят только от временнóго интервала τ. Для стационарных слу- чайных процессов, не обладающих свойством совместной стацио- нарности, указанная зависимость не наблюдается.

30