Теория Информации / 03 Математические модели сигналов и помех

11

Поскольку спектральная характеристика – комплексная величина, то ее можно представить в виде

где А(ω) и В(ω) – соответственно действительная и мнимая части спектральной плотности; S(ω) и ψ(ω) – амплитудно-частотная (АЧХ) и фазочастотная (ФЧХ) характеристики спектральной плотности.

Непосредственно из формулы (3.16) вытекают следующие выражения для А(ω) и В(ω):

Как и в случае ряда Фурье, модуль спектральной плотности есть функция четная, а фаза – нечетная относительно частоты ω.

Итак, структура спектра непериодического сигнала полностью определяется функциями частоты S(ω) (спектром амплитуд) и ϕ(ω) (спектром фаз).

3.3. Случайный процесс как модель реального сигнала

Рассмотренные математические модели детерминированных сигналов являлись известными функциями времени. Их использование позволяет успешно решать задачи, связанные с определением реакций конкретных систем на заданные входные сигналы. Случайные составляющие, всегда имеющие место в реальном входном сигнале, считают при этом пренебрежимо малыми и не принимают во внимание.

Однако единственная точно определенная во времени функция не может служить математической моделью сигнала при передаче и преобразовании информации. Поскольку получение информации связано с устранением априорной неопределенности исходных состояний, однозначная функция времени только тогда будет нести информацию, когда она с определенной вероятностью выбрана из множества возможных функций. Поэтому в качестве моделей сигнала используется случайный процесс. Каждая выбранная детерминированная функция рассматривается как реализация этого случайного процесса.

Необходимость применения статистических методов исследования

12

диктуется и тем, что в большинстве практически важных случаев пренебрежение воздействием помехи в процессах передачи и преобразования информации недопустимо. Считается, что воздействие помехи на полезный сигнал проявляется в непредсказуемых искажениях его формы. Математическая модель помехи представляется также в виде случайного процесса, характеризующегося параметрами, определенными на основе экспериментального исследования. Вероятностные свойства помехи, как правило, отличны от свойств полезного сигнала, что и лежит в основе методов их разделения.

Учитывая, что все фундаментальные выводы теории информации базируются на указанном статистическом подходе при описании сигналов (и помех), уточним основные характеристики случайного процесса как модели сигнала.

Под случайным (стохастическим) процессом подразумевают такую случайную функцию времени U(t) , значения которой в каждый момент времени случайны. Конкретный вид случайного процесса, зарегистрированный в определенном опыте, называют реализацией случайного процесса. Точно предсказать, какой будет реализация в очередном опыте, принципиально невозможно. Могут быть определены лишь статистические данные, характеризующие все множество возможных реализаций, называемое ансамблем. Ценность таких моделей сигналов в том, что появляется возможность судить о поведении информационной системы не по отношению к конкретной реализации, а по отношению ко всему ансамблю возможных реализаций.

Основными признаками, по которым классифицируются случайные процессы, являются: пространство состояний, временной параметр и статистические зависимости между случайными величинами U(ti ) в разные моменты времени ti .

Пространством состояний называют множество возможных значений случайной величины U(ti ) . Случайный процесс, у которого множество состояний составляет континуум, а изменения состояний возможны в любые моменты времени, называют непрерывным случайным процессом. Если же изменения состояний допускаются лишь в конечном или счетном числе моментов времени, то говорят о непрерывной случайной последовательности.

Случайный процесс с конечным множеством состояний, которые могут изменяться в произвольные моменты времени, называют дискретным случайным процессом. Если же изменения состояний возможны только в конечном или счетном числе моментов времени, то говорят о дискретных случайных последовательностях.

Так как в современных информационных системах предпочтение отдается цифровым методам передачи и преобразования информации, то непрерывные сигналы с датчиков, как правило, преобразуются в дискретные, описываемые дискретными случайными последовательностями. Вопросы

13

такого преобразования рассмотрены в гл. 4 Среди случайных процессов с дискретным множеством состояний нас

будут интересовать такие, у которых статистические зависимости распространяются на ограниченное число k следующих друг за другом значений. Они называются обобщенными марковскими процессами к-го порядка.

В ряде практически важных задач случайный процесс наряду с вероятностным описанием можно описать совокупностью неслучайных числовых характеристик, постоянных или меняющихся во времени. От этих характеристик требуется, чтобы в условиях конкретно поставленной задачи они отражали самое существенное случайного процесса. Вероятностными характеристиками совокупности большого числа реализаций (ансамбля реализаций) являются законы распределения, которые могут быть получены теоретически или на основе экспериментальных данных.

Законы распределения являются достаточно полными характеристиками случайного процесса. Однако они сложны и требуют для своего определения обработки большого экспериментального материала. Кроме того, такое подробное описание процесса не всегда бывает нужным. Для решения многих практических задач достаточно знать более простые (хотя и менее полные) характеристики случайного процесса. Такими характеристиками являются средние значения и функция корреляции случайного процесса.

Имеется несколько различных подходов к тому, как вводить вероятностную меру на множестве реализаций. Для инженерных приложений оказывается удобным определение случайного процесса как такой функции времени x(t), значение которой в каждый данный момент является случайной величиной. Случайная величина полностью характеризуется распределением вероятностей, например плотностью P1(x1|t1);однако, чтобы охарактеризовать случайный процесс, нужно описать, связаны ли (и если да, то как) значения реализации, разделенные некоторыми интервалами времени. Так как связь только двух таких значений, описываемая распределением второго порядка Р2(х1, x2|t1, t2), может неполно характеризовать процесс в целом, вводят распределения третьего, четвертого, ..., n-го порядков: Рп (х1, ..., хп | t1, .... tn). В конкретных задачах обычно ясно, до какого порядка следует доходить в описании процесса.

В ряде практически важных задач случайный процесс наряду с вероятностным описанием можно описать совокупностью неслучайных числовых характеристик, постоянных или меняющихся во времени. От этих характеристик требуется, чтобы в условиях конкретно поставленной задачи они отражали самое существенное случайного процесса.

Вероятностные характеристики случайного процесса. В соответствии с определением случайный процесс может быть описан системой N обычно зависимых случайных величин U1 = U(t1 ) , ..., Ui = U(ti ), ..., UN = U(tN ) ,

14

взятых в различные моменты времени t1 ...ti ...tN . При неограниченном увеличении числа N такая система эквивалентна рассматриваемому случайному процессу U(t) . Исчерпывающей характеристикой указанной системы является N-мерная плотность вероятности pN (U1,...,Ui ,...,UN ;t1,...,tN ) . Она позволяет вычислить вероятность PN реализации, значения которой в

принимаемое случайной величиной Ui .

Если ui выбраны достаточно малыми, то справедливо соотношение

PN ≈ pN (u1,...,ui ,...,uN ;t1 ,...,ti ,...,tN ) u1 ,..., ui ,... uN

Получение N-мерной плотности вероятности на основе эксперимента предполагает статистическую обработку реализаций, полученных одновременно от большого числа идентичных источников данного случайного процесса. При больших N это является чрезвычайно трудоемким и дорогостоящим делом, а последующее использование результатов наталкивается на существенные математические трудности.

На практике в таком подробном описании нет необходимости. Обычно ограничиваются одноили двумерной плотностью вероятности.

Одномерная плотность вероятности p1 (U1;t1 ) случайного процесса U(t) характеризует распределение одной случайной величины U1 , взятой в произвольный момент времени t1 . В ней не находит отражения зависимость случайных величин в различные моменты времени.

Двумерная плотность вероятности p2 = p2 (U1,U2 ;t1,t2 ) позволяет определить вероятность совместной реализации любых двух значений случайных величин U1 и U2 в произвольные моменты времени t1 и t2 и, следовательно, оценить динамику развития процесса. Одномерную плотность вероятности случайного процесса U(t) можно получить из двумерной плотности, воспользовавшись соотношением

−∞

Использование плотности вероятности даже низших порядков в практических приложениях часто приводит к неоправданным усложнениям. В большинстве случаев оказывается достаточно знания простейших характеристик случайного процесса, аналогичных числовым характеристикам случайных величин. Наиболее распространенными из них являются моментные функции первых двух порядков: математическое ожидание и дисперсия, а также корреляционная функция.

Математическим ожиданием случайного процесса U(t) называют неслучайную функцию времени mu (t1 ) , которая при любом аргументе t1 равна среднему значению случайной величины по всему множеству возможных реализаций:

15

ожидания и дисперсии , однако резко различаться по быстроте изменений своих значений во времени.

Для оценки степени статистической зависимости мгновенных значений процесса U(t) в произвольные моменты времени t1 и t2 используется неслучайная функция аргументов Ru (t1t2 ), называемая автокорреляционной

Для сравнения различных случайных процессов вместо корреляционной функции удобно пользоваться нормированной функцией автокорреляции:

Следовательно, дисперсию случайного процесса можно рассматривать как частное значение автокорреляционной функции.

Аналогично устанавливается мера связи между двумя случайными процессами U(t) и V(t). Она называется функцией взаимной корреляции:

16

3.4. Стационарные и эргодические случайные процессы

Случайные процессы различаются по степени однородности протекания их во времени. В общем случае процесс может иметь определенную тенденцию развития и характеристики, зависящие от начала отсчета времени. Такие случайные процессы называются нестационарными.

Для описания сигнала математическая модель в виде нестационарного случайного процесса подходит наилучшим образом, но неконструктивна в силу своей чрезмерной сложности.

Поэтому очень часто вводят предположение о стационарности случайного процесса, что позволяет существенно упростить математический аппарат исследования. Случайный процесс называют стационарным в узком смысле, если выражения для плотностей вероятности не зависят от начала отсчета времени, т. е. справедливо соотношение

где Uiτ — случайная величина, отражающая значение процесса в момент времени t = ti +τ (τ — произвольное число).

Иначе говоря, стационарность процесса предполагает его существование и статистическую однородность во всем диапазоне времени от − ∞ до ∞ .

Такое предположение противоречит физическим свойствам реальных сигналов, в частности тому, что всякий реальный сигнал существует лишь в течение конечного отрезка времени. Однако аналогично установившимся детерминированным процессам случайные процессы, протекающие в установившемся режиме системы при неизменных внешних условиях на определенных отрезках времени, с известным приближением можно рассматривать как стационарные.

При решении многих технических задач идут на дальнейшее упрощение модели, рассматривая случайный процесс стационарным в широком смысле. Процесс U(t) принято называть стационарным в широком смысле, если выполняется условие постоянства математического ожидания и дисперсии, а корреляционная функция не зависит от начала отсчета времени

Так как условие постоянства дисперсии является частным случаем требования к корреляционной функции при τ = 0 :

Du (t1 ) = Ru (t1,t1 ) = Ru (0) = const ,

то выполнения соотношений (3.38) и (3.40) достаточно, чтобы рассматривать

18

т.е. плотность распределения первого порядка выражается формулой

Нормальный (гауссовский) закон распределения случайных величин чаще других встречается в природе. Нормальный процесс особенно характерен для помех в каналах связи. Он очень удобен для анализа. Поэтому случайные процессы, распределение которых не слишком отличается от нормального, часто заменяют гауссовским процессом.

В данном случае рассматривается стационарный и эргодический гауссовский процесс. Поэтому под тх и σх можно подразумевать соответственно постоянную составляющую и среднюю мощность флуктуационной составляющей одной (достаточно длительной) реализации случайного процесса.

Графики плотности вероятности при нормальном законе для некоторых значений σх изображены на Рис. 3.4. Функция р(х) симметрична относительно среднего значения. Чем больше σх, тем меньше максимум, а кривая становится более пологой (площадь под кривой р(х) равна единице при любых значениях σх).

p

Рис. 3.4. Одномерная плотность вероятности нормального распределения

Широкое распространение нормального закона распределения в природе объясняется тем, что при суммировании достаточно большого числа независимых или слабо зависимых случайных величин распределение суммы близко к нормальному при любом распределении отдельных слагаемых.

Это положение, сформулированное в 1901 г. А.М. Ляпуновым, получило название центральной предельной теоремы.

Наглядными физическими примерами случайного процесса с нормальным законом распределения являются шумы, обусловленные тепловым движением свободных электронов в проводниках электрической цепи или дробовым эффектом в электронных приборах. Не только шумы и помехи, но и полезные сигналы, являющиеся суммой большого числа независимых случайных элементарных сигналов, например, гармонических

19

колебаний со случайной фазой или амплитудой, часто можно трактовать как гауссовские случайные процессы.

На основе функции р(х) можно найти относительное время пребывания сигнала x(t) в определенном интервале уровней, отношение максимальных значений к среднеквадратическому (пик-фактор) и ряд других важных для практики параметров случайного сигнала.

Отношение времени пребывания x(t) в заданном интервале к общему времени наблюдения можно трактовать как вероятность попадания x(t) в указанный интервал. При этом следует заметить, что данные о распределении вероятностей не дают никаких представлений о поведении функции x(t) во времени.

Белый шум используют как модель наиболее тяжелого вида помехи в каналах связи. Он является стационарным случайным процессом с постоянной спектральной плотностью Wx(ω) = W0 = const. Если в выражение для корреляционной функции

где δ(τ) – дельта-функция.

Для белого шума с бесконечным и равномерным спектром корреляционная функция равна нулю для всех значений τ, кроме τ = 0, при котором Rx(0) обращается в бесконечность. Подобный шум, имеющий игольчатую структуру с бесконечно тонкими случайными выбросами, иногда называют

дельта-коррелированным процессом. Дисперсия белого шума бесконечно велика. Если спектр Wx(ω) ограничен сверху частотой ωВ, то такой процесс называется квазибелым шумом.

Сигнал как колебание со случайными огибающей и фазой.

Понятия амплитуды и фазы, введенные первоначально для гармонических сигналов, с помощью модуляции были обобщены на сигналы, которые уже не являются гармоническими. Можно обобщить их на произвольные сигналы: пока чисто формально можно задать такие функции A(t) и ψ(t), чтобы для заданной функции s(t) было выполнено равенство

A(t) и ψ(t) можно интерпретировать как «огибающую» и «фазу» колебания с частотой ω0. Оказывается, свобода выбора в задании функций A и ψ при определенных условиях весьма ограничена. Комплекс этих условий получил название узкополосности сигнала x(t).

Очень наглядным является векторный вариант модели (3.48): A и ψ можно рассматривать как полярные координаты некоторого вектора. Тогда всякое гармоническое колебание s(t) = S cos(ω0t + φ), имеющее частоту ω0, изобразится как постоянный вектор с амплитудой S и углом φ к направлению, принятому за ось Ох.

20

3.6.Спектральное представление случайных сигналов

Вп.3.1 была показана эффективность представления детерминированных сигналов совокупностью элементарных базисных сигналов для облегчения анализа прохождения их через линейные системы. Аналогичный подход может быть использован и в случае сигналов, описываемых случайными процессами.

Рассмотрим случайный процесс U(t), имеющий математическое

O

ожидание mu (t). Соответствующий центрированный случайный процесс U(t)

(3.1)], выразить в виде конечной или бесконечной суммы ортогональных составляющих, каждая из которых представляет собой неслучайную базисную функцию ϕk (t) с коэффициентом Ck , являющимся случайной величиной.

O

В результате имеем разложение центрированного случайного процесса U(t1 ) :

k

Случайные величины Ck называются коэффициентами разложения. В общем случае они статистически зависимы и эта связь задается матрицей коэффициентов корреляции Rkl . Математические ожидания коэффициентов

разложения равны нулю. Неслучайные базисные функции принято называть

координатными функциями.

T

Предположив, что ∫mu2 (t)dt < ∞ , детерминированную функцию mu (t) в

−T

(3.49) на интервале − T < t < T также можно разложить по функциям ϕk (t) , представив в виде

Выражение случайного процесса в виде (3.50 в) позволяет существенно упростить его линейные преобразования, поскольку они сводятся к преобразованиям детерминированных функций [mu (t),∑ϕk (t)], а коэффи-

k

циенты разложения, являющиеся случайными величинами, остаются неизменными.