Книги по Информационным технологиям / Теория информации СГАУ (дифференциальная энтропия)

отвечают так называемые ортогональные на отрезке t1,t2 базисные функции,

удовлетворяющие условию

Такую систему функций называют ортонормированной.

Предположим, что базисные функции удовлетворяют условию (1.4). Ум-

ножим обе части (1.1) на j t и проинтегрируем на интервале t1,t2 :

u t j t dt ck k t j t dt ck k t j t dt.

В силу (1.3) все интегралы в правой части последнего равенства при j k рав-

ны нулю. Поэтому с учетом (1.4) имеем

числяться независимо друг от друга, а сложность их вычисления определяется лишь видом аналитического выражения базисной функции. Указанное, связан-

ное с условиями (1.3), (1.4), свойство является причиной широкого использова-

ния ортогональных функций при изучении свойств сигналов. В частности, при-

меняются следующие системы ортогональных функций: система тригономет-

рических функций; система функций Хаара, полиномы Лежандра, полиномы Лаггерра, полиномы Чебышева, полиномы Эрмита и др.

1.3Временная форма представления сигналов

Произвольную функцию (непрерывный сигнал) u t можно представить в виде совокупности примыкающих друг к другу импульсов бесконечно малой

11

длительности с амплитудой, равной значению сигнала в текущий момент вре-

мени:

Нетрудно заметить, что представление (1.6) является частным случаем обоб-

щенного спектрального представления (1.2) с базисной функцией t .

С помощью дельта-функции можно построить дискретную так называе-

мую решетчатую функцию:

k

Функция ug t равна u k t в точках t k t, где t- период следования им-

пульсов, и нулю в остальных точках. Пределы суммирования в (1.7) также как в

(1.1) могут быть установлены конечными, исходя из условий физической реа-

лизуемости.

1.4Частотное представление периодических сигналов

Рассмотрим представление детерминированных сигналов с применением в качестве базисных функций t еpt , при p j . Такое представление на-

зывается преобразованием Фурье. В силу формулы Эйлера

2 преобразование Фурье дает возможность представить сложный сигнал в виде суммы гармоник [13].

Предположим, что функция u t , описывающая детерминированную реа-

лизацию сигнала на интервале t1,t2 , удовлетворяет условиям Дирихле (непре-

рывна или имеет конечное число точек разрыва первого рода, а также конечное число экстремумов) и повторяется с периодом T t2 t1 при t ( , ). Ис-

12

Объединяя в (1.8) комплексно-сопряженные составляющие можно полу-

чить ряд Фурье в тригонометрической форме:

A0 A k 1 cos k 1t k 1 . 2 k 1

Спектры амплитуд – A k 1 и фаз – k 1 могут быть представлены спектральными диаграммами в виде совокупности линий, каждая из которых соответствует определенной частоте (одному из слагаемых). Поэтому эти спек-

тры называют линейчатыми. Сигналы, линейчатые спектры которых включают гармоники некратных частот, называются почти периодическими.

1.5Распределение энергии в спектре периодического сигнала

В соответствии с (1.14) энергию, выделяемую периодическим сигналом за время, равное периоду T , можно представить в виде

С учетом этого окончательно получаем

14

Из (1.15) следует, что средняя за период энергия сложного периодического сиг-

нала равна сумме средних энергий, выделяемых каждой гармоникой.

1.6Частотное представление непериодических сигналов

Предположим, что соответствующая реальному непериодическому сигна-

лу функция u t удовлетворяет условиям Дирихле и абсолютно интегрируема:

u t dt . Тогда спектральное представление непериодического сигнала

u t можно строить путем увеличения периода периодического сигнала до бес-

конечности. Для этого поступим следующим образом.

Подставим выражение (1.9) для комплексной амплитуды A jk 1 перио-

дического сигнала в (1.8). С учетом того, что T 2 / 1 имеем

Далее осуществим предельный переход при T . При этом сумма переходит в интеграл, 1 d , k 1 . В результате получаем:

Введя в последнем равенстве для интеграла в квадратных скобках обозначение

S j , запишем пару преобразований Фурье:

плотностью или спектральной характеристикой. Также как в случае периодиче-

15

ского сигнала, для непериодического сигнала имеют место следующие пред-

ставления спектральной характеристики:

а) показательная форма:

При этом

S S j A 2 B 2 , arctg B A . (1.21)

Подставляя S j из (1.18) в (1.16) имеем

Второй интеграл от нечетной функции равен нулю, а первый (в силу чет-

ности подынтегральной функции) можно записать только для положительных частот. Таким образом, получаем тригонометрическую форму ряда Фурье:

1

u t S cos t d , (1.22)

0

которая дает возможность ясного физического толкования.

В заключение рассмотрим еще одно интересное свойство. Для функции

Сравнивая правые части (1.10) и (1.23) нетрудно заметить, что имеет место ра-

венство A j 2 S j , т.е. по S j одиночного импульса можно постро-

T

ить линейчатый спектр их периодической последовательности.

1.7Распределение энергии в спектре непериодического сигнала

Выражение для величины, характеризующей энергию, выделяемую сигна-

лом, с учетом (1.16) можно записать в виде:

Перепишем последнее равенство, изменив порядок интегрирования:

Сравнивая правые части (1.17) и (1.24) нетрудно заметить, что выражение в квадратных скобках в (1.24) не что иное как S j , следовательно

В соответствии с этим равенством энергию, выделяемую непериодическим сиг-

налом за время его существования, можно определить, интегрируя квадрат мо-

дуля спектральной характеристики в интервале частот.

17

1.8Соотношение между длительностью сигналов и шириной их спектров

Предположим, что сигнал u t определенной продолжительности имеет

спектральную характеристику S j . Найдем соответствующую характери-

стику S j для сигнала u t , длительность которого изменена в раз:

где t .

Из (1.26) видно, что спектр укороченного (удлиненного) в раз сигнала в

раз шире (уже), при этом коэффициент 1/ изменяет только амплитуды гар-

моник и на ширину спектра не влияет. Указанное свойство связано с тем, что переменные t и входят в показатель степени экспоненциальной функции прямого и обратного преобразования Фурье в виде произведения. Из этого сле-

дует, что длительность сигнала и ширина его спектра не могут быть одновре-

менно ограничены конечными интервалами. В частности, имеет место соотно-

шение:

t f Const,

где t – длительность импульса, f – ширина спектра.

18

Лекция 2

Модели случайных сигналов

2.1Случайный процесс как модель сигнала

Более адекватной моделью сигнала при изучении вопросов передачи и преобразования информации является случайный процесс, для которого рас-

сматривавшиеся выше детерминированные функции рассматриваются как от-

дельные реализации.

Случайным процессом называют случайную функцию времени U t , зна-

чения которой в каждый момент времени являются случайной величиной. Слу-

чайные процессы, могут быть непрерывными и дискретными как по времени,

так и по множеству состояний, т.е. по аналогии с классификацией детермини-

рованных сигналов возможен один из четырех типов случайного процесса:

1) непрерывный случайный процесс (множество состояний – континуум, а из-

менения состояний возможны в любой момент времени); 2) непрерывная случайная последовательность (изменения состояний допуска-

ются лишь в конечном или счетном числе моментов времени);

3)дискретный случайный процесс (изменения состояний могут происходить в произвольные моменты времени, но множество состояний конечно);

4)дискретная случайная последовательность (состояния из конечного множе-

ства могут изменяться в конечном или счетном числе моментов времени).

Для описания свойств случайного процесса может использоваться N -

мерная плотность вероятности pN U1,U2,...,UN ;t1,t2,...,tN системы N случай-

ных величин U1 U t1 ,U2 U t2 ,...,UN U tN , взятых в моменты времени t1, t2,...,tN . В частности, одномерная плотность вероятности p1 U;t характери-

зует распределение случайной величины в произвольный момент времени t, а

двумерная плотность p2 U1,U2;t1,t2 дает вероятность совместной реализации значений случайных величин в произвольные моменты времени t1,t2 . Имеет место соотношение

19

Оперирование с плотностью вероятности, в особенности, высокого порядка чрезвычайно трудоемко. Поэтому для характеристики случайного процесса обычно используют моментные функции первого и второго порядка: математи-

ческое ожидание, дисперсию и корреляционную функцию.

Математическим ожиданием случайного процесса U t называют неслу-

чайную функцию времени mu t , значение которой в каждый момент времени равно математическому ожиданию случайной величины в соответствующем сечении случайного процесса:

Дисперсией случайного процесса U t называют неслучайную функцию

времени Du t , значение которой в каждый момент времени равно дисперсии случайной величины в соответствующем сечении случайного процесса:

где U t U t mu t – центрированная случайная величина в сечении t.

Корреляционной (автокорреляционной) функцией случайного процесса

U t называют неслучайную функцию Ru t1,t2 двух аргументов, которая для каждой пары произвольно выбранных значений t1,t2 равна корреляционному моменту соответствующих сечений случайного процесса:

20