- •Н.Н. Куцый теория информации
- •1. О понятии "информация"
- •2. Этапы обращения информации
- •3. Информационные системы
- •4. Система передачи информации: основные понятия и определения
- •5. Уровни проблем передачи информации
- •6. Теория информации
- •7. Понятия сигнала и его модели
- •8. Формы представления детерминированных сигналов
- •9. Ортогональные представления сигналов
- •10. Временная форма представления сигнала
- •11. Частотная форма представления сигнала. Спектры периодических сигналов
- •12. Распределение энергии в спектре периодического сигнала
- •13. Частотная форма представления сигнала. Спектры непериодических сигналов
- •14. Распределение энергии в спектре непериодического сигнала
- •15.Соотношения между длительностью импульсов и шириной их спектра
- •16.Спектральная плотность мощности детерминированного сигнала
- •17.Функция автокорреляции детерминированного сигнала
- •18.Случайный процесс как модель сигнала
- •19.Стационарные и эргодические процессы
- •20.Спектральное представление случайных сигналов
- •21.Частотное представление стационарных случайных процессов (дискретный спектр)
- •22.Частотное представление стационарных случайных сигналов. Непрерывные спектры
- •23.Основные свойства спектральной плотности
- •24.Преимущества цифровой формы представления сигналов
- •25.Общая постановка задачи дискретизации
- •26.Способы восстановления непрерывного сигнала
- •27.Критерии качества восстановления
- •28.Методы дискретизации посредством выборок
- •29.Равномерная дискретизация. Теорема котельникова
- •30.Теоретические и практические аспекты использования теоремы котельникова
- •31.Дискретизация по критерию наибольшего отклонения
- •32.Адаптивная дискретизация
- •33.Квантование сигнала
- •34.Квантование сигналов при наличии помех
- •35.Геометрическая форма представления сигналов
- •36.Энтропия как мера неопределенности выбора
- •37.Свойства энтропии
- •38.Условная энтропия и её свойства
- •39.Энтропия непрерывного источника информации (дифференциальная энтропия)
- •40.Свойства дифференциальной энтропии
- •41.Количество информации как мера снятой неопределенности
- •42.Эпсилон-энтропия случайной величины
- •43.Информационные характеристики источника сообщений и канала связи. Основные понятия и определения
- •44.Информационные характеристики источника дискретных сообщений
- •45.Информационные характеристики дискретных каналов связи
- •46.Информационные характеристики источника непрерывных сообщений
- •47.Информационные характеристики непрерывных каналов связи
9. Ортогональные представления сигналов
Вычисление спектральных составляющих сигнала существенно облегчается при выборе в качестве базиса системы ортогональных функций.
Систему функций называют ортогональной на отрезке если для всех за исключением случая удовлетворяется условие
Эта система функций будет ортонормированной (ортонормальной), если для всех справедливо соотношение
Если соотношение не выполняется и
то систему можно нормировать, умножая функции на
Определим коэффициенты при представлении сигнала совокупностью ортонормированных функций в виде
предполагая, что интервал лежит внутри отрезка
Правую и левую части уравнения (9.3) умножаем на и интегрируем на
В силу справедливости условия (9.1) все интегралы в правой части выражения (9.4) при будут равны 0. При в соответствии с (9.2) интеграл равен 1. Следовательно,
В теоретических исследованиях обычно используют полные системы ортогональных функций, которые обеспечивают сколь угодно малую разность непрерывной функции и представляющего её ряда при неограниченном увеличении числа его членов. Разность оценивают по критерию
При этом говорят о среднеквадратической сходимости ряда к функции
Широко известной ортонормированной системой является совокупность тригонометрических функций:
Она ортонормированна на отрезке Так как соответствующее разложение исторически появилось первым и было названо рядом Фурье, то соотношение (9.3) часто именуют обобщенным рядом Фурье, а значение обобщенными коэффициентами Фурье.
На рис. 9.1 приведена система функций Хаара, ортонормированность которых на интервале достаточно очевидна. Известны представления сигналов по системам ортогональных базисных многочленов Котельникова, Чебышева, Лаггера, Лежандра и др.
Обобщенная спектральная теория облегчает решение проблемы обоснованного выбора базисных функций для конкретных задач анализа процессов, происходящих при формировании и прохождении сигналов через те или иные звенья информационной системы.
10. Временная форма представления сигнала
Временным представлением сигнала называют такое разложение сигнала при котором в качестве базисных функций используются единичные импульсные функции - дельта-функции. Математическое описание такой функции задается соотношениями
т.е. площадь дельта-функции равна единице.
Для более общего случая, когда дельта-функция отличается от нуля в момент времени
.
Такая математическая модель соответствует абстрактному импульсу бесконечно малой длительности и безграничной величины. Однако, учитывая (10.2), с помощью дельта-функции можно выразить значение реального сигнала в конкретный момент времени
Равенство (10.3) справедливо для любого текущего момента времени Заменив на и приняв в качестве переменной интегрирования , получим
Таким образом, функция выражена в виде совокупности примыкающих друг к другу импульсов бесконечно малой длительности. Ортогональность совокупности таких импульсов очевидна, так как они не перекрываются во времени.
Разложение (10.4) имеет большое значение в теории линейных систем, поскольку, установив реакцию на элементарный входной сигнал в виде дельта-функции (импульсную переходную функцию), можно определить сигнал как суперпозицию реакций на бесконечную последовательность смещенных дельта-импульсов с "площадями", равными соответствующих значениям входного сигнала.
С помощью дельта-функций можно также представить периодическую последовательность идеализированных импульсов с постоянными или меняющимися уровнями. Обозначим через функцию, равную в точках и нулю в остальных точках. Запишем
где период следования импульсов.
Поскольку умножение на дельта-функцию в момент времени соответствует получению отсчета этой функции, может представлять результат равномерного квантования по времени функции .