- •Н.Н. Куцый теория информации
- •1. О понятии "информация"
- •2. Этапы обращения информации
- •3. Информационные системы
- •4. Система передачи информации: основные понятия и определения
- •5. Уровни проблем передачи информации
- •6. Теория информации
- •7. Понятия сигнала и его модели
- •8. Формы представления детерминированных сигналов
- •9. Ортогональные представления сигналов
- •10. Временная форма представления сигнала
- •11. Частотная форма представления сигнала. Спектры периодических сигналов
- •12. Распределение энергии в спектре периодического сигнала
- •13. Частотная форма представления сигнала. Спектры непериодических сигналов
- •14. Распределение энергии в спектре непериодического сигнала
- •15.Соотношения между длительностью импульсов и шириной их спектра
- •16.Спектральная плотность мощности детерминированного сигнала
- •17.Функция автокорреляции детерминированного сигнала
- •18.Случайный процесс как модель сигнала
- •19.Стационарные и эргодические процессы
- •20.Спектральное представление случайных сигналов
- •21.Частотное представление стационарных случайных процессов (дискретный спектр)
- •22.Частотное представление стационарных случайных сигналов. Непрерывные спектры
- •23.Основные свойства спектральной плотности
- •24.Преимущества цифровой формы представления сигналов
- •25.Общая постановка задачи дискретизации
- •26.Способы восстановления непрерывного сигнала
- •27.Критерии качества восстановления
- •28.Методы дискретизации посредством выборок
- •29.Равномерная дискретизация. Теорема котельникова
- •30.Теоретические и практические аспекты использования теоремы котельникова
- •31.Дискретизация по критерию наибольшего отклонения
- •32.Адаптивная дискретизация
- •33.Квантование сигнала
- •34.Квантование сигналов при наличии помех
- •35.Геометрическая форма представления сигналов
- •36.Энтропия как мера неопределенности выбора
- •37.Свойства энтропии
- •38.Условная энтропия и её свойства
- •39.Энтропия непрерывного источника информации (дифференциальная энтропия)
- •40.Свойства дифференциальной энтропии
- •41.Количество информации как мера снятой неопределенности
- •42.Эпсилон-энтропия случайной величины
- •43.Информационные характеристики источника сообщений и канала связи. Основные понятия и определения
- •44.Информационные характеристики источника дискретных сообщений
- •45.Информационные характеристики дискретных каналов связи
- •46.Информационные характеристики источника непрерывных сообщений
- •47.Информационные характеристики непрерывных каналов связи
29.Равномерная дискретизация. Теорема котельникова
Правило выбора предельного шага при равномерной дискретизации с использованием модели сигнала с ограниченным спектром в наиболее чёткой форме сформулировано и доказана академиком В.А. Котельниковым в виде теоремы, получившей в отечественной литературе его имя.
Теорема Котельникова устанавливает принципиальную возможность полного восстановления детерминированной функции с ограниченным спектром по её отсчётам и указывает предельное значение интервала времени между отсчётами, при которой такое восстановление ещё возможно.
Теорема. Функции , допускающая преобразование Фурье и имеющая непрерывный спектр, ограниченный полосой частот от до , полностью определяется дискретным рядом своих мгновенных значений, отсчитанных через интервал времени
.
Физическая основа теоремы выявляется при рассмотрении связи между формой функции и шириной спектра. Только в том случае, когда спектр функции безграничен, её значений в сколь угодно близкие моменты времени могут изменяться произвольно (корреляционная связь между ними отсутствуют). Сокращение высокочастотной части спектра до граничной частоты равнозначно устранению из временной функции выбросов, которые могли быть сформированы этими высокочастотными составляющими. Сокращение высокочастотной части спектра до граничной частоты равнозначно устранению из временнóй функции выбросов, которые могли быть сформированы этими высокочастотными составляющими (рис. ).
При меньших граничных частотах и имеем более сглаженные функции времени.
Рис.
Рис.
Рис.
Рис.
Рис.
Поскольку значений этих функций в моменты времени и в пределах некоторого интервала не могут изменяться существенно, можно ограничится значениями функции, взятыми через интервалы (отсчётами).
Доказательство. Пусть функции , которая описывает передаваемый сигнал, соответствует спектральная характеристика , причём
при , где наибольшая частота спектра .
Используя обратное преобразование Фурье с учётом соотношения (29.2), запишем
Для моментов времени
где -любое целое число,
функция принимает значения
Функцию на интервале существования от до можно разложить в ряд Фурье по частотам, периодически продолжая её с периодом (рис. )
где
Рис.
Сравнивая (29.4) и (29.5), найдем
.
Выразим теперь через отсчёты исходной функции
.
Поскольку суммирование ведётся как по положительным, так и по отрицательным числам , знак перед можно изменить на противоположный:
.
Подставив это значение в (29.3), определим значения исходной функции в любой момент времени
.
Учитывая сходимость ряда Фурье, изменим порядок суммирования и интегрирования
.
В полученном выражении вычислим интеграл
.
Подставив результат в формулу (29.7), окончательно получим
.
Итак, функция выражена через её дискретные значения, взятые в моменты времени .
Так как при любых целых и справедливы соотношения
,
то
.
Благодаря этому свойству значения функции в моменты времени представляют собой нечто иное, как её отсчёты.
Представление функции в виде ряда (29.8) (ряда Котельникова) является частным случаем разложения
, .
Роль коэффициентов выполняют отсчёты функции . Базисными являются функции вида
.
Они называются функциями отсчётов. Графики этих функций при и приведены на рис.
Каждая функция имеет неограниченную протяженность во времени и достигает своего наибольшего значения, равного единице, в момент времени
,
относительно этого момента времени она симметрична.
,
где , функция обращается в нуль. Все функции ортогональны между собой на бесконечно большом промежутке времени, что легко проверятся путем вычисления интеграла
Каждую функцию отсчёта можно рассматривать как реакцию (отклик) идеального фильтра нижних частот с ограниченной частотой на дельта-функцию, которая приходит в момент времени и которая имеет площадь равной
Теорема Котельникова распространяется на непрерывный в среднеквадратическом смысле стационарный случайный процесс с ограниченным энергетическим спектром, т.е. , при
Такой представляется суммой квазидетерминированных процессов, где роль ортогональных детерминированных функций выполняют функции отсчёта, а случайных коэффициентов - величины выборок:
,
где
.
Таким образом, при указанных ограничениях случайный процесс полностью определяется счётным множеством случайных величин – координат процесса.