
- •Н.Н. Куцый теория информации
- •1. О понятии "информация"
- •2. Этапы обращения информации
- •3. Информационные системы
- •4. Система передачи информации: основные понятия и определения
- •5. Уровни проблем передачи информации
- •6. Теория информации
- •7. Понятия сигнала и его модели
- •8. Формы представления детерминированных сигналов
- •9. Ортогональные представления сигналов
- •10. Временная форма представления сигнала
- •11. Частотная форма представления сигнала. Спектры периодических сигналов
- •12. Распределение энергии в спектре периодического сигнала
- •13. Частотная форма представления сигнала. Спектры непериодических сигналов
- •14. Распределение энергии в спектре непериодического сигнала
- •15.Соотношения между длительностью импульсов и шириной их спектра
- •16.Спектральная плотность мощности детерминированного сигнала
- •17.Функция автокорреляции детерминированного сигнала
- •18.Случайный процесс как модель сигнала
- •19.Стационарные и эргодические процессы
- •20.Спектральное представление случайных сигналов
- •21.Частотное представление стационарных случайных процессов (дискретный спектр)
- •22.Частотное представление стационарных случайных сигналов. Непрерывные спектры
- •23.Основные свойства спектральной плотности
- •24.Преимущества цифровой формы представления сигналов
- •25.Общая постановка задачи дискретизации
- •26.Способы восстановления непрерывного сигнала
- •27.Критерии качества восстановления
- •28.Методы дискретизации посредством выборок
- •29.Равномерная дискретизация. Теорема котельникова
- •30.Теоретические и практические аспекты использования теоремы котельникова
- •31.Дискретизация по критерию наибольшего отклонения
- •32.Адаптивная дискретизация
- •33.Квантование сигнала
- •34.Квантование сигналов при наличии помех
- •35.Геометрическая форма представления сигналов
- •36.Энтропия как мера неопределенности выбора
- •37.Свойства энтропии
- •38.Условная энтропия и её свойства
- •39.Энтропия непрерывного источника информации (дифференциальная энтропия)
- •40.Свойства дифференциальной энтропии
- •41.Количество информации как мера снятой неопределенности
- •42.Эпсилон-энтропия случайной величины
- •43.Информационные характеристики источника сообщений и канала связи. Основные понятия и определения
- •44.Информационные характеристики источника дискретных сообщений
- •45.Информационные характеристики дискретных каналов связи
- •46.Информационные характеристики источника непрерывных сообщений
- •47.Информационные характеристики непрерывных каналов связи
33.Квантование сигнала
Так
как математической моделью непрерывного
сигнала является случайный процесс
,
мгновенное значение сигнала
представляет собой случайную величину.
Диапазон её изменения, называемый
непрерывной шкалой мгновенных значений
сигнала ограничен значениями
и
,
что отражает условие физической
реализуемости сигнала. Непрерывную
шкалу мгновенных значений
сигнала
разбивают на
интервалов, которые называют шагами
квантования. Границами шагов квантования
являются значения
.
Из множества мгновенных значений,
которые принадлежат
му
шагу квантования
,
только одно значение
является разрешенным (
й
уровень квантования). Любое другое из
указанного множества значений округляется
до
.
Совокупность величин
образует дискретную шкалу уровней
квантования. Если эта шкала равномерная,
т.е. разности значений
постоянна
на всём протяжении непрерывной шкалы
мгновенных значений сигнала
,
квантование называют равномерным.
Если постоянство значений
не выдерживается – квантование
неравномерное. Благодаря простоте
технической реализации равномерное
квантование получило наиболее широкое
распространение.
В
результате замены мгновенного значений
сигнала
соответствующим уровнем квантования
возникает погрешность
,
которую называют ошибкой квантования. Эта погрешность является случайной величиной. Но чаще всего интересует её максимальное значение
и
среднеквадратическое отклонение
от всего диапазона изменения мгновенных
значений сигнала. Используются также
приведенные значения этих величин
,
.
С
позиций минимизации наибольшей возможной
ошибки квантования непрерывную шкалу
мгновенных значений сигнала целесообразно
разбить на
одинаковых шагов квантования
и
уровни квантования разместить в середине
каждого шага. при этом максимальная
ошибка квантования не превышает
.
Если каждый уровень квантования выбран
равным нижней (верхней) границе шага
квантования, максимальная ошибка
квантования возрастает до величины
.
Рис.
Среднеквадратическое
отклонение ошибки квантования для
го
шага
зависит не только от шага
и расположения в нём
уровня
квантования, но и от закона распределения
мгновенных значений сигнала в пределах
этого шага
,
где
функция
плотности вероятности мгновенных
значений сигнала
.
Считая
шаги квантования малыми по сравнению
с диапазоном изменения сигнала, плотности
в пределах каждого
го
шага можно принять постоянной и равной
некоторому среднему значению, например
.
При таких предположениях минимальная
среднеквадратическая ошибка
достигается при расположении уровня
квантования в середине шага
.
Преобразовав подкоренное выражение к виду
,
отметим,
что дисперсия ошибки квантования на
м
шаге равна
равномерно распределенного на этом
шаге сигнала, умноженной на вероятность
попадания мгновенного значений сигнала
в пределы данного шага. Дисперсия полной
ошибки квантования
для всей непрерывной шкалы мгновенных
значений сигнала определяется как
математическое ожидание дисперсий
на отдельных шагах квантования:
.
При
одинаковых шагах квантования
.
Так как принимаем
,
то
.
Таким образом, при квантовании с постоянным шагом и размещением уровней квантования в середине шага (равномерное квантование) среднеквадратическая ошибка квантования как для равномерного, так и произвольного распределения мгновенных значений сигнала одинакова:
.
Шум
квантования. При квантовании сигнала
по уровню случайный процесс заменяется
ступенчатой зависимостью
.
Ошибку квантования
,
которая изменяется во времени и также
представляет собой случайный процесс,
называют шумом квантования:
.
Сохраняя
ранее введенные предположения (о малости
шага квантования и равномерности
распределения в нём мгновенных значений
сигнала) и считая случайные процессы
и
эргодическими, среднеквадратическую
ошибку равномерного квантования
можно определить по реализации
(рис. ). В пределах каждого квантования
зависимость
заменяется прямой
,
где
переменный
угол наклона прямой. При размещении
уровней квантования в середине каждого
шага математическое ожидание ошибки
равно нулю, а её среднеквадратическое
значение определяется выражением
.
Так
как
,
то
,
что соответствует ранее полученному
значению (см. выражение (33.7)).
При заданной допустимой среднеквадратической ошибке квантовании и отсутствии помех число уровней квантования находим из соотношения
.
Однако
при неравномерном законе распределение
мгновенных значений сигнала квантование
с постоянным шагом не является оптимальным
по критерию минимума среднеквадратической
ошибки
.
Квантуя участки с менее вероятными
значениями сигнала с большим шагом,
указанное значение среднеквадратической
ошибки можно уменьшить.