
- •В.Г. Ланских теория информации
- •Предисловие
- •Содержание
- •Лекция 1 введение
- •Глава 1.
- •1.1. Случайные события и их вероятности
- •Случайные величины и процессы
- •1.2.1. Дискретные случайные величины и процессы
- •1.2.2. Непрерывные случайные величины и процессы
- •1.3. Методы спектрального описания случайных процессов
- •1.3.1. Понятие спектра детерминированного процесса
- •1.3.2. Спектральное описание случайных процессов
- •1.4. Дискретизация и квантование
- •1.4.1. Дискретизация
- •1.4.2. Квантование
- •1.5. Классификация помех
- •1.6. Модели каналов
- •1.6.1. Модели дискретных каналов
- •1.6.2. Модели непрерывных каналов
- •1.7. Методы модуляции
- •1.7.1. Непрерывные методы модуляции и манипуляции
- •1.7.2. Методы импульсной модуляции
- •1.7.3. Методы цифровой модуляции
- •1.8. Согласование характеристик сигнала и канала
- •Глава 2 количественные оценки информационных объектов и процессов
- •2.1. Подходы к определению количества информации
- •Основы статистического подхода к определению количества информации
- •2.3. Энтропия объединения (ансамбля)
- •2.4. Основная теорема Шеннона для дискретного канала
- •2.5. Энтропийные характеристики непрерывных информационных
- •Глава 3 основы теории кодирования
- •3.1. Назначение и классификация кодов
- •3.2. Эффективное кодирование
- •3.3. Помехоустойчивое кодирование
- •3.3.2. Классификация избыточных двоичных кодов
- •3.3.3 Простейшие блоковые коды с обнаружением ошибок
- •3.3.4. Групповые коды с обнаружением и исправлением ошибок
- •Важнейшие классы полиномиальных кодов
- •3.3.5. Сверточные коды
- •3.3.6. Каскадные коды
- •3.3.7. Оценка эффективности применения корректирующих кодов
1.4.2. Квантование
После дискретизации реализации непрерывного процесса (сообщения) он может быть представлен совокупностью отсчетов, каждый из которых, вообще говоря, может иметь бесконечное множество значений. Реальные получатели сообщений имеют конечную разрешающую способность, т.е. весьма малый, но не нулевой интервал, внутри которого все разные значения отсчетов воспринимаются как одинаковые. Сказанное свидетельствует о целесообразности квантования. Квантование функции есть, по сути, отображение непрерывного множества ее возможных значений на конечное подмножество ее значений, каждое из которых представляется в виде одного из заранее определенных дискретных уровней, называемых уровнями квантования.
Под шагом квантования понимается разность x = xm-xm-1 значений соседних уровней квантования. Число уровней квантования n на единицу больше числа интервалов квантования n-1. Если квантуемая функция x ограничена диапазоном от xmin до xmax, то n-1= (xmax- xmin)/ x.
При квантовании обычно истинное значение функции x отождествляется или заменяется значением xi, соответствующим ближайшему уровню квантования.
Естественно, замена истинных значений на значения уровней квантования приводит к ошибке =xi-x, называемой ошибкой или шумом квантования.
Обычно
полагается, что при равномерном
квантовании, когда x=const,
шум
квантования – случайная величина с
равномерным законом распределения в
пределах шага квантования.
Максимальная ошибка квантования не
превосходит половины шага квантования
x/2.
Среднеквадратическая ошибка квантования
равна корню квадратному из дисперсии
равномерного распределения
,
т.е. в 3
раз меньше максимальной ошибки.
Таким образом, ошибка квантования уменьшается с уменьшением шага квантования x. Однако при уменьшении шага растет число уровней квантования, а, следовательно, растет и разрядность чисел, требуемая для их представления. Кроме того, при уменьшении шага квантования его величина может оказаться сопоставимой с уровнем помех. Так что к выбору величины шага квантования необходимо подходить с тех же позиций, что и к выбору шага дискретизации, т.е. выбирать оптимальный шаг квантования с точки зрения обеспечения минимума уровней квантования и заданной величины ошибки квантования.
Рассмотренное квантование производилось с постоянным шагом x=const, вследствие чего квантованная функция состояла из одинаковых по величине ступенек. Некоторые функции, подлежащие квантованию, изменяются так, что их целесообразно квантовать с различным приращением уровней, т.е. с переменным шагом квантования x=var. Так, например, если необходимо получить более точные значения в какой-либо части квантуемой функции, то в этом диапазоне шаг квантования следует уменьшить.
Таким образом, после выполнения операций дискретизации и квантования непрерывное сообщение представляется конечной последовательностью отсчетов, величина которых может принимать только вполне определенные значения, соответствующие уровням квантования. Если сопоставить каждому уровню квантования число, то непрерывное сообщение в результате выполнения операций дискретизации и квантования будет представлять собой последовательность чисел из конечного интервала, т.е. будет представлено в цифровой форме.
Контрольные
вопросы к
лекции 6
6-1. Какое преобразование называется дискретизацией?
6-2. Какое преобразование называется квантованием?
6-3. Что называется шагом дискретизации?
6-4. Как зависит точность восстановления непрерывной функции от величины шага дискретизации?
6-5. Какая дискретизация считается оптимальной?
6-6. Какая дискретизация называется равномерной?
6-7. Какая дискретизация называется адаптивной?
6-8. Чем отличаются способы воспроизведения с интерполяцией и экстраполяцией?
6-9. Чем определяется выбор системы базисных функций?
6-10. В чем состоит суть теоремы Котельникова?
6-11. Перечислите свойства функции отсчетов, образующих базис Котельникова?
6-12. Как формулируется теорема Котельникова для случайных процессов?
6-13. Как величина шага дискретизации по Котельникову соотносится с интервалом корреляции дискретизируемого случайного процесса?
6-14. Чем обусловлена погрешность дискретизации по Котельникову?
6-15. Как по заданной погрешности дискретизации можно определить допустимую величину шага дискретизации?
6-16. Что называется базой сигнала?
6-17. Что называется шагом квантования?
6-18. Что называется шумом квантования?
6-19. Какое квантование называется равномерным?
6-20. Как при равномерном квантовании распределен шум квантования в пределах шага квантования?
6-21. Какие критерии используются при выборе оптимальной величины шага квантования?
6-22. В каких случаях целесообразно использование неравномерного квантования?
Лекция 7
Классификация
помех