- •Методические указания
- •Содержание
- •Общие методологические указания к выполнению лабораторного практикума
- •1 Цели и задачи лабораторного практикума
- •2 Порядок выполнения лабораторных работ
- •Структурная схема передачи информации
- •Основные понятия и определения
- •Количество информации в дискретном сообщении. Энтропия
- •Избыточность дискретного источника сообщений
- •Параметры и характеристики кодов
- •Классификация кодов
- •Не избыточные коды
- •2.6.1 Простые равномерные коды
- •Описание программного обеспечения для выполнения лабораторных работ
- •Программа исследований
- •Содержание отчёта
- •Контрольные вопросы
- •Лабораторная работа № 2 Эффективное кодирование. Метод Шеннона-Фано
- •1 Цель работы
- •2 Основные теоретические положения
- •2.1 Эффективное кодирование
- •2.1.1 Общие положения
- •Коды Шеннона - Фано.
- •2.1.3 Коды Хаффмана.
- •Программа исследований
- •Содержание отчёта
- •Контрольные вопросы
- •1 Цель работы
- •2 Основные теоретические положения
- •2.2 Основы матричного представления кодов
- •2.3 Код с проверкой на четность
- •2.4 Код с простым повторением
- •3 Программа исследований
- •4 Содержание отчета
- •5 Контрольные вопросы
- •2.2 Коды Хэмминга
- •3 Программа исследований
- •4 Содержание отчета
- •5 Контрольные вопросы
- •2.2 Матричное представление циклических кодов
- •2.3 Выбор образующего полинома
- •2.4 Обнаружение и исправление ошибок
- •2.5 Коды Файра
- •3 Программа исследований
- •4 Содержание отчета
- •5 Конрольные вопросы
- •Лабораторная работа №6 Динамическое кодирование неравномерными кодами. Динамические коды Хаффмена
- •1 Цель работы
- •2 Основные теоретические положения
- •2.1 Динамическое кодирование Хаффмена
- •2.2 Алгоритм динамического кодирования методом fgk
- •3 Программа исследований
- •4 Содержание отчета
- •5 Контрольные вопросы
Классификация кодов
Классификация кодов производится по следующим принципам:
по условиям построения: равномерные (n = const) и неравномерные
(n = var).
по числу различных символов (m) в кодовых комбинациях: единичные
(m = 1), двоичные (m = 2), многопозиционные (m > 2).
по форме представления в канале передачи: последовательные (элементы кодовой комбинации посылают в канал последовательно во времени) и параллельные.
по возможности обнаружения и исправления ошибок: простые и корректирующие коды.
по основным законам кодообразования: комбинаторные (нечисловые) и арифметические (числовые).
по величине избыточности: неизбыточные и избыточные.
Если учесть последний аспект классификации, то его, в свою очередь, можно уточнить и углубить следующим образом.
1 Не избыточные коды
1.1 Равномерные
1.1.1 простые
1.1.2 отраженные
1.1.3 двоично-десятичные
1.2 Неравномерные
1.2.1 Шшеннона-Фано
1.2.2 Хаффмана
2 Избыточные коды
2.1 Избыточные равномерные
2.1.1 блочные простые
2.1.1.1 обнаруживающие и исправляющие одиночные ошибки (инверсный, корреляционный, Хэмминга и др.)
2.1.2 циклические коды
2.1.2.1 обнаруживающие и исправляющие одиночные ошибки (Хэмминга, БЧХ и др.)
обнаруживающие и исправляющие пакеты ошибок (Рида-Соломона, Абрамсона, компаундный и др.)
Не избыточные коды
Для не избыточных кодов характерно полное использование комбинаций. Для двоичных кодов (m = 2), т. е. используется только 0 и 1 для построения кодов.
Количество всех возможных комбинаций:
,
(13)
где
—
число сочетаний из n
элементов
по i. i
= 0,. . .,n.
Тогда количество разрядов, необходимых для передачи N сообщений:
n = log2N . (14)
Не избыточные коды используются для компрессии (сжатия) данных, но они не могут бороться с искажениями при передачи информации.
Примерами не избыточных кодов (в некоторой литературе их называют эффективными кодами) служат: простые равномерные коды, двоично-десятичные коды, отраженные коды, неравномерные коды Шеннона-Фано и Хаффмана.
2.6.1 Простые равномерные коды
Простые равномерные коды во всех кодовых комбинациях содержат одинаковое число элементов. Наибольшее распространение получили двоичный позиционный код и телеграфные коды.
Двоичный позиционный код имеет следующую математическую запись:
(15)
где li — разрядные коэффициенты, которые могут принимать значения 0 и 1.
Nmax = 2n.
В двоично-десятичных кодах каждая десятичная цифра (сообщение) представляется группой цифр, состоящей из четырех двухпозиционных символов. Данная группа позволяет сформировать N = 24 = 16 комбинаций.
Оценки энтропии и избыточности сообщений для случая статистически независимых элементов сообщения определяются по известным формулам.
