4.Проблема кодирования. Однозначность декодирования. Коды Хэмминга.
В широком смысле слова под кодированием понимают сопоставление элементам множества Q произвольной природы элементов множества K также произвольной природы.
В узком смысле слова под кодированием понимают преобразование слов в некотором алфавите в слова в другом алфавите. Под словом понимаем любую последовательность символов. Обозначим через А* множество слов в алфавите A, включая пустое слово e.
Будем рассматривать такие преобразования слов в слова, которые являются отображениями, т.е. однозначным соответствием.
Пусть А– алфавит сообщений , В – кодирующий алфавит. Под кодированием, таким образом, понимают отображение из понимают А* в B* f : А* B* (рис.2.1).
Слова
из R
= Domf
(из области определения
f)
называются сообщениями.
Если
,
то
называется кодом
слова
.
Множество C=Imf
(область значений f)
называется
код
множества R..
Кодом называется также правило, которое сообщению сопоставляет его код , т.е. код – алгоритм, определяющий отображение f.
Декодированием
называется
преобразование, обратное кодированию,
которое позволяет по коду
восстановить исходное сообщение. Ясно,
что декодирование возможно, если у f
есть обратное
отображение f
–1 . В этом
случае говорят, что кодирование взаимно
однозначно (или что код является
разделимым).
Кодирование как преобразование слов в слова обычно преследует следующие цели:
– удобство хранения и передачи данных,
– обеспечение помехоустойчивости при передаче данных по каналу связи
Кодирование, осуществляемое с целью защиты от действий злоумышленника, обычно называют шифрованием.
При рассмотрении вопросов, связанных с кодированием, обычно имеют в виду следующую схему передачи данных и использованием каналов связи.
Задача
состоит в том, чтобы придумать такой
способ кодирования, чтобы выполнялось
.
В основе многочисленных существующих
методов кодирования лежат два основных
вида кодирования:
алфавитное
(побуквенное)
и равномерное
(блочное).
1. Алфавитное кодирование – кодирование, определяемое соответствием:
где
,
слова
При
этом соответствии каждому сообщению
сопоставляется
код
.
Соответствие
называется схемой
алфавитного
кодирования,
а слова
– элементарными
кодами
(они заменяют один символ в сообщении).
Пример 1. Рассмотрим схему кодирования
Тогда
сообщению
сопоставляется код
.
2. Равномерное кодирование – кодирование, определяемое соответствием:
где
при
этом соответствии сообщению
сопоставляется
его код
.
Соответствие
называется схемой
равномерного кодирования,
а
–
элементарными
кодами.
Заметим,
что при равномерном кодировании слова
одинаковой длины кодируются словами
одинаковой длины, а если для слова
существует представление вида
,
то оно единственно (т.к.
имеют одинаковую длину).
Пример 2. Рассмотрим схему равномерного кодирования
,
Тогда
слову
сопоставляется код
Как при алфавитном, так и при равномерном декодирование состоит в разбиении кодового слова на элементарные коды и сопоставлении им прообразов (согласно схеме).
Пример . При равномерном кодировании со схемой