5.2. Проблема взаимной однозначности

Одним из основных вопросов в кодировании является проблема взаимной однозначности, т.е. возможность по коду b сообщения a однозначно восстановить сообщение a.

Достаточный признак взаимной однозначности алфавитного кодирования:

Если b = b'b", то b' называется началом, или префиксом, слова b, b" — окончанием, или постфиксом, слова b. Если b' ¹ Ù, то b' называется собственным началом. Если b"¹ Ù, то b" называется собственным окончанием слова b. Схема алфавитного кодирования обладает свойством префикса, если ни один элементарный код не является префиксом другого элементарного кода. Если схема S алфавитного кодирования обладает свойством префикса, то алфавитное кодирование взаимно однозначно.

Условие префиксности не является необходимым, т.е. алфавитное кодирование может быть взаимно-однозначным, но не обладать свойством префиксности.

Слово b_inb_in-1.. b_i1 будем называть обратным к слову b = b₁b₂… b_in и обозначать b^-1. Схему кодирования, полученную из схемы кодирования S заменой каждого элементарного кода b_i на b_i^-1, будем называть обратной к схеме S и обозначать S^-1. Тогда: если схема S или схема S^-1 обладает свойством префикса, то тогда алфавитное кодирование, определяемое схемой S(S^-1), будет взаимно однозначным.

Общий критерий взаимной однозначности.

Нетривиальное разложение: представим слово b в виде:

b = b'b₁b₂… b_inb",

где слово b' не может оканчиваться на элементарный код, а b" не может начинаться с элементарного кода. Причем одно из слов b', b", b₁b₂… b_in может быть пробелом - Ù. Для определения однозначности алгоритма кодирования необходимо выполнить действия в соответствии с алгоритмом:

1). Для каждого элементарного кода выписываем все нетривиальные разложения.

2). Выписываем множество M₁, состоящее из слов b', являющихся началом нетривиальных разложений.

3). Выписываем множество M₂, состоящее из слов b", являющихся окончаниями нетривиальных разложений.

4). Выписываем множество М = М₁ Ç М₂ È {Ù}, т.е. множество слов, являющихся как началом, так и окончанием нетривиального разложения и пробел.

5). Выписываем все разложения, связанные с множеством M, т.е.

 = b'b₁b₂… b_inb",

где b', b" Î М, причем n может быть равно 0 (заменяется Ù).

6). По полученным разложениям строится ориентированный граф, следующим образом: вершины графа отождествляются с элементами множества М, пара вершин b' и b" соединяются ребрами только в том случае, если существует разложение b'b₁b₂… b_inb", ребру приписывается значение b₁b₂… b_in.

7). По полученному графу легко проверить, обладает ли схема кодирования однозначностью.

Теорема А.А. Маркова: алфавитное кодирование со схемой S не обладает свойством взаимной однозначности тогда и только тогда, когда граф содержит ориентированный цикл, проходящий через вершину Ù.

5.3. Коды Хемминга

Коды Хемминга – наиболее известные и, вероятно, первые из самоконтролирующихся и самокорректирующихся кодов. Построены они применительно к двоичной системе счисления. Будем считать, что в канале связи может произойти не более одной ошибки.

Число дополнительных разрядов для построения кодов Хемминга нужно выбрать так, чтобы их хватило для кодирования перечисленных l +1 случаев. Следовательно, необходимо, чтобы выполнялись условия:

2^k >= l + 1, 2^m <= 2^l / l + 1.

Число l называется длиной кода Хемминга, m – число информационных символов, k – число контрольных символов – наименьшее целое число, удовлетворяющее условию 2^k >= k + m + 1.

Алгоритм построения кода Хемминга для кода a₁a₂…a_m:

1) Определим длину кода Хемминга:

m – число информационных символов,

2^k >= k + m +1 – число контрольных символов,

l = m + k – длина кода Хемминга.

2) Представим каждое число i из множества L = {1, 2, … l} в виде k-разрядного числа t = V_k-1V_k-2..V₀ . Результат запишем в виде таблицы:

Таблица 5.1

	Vk-1	…	V1	V0
1	0	…	0	1
2	0	…	1	0
3	0	…	1	1
…	…	…	…	…
m

3) Разобьем множество L на подмножества следующим образом:

L ₀ = {i Î L ₀: V₀ = 1}

L ₁ = {i Î L ₁: V₁ = 1}

L ₂ = {i Î L ₂: V₂ = 1}

L ₃ = {i Î L ₃: V₃ = 1}

….

L _k-1 = {i Î L _k-1: V _k-1 = 1}

4) Первые элементы (их ровно k) являются степенью числа 2, они определяют номера контрольных разрядов кода Хемминга:

b₁ b₂ b₄ b₈…

5) Остальные разряды являются информационными, заполняются исходного сообщения по порядку:

b₃ = a₁, b₅ = a₂, b₆ = a₃, …, b_l = a_m.

6) Контрольные разряды заполняются следующим образом:

b₁ = Å b_j, b_j Î L ₀, j ¹ 1,

b₂ = Å b_j, b_j Î L ₁, j ¹ 2,

b₄ = Å b_j, b_j Î L ₂, j ¹ 4,

b₈ = Å b_j, b_j Î L ₃, j ¹ 8.

Обнаружение ошибки в кодах Хемминга

Если при передаче по каналу связи получили сообщение b¢, и известно что при передаче произошла одна ошибка в неизвестном разряде, то можно найти этот разряд, обозначим его t. Для его нахождения представим t в виде двоичного числа: t = V¢_k-1V¢_k-2.. V¢₀.

Найдем эти числа V¢ по формулам:

V¢₀ = Å b¢_j, b¢ _j Î L ₀,

V¢₁ = Å b¢ _j , b¢ _j Î L ₁,

V¢₂ = Å b¢ _j, b¢ _j Î L ₂,

……………………..

V¢_k-1 = Å b¢ _j, b¢ _j Î L ₃.

Выберем из таблицы номер разряда, который соответствует этим значениям, именно в этом разряде и произошла ошибка.