Связь между корректирующей способностью кода и длиной кода

Обычная последовательность выбора кода следующая:

• исходя из мощности M первичного алфавита, определяется количество информационных разрядов;

• задается возможная кратность ошибок, подлежащих обнаружению и исправлению;

• определяется количество дополнительных проверочных разрядов, которые вместе с информационными определят длину кода n.

Пусть известна мощность первичного алфавита М. Необходимое количество информационных битов k log₂M.

Пусть необходимо исправить ошибки кратности от 1 до t. Число возможных однократных ошибок в коде длиной n равно , число двукратных ошибок равно , число возможных t-кратных ошибок равно .

Общее число ошибок

Эти Е ошибок могут проявиться в каждой из 2^k возможных входных последовательностей. Полное число ошибочных комбинаций, подлежащих исправлению, равно Е∙2^k. Код длиной n обеспечивает исправление не более 2ⁿ - 2^k комбинаций, так как именно столько запрещенных комбинаций. Следовательно, необходимое условие для возможности исправления ошибок можно записать в виде Е∙2^k ≤ 2ⁿ - 2^k

Отсюда получим:

Обозначив буквой r число проверочных символов, и учитывая, что r = n – k, получим:

Учитывая, что , можно записать или

Это так называемая граница Р.Хемминга (или условие Хемминга), связывает число проверочных бит и значность кода.

В частном случае, когда требуется исправить однократные ошибки, имеем зависимость 2^r – r – 1 ≥ k.

Оценить количество проверочных символов и избыточность кода можно из таблицы, построенной по указанной зависимости:

r	2	3	4	5	6	7	8	9	10
k	1	4	11	26	57	120	247	502	1013
F	0,67	0,43	0,27	0,16	0,10	0,06	0,03	0,02	0,01

Вспомнить вторую теорему Шеннона. Действительно, теоретически, увеличивая длину блока можно бесконечно уменьшать избыточность, обеспечивая вместе с тем помехоустойчивость кода.

Сравните с аналогичной таблицей для помехоустойчивого кода, исправляющего двукратные ошибки

r	2	3	4	5	6	7	8	9	10	11	12	13
k	1	1	2	3	5	9	15	23	35	53	79	115
F	0,67	0,75	0,67	0,63	0,55	0,44	0,35	0,28	0,22	0,17	0,13	0,10

Кодовое расстояние – это минимальное число элементов, в которых любая кодовая комбинация отличается от другой ( по всем парам кодовых слов). Например, код состоит из комбинаций 1011, 1101, 1000, и 1100. Сравнивая первые две комбинации, путем сложения их по модулю 2 находим, что d=2. Наибольшее значение d=3 получается при сравнении первой и четвертой комбинации, а наименьшее d=1 – второй и четвертой, третьей и четвертой комбинации. Выберем в трехмерном кубе такие вершины, кодовые обозначения которых отличались бы друг от друга на d=3. Такие вершины расположены на концах пространственных диагоналей куба. Их может быть только четыре пары: 000 и 111, 001 и 110, 100 и 011, 010 и 101. Код, образованный по такому правилу, может исправить одиночную ошибку или обнаружить две одиночные ошибки.

Корректирующая способность кода зависит от кодового расстояния: а) при d=1 ошибка не обнаруживается; б) при d=2 обнаруживаются одиночные ошибки; в) при d=3 исправляются одиночные ошибки или обнаруживаются двойные ошибки. В общем случае

(10.1)

где d- минимальное кодовое расстояние, r- число обнаруживаемых ошибок, s- число исправляемых ошибок. При этом обязательным условием является r≥s.