52. Коды с коррекцией искажений.

Если сигналы составлены таким образом, что один отличается от другого не менее чем тремя элементами, то при искажении одного элемента какого-либо сигнала можно установить, какой сигнал был первоначально послан, т.к. искаженный в одном элементе сигнал будет отличаться от посланного одним элементом, а от всех остальных – минимум двумя элементами.

Это дает возможность скорректировать искаженный в одном элементе сигнал и реализовать его как правильный.

В качестве примера рассмотрим систему пятиэлементных кодовых комбинаций, отличающихся друг от друга не менее чем 3 элементами

1. 11010

2. 01001

3. 00110

4. 10101

Пусть принят сигнал, соответствующий кодовой комбинации 01011. Такой комбинации в списке нет, следовательно это искаженный сигнал. Он отличается от первой комбинации двумя элементами, от второй – одним элементом, от третьей – тремя и от четвертой – четырьмя элементами.

Вывод: скорее всего это сигнал 2, искаженный в одном элементе.

Тогда энтропия кода:

Справка. При равных вероятностях P_i всех n состояний энтропия равна

но , тогда

- формула Хартли

Сигнал (символ) любого числового кода на все сочетания несет информацию

где В – основание системы счисления, n – число элементов в сигнале (символе).

Избыточность кода D определяется выражением

(6)

Н – энтропия данного кода, имеющего N сигналов

Н=logN

Минимальное число элементов сигнала, необходимое для образования N комбинаций, как и в рассматриваемом коде

(7)

Иначе

(8)

H_max – максимальное число сигналов (символов, комбинаций), которые можно организовать из элементов данного кода (фактически это код на все сочетания)

(9)

где n – число элементов сигнала (символа) данного кода.

Тогда

(10)

Отметим, что, как правило, если n₀ получается дробным, его округляют до целого числа в большую сторону.

Таким образом, безошибочные передачи при наличии помех возможны лишь теоретически.

Обеспечение передачи информации с весьма малой вероятностью ошибки и достаточно высокой эффективностью возможно лишь при кодировании чрезвычайно длинных последовательностей знаков. На практике степень достоверности и эффективности ограничивается двумя факторами: размерами и стоимостью аппаратуры кодирования и декодирования и временем задержки передаваемого сообщения.