Блочное кодирование

Пусть имеются две буквы алфавита A и B. Как возможно закодировать данные буквы, видимо только по одному символу.

Пусть имеются две буквы алфавита A и B. Как возможно закодировать данные буквы, видимо только по одному символу.

A	0.9	0
B	0.1	1

Средняя длина будет равна 1 биту бит/буква

А энтропия равна . То есть, избыточность составляет 53%. Как же быть? Попробуем закодировать двухбуквенные сочетания. В этом случае уже можно воспользоваться эффективным кодированием.

AA	0.81	0	---	---	0
AB	0.09		0	---	10
BA	0.09	1	1	0	110
BB	0.01			1	111

Тогда средняя длина на блок из двух букв будет . А на одну букву =0.645 бит/буква. Избыточность в этом случае будет уже составлять примерно 17%. Если мы возьмем сочетания из трех букв, то получим еще лучший результат и т.д. Увеличивая длину блоков можно как угодно близко приблизиться к оптимальному значению При кодировании по 3 буквы получим k_3б = 1,59 и на букву k = 0,53.

Блочное кодирование удобно применять и для устранения избыточности при кодировании десятичных цифр. При передаче десятичных цифр двоичным кодом максимально загруженными бывают только те символы вторичного алфавита, которые передают значения, являющиеся целочисленными степенями двойки. Это 4, 8, 16, … В других случаях тремя разрядами можно передать и 5 и 8. Так для передачи цифры 5 необходимо . Однако эту цифру необходимо округлить до ближайшего целого числа 3. Избыточность от округления будет составлять

Избыточность от не равновероятного появления символов и избыточность от округления можно устранить за счет кодирования блоками.

Цифры	Число разрядов	На 1 цифру
0– 9	4	4
00– 99	7	3,5
000– 999	0	3,3

Непомехоустойчивые коды

Непомехоустойчивые коды – это коды, в которых искажение одного разряда кодовой комбинации не может быть обнаружено:

• Двоичные коды на все сочетания

• двоично-десятичный код BCD

• числоимпульсный код N=n

• код Грея

Принципы обнаружения и исправления ошибок

Из N сигналов только используется для передачи (разрешенная кодовая комбинация).

Обозначим

 – разрешенная кодовая комбинация;

 – запрещенная кодовая комбинация

1- обнаруживаемые ошибки, 2 - необнаруживаемые ошибки.

1 - ошибка 2 - исправление ошибки 3 - ошибка (в другой области) 4 - неправильное исправление

Метрика – расстояние между кодовыми комбинациями. Свойства метрики:

Доля обнаруживаемых ошибок

Каждая N комбинация представляет вектор.

Хэмингово расстояние:

d(X,Y),

где X,Y-кодовые комбинации, число позиций в которых числа не совпадают.

В теории кодирования большую роль играет число d(0,Y),соответственно называется вес кодовой комбинации w(x).

Характеристикой ошибки может служить вектор ошибки e. . Кратностью ошибки называется количество искаженных символов w(e).Так как расстояние между разрешенными кодовыми комбинациями наиболее критичным будет наименьшие для данного кода расстояние: d₀ - кодовое расстояние по Хэммингу. Определяет исправляющую способность кода, d₀ →∞ тем лучше (ошибка - >0).

Связь корректирующих свойств кода с минимальным кодовым расстоянием

Рассмотрим, как связаны и w(e) и корректирующие свойства:

r - число обнаружений,

s –число исправленных ошибок.

Выбор разрешенных кодовых комбинаций, расстояний между которыми .Оценим наибольшее , при заданных и . Пусть в центре сферы располагается РКК.

Классификация помехоустойчивых кодов

Блочные, разделимые, не разделимые, циклические, непрерывные(рекуррентные).

Хэмминга(циклический и линейный).

Блочные- информация разделиться на блоки, а проверочные элементы располагаються в определенном порядке между информационными.

Неразделимые - деление отсутствует.

Линейные – проверочные элементы представляют собой линейные комбинации информационных элементов.

Коды с обнаружением ошибок

1. С проверкой на четность - существует дополнительная комбинация для проверки четности.

n=k+1

2. Код с постоянным чиклом единиц:

3. Код с числом единиц кратным 3

n=k+2

4. Корреляционный код:

1->10

0->01

5. Инверсный код - четность числа 1, то добавляем исходящему КК , нечетную инверсию.

Коды с обнаружением и исправлением ошибок

Формирование линейного сигнала: линейное кодирование и цифровая модуляция

Дискретное сообщение (последовательность двоичных сигналов) перед передачей по линии связи преобразовывается в цифровой сигнал, свойства которого согласуется с характеристиками канала. Такой сигнал должен иметь требуемую в заданной полосе частот спектральную плотность и нести синхронизирующую информацию. В зависимости от занимаемой каналом полосы и ее расположения на оси частот в качестве переносчика сообщения используется импульсная последовательность или гармонический сигнал. Рассмотрим отдельно согласование кодера источника с двумя широко используемыми типами аналоговых каналов: низкочастотным и полосовым. Низкочастотный канал допускает передачу двоичных сигналов без модуляции в основной (или первичной) полосе начинающейся с нуля. Полосовой канал допускает передачу с модуляцией в полосе частот с ненулевой нижней и верхней границами. Низкочастотные каналы обычно организуются по кабельным линиям связи, полосовые – радиорелейные линии связи, световодные кабели, электрические кабели большой протяженности.