67. Условие однозначной декодируемости для неравномерных кодов.

_ _Пусть V={a_l, а₂, ... , a_N} префиксный двоичный код. Длины кодовых слов a₁, а₂, …, a_N, равны l₁, l₂, ... , l_N , при этом длина слова равна номеру этажа на котором находится концевая вершина

___Раннее установлено, что

Здесь n_i число концевых вершин i-го этажа дерева

_ __ Учитывая взаимосвязь длины слова и номера этажа получаем неравенство Крафта

__Неравенством Крафта является условием однозначной декодируемости префиксных кодов

68. Кодирование и декодирование при передаче информации по каналам связи с «шумом». Типы кодов: с обнаружением и исправлением ошибки. Расстояние Хемминга и аксиомы расстояний. Вес слова. Теоремы об исправлении и обнаружении ошибок.

1) КОДИРОВАНИЕ И ДЕКОДИРОВАНИЕ?

2) Типы кодов

• Коды с обнаружением ошибок, которые с большой вероятностью определяют наличие ошибки в принятом сообщении,

• Коды с исправлением ошибок, которые с большой вероятностью могут восстановить посланное сообщение.

РАССТ ХЕММИНГА,АКСИОМЫ,ВЕС::

__На множестве двоичных слов длины m расстоянием d(a, b) между словами a и b называет расстоянием Хемминга и определяется числом несовпадающих позиций этих слов.

__Расстояние Хемминга удовлетворяет аксиомам расстояний:

1) d(a, b) ³ 0 и d(a, b) = 0 тогда и только тогда, когда a  = b;

2) d(a, b) = d(b, a);

3) d(a, b) + d(b, c) ³ d(a, c) (неравенство треугольника).

__Весом w(a) слова a называют число единиц среди его координат.

__Тогда расстояние между словами a и b есть вес суммы a Å b: d(a, b) = w(a Å b), где Å — операция покоординатного сложения по модулю 2.

ТЕОРЕМЫ ОБ ИСПР И ОБНАР:::

_Теорема Для того, чтобы код позволял обнаруживать ошибки в k (или менее) позициях, необходимо и достаточно, чтобы наименьшее расстояние между кодовыми словами было ³  k + 1.

_Теорема Для того, чтобы код позволял исправлять все ошибки в k (или менее) позициях, необходимо и достаточно, чтобы наименьшее расстояние между кодовыми словами было ³  2k + 1.

69. Кодирование и декодирование по Хеммингу.

КОДИРОВАНИЕ:

__Для определения значения элементов вектора В, являющимися степенями двойки b0, b1, b4, b8 … используется матрица M размера k´m, в которой каждый столбец заполняется номером столбца в двоичном виде, где k-число потребовавшихся дополнительных позиций, а m-общее число позиций в векторе B.

_Записываем систему уравнений B´MT = 0

_Операция сложения подразумевает сложение по модулю 2.

ДЕКОДИРОВАНИЕ:

__Вставляем значения bi, определенных из системы уравнений

В = b1 b2 b3 b4 b5 b6 b7 b8 b9 b10

b11

0 0 0 0 1 1 0 0 1 1 0

_Вектор ошибок E(e1…em) состоит из всех нулей, если при передаче не было допущено ошибки. Если ошибка была допущена в позиции bi, то ei=1

__Принятое слово D(d1… dm) = В(b1… bm) + E(e1…em) состоит из суммы (сложения по модулю 2) закодированного слова и вектора ошибок.

__В принятом слове D(d1… dm) нет ошибки если D´M^T = 0

Доказательство: D´M^T = (B+E) ´M^T = B´M^T +E´M^T = 0+0=0 (B´M^T =0 по построению, E´M^T =0 так как предполается отсутствие ошибки)

__В принятом слове D(d1… dm) ошибка содержится в столбце i, номером которого это двоичная запись вектора X, являющегося решением системы уравнений Х=D´M^T

Доказательство: Х=D´M^T =(B+E)´M^T =B´M^T +E´M^T =0+E´M^T =E´M^T. Вектор E может содержать только одну «1». Пусть «1» находится в позиции bi, тогда запись E´M^T соответствует системе уравнений, где на «1» от вектора E умножается только bi элемент каждого столбца. В результате вектор Х(х1… хk) будет содержать значение bi строки матрицы M^T. В свою очередь bi строка матрицы M^T соответствует bi столбцу матрицы М. А матрица М заполнялась таким образом, что содержимое bi столбца соответствовало двоичной записи номера данного столбца.

14