Теория информационных процессов и систем

Лекции читает канд.техн.наук, доцент Литвинов Владислав Леонидович

Связь между корректирующей способностью кода и длиной кода

• Обычная последовательность выбора кода следующая:

1.исходя из мощности M первичного алфавита, определяется количество информационных разрядов;

2.задается возможная кратность ошибок, подлежащих обнаружению и исправлению;

3.определяется количество дополнительных проверочных разрядов, которые вместе с информационными определят длину кода n.

•Пусть известна мощность первичного алфавита М.

•Необходимое количество информационных битов k ≥ log2M.

•Пусть необходимо исправить ошибки кратности от 1 до t. Число возможных однократных ошибок в коде длиной n равно

•C1n n ,

i1

•Эти Е ошибок могут проявиться в каждой из 2k возможных входных

последовательностей. Полное число ошибочных комбинаций, подлежащих исправлению, равно Е∙2k. Код длиной n обеспечивает исправление не более 2n - 2k комбинаций, так как именно столько запрещенных комбинаций. Следовательно, необходимое условие для возможности исправления ошибок можно записать в виде

•Е∙2k ≤ 2n - 2k

• Отсюда получим:

2n 1 E

2k

•Обозначив буквой r число проверочных символов, и учитывая, что r = n – k, получим:

• Richard Wesley Hamming (1915–1998) was a mathematician whose work had many implications for computer science and telecommunications. His contributions include the Hamming code (which makes use of a Hamming matrix), the Hamming window (described in section 5.8 of his book Digital Filters), Hamming numbers, Sphere-packing (or hamming bound) and the Hamming distance.

•В частном случае, когда требуется исправить однократные ошибки, имеем зависимость 2r – r – 1 ≥ k.

•Оценить количество проверочных символов и избыточность кода можно из таблицы, построенной по указанной зависимости:

F n k n

•Вспомним вторую теорему Шеннона. Действительно, теоретически, увеличивая длину блока можно бесконечно уменьшать избыточность, обеспечивая вместе с тем помехоустойчивость кода.

•Сравните с аналогичной таблицей для помехоустойчивого кода, исправляющего двукратные ошибки

•Сравните с аналогичной таблицей для помехоустойчивого кода, исправляющего двукратные ошибки

•Выполняется ли неравенство Хемминга в задаче о разведчиках??

•Ответ: да, но только с учетом 2-кратных ошибок. Если же требуется исправлять и однократные ошибки, то

•r≥log2(1+8+28)=6

Систематические коды

•Систематические коды относятся к группе блочных разделимых кодов. Для систематического кода сумма по модулю 2 двух разрешенных комбинаций также дает разрешенную комбинацию (свойство замкнутости). Все разрешенные комбинации систематического

•(n, k)-кода можно получить, располагая k-значными исходными комбинациями. При этом:

1.в число исходных комбинаций не должна входить тривиальная (нулевая);

2.все исходные комбинации должны быть линейно независимы, т.е. ни одна из них не может быть получена путем суммирования других;

3.для обеспечения требуемой корректирующей способности

минимальное кодовое расстояние dmin исходных комбинаций должно удовлетворять условиям Хемминга.

•Получение кодовых комбинаций производится с помощью порождающих матриц, состоящих из k строк и n столбцов:

•В классической (канонической) форме кода элементы первых k столбцов служат для информационных целей, а оставшихся – для проверочных. Соответственно, порождающую матрицу G можно

представить в виде двух подматриц – информационной Ik и проверочной P.

•Информационную подматрицу часто берут в виде квадратной единичной матрицы:

•При этом проверочная подматрица P должна строиться с соблюдением следующих условий:

1.вес (количество единиц) каждой строки подматрицы должен быть не менее dmin-1;

2.все строки должны быть различны;

3.кодовое расстояние между любыми двумя строками подматрицы должно быть не менее dmin-2.