Пособие_ТКИ
.pdf
мальное Хеммингово расстояние dmin. Предполагается, что число кодовых слов этого кода равно |C|= 2k .
Пример 1. Простейшим примером является код-повторе- ние длины 3. Каждый информационный бит повторяется три раза. Таким образом, сообщение «0» кодируется вектором (000), а сообщение «1», вектором (111). Так как два вектора различаются в трех позициях, Хеммингово расстояние между ними равно 3. На Рисунке 4.2 показано графическое представление этого кода. Трехмерное двоичное векторное пространство соответствует 2 3 = 8 вершинам трехмерного единичного куба. Хеммингово расстояние между кодовыми словами (000) и (111) равно числу вершин, через которые проходит соединяющий их путь. Это эквивалентно числу координат, которые необходимо изменить, чтобы преобразовать (000) в (111) и наоборот. Таким образом, dH = ((ООО),(111)) = 3. Так как в этом коде только два кодовых слова, то dmjn = 3.
Х2
Х0
Х1
Рис. 4.2. (3,1,3) код-повторение в трехмерном векторном пространстве.
Двоичное векторное пространство V2 обычно называют
Хемминговым пространством. Пусть v кодовое слово кода
С. Хемминговой сферой St(v) радиуса t с центром в точке v является множество векторов (точек) в V2 на расстоянии меньше или равном t от центра v,
51
St(v) = {x |
|
C|dH(x,v)≤t} |
|
Заметим, что число слов (число векторов) в
t |
n |
|
|
|
|
|St(v)|= |
|
|
|
|
|
i 0 |
i |
|
(4.1.2.3)
St(v) равно
(4.1.2.4)
Пример 2. На Рисунке 4.3 показаны Хемминговы сферы радиуса t = 1, окружающие кодовые слова (3,1,3) двоичного кода-повторения.
Х2
Х0
Х1 S1(000)
X2
Х0
Х1 S1(111)
Рис.4.3 Хемминговы сферы радиуса t=1, окружающие кодовые слова (3,1,3) двоичного кода-повторения.
52
Заметим, что Хемминговы сферы для этого кода не пересекаются, т.е. в пространстве V2 нет векторов (или вершин в единичном трехмерном кубе), принадлежащих одновременно и S1(000), и S1(111). В результате, если изменить любую одну позицию кодового слова v, то получится вектор, который, тем не менее, останется внутри Хемминговой сферы с центром в v. Эта идея является принципиальной для понимания и определения корректирующей способности кода С.
Корректирующей способностью (error correcting capability) t кода С называют наибольший радиус Хемминговой сферы St(v) для всех кодовых слов v С такой, что для любых различных пар vi,vj С соответствующие им Хемминговы сферы не пересекаются, т.е.
t max {l | S |
(v ) S (v |
) 0,v |
v |
} |
|||||
v |
,v |
C |
l |
i |
l |
j |
i |
j |
|
i |
j |
|
|
|
|
|
|
|
|
(4.1.2.5)
Это соответствует более распространенному определению
t=[(dmin – 1)/2)] |
(4.1.2.6) |
где через [x] обозначена целая часть х, т.е. целое число меньше или равное х.
Заметим, что для определения минимального кодового расстояния произвольного блокового кода С в соответствии с (4.1.2.2), необходимо вычислить все 2k(2k - 1) расстояний между различными парами кодовых слов. Это практически невозможно даже для сравнительно коротких кодов, например, с k = 50. Одним из важных преимуществ линейных блоковых кодов является то, что для вычисления dmin достаточно знать только Хемминговы веса 2k — 1 ненулевых кодовых слов.
4.2. Линейные блоковые коды.
Как уже упоминалось выше, построение хорошего кода означает поиск в V2 подмножества элементов в наибольшей степени удаленных друг от друга. Это очень трудная задача.
53
Более того, если даже это сделано, то остается неясным как назначить кодовые слова информационным сообщениям.
Линейный код (т.е. множество кодовых слов) является векторным подпространством в пространстве V2. Это означает, что операция кодирования может быть представлена умножением на матрицу. В терминах цифровой электроники простое кодирующее устройство может быть построено на элементах «исключающее ИЛИ», «И» и триггерах типа D. В этой главе операциями сложения и умножения в двоичном векторном пространстве являются «исключающее ИЛИ» (сложение по модулю 2) и «И», соответственно. Таблицы сложения и умножения двоичных элементов имеют следующий вид:
аb a+b ab
0 |
0 |
0 |
0 |
0 |
1 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
1 |
1 |
1 |
4.2.1. Порождающая и проверочная матрицы.
есть мер, быть зиса:
Пусть С двоичный линейный (п, k, dmin) код. Так как С k-мерное подпространство, то оно имеет базис, напри- (v0,v1,…vk-1) такой, что любое кодовое слово v С может записано как линейная комбинация элементов этого ба-
где ui
v=u0v0+ u1v1+…+uk-1vk-1 |
(4.2.1.1) |
{0,1}, 0≤ i ≤k.
Уравнение (4.2.1.1) может быть записано в матричной форме через порождающую матрицу G и векторсообщение u=(u0,u1,…,uk-1):
54
|
|
|
|
|
|
v=u∙G |
|
|
|
||
где |
|
|
|
|
|
|
|
|
|
|
|
|
|
v |
|
|
|
v |
v |
... |
v |
|
|
|
|
0 |
|
|
|
0,0 |
0,1 |
|
0,k 1 |
|
|
|
|
|
|
|
|
|
|||||
|
|
v |
|
|
|
v |
v |
... |
v |
|
|
G |
1 |
|
1,0 |
1,1 |
|
1,k 1 |
|||||
|
... |
|
|
... |
... |
... |
... |
|
|||
|
|
||||||||||
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|||||
|
|
v |
|
|
|
v |
v |
... |
v |
|
|
|
|
|
|
|
|
||||||
|
k 1 |
|
k 1,0 |
k 1,1 |
|
k 1,k 1 |
|||||
(4.2.1.2)
(4.2.1.3)
Так как С является k-мерным векторным пространством в V2, то существует (n-k)-мерное дуальное пространство (dual space) С┴, которое порождается строками матри-
цы Н, называемой проверочной матрицей (parity-check matrix), такой, что GHT=0, где через НT обозначена транспонированная матрица Н. Заметим, в частности, что любое кодовое слово v С удовлетворяет условию
v∙HT=0 |
(4.2.1.4) |
Уравнение (4.2.1.4) является фундаментальным для
декодирования линейных кодов.
Линейный код С┴, который генерируется матрицей Н, является двоичным линейным (n, n-k,d┴min) кодом, который называют обычно дуальным коду С.
4.2.2. Вес как расстояние.
Как упоминалось в разделе 4.1.2, линейные коды отличаются тем, что для определения минимального расстояния кода достаточно знать минимум Хеммингова веса ненулевых кодовых слов. Ниже этот факт будет доказан. Определим вес Хемминга wtH(x) вектора, х V2, как число ненулевых элементов в х. Из определения Хеммингова расстояния ясно, что wtH(x) = dH(x,0). Для двоичного линейного кода С получаем
55
dH(v1,v2) = dH(v1+v2,0)=wt(v1+v2) |
(4.2.2.1) |
Наконец, из свойства линейности кода имеем v1+v2 C. Отсюда следует, что минимальное расстояние кода С равно и может быть вычислено как минимальный вес по всем 2k -1 ненулевым кодовым словам. Эта задача существенно проще, чем полный перебор по всем парам кодовых слов, хотя и остается очень сложной даже для кодов среднего размера (или размерности k).
4.3. Кодирование и декодирование лине й- ных блоковых кодов.
4.3.1. Кодирование с помощью матриц
G и H.
Равенство (4.2.1.2) определяет по существу правило кодирования для линейного блокового кода, которое может быть использовано непосредственно. Если кодирование должно быть систематическим, то произвольная порождающая матрица G линейного блокового (n, k, dmin) кода С может быть преобразована к систематической форме Gsys (иначе, к канонической форме) с помощью элементарных операций и перестановок столбцов матрицы. Матрица Gsys состоит из двух подматриц: k×k единичной матрицы, обозначаемой Ik, и k×(n — k) проверочной подматрицы Р. Таким образом,
Gsys = (Ik | P) |
(4.3.1.1) |
56
где
|
p |
p |
... |
p |
|
|
|
0,0 |
0,1 |
|
0,n k 1 |
|
|
|
|
|
||||
|
p |
p |
... |
p |
|
|
1,0 |
1,1 |
|
1,n k 1 |
|||
P |
|
|
|
|
|
|
|
... |
... ... |
... |
|||
|
|
|||||
|
|
|
|
|||
|
|
pk 1,1 ... |
pk 1,n k 1 |
|
||
pk 1,0 |
|
|||||
(4.3.1.2)
Так как G∙HT = 0, то отсюда следует, что систематическая форма проверочной матрицы имеет вид
Hsys = (PT |In-k) |
(4.3.1.3) |
Пример 3. Рассмотрим двоичный линейный (4,2,2) код с порождающей матрицей
G =
1 |
1 |
1 |
0 |
|
|
|
|
|
|
|
|
|
0 |
0 |
1 |
1 |
|
|
|
||||
Перестановкой второго и четвертого столбцов преобразуем эту матрицу в систематическую форму
Gsys =
1 |
0 |
1 |
1 |
||
|
|
|
|
|
|
|
0 |
1 |
1 |
0 |
|
|
|
||||
Таким образом, проверочная подматрица равна
Р =
11
1 |
|
|
|
0 |
|
|
|
Интересно отметить, что в данном случае выполняется соотношение Р = РT. Из (4.3.1.3) следует, что систематическая форма проверочной матрицы имеет вид:
57
Hsys =
1 |
1 |
1 |
0 |
|
|
|
|
|
|
|
0 |
0 |
1 |
|
1 |
|
|||
В дальнейшем будет использовано обозначение u = (u0, u1,..., uk-1) для информационного сообщения и обозначение v = (v0,…,vn-1) для соответствующего кодового слова кода С.
Если параметры С таковы, что k<(п — k) или, эквивалентно, скорость кода k/п < 1/2, то кодирование с помощью порождающей матрицы более экономно по числу логических операций. В этом случае
v =u∙Gsys = (u,vp) |
(4.3.1.4) |
где vp= u∙Р= (ук, vk+1,…,vn-1) представляет проверочную часть кодового слова.
Однако, если k > (n - k) или k/п > 1/2, тогда кодирование с помощью проверочной матрицы Н требует меньшего количества вычислений. Этот вариант кодирования основан на уравнении (4.2.1.4) (u,vp)∙HT=0. Проверочные позиции (ук,vk+1,...,vn-1) вычисляются следующим образом:
v |
j |
u p |
u p |
... u |
k 1 |
p |
, k j n. |
|
0 0, j |
1 1, j |
|
k 1, j |
|
(4.3.1.5)
Можно сказать, что элементами систематической формы проверочной матрицы являются коэффициенты проверочных уравнений, из которых вычисляются проверочные символы.
Пример 4. Рассмотрим двоичный линейный (4,2,2) код из примера 3. Пусть сообщение и кодовые слова обозначены u =(u0,u1) и v = (v0, v1, v2, v3), соответственно. Из уравнения
(4.3.1.5) получаем
v2 =u0+u1 v3=u0
Соответствие между 22 = 4 двух битными сообщениями и кодовыми словами имеет следующий вид:
58
(00) |
(0000) |
(01) |
(0110) |
(10)→ (1011)
(11) |
(1110) |
4.3.2. Декодирование по стандартной таблице.
В этом разделе представлена процедура декодирования, которая находит кодовое слово v, ближайшее к принятому с искажениями слову r = v + е, где вектор ошибок е {0, 1}n создан двоичным симметричным каналом (ДСК) в процессе передачи кодового слова. Модель ДСК показана на Рис.4.4. По предположению переходная вероятность р (или параметр ДСК) меньше 1/2.
Стандартной таблицей (или стандартной расста-
новкой) [Sle] для двоичного линейного (п, k, dmin) кода С называется таблица всех возможных принятых из канала векторов r, организованная таким образом, что может быть найдено ближайшее к r кодовое слово v
Рис.4.4. Модель двоичного симметричного канала.
Таблица 4.1.
59
Стандартная таблица двоичного линейного блокового кода.
S |
|
|
|
u0=0 |
|
u1 |
|
|
|
|
|
… |
u |
k |
1 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
0 |
|
|
|
v0 |
|
|
v1 |
|
|
|
|
|
… |
v |
k |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
S1 |
|
|
e1 |
|
|
e1+v1 |
|
|
|
… |
e v |
k |
1 |
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
2 |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
S2 |
|
|
e2 |
|
|
e2+v1 |
|
|
|
… |
e |
|
v |
k |
1 |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
2 |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
… |
|
|
… |
|
|
… |
|
|
|
|
|
… |
… |
|
|
|
|
|
|
|
|
|
S |
|
n k |
1 |
e |
n k |
1 |
e |
n k |
1 |
u |
k |
1 |
… |
e |
n k |
1 |
v |
k |
1 |
|||
|
2 |
2 |
2 |
2 |
|
2 |
|
2 |
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
Стандартная таблица содержит 2n-k строк и 2k + 1 столбцов. Правые 2k столбцов таблицы содержат все вектора из пространства V2 = {0, 1}n.
Для описания процедуры декодирования необходимо ввести понятие синдрома. Определение синдрома произвольного слова из V2 следует из уравнения (4.2.1.4),
s = r∙HT |
(4.3.2.1) |
где Н проверочная матрица кода С.
Покажем, что синдром является индикатором вектора ошибок. Предположим, что кодовое слово v С, переданное
по ДСК, принято как |
r = v + е. Синдром принятого слова |
|
равен |
|
|
S = rHT = (v + e)HT = eHT |
(4.3.3.2) |
|
Таким образом, вычисление синдрома можно рассматривать как линейное преобразование вектора ошибок.
Процедура построения стандартной таблицы:
1.Правые столбцы первой строки заполним кодовыми словами кода С, начиная с нулевого кодового слова. В первую ячейку первого столбца запишем нулевой синдром. Положим j = 0.
2.Для j = j+1, найдем слово еj V2 минимального веса Хемминга, не являющееся кодовым и не включенное в
60
