Корольов / Теория связи

Следует отметить, что применение избыточного кода означает увеличение длины кодовой комбинации по сравнению с безызбыточным кодом. При этом увеличение n может производиться при сохранении прежней длительности передачи комбинации (τкода = k τ0 = const ) или при сохранении прежней дли-

тельности символа (τ0 = const ).

В первом случае длительность символа будет уменьшаться. Следовательно, изменится отношение сигнал/шум на входе демодулятора приемника:

hк2 = kn h2 .

Тогда вероятность ошибки на входе декодера:

точного кода, можно установить, при каких условиях применение избыточного кода позволяет повысить помехоустойчивость приема.

5.3. Математические основы теории помехоустойчивого кодирования

Основой построения наиболее важных из известных кодов является их алгебраическая структура, которая облегчает изучение различных свойств кода, а также обеспечивает возможность практической реализации кодирующих и декодирующих устройств.

В данном разделе излагаются основные понятия алгебры, необходимые для изучения теории помехоустойчивых кодов. Основные теоремы приводятся

181

без доказательств. Заинтересованный читатель найдет их в [25, 26, 30, 33]. Важнейшими объектами изучения в алгебре являются алгебраические

системы, т.е. множества, в которых определены одна или несколько операций, таких, например, как сложение или умножение. Под операцией в общем случае подразумевается однозначная функция двух переменных, которая может быть записана в виде f (a,b)= a b = c , где – знак операции. Примерами алгебраиче-

ских систем являются группы, кольца, поля и др. Их свойства рассматриваются в настоящем разделе.

5.3.1. Краткие сведения из теории чисел

Если a , b и c – целые числа и a = bc , то говорят, что a делится на b или что b является делителем a . Наибольшим общим делителем (НОД) двух чисел называется наибольшее целое положительное число, являющееся делителем обоих этих чисел. Говорят, что два числа взаимно просты, если их НОД равен 1. Для любой пары целых чисел a и b существует единственная пара чисел q

(частное) и r (остаток), таких, что a = qb +r , где 0 < r < b .

Если два числа a и b дают при делении на число p один и тот же оста-

ток, то говорят, что числа a и b сравнимы по модулю p . Сравнение записыва-

ется в виде a = b(mod p). Эквивалентным определением сравнимости двух чисел является делимость их разности на p .

Отметим основные свойства сравнений.

1.Если a = c(mod p) и b = c(mod p), то a = b(mod p).

2.Над сравнениями можно производить операции, аналогичные операци-

4. Два числа, сравнимые по модулю p , сравнимы и по модулю l , если l –

182

любой делитель p .

Все числа, сравнимые по модулю p , образуют класс вычетов по модулю

p . Любое число в классе называется вычетом по модулю p . Всем числам класса вычетов соответствует один и тот же остаток. Так как всего имеется p ос-

татков: 0,1, 2,..., p −1, то существует p различных классов вычетов. Вычет, рав-

ный самому остатку, называется наименьшим неотрицательным вычетом. Выбрав из каждого класса вычетов по модулю p по одному вычету, получим пол-

ную систему вычетов по модулю p . Обычно в качестве полной системы выче-

тов используют наименьшие неотрицательные вычеты: 0,1, 2,..., p −1.

Пример 5.1. Пусть p = 4 , тогда числа 1, 5, 9,13,17, 21 и т.д. образуют класс

вычетов по модулю 4. Наименьший вычет в этом классе равен 1, а полную систему вычетов по модулю 4 образуют числа {0,1, 2, 3}.

С учетом определенного выше понятия сравнения чисел по модулю p

введены операции сложения и умножения чисел по модулю произвольного целого числа p .

При этом результат применения операции сложения (умножения) двух чисел по модулю p равен наименьшему вычету класса, к которому принадле-

жит число, получаемое в результате обычного сложения (умножения) чисел. Другими словами, результат применения операции сложения (умножения) чи-

183

5.3.2. Группы

Определение группы

Группой G называется множество элементов, для которых определена некоторая операция и выполняются следующие аксиомы:

G.1. Операция может быть применена к любым двум элементам группы, в результате чего получается третий элемент группы, т.е., если a G и b G ,

G.4. Для любого элемента a G существует обратный элемент a−1 такой,

что a a−1 = a−1 a = l .

Аксиома G.1 определяет замкнутость операции в группе. Обычно операции над элементами записывают в виде a +b = c и называют сложением или в виде и называют умножением, даже если они не являются обычными сложением и умножением. В соответствии с двумя записями операций различают аддитивную и мультипликативную группы.

Свойство операции, сформулированное в виде аксиомы G.2, называют ассоциативностью. Она означает, что порядок выполнения операций несущественен, и поэтому скобки не нужны.

Аксиома G.3 постулирует обязательное существование единичного элемента. Для аддитивной группы единичный элемент называют нулем, обозначают 0 и определяют из уравнения 0 +a = a +0 = a . Для мультипликативной группы единичный элемент называют единицей и определяют из уравнения

1 a = a 1 = a .

Аксиома G.4 требует для каждого элемента группы существования обратного элемента. Если групповая операция – сложение, то элемент, обратный a , обозначается (−a) и находится из уравнения a +(−a)= (−a)+a = 0 . Для мультип-

ликативной группы обратный к a элемент обозначается a−1 и находится из уравнения a a−1 = a−1 a =1.

184

Группа называется коммутативной или абелевой, если кроме аксиом G.1 – G.5 выполняется следующая аксиома коммутативности.

G.5. Для двух произвольных элементов a и b из G справедливо

a b = b a .

Примеры групп

Пример 5.3. Одна из простейших аддитивных групп состоит из двух элементов, одним из которых является единичный элемент 0. Второй элемент обозначим через a . В соответствии с G.4 должен существовать обратный элемент, такой, что a +(−a)= 0 . Значит, (− a)= a , и правило сложения записывается в виде: H ; 0 +0 = 0 ; a + a = 0 . При H = (h1 , h2 ,..., hm ) имеем правило сложения по модулю p = 2 .

Пример 5.4. Совокупность всех действительных чисел образует группу относительно операции обычного сложения. Единичным элементом группы (нулем) является число 0.

Пример 5.5. Совокупность всех действительных чисел без нуля образует мультипликативную группу. Единичным элементом при этом является 1, а

ется группой с операцией сложения по модулю 6. Единичным элементом этой группы является 0, а обратный элемент находится из равенства a +(−a)= 0(mod 6). Так, если a = 2 , то (− a)= 4 и т.д.

Все рассмотренные в примерах группы являются абелевыми.

Теорема 5.1. Группа содержит один единичный элемент, и каждый элемент группы имеет единственный обратный элемент.

185

Легко видеть, что в примерах 1 – 5 утверждения теоремы выполняются. Число элементов в группе называется порядком группы. Если порядок ко-

нечен, группа называется конечной, в противном случае – бесконечной группой. В примерах 1.3, 1.6 и 1.7 рассмотрены конечные группы 2-го, 2n -го и 6-го порядков, а в примерах 1.4 и 1.5 – бесконечные группы.

Подгруппы

Подмножество элементов группы G называется подгруппой H , если оно удовлетворяет всем аксиомам группы. Для того чтобы определить, является ли H подгруппой G , надо проверить только замкнутость операции и наличие обратных элементов. Подгруппами группы, рассмотренной в примере 2, являются множества: целых чисел, чисел, делящихся на 3, и т. д.

Смежные классы

Пусть задана конечная группа содержащая подгруппу

H = (h1,h2 ,...,hm ). Табл. 5.1 составлена следующим образом. Первая строка состо-

ит из элементов подгруппы: она начинается с единичного элемента l , и каждый элемент подгруппы появляется в строке только один раз. Первым элементом второй строки может быть любой элемент группы, не вошедший в первую строку, а все остальные элементы получаются путем применения групповой операции g1 hi . Аналогично образуются третья, четвертая и т.д. строки, каждая с неиспользованным прежде элементом группы в начале строки, до тех пор, пока каждый элемент группы не войдет в таблицу.

Таблица 5.1

Разложение группы на смежные классы

186

Полученная таблица задает разложение группы на смежные классы. Совокупность элементов в каждой строке называется левым смежным классом, а элемент в первом столбце строки называется образующим смежного класса.

Число смежных (т.е. неперекрывающихся) классов k в разложении группы по подгруппе называется индексом H в G .

Правые смежные классы получаются, если для нахождения элементов строк применить операцию hi g1 . Для коммутативной группы левый и правый смежные классы совпадают.

Отметим основные свойства смежных классов.

1.Смежные классы не имеют общих элементов. Если у двух смежных классов оказался общий элемент, то такие смежные классы совпадают.

2.Левый (правый) смежный класс содержит столько элементов, каков порядок группы H .

3.Порядок n конечной группы G есть произведение порядка m подгруппы H на ее индекс k в группе G (на число смежных классов).

Группу G можно рассматривать как объединение неперекрывающихся смежных классов.

Циклические группы

Пусть a – один из элементов конечной группы G порядка n . Обозначим элементы a a, a a a,... через a, a2 , a3 ,... (при использовании операции сложения

элементы можно обозначать также 2a, 3a,...) и рассмотрим последовательность

элементов a, a2 , a3 ,... Так как группа G конечна, то существуют такие числа i

и j (j > i), что ai = a j Но тогда ai = a j = ai a j−1 и a j−i = l (единичный элемент

группы). Минимальное целое положительное число m такое, что am = l , называют порядком элемента a .

H = (a, a2 , a3 ,..., am−1, am = l)= (l, a, a2 , a3 ,..., am−1 ) является подгруппой группы G . Та-

кая подгруппа называется циклической подгруппой, порожденной элементом a .

187

Если в группе G существует элемент a такой, что его порядок совпадает с порядком группы {m = n}, т.е. G = (l, a, a2 , a3 ,..., am−1 ), то сама группа называется циклической. При этом элемент a называется порождающим элементом группы.

Теорема 5.2. Если a – порождающий элемент циклической группы порядка n , то ak – порождающий элемент этой же группы, где k – число взаимно простое с n .

В примере 1.7 рассмотрена аддитивная циклическая группа 6-го порядка. Порождающими элементами этой группы являются 1 или 5. Циклическая группа с порождающим элементом a приведена в примере 1.3.

5.3.3. Кольцаиполя

Определение кольца

Кольцом R называется множество элементов, на котором определены две операции – сложение и умножение, и в R выполняются следующие аксиомы:

R.1. Множество R является аддитивной абелевой группой.

R.2. Для любых двух элементов a и b из R определено их произведение: a b = c R (замкнутость операции умножения).

R.3. Для любых трех элементов a , b и c из R выполняется ассоциатив-

ный закон, т.е. a(bc)= (ab)c и a +(b +c)= (a +b)+c .

R.4. Для любых трех элементов a , b и c из R выполняется дистрибутивный закон, т.е. справедливы равенства: a(b +c)= ab +ac и (b +c)a = ba +ca .

Заметим, что в кольце для операции умножения аксиомы G.3, G.4 и G.5 могут не выполняться. Если же операция умножения коммутативна в кольце, то такое кольцо называется коммутативным. Если в кольце существует единичный элемент относительно операции умножения (выполняется аксиома G.3), то это кольцо называется кольцом с единицей.

Пример 5.8. Все целые положительные и отрицательные числа и нуль образуют коммутативное кольцо с единицей относительно обычных операций сложения и умножения.

188

Пример 5.9. Легко убедиться, что полная система вычетов по модулю p

также образует коммутативное кольцо с единицей относительно операций сложения и умножения по модулю p .

Определение поля

Полем F называют коммутативное кольцо с единицей, в котором каждый ненулевой элемент имеет мультипликативный обратный элемент (т.е. обратный по умножению).

Другими словами, полем называют множество, которое является аддитивной абелевой группой; ненулевые же элементы этого множества образуют мультипликативную абелевую группу, и выполняется закон дистрибутивности.

По аналогии с группами число элементов поля называется порядком поля. Поля, порядки которых конечны, называются конечными полями. Конечные поля имеют наибольшее значение в теории кодирования.

Отметим некоторые свойства полей, вытекающие из их определения. 1. Для любого элемента поля a 0 = 0 a = 0 .

2. Для ненулевых элементов a и b поля a b ≠ 0 .

3.Для любых элементов a и b поля a +b ≠ 0 .

4.Если a b = a c и a ≠ 0 , то b = c .

Пример 5.10 Множество всех действительных чисел образует поле. Существует также поле комплексных чисел, поле рациональных чисел, но не может быть поля целых чисел, поскольку обратные элементы по умножению, кроме единицы, не являлись бы целыми.

Пример 5.11. Множество чисел (0,1, 2,..., p −1), где p – простое число, об-

разует конечное поле, в котором сложение и умножение производятся по модулю p .

Пример 5.12. При p = 2 имеем простейшее двоичное поле, состоящее из двух элементов 0 и 1. Эти элементы являются соответственно единичными элементами относительно операций сложения и умножения по модулю 2, которые определяются правилами: 0 + 0 =1 +1 = 0 ; 1 + 0 = 0 +1 =1; 0 0 = 0 ; 0 1 =1 0 = 0 ; 1 1 =1. Так как (−1)=1 , то операции сложения и вычитания в двоичном поле

189

совпадают, а так как 1−1 =1, также совпадают операции умножения и деления. Это поле находит широкое применение в теории и технике помехоустойчивого кодирования. Более сложные конечные поля рассмотрены в 5.3.5.

Кольцо полиномов

Рассмотрим полином (многочлен) f (x)= f0 + f1x +... + fm xm . Если коэффи-

циенты fi , i = 0,1,...,m , при степенях x являются элементами поля F , то гово-

рят, что полином f (x) задан над полем F .

Степенью полинома называется наибольшая степень переменной x с ненулевым коэффициентом. Многочлен называется нормированным, если коэф-

называются равными, если они имеют одинаковую степень, т.е. m = n , и равные коэффициенты fi = gi , i = 0,1,...,m . При этом считается, что x0 = l , где l – еди-

ничный элемент поля F . Полином, все коэффициенты которого равны нулю, называется нулевым. Степень нулевого полинома равна нулю.

В кольце полиномов операции сложения и умножения вводятся следующим образом. Для двух полиномов (5.8) их сумма

f (x)+ g(x)= ∑(fi + gi )xi

(i )

а произведение

f (x)g(x)= ∑(i ) ∑j=i 0 fi gi− j xi

В частности, если g(x)=α , α F , то g(x)f (x)= ∑αfi xi . Нетрудно прове-

(i )

рить, что при введенных таким образом операциях сложения и умножения множество R[x] полиномов является кольцом, которое называется кольцом полиномов над полем F .

Свойства делимости полиномов в кольце

Пусть f (x) и g(x) – два полинома степени m и n соответственно, при-

чем m > n . Говорят, что f (x) делится на g(x), если в кольце R(x) существует тре-

190