Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

TEOR_inform_19-12-10_2014_01_06_12_12_03_442

.pdf
Скачиваний:
3
Добавлен:
10.02.2015
Размер:
1.39 Mб
Скачать

число остатков дает неприводимый полином Pr x , так как он не содержит ни од-

ного сомножителя кроме самого себя.

Боузом и Чоудхури доказано[20], что существует циклический код разрядно-

сти

 

n 2m 1 ,

(5.18)

где m = 1, 2, 3, …,

 

с кодовым расстоянием

 

dì èí 2s 1.

(5.19)

При этом число проверочных символов удовлетворяет соотношению

 

r m s .

(5.20)

Питерсеном [Коды, исправляющие ошибки] доказано, что полином вида

 

xn 1

(5.21)

может быть представлен в виде произведения неприводимых многочленов, степени которых являются делителями числа m от 1 до m включительно [Березюк].

Соотношение между числом исправляемых ошибок s, числом информационных символов и числом проверочных символов регулируется формулой (5.6).

В таблице 5.4 приведены значения числа символов n в кодовой последовательности в зависимости от величины m, обеспечивающие кодовое расстояние d=3

Таблица 5.4

 

 

 

при исправлении одиночной ошибки. Для значе-

 

 

 

ний n = 3, 7, 15 по формуле (5.21) получены мно-

 

 

 

 

 

 

 

m

2

3

 

4

5

жества неприводимых многочленов

 

 

 

 

 

 

 

n

3

7

 

15

31

 

x3

1 ( x 1) ( x2 x 1) ,

 

 

 

 

 

 

 

r

2

3

 

4

5

 

x7

1 ( x 1) ( x3 x 1) ( x3 x2 1) ,

 

 

 

 

 

 

 

k

1

4

 

11

26

 

 

 

 

 

 

 

 

 

 

 

 

x15 1 ( x 1) ( x2 x 1) ( x4 x 1) ( x4 x3 1) ( x4 x3 x2 x 1) .

Не каждый многочлен даѐт необходимое число остатков. Например, при исправлении однократной ошибки в 15-разрядном коде необходимо 15 остатков , полученных от деления кода ошибки на неприводимый полином. Однако, если выбран по-

лином P4 ( x ) x4 x3 x2 x 1 будет всего шесть остатков. В то же время полином P4 ( x ) x4 x3 1 даѐт 15 остатков. Двоичное значение полинома

P4 ( x ) x4 x3 1 11001.

Образование циклического кода. n-разрядная кодовая комбинация имеет вид aT a1 a2 ak b1 b2 br , k r n . Положим, определены k, r и n . Тогда известны неприводимый многочлен Pr ( x ) и многочлен Gk 1 ( x ) , соответствующий k-разрядной комбинации информационных символов a1 a2 ak . Необходимо оп-

ределить проверочные символы b1 b2 br . Один из методов образования кода за-

ключается в следующем.

71

Многочлен Gk 1 ( x ) умножается на xr . Это соответствует приписыванию r

нулей справа в кодовой последовательности a1 a2 ak . Произведение Gk 1 ( x ) xr

делится на неприводимый полином Pr ( x ) и получается r - разрядный остаток Rr 1 ( x ) . Все символы b1 b2 br в кодовой последовательности

a1 ak b1 b2 br замещаются символами остатка. В результате имеем многочлен

f ( x ) Gk 1 ( x ) x r Rr 1 ( x ) .

Полученный многочлен делится без остатка на неприводимый многочлен. Действительно,

 

f ( x )

 

Gk 1 ( x ) x r

 

Rr 1 ( x )

g ( x )

Rr 1 ( x )

 

Rr 1 ( x )

g ( x ) ,

 

Pr ( x )

Pr ( x )

Pr ( x )

Pr ( x )

Pr ( x )

где g ( x ) частное от деления ( G

( x ) x r ) / P

( x ) , остаток отсутствует.

 

 

 

 

 

k 1

 

r

 

 

 

 

Если в одном из разрядов символ изменил своѐ значение, остаток от деления f ( x ) / Pr ( x ) не равен нулю. Каждому ошибочному символу в кодовой комбина-

ции a1 a2 ak b1 b2 br соответствует свой остаток (синдром).

Пусть n = 7, k = 4, r = 3. Выберем полином P3 ( x ) x3 x 1 1011, который дает 7 остатков. Положим, a1 a2 a3 a4 1110 . Неизвестными являются прове-

рочные символы b1 b2 b3 .

Определим полиномы и соответствующие им коды G3 ( x ) x3 1110000,

P3 ( x ) 1011. Остаток от деления полинома G3 ( x ) x3 на полином P3 ( x ) равен

R2 ( x ) 100.

Заменим нули проверочной части кода 1110000 кодом остатка и получим закодированную кодовую комбинацию 1110100, которому соответствует полином вида G6 ( x ) x6 x5 x4 x2 . Разделив полином G6 ( x ) на полином P3 ( x ) , получим полином R2 ( x ) 000.

Исправление однократной ошибки. Для исправления однократных ошибок определим коды ошибок, соответствующие каждому разряду кодовой комбинации. Заменяя исправный символ в коде 1110100 ошибочным и деля полученный код на код неприводимого многочлена, получим код ошибки (синдром) для соответствующего разряда. В результате получится таблица 5.5. Если искажѐн символ, скажем a4 , то после деления кода с искажѐнным символом на код неприводимого

многочлена получим синдром 011, что позволит инвертировать символ a4 .

72

Таблица 5.5

Код сообщения

a1

a2

a3

a4

b1

b2

b3

Синдром S

101

111

110

011

100

010

001

 

 

 

 

 

 

 

 

Исправление однократной ошибки возможно несколькими методами. Используя методы исправление однократной ошибки систематическими кодами можно так же создать проверочную матрицу, а по ней записать проверочные уравнения. Другим методом является метод, основанный на свойствах записи циклических кодов и весе однократной ошибки, равный единице.

Считается, множество кодов, составляющие разрешѐнные комбинации , образовано с помощью выбранного неприводимого полинома и он остается неизменным во время исправления однократной ошибки. В зафиксированной кодовой комбинации содержится однократная ошибка. При делении зафиксированной кодовой комбинации на код образующего полинома получается остаток. Если все разряды кода не искажены, остаток равен нулю. Искажение одного из символов приводит к остатку, отличного от нуля. Анализ остатка позволяет определить искажѐнный символ. Ввиду того, что ошибка однократная и надо найти разряд, в котором произошла ошибка, то вес остатка w должен быть равен единице. Чтобы проверить каждый разряд кода на наличие ошибки производится поэтапно циклический сдвиг влево на один разряд кодовой комбинации. На каждом этапе осуществляется деление сдвинутого кода на неприводимый полином и определяется вес остатка w . Процедура циклических сдвигов останавливается, если вес остатка w =1. Этот остаток служит индикатором того, что последний разряд в сдвинутом коде ошибочный и его надо инвертировать. Инвертирование достигается суммированием по модулю 2 сдвинутого кода с кодом остатка.

Чтобы восстановить неискажѐнную кодовую комбинацию производятся циклические сдвиги вправо столько раз, сколько производились циклические сдвиги влево.

Пример 5.6 Пусть n = 7, k = 4, r = 3. Выберем полином P3 ( x ) x3 x 1

1011, который дает 7 остатков. Выберем из множества разрешѐнных кодовых комбинаций код 1110100 и внесѐм ошибку в 4-ый разряд 1111100. На рисунке 5.8 показана процедура определения искажѐнного символа. Разделив кодовую комбинацию с ошибкой на неприводимый полином, убедимся, что вес остатка w

73

Сдвига нет

 

1111100

1011

1011

 

1101

 

 

 

 

1001

 

 

 

 

 

1011

 

 

 

 

 

1000

 

1011

 

 

 

 

 

 

 

11

 

 

 

 

 

w > 1

а

б

3-ий сдвиг влево

1100111 10111011 111

11111011

1001

1011

101

w > 1

1-ый сдвиг влево

 

 

1111001

1011

 

1011

 

 

1101

 

 

 

 

 

 

1000

 

 

 

 

 

 

 

1011

 

 

 

 

 

 

 

1101

 

 

1011

 

 

 

 

 

 

 

 

 

 

110

 

 

 

 

 

 

 

w > 1

б

в

 

 

 

 

 

 

4-ый сдвиг влево

 

 

 

 

 

 

1001111

1011

 

1011

 

 

101

 

 

1011

 

 

1011

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

w = 1

д

г

2-ой сдвиг влево

 

1110011

1011

1011

 

110

 

 

 

 

1010

 

1011

 

 

 

 

 

 

 

111

 

 

 

 

 

w > 1

в

а

Исправление

ошибки

1001111

1

1001110

д

е

Рис. 5.8 Процедура определения искажѐнного символа

больше 1, рисунок 5.8 а. На рисунках 5.8 б, 5.8 в, 5.8 г показаны процедуры циклического сдвига и получения остатков, больших единицы. На рисунке 5.8.д демонстрируется, после очередного циклического сдвига и деления полученного кода на неприводимый полином остаток равен единице, следовательно вес остатка w=1. Это значит последний сдвинутый символ ошибочный. Чтобы исправить ошибочный символ, последнюю кодовую комбинацию сложим по модулю 2 с остатком, рисунок 5.8.е. Произведя последовательно 4 раза циклический перенос вправо кодовой комбинации с исправленным символом, получим безошибочную кодовую комбинацию:

1001110 0100111, 1010011, 1101001, 1110100.

74

 

Оглавление

 

1. ТЕОРИЯ ИНФОРМАЦИИ.....................................................................................

1

1.1

Теорема Котельникова.....................................................................................

1

1.2

Квантование сигнала по уровню ....................................................................

3

2. Мера информации ....................................................................................................

6

2.1 Мера информации по Шеннону.....................................................................

6

2.2 Энтропия дискретного ансамбля сообщений ...............................................

8

2.4 Энтропия непрерывного ограниченного ансамбля....................................

12

2.3 Количество взаимной информации .............................................................

14

 

2.3.1 Дискретный канал передачи информации ..........................................

14

 

2.3.2 Непрерывный канал передачи информации ......................................

17

 

2.3.3 Эпсилон-энтропия (ε-энтропия).........................................................

20

3. Кодирование источника информации..................................................................

22

3.1

Метод кодирования равномерным кодом....................................................

23

3.2

Метод кодирования Шеннона-Фано ............................................................

27

3.3

Метод кодирования Хафмана .......................................................................

30

3.4

Теорема оптимального кодирования источника.........................................

32

независимых сообщений. ....................................................................................

32

4 Канал связи ..............................................................................................................

35

4.1

Скорость передачи информации и ...............................................................

37

пропускная способность канала связи ...............................................................

37

4.2

Канал без шумов.............................................................................................

39

4.3

Канал с шумами..............................................................................................

41

4.4

Непрерывный канал связи.............................................................................

43

4.5

Теорема Шеннона о пропускной способности ...........................................

47

частотно ограниченного канала..........................................................................

47

75

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]