2. Элементы теории кодирования информации

2. 1. Элементы теории кодирования

Сообщения, формируемые источником, могут иметь различную физическую форму. Для передачи сообщений на расстояние сообщение преобразуется к виду, удобному для передачи по каналу связи, т. е. кодируется. В радиосвязи сообщение преобразуется в электрический сигнал, который называют первичным электрическим сигналом (ПЭС).

В теории передачи информации под кодированием в широком смысле по­нимают преобразование сообщения в сигнал для передачи его по каналу свя­зи.

Под кодированием в узком смысле понимают преобразование сообщений дискретного источника для передачи их по дискретному каналу.

На практике под словом «кодирование» подразумевается кодирование в узком смысле.

ПЭС являются низкочастотными. В большинстве случаев они не приспособлены для передачи на значительные расстояния. Для устранения данного недостатка выполняется модуляция несущего высокочастотного колебания – переносчика информации - с помощью ПЭС. При модуляции один или несколько параметров несущего колебания изменяются по закону ПЭС. Можно заметить, что модуляция также является кодированием сообщения.

Все преобразования, выполняемые над сообщением на передающей стороне должны быть обратимыми, что является обязательным условием восстановления сообщения на приемной стороне в исходной физической форме.

В дальнейшем под кодированием будем понимать преобразование сообщений дискретного источника для передачи их по дискретному каналу. Такой подход является правильным, поскольку любое непрерывное сообщение может быть представлено в дискретной форме. Про­стейшим примером дискретного сообщения является текст.

Любой текст представляет собой определенное число элементов: букв, цифр, знаков пре­пинания. Совокупность символов, из которых формируются сообщения, называется алфавитом источника сообщения.

Сис­тема кодирования – это совокупность правил кодового обозначения объектов, в данном случае сообщений.

По­скольку число элементов в каждом алфавите конечно, то их можно пронуме­ровать, иначе - закодировать, и тогда передача сообщения сведется к передаче последовательности чисел.

При дальнейших рассуждениях необходимо различать, когда имеются в виду символы, которые необходимо передать, а когда – символы, с помощью которых происходит передача сигналов в системе. Требующие передачи символы (например, буквы английского алфавита) называются символами источника, а символы, используемые при передаче (например, 0 и 1 в двоичной системе), называются символами кодового алфавита, или элементами кодовых комбинаций.

В частности, для передачи всех 32 букв русского алфавита необходимо пе­редать числа от 0 до 31, т. е. использовать 32 ПЭС. Чтобы передать любое число, записанное в деся­тичной форме, требуется передача десяти цифр – от 0 до 9. Теоретически для этого нужны еще десять ПЭС, отражающих различные цифры. Число ПЭС значительно возрастает, если учесть, что в мировой практике используется несколько алфавитов. Кроме того, всегда требуется передача различных управляющих сигналов и команд.

Система передачи дискретных сообщений существенно упрощается, если для кодирования применяется двоичная система счисления.

Кратко остановимся на системах счисления, которые находят практическое применение при ко­дировании сообщений.

Основанием счисления в десятичной системе является число 10. Форма запи­си числа в десятичной системе счисления имеет вид

,

где 10^{i - 1} – десятичный разряд; а_i – значение символа в соответствующем разря­де, которое может быть любым от 0 до 9.

Например, число 582 с помощью трех десятичных разрядов запишется как N = 582 = 5 · 10²+8 · 10¹ + 2 · 10⁰.

Аналогично записывается целое число и в двоичной системе счисления:

Коэффициенты d_i принимают лишь два значения: 0 и 1, так что число 582 в двоичной системе запишется в виде

Итак, числу 582 в десятичной системе соответствует число в двоичной системе 1001000110. Последнее принято называть кодом числа в двоичной системе счисления.

Теоретически в качестве основания счисления можно принять любое целое число т.

При использовании десятичной системы счисления для образования кода требуется десять различных сигналов, различающихся по параметрам. Такое представление кодов в практике связи применяют редко, поскольку для его образования и распознавания требуется сложная аппа­ратура.

При преобразовании последовательности элементов сообщения в последова­тельность двоичных чисел для передачи последних по каналу связи достаточно передавать всего лишь два различных сигнала. При этом для образования и обработки двоичного кода могут быть использованы простые, двоичные цифро­вые элементы, имеющие всего два состояния: единицу и нуль.

Двоичная система счисления широко применяется при кодировании дискрет­ных сообщений благодаря своей простоте и компактности.

В процессе кодирования элементы передаваемого сообщения преобразуются в соответствующие им числа (кодовые символы).

Каждый элемент записывается оп­ределенной совокупностью кодовых символов, которая называется кодовой комби­нацией. Совокупность кодовых комбинаций, отражающих дискретные сообщения, представляет собой код.

Множество возможных кодовых сим­волов называется кодовым алфавитом, а их количество т – основанием кода. Для бинарного кодирования т = 2.

Число разрядов п, образующих кодовую комбинацию, назы­вается разрядностью кода, или длиной кодовой комбинации.

Реализация кодирования на передающей стороне всегда предполагает при­менение обратной процедуры – декодирования – для восстановления принято­го сообщения. Как уже отмечалось, устройства, осуществляющие кодирование и декодирование, называются, соответственно, кодер и декодер. Выполняются они обычно в одной микросхеме и образуют кодек.