49. Коды, не обнаруживающие возможных искажений.

Существует принципиальная разница при кодировании информации в условии отсутствия помех и при наличии последних. В условиях отсутствия помех используются коды не обнаруживающие ошибку, т.е. не обнаруживающие возникающие вследствие ее искажения. При образовании сигнала в этих кодах не вносится никаких ограничений, поэтому эти коды называются кодами на все сочетания. Если используется “B” признаков посылок (основание системы счисления), то число образуемых сигналов равно

где n – число элементов кода.

Для двоичной системы

Т.к. в случае применения рассматриваемого кода используются все возможные комбинации, “n” является минимальным числом символов в закодированном сигнале, с помощью которых можно построить комбинации для передачи N сигналов при принятом числе возможных значений символов B.

Классический пример кода на все сочетания – двоичный код (код Грея также). В нем кодовые комбинации отличаются одна от другой не менее чем одним элементом.

50. Коды, обнаруживающие ошибки.

Для повышения надежности используются коды, обеспечивающие получение помехоустойчивых сигналов.

Одним из путей обеспечения помехоустойчивости сигналов является выбор из общего возможного числа кодовых комбинаций лишь тех, которые отличаются друг от друга не менее чем двумя элементами. При этом искажения сигнала в одном элементе легко обнаруживается, вследствие чего наступает защитный отказ.

К такого рода кодам относится, например, коды на одно сочетание, когда используются только кодовые комбинации, содержащие постоянное число k (k<n) элементов с определенным признаком.

Число возможных кодовых комбинаций (сигналов) в этом случае определяется числом сочетаний из n элементов по k

Наибольшее число комбинаций можно получить, если при четном “n” принять или при нечетном “n” принять .

Если, например, n=4, то k=2 и

Если бы при n=4 сигналы формировались по коду на все сочетания, то имелись бы 16 сигналов, представленных в табл.1.

В случае использования кода на одно сочетание при k=2 из 16 комбинаций выбираются только 6, содержащие по два символа со значением 1.

3. 0011 9. 1001

5. 0101 10.1010

6. 0110 12.1100

Каждый сигнал отличается от любого другого сигнала не менее чем двумя элементами. Искажение любого сигнала в одном элементе приводит к образованию кодовой комбинации, не соответствующей принципу построения кода. Такой искаженный сигнал не будет воспринят ни одной из исполнительных цепей.

При анализе кода на одно сочетание видно определенное недоиспользование возможностей кодирования: с помощью 4 элементов, применяя код на все сочетания, можно сформировать не 6, а 16 сигналов. Для формирования же 6 сигналов в этом случае было бы достаточно всего 3 элементов, т.к.

Таким образом, код на одно сочетание обладает некоторой избыточностью.

51. Информационная способность кода и избыточность.

Получатель сообщения в каком-либо коде не знает, какой из символов к нему поступит, поэтому сообщения (сигналы) в любом коде можно рассматривать как системы со многими случайными состояниями. Число возможных состояний равно числу всех различимых сигналов (символов) кода. Это дает возможность говорить об энтропии кода. Если считать, что все N символов (сигналов) кода при передаче сообщений могут появляться с равной вероятностью, то вероятность каждого их них будет .

Основная теорема Шеннона о кодировании для канала с помехами.

Теорема помехоустойчивого кодирования базируется на результатах исследований проведенных Шенном и сформулированных им в виде теоремы:

1. При любой производительности источника сообщений, меньшей, чем пропускная способность канала, существует такой способ кодирования, который позволяет обеспечить передачу всей информации, создаваемой источником сообщений, со сколь угодно малой вероятности ошибки.

2. Не существует способа кодирования, позволяющего вести передачу информации со сколь угодно малой вероятностью ошибки, если производительность источника сообщений больше пропускной способности канала.

Анализ теоремы. Теорема устанавливает теоретический предел возможной эффективности системы при достоверной передачи информации. Ею опровергнуто представление о том, что достижение сколь угодно малой вероятности ошибки в случае передачи информации по каналу с помехами, возможно лишь при введении бесконечно большой избыточности, т.е. при уменьшении скорости передачи до нуля. Из теоремы следует, что помехи в канале не накладывают ограничений на точность передачи. Ограничение накладывается только на скорость передачи, при которой может быть достигнута сколь угодно высокая достоверность передачи.

Теорема неконструктивна: в ней не затрагивается вопрос о путях построения кодов.

Следует отметить, что при любой конечной скорости передачи информации вплоть до пропускной способности сколь угодно малая вероятность ошибки достигается лишь при безграничном увеличении длительности кодируемых последовательностей знаков. Не исключено, конечно, вероятность, что искаженный в нескольких элементах сигнал 1 или сигнал 3, но вероятность искажения сигнала в нескольких элементах значительно меньше, чем в одном.

Для выполнения коррекции единичного искажения необходимо построить цепи расшифровки таким образом, чтобы исполнительный срабатывал как при приеме неискаженного сигнала, так и при приеме сигналов, отличающихся от основного одним элементом.

Рассматриваемый код обладает значительной избыточностью

,

т.е. 3 элемента из 5 несут контрольные и корректирующие функции, не обеспечивая передачу информации.

Общее число элементов n корректирующего кода определяется как сумма рабочих (информационных) элементов n₀ и контрольных элементов k:

n = n₀+k.

Полное число комбинаций 2ⁿ. Основной сигнал и его искажения в одном элементе занимает n+1 комбинаций. Отсюда количество возможных колебаний кода обнаруживающего и исправляющего единичную ошибку определяется неравенством

Из неравенства при заданном N определяются n₀, n и затем k.

Число элементов, в которых одна кодовая комбинация должна отличаться от другой, или, как говорят, число переходов определяется по формуле

d=r+s+1,

где r – число обнаруживаемых ошибок; s – число исправляемых ошибок.

Пример кода с автоматическим исправлением ошибок рассмотрим на практическом занятии.

В заключении приведем основную теорему Шеннона о кодировании для канала с помехами.

В качестве примера рассмотрим определение избыточности приведенного ранее n-элементарного (n=4) кода на одно сочетание (k=2), обеспечивающего 6 комбинаций.

, округляем до n₀=3.

Тогда

Это означает, что ¼ от элементов в коде на одно сочетание является избыточной, не выполняет функций передачи информации. Введение их вызвано не требованиями кодирования, а стремлением повысить помехоустойчивость сигнала.