21. Пропускная способность канала передачи информации.

За время T имеется 2TW независимых отсчетов сигнала, а каждый отсчет может принимать значений, то полное число различимых сигналов будет равно

Число битов, которое можно передать за время T, равно , соответственно скорость передачи определяется как

Оказывается, что, применяя достаточно сложную систему кодирования, можно передавать двоичные цифры со скоростью

,

со сколь угодно малой частотой ошибок. Никакой метод кодирования не допускает передачи информации с большей скоростью при произвольно малой частоте ошибок. Максимально достижимая скорость передачи информации называется пропускной способностью канала C.

Отсюда фундаментальный вывод: пропускная способность канала передачи информации зависит от полосы пропускания канала и отношения сигнал/шум в канале.

21. Коды, обнаруживающие и исправляющие ошибки.

Передача информации по любым каналам связи сопровождается шумами и помехами (атмосферными или промышленными), что неизбежно приводит к искажениям и потерям. Искаженный помехами аналоговый сигнал невозможно отличить от подлинного.

Клод Шеннон в 50-х гг. разработал теорию помехоустойчивого кодирования цифровых сигналов, показывающую, что при достаточно сложном кодировании цифровых сигналов информацию можно передавать без ошибок.

Оказывается, цифровые сигналы, благодаря успехам в теории помехоустойчивого кодирования при определенных условиях позволяют обнаруживать и даже исправлять ошибки, несмотря на действие помех. Покажем это свойство на элементарном примере.

Допустим, необходимо передать 4 сообщения А, B, C, и D. Для их передачи сопоставим этим сообщениям кодовые комбинации минимальной длины. Со всей очевидностью это могут быть комбинации: 00, 11, 10, 01.

Давайте условимся, что в канале передачи на сигнал воздействует шум таким образом, что в случае, если это воздействие имеет место, то один знак в кодовой комбинации изменяется. При двоичном представлении сигналов слово “изменяется” можно трактовать вполне определенно: вместо 0 появится 1 или вместо 1 окажется 0. При условии изменения одного знака в кодовой комбинации помеху называют однократной, если помеха способна изменить два знака, ее называют двукратной и так далее.

Итак, пусть на выбранные нами в примере кодовые комбинации действует однократная помеха. Что произойдет с передачей сообщений A, B, C, D? Не трудно видеть, что при воздействии помехи одна комбинация будет переходить в другую, и мы не способны обнаружить правильная ли это комбинация или ложная.

Можно организовать передачу таким образом, чтобы обнаруживать воздействие помехи, и поврежденные комбинации не принимать как истинные.

Для этого введем в сигналы избыточность.

В нашем конкретном случае избыточность будет означать, что для представления сообщений А, В, С, D мы используем не двухразрядные, а трехразрядные комбинации типа 000, 111, 101 и др. Для этого нам нужно выбрать 4 комбинации из 8-ми возможных. Что это за комбинации? Следует помнить, что мы хотим обнаруживать влияние однократных помех.

Изобразим трехразрядные комбинации графически, это наглядно и понятно. Осями координат пусть будут первый, второй и третий знаки комбинации.

111

110

2-ой знак

100

101

010

011

3-ий знак

000

001

Воспользуемся понятием из теории кодирования - расстояние между комбинациями по Хэммингу. Хотя для понимания проблемы это не обязательно. Расстояние между кодовыми комбинациями - это различие в количестве знаков. Так как комбинации 111 и 101 отличаются в одном знаке, расстояние между ними равно единице, комбинации 111 и 001 находятся на расстоянии 2.

Так вот, защитой комбинаций от воздействия однократной помехи будет выбор таких четырех кодовых комбинаций, у которых расстояние по Хэммингу равно 2. В этом случае помеха переведет истинную кодовую комбинация в ложную, не принятую нами для передачи сообщений A, B, C, D. На рисунке отмечены выбранные для передачи кодовые комбинации, имеющие расстояние по Хэммингу, равное двум.

В случае более сильного воздействия помех (двукратные и более помехи) прибегают к большей избыточности. Платой оказывается более длительная во времени передача информации.