1.3 Влияние шумов на пропускную способность канала
Отличие реального канала от идеального в том, что шумы приводят к снижению пропускной способности канала.
После прохождения по идеальному каналу на выходе импульс интерпретируется именно как импульс, а пауза – как пауза, и, следовательно, связанная с ним информация не меняется в количественном отношении.
Иная ситуация в реальном канале: из-за шумов при передаче может вместо 1 на выходе быть получен 0, и наоборот. Пусть вероятности таких искажений и для 0, и для единицы равны p10 = p01 = p. Тогда вероятность того, что исходный сигнал придет без искажений, очевидно равна (1-p). Следовательно, при распознавании сигнала возникает неопределенность, которая может быть охарактеризована средней энтропией
H =
.
Эта неопределенность приведет к уменьшению количества информации, содержащейся в сигнале, на величину H, то есть (Iимп)’ = Iимп – H.
Следовательно, пропускная способность реального канала СR:
Для двоичного кода сигнала Iимп = 1 бит, следовательно, при p = 0,5 CR = 0. Это означает, что в данном случае на приемном конце линии связи с одинаковой вероятностью получаются 0 и 1, независимо от того, что за сигнал на входе, так что передача информации по такой линии оказывается вообще невозможной (рисунок 1.3).
Максимальное значение CR достигает при p = 0 (отсутствие помех), а также при p = 1! (просто это такие помехи, которые каждый входящий сигнал 1 переводят в 0 и наоборот, что не мешает распознавать, какой сигнал был послан).
В остальных случаях CR < C.
П
ример
2. Каково отношение CR/C,
если средняя частота появления ошибки
при передаче по линии с шумом составляет
1 ошибочный знак на 100 переданных, в
случае использования двоичного
кодирования?
р = 1/100; так как двоичный код, то Iимп = 1 бит.
Следовательно
,
то есть пропускная способность снизилась
на 8%.
Влияние шумов определяется также соотношением мощности сигнала и мощности помех.
Например, для так называемого белого гауссова шума, в котором помехи существуют по всем частотам, а их амплитуды подчиняются нормальному (гауссову) распределению
,
где
Ns – средняя мощность сигнала, а Nn – средняя мощность помех
Следовательно, для повышения пропускной способности необходимо повысить максимальную частоту полосы пропускания, либо увеличить отношение мощности сигнала к мощности помех.
Таким образом, наличие помех (шумов) в канале связи приводит не только к искажению передаваемого сообщения и частичной утраты связанной с ним информации, но и к уменьшению пропускной способности канала.
1.4 Обеспечение надежности передачи информации
Все реальные каналы связи подвержены воздействию помех. Означает ли это, что надежная (без потерь) передача по ним информации невозможна в принципе?
Шеннон доказал теоретически возможность передачи сообщения без потерь информации по реальным каналам связи, если при этом выполнен ряд условий. Задача была сформулирована в виде теоремы, которая затем получила строгое математическое доказательство.
Вторая теорема Шеннона относится к реальным каналам связи и гласит следующее:
При передаче информации по каналу с шумом всегда имеется способ кодирования, при котором сообщение будет передаваться со сколь угодно высокой достоверностью, если скорость передачи не превышает пропускной способности канала.
Смысл данной теоремы в том, что при передаче по реальным каналам можно закодировать сообщение таким образом, что действие шумов не приведет к потере информации. Это достигается за счет повышения избыточности кода (то есть увеличения длины кодовой цепочки); конечно, возрастает и время передачи, что следует считать платой за надежность.
В теореме не указывается, каким образом осуществляется такое кодирование – она лишь утверждает принципиальную его возможность; поиск кода – самостоятельная задача.
Возможны 2 различные ситуации (задачи) такого кодирования:
- кодирование обеспечивает только установление факта искажения информации – в этом случае исправление производится путем ее повторной передачи;
- кодирование позволяет локализовать и автоматически исправить ошибку передачи (хранения).
Общим условием является использование только равномерных кодов. Во-первых, в этом случае недополучение 1 бита будет сразу свидетельствовать об ошибочности передачи (постоянство длины кодовой цепочки – дополнительное средство контроля правильности передачи).
Во-вторых, во внешних компьютерных линиях связи часто используется параллельная передача нескольких бит по шинам фиксированной ширины.
Надежность обеспечивается тем, что наряду с битами, непосредственно кодирующими сообщение (будем называть их информационными), передаются (хранятся) дополнительные биты, по состоянию которых можно судить о правильности передачи (контрольные биты).
Относительная избыточность сообщения – эта характеристика, показывающая, во сколько раз требуется удлинить сообщение, чтобы обеспечить его надежность (безошибочную) передачу (хранение).
Предпочтение, конечно, должно быть отдано тому способу кодирования, при котором избыточность окажется наименьшей. Для практики также важна простота технической реализации того или иного способа кодирования.