3. 3.3. Пропускная способность каналов связи

Пропускная способность дискретных каналов связи

Пропускной способностью канала связи называется максимально возможная скорость передачи по этому каналу, которая обеспечивается при источнике с максимальной энтропией.

Еще раз подчеркнем, пропускная способность – характеристика канала связи. Для дискретного канала она зависит от технической скорости передачи, которая ограничивается полосой пропускания канала, и от потерь информации. Последние зависят от помех, действующих в канале, способов обработки сигналов в передатчике и приемнике, а также и от технической скорости передачи. Рассмотрим с точки зрения пропускной способности дискретный канал связи без помех и дискретный канал связи с помехами.

Пропускная способность дискретного канала без помех

Докажем, что для дискретного канала пропускная способность зависит от технической скорости передачи.

Известно, что среднее количество информации, переносимое одним символом, равно энтропии символа на входе канала

[бит/символ].

Скорость передачи информации I` будет зависеть от количества информации, приходящейся на один символ или энтропии символа H(X) на входе канала и скорости передачи элементарных символов сигнала (электрических кодовых сигналов) .

Т.е.:

[бит./с]. (2.6)

Из выражения (2.6) следует, что пропускная способность канала связи это действительно наибольшая теоретически достижимая для данного канала скорость передачи информации. От свойства сигнала пропускная способность не зависит.

Пропускная способность представляет собой максимальное количество информации, которое можно передать по каналу при данных условиях за единицу времени. Математически это записывается в следующей форме:

(2.7)

где С – пропускная способность, – количество информации передаваемое в единицу времени с помощью входных сигналов X и выходных Y.

Запись означает, что отыскание максимума выражения (2.7) ведется по всем возможным источникам сообщений.

Считая, скорость передачи заданной и раскрывая значение I`(…) получим, что максимальная скорость передачи информации будет обеспечена при максимальном значении энтропии сигнала.

Известно, что максимальное значение энтропии обеспечивается при равномерном распределении вероятностей и статисческой независимости символов алфавита сигнала. Таким образом:

, (2.8)

- количество букв в алфавите. Из формулы видно, что пропускная способность измеряется в единицах измерения количества информации за единицу времени.

Рассмотрим методику определения пропускной способности канала связи без помех на следующем примере.

В информационном канале без помех для передачи сообщений используется алфавит с четырьмя различными символами =4, а код каждого сообщения содержит =2 бита. Длительности всех разрядов, соответствующих битам одинаковы и равны одной миллисекунде: t_с= 1 мс.

Определить пропускную способность канала передачи.

Решение.

Для расчета пропускной способности дискретного канала без помех используется выражение (2.12).

.

Скорость передачи одного символа

,

где – средняя длительность передачи символа.

Так как код каждого символа содержит 2 бита, то длительность всех сигналов будет постоянна и равна

[мс].

.

И, следовательно

.

Пропускная способность дискретного канала с помехами

При определении пропускной способности канала предполагается, что задано свойства канала (структура и уровень сигнала и помех, вид модуляции, методы кодирования и декодирования и др.). Эти свойства определяют статистические связи между принимаемыми сигналами, которые в свою очередь выражаются условными вероятностями вида р(х_iy_i) и р(у_iх_i) (рис.2.2). При заданных таким образом свойствах канала максимальную скорость передачи информации можно обеспечить выбором оптимального ансамбля сигналов. При этом накладываются ограничения в отношении уровня сигнала, его структуры, спектра, объёма алфавита и др. Выбор оптимального ансамбля сигналов означает выбор оптимального распределения вероятностей р(х_i).

В соответствии с этим пропускная способность дискретного канала с помехами определяется как максимальная скорость передачи информации, которая может быть достигнута при заданных свойствах канала и наложенных ограничениях:

. (2.9)

В соотношении (2.9) максимум берётся по всем допустимым распределениям вероятности р(х_i). Здесь – максимальное число сообщений, которое может быть передано по каналу за единицу времени. Величина V_max зависит от электрических характеристик канала и вида модуляции. При передаче с большой скоростью, т.е. короткими импульсами, через канал с ограниченной полосой, недостаточно для неискаженного воспроизведения этих импульсов возникает взаимное перекрытия ряда соседних сигналов, снижающее достоверность приёма. Предельная удельная скорость передачи дискретных сигналов, при которой может быть достигнут безыскаженный прием, составляет 2 бода на 1 Герц полосы канала.

Для двоичного канала V_max представляет собой максимально возможную скорость манипуляции В_max. Напомним, что в отсутствие помех Н(XY)=0. Пропускная способность двоичного канала равна скорости манипуляции В_max.

В дальнейшем будем рассматривать только такие каналы, которые называют каналами без памяти. Дискретный канал называется каналом без памяти, если вероятность перехода любого входного символа в любой выходной не зависит от того, какие символы передавались до этого и как они были приняты.

Если алфавит входных (X) и выходных (Y) сигналов состоит из двух символов, то канал называется двоичным. Диаграмма переходных вероятностей такого канала представлена на рис. 2.4.

Алфавит входных сигналов имеет два символа х₀ и х₁ . Выбранный случайным образом источником сообщений, один из этих символов подаётся на вход дискретного канала. На приёме регистрируется у₀ и y₁ . Выходной алфавит тоже имеет два символа. Символ у₀ может быть зарегистрирован при передаче сигнала х₀ . Вероятность такого события – р(y_0x₀). Символ у₀ может быть зарегистрирован при передаче сигнала х₁ . Вероятность такого события – р(y_0x₁). Символ y₁ может быть зарегистрирован при передачи сигналов х₀ и х₁ с вероятностями р(y_1x₀) и р(y_1 x₁) соответственно. Правильному приёму соответствуют события с вероятностями появления р(y_1x₁) и р(y_0x₀). Ошибочный прием символа происходит при появлении событий с вероятностями р(y_1x₀) и р(y_0x₁). Стрелки на рисунке 2.5 показывают, что возможные события заключаются в переходе символа х₁ в y₁ и х₀ в y₀ (это соответствует безошибочному приему), а также в переходе х₁ в y₀ и х₀ в y₁ (это соответствует ошибочному приему). Такие переходы характеризуются соответствующими вероятностями р(y_1x₁), р(y_0x₀), р(y_1x₀), р(y_0x₁), а сами вероятности называют переходными. Переходные вероятности характеризуют вероятности воспроизведения на выходе канала переданных символов.

Канал без памяти называют симметричным, если соответствующие переходные вероятности одинаковы, а именно одинаковы вероятности правильного приёма, а также одинаковы вероятности любых ошибок. То есть:

Канал с произвольным объёмом алфавита называется симметричным, если

(2.11)

В (2.11) – объём алфавита сигналов.

Дискретный канал считается полностью определенным, если известна скорость передачи отдельных элементов дискретных сигналов и определены (переходные) вероятности .

Переходные вероятности и распределение вероятностей р(х_i) позволяют определить апостериорную неопределённость не устраняемую полностью при приеме, так как в канале с помехами возможно искажение передаваемых сигналов. Напомним, что определяется выражением

(2.12)

В выражении 2.12 условная энтропия входного символа при принятом символе ; р(х_iy_j ) – условная вероятность передачи х_i, если принят y_j. Границы условной энтропии определяются неравенством

(2.13)

При чем при отсутствии помех в канале. Это означает, что остаточной (апостериорной) неопределённости нет. Помеха не искажает передаваемые сигналы. Сообщение на приеме восстанавливаются полностью и из них извлекается вся информация.

при обрыве канала. При обрыве канала информация по каналу не передается и неопределенность на приёме не уменьшается.

Таким образом, при неполной достоверности сообщений, среднее количество информации равно разности безусловной энтропии Н(X) и условной энтропии характеризующей остаточную неопределённость сообщений. И в результате передачи по каналу одного элемента сообщения X неопределенность на выходе уменьшиться в среднем на величину

(2.14)

В выражении 2.14 условная вероятность определяется распределением вероятностей и переходными вероятностями

(2.15)

где q = 1-р – вероятность ошибочного приема символа, р – вероятность правильного приёма символа, N – алфавит сигналов.

Подставляя (2.15) в выражение (2.9) для пропускной способности получаем

(2.16)

Максимальное значение энтропия принимает при равно вероятных символах сообщения. Т.к. Н(Y) = log N, где N – алфавит выходных сигналов, то для пропускной способности можем окончательно записать

[бит/сек]. (2.17)

Пропускная способность канала в расчете на один символ определяется путем деления С на количество элементов сообщения, передаваемых в единицу времени, т.е. на скорость передачи . Пропускная способность канала в расчете на один символ составляет

[бит/символ]. (2.18)

Из выражения 2.18 следует, что при и пропускная способность симметричного канала равна нулю. Действительно, представляя значения q и p выражение 2.18 получаем

Этот случай соответствует обрыву канала. Физически, это означает, что по каналу идет передача информации, на выходе канала её получить невозможно, т.к. при любом переданном символе x_i все принимаемые символы у_j равновероятные, т.е. р(у_j|x_i) = 1/N. Максимальной пропускная способность становится при отсутствии помех. В этом случае вероятность ошибки q становится равной 0: q = 0, а вероятность безошибочного приёма р= 1. Подставляя эти значения в (2.18) получаем

[бит/сек].

В частном случае двоичного симметричного канала без памяти, т.е. при N= 2 получаем:

Cс = 1 + p log p + (1-p) log (1-p).

Беря различные значения р, можем определить пропускную способность для такого канала.

Проанализируем пропускную способность симметричного канала без памяти при N = 2:

C = 1 + p log p + (1-p) log (1-p)

где - вероятность правильного приема, - вероятность ошибки.

C

Из графика (рис.2.2) видно, что пропускная способность максимальна, если вероятность ошибки q равна 0. При увеличении вероятности q от 0 до 0,5 пропускная способность С уменьшается до нуля. В точке q=0,5 пропускная способность равна нулю. Этот случай соответствует обрыву канала. При дальнейшем возрастании вероятности ошибок q пропускная способность С начинает увеличиваться и достигает максимума при q=1. это означает, что все переданные «1» под воздействием помех переходят в «0», а все «0» переходят в «1». Поэтому, изменением полярности на приеме можно полностью исключить ошибки.

Пропускная способность непрерывных каналов связи

Определение пропускной способности непрерывного канала с белым шумом

Непрерывный канал связи, как и дискретный, характеризуется количеством передаваемой информации и пропускной способностью – максимально возможной скоростью передачи информации.

Рассмотрим непрерывный канал с дискретным временем, т.е. канал, по которому со скоростью передаются отсчеты дискретного по времени и непрерывного по интенсивности сигнала.

В соответствии со схемой (рис.2.1)

,

где – дифференциальная энтропия суммы на выходе непрерывного канала;

– условная дифференциальная энтропия суммы при известном входном сигнале .

Если помехи в канале связи являются аддитивными, т.е. , то можно показать, что

,

где – дифференциальная энтропия помехи. Тогда среднее количество информации, переносимое одним отсчетом, равно

,

а скорость передачи информации

.

В частном случае, если средние мощности сигнала и шума на выходе канала ограничены (в определенной полосе частот), а распределение плотности вероятностей и являются нормальными (гауссовскими), то

,

,

где Р_с и Р_п – средние мощности полезного сигнала и помехи на выходе канала;

Р_с+Рп – средняя мощность (дисперсия) суммы (при независимости и n(t)).

Тогда пропускная способность непрерывного канала с дискретным временем рассчитывается по формуле:

(2.20)

где Р_с /Р­_п – отношение сигнал/помеха на выходе канала связи.

В полностью непрерывном канале с широкой полосой пропускания минимальная скорость передачи отсчетов определяется в соответствии с теоремой Котельникова , так что

(2.21)

Это выражение называется формулой Шеннона, которая справедлива лишь по отношению к гауссовым каналам, т.е. к каналам с белым гауссовским шумом.