15.5. Количество информации, переданной по непрерывному каналу

Вместо последовательностей символов для дискретного канала, в непрерывном канале осуществляется передача последовательности непрерывных величин с дискретным или непрерывным временем (в первом случае эти последовательности можно представить в виде импульсов различной величины, появляющихся в определенные моменты времени, а во втором случае как непрерывные функции времени).

Количество передаваемой информации:

, (15.6)

w(y) – плотность распределения вероятности выходных случайных величин;

w(n) – плотность распределения вероятности помехи (аддитивной);

h(Y) – дифференциальная энтропия сигнала y;

h(Y/X) – условная дифференциальная энтропия сигнала y при известном сигнале x;

Отметим следующие свойства количества информации, передаваемой в непрерывном канале:

I(Y,X) ≥ 0, причём I(Y,X) = 0 тогда, и только тогда, когда вход и выход канала статистически независимы, т.е. w(y / х) = w(y);

I(Y,X) = I(X,Y) – свойство симметрии;

I(Y,X) = ∞, если помехи в канале отсутствуют, т.е. y = x, n = 0

Дифференциальная энтропия h(Y) уже не представляет собой среднее количество информации, выдаваемое источником сигнала (для непрерывного сигнала оно бесконечно). Аналогично h(Y/X) не представляет собой количество информации, потерянной в канале, поскольку эта величина тоже бесконечна. Поэтому дифференциальную энтропию следует понимать лишь формально, как некоторую вспомогательную величину полезную при расчетах.

Если помеха аддитивная y = x + n , то нетрудно показать, что

, (15.7)

где w(n) – плотность распределения вероятности помехи, а h(N) – дифференциальная энтропия помехи.

Выражение для определения количества информации, переданной по непрерывному гауссовскому каналу (нормальный закон распределения вероятностей сигнала и помехи):

. (15.8)

где

(15.9)

Полученное выражение показывает, что пропускная способность гауссовского канала с дискретным временем определяется отношением дисперсии сигнала σ_с² к дисперсии помехи σ². Нередко величину σ_с² / σ² = h² называют отношением сигнал/шум. Чем больше это отношение, тем выше пропускная способность.

15.6. Пропускная способность непрерывного канала

Пусть сигнал y(t) на выходе канала представляет собой сумму полезного сигнала x(t) и шума n(t), т.е. y(t) = x(t) + n(t), причем x(t) и n(t) статистически независимы, и канал имеет ограниченную полосу пропускания шириной ∆F_НК.

Пропускная способность гауссовского канала с дискретным временем, рассчитанная на единицу времени, с учетом (15.8) может быть записана в виде:

. (15.10)

Полученное выражение показывает, что пропускная способность гауссовского канала с дискретным временем определяется числом импульсов, передаваемых в секунду, и отношением сигнал/шум (h).

С учетом взаимосвязи скорости передачи информации и полосы частот непрерывного канала от (15.10) можно перейти к формуле Шеннона, которая устанавливает связь пропускной способности гауссовского канала с полосой пропускания непрерывного канала и отношением мощности сигнала к мощности помехи:

С = ∆F_НК log₂(1+h²) (15.11)

Заметим, что при малом отношении h² << 1, С ≈ ∆F_НК ·1,442 · h², при большом отношении h² >> 1, можно пренебречь единицей и считать, что С = ∆F_НКlog₂(h²), т.е. зависимость пропускной способности непрерывного канала от отношения сигнал/шум логарифмическая.

График отношения С / ∆F_НК = log₂(1+h²) представлен на рисунке 15.2.

Рис. 15.2. График отношения С / ∆F_НК

Пропускная способность канала, как предельное значение скорости безошибочной передачи информации, является одной из основных характеристик любого канала.

Пример 15.2. Определим пропускную способность канала тональной частоты, имеющего границы эффективно передаваемых частот 0,3...3,4 кГц, среднюю мощность сигнала на выходе 56 мкВт при средней мощности помехи 69000 пВт.

.

Характеристики типовых каналов многоканальной связи Таблица 15.3

Границы передаваемых частот, Гц	Пропускная способность, бит/с
300 … 3400	20,64∙103
12,3∙103 … 23,4∙103	73,91∙103
60,6∙103 … 107,7∙103	313,6∙103
312,3∙103 … 551,4∙103	1,59∙106
812,3∙103 … 2043,7∙103	8,2∙106

Зная пропускную способность канала и информационные характеристики сообщений (таблица 15.3), можно определить, какие сообщения (первичные сигналы) можно передавать по заданному каналу.

Например, первичный сигнал телевизионного вещания имеет C = 208·10⁶ бит/с и поэтому не может быть передан ни по одному из типовых непрерывных или цифровых каналов без потери качества. Следовательно, для передачи сигнала телевизионного вещания требуется создание специальных каналов с более высокой пропускной способностью или снижение скорости цифрового потока.