12. Передача дискретных сообщений с помощью многоуровневых сигналов. Проблема квантования

Как мы уже знаем (см. разд. 1 и Прил. 3), много десятилетий инженеры стремились повысить скорость передачи телеграфных сообщений самыми разными методами, в том числе и за счёт использования многоуровневой телеграфии. Т. Эдисон и Дж. Прескотт в 1984 г. изобрели четырёхуровневый телеграф, а Г. Найквист в 1924 г. рассматривал многоуровневую телеграфию теоретически. Однако технически многоуровневую телеграфию удалось реализовать только в 1990-х годах: в радиосистемах с многопозиционной амплитудной манипуляцией M-ASK. При этом модуляция M-ASK может рассматриваться как частный случай квадратурной амплитудной модуляции QAM: модуляция QAM с одномерным сигнальным созвездием.

Так мы возвращаемся (на более высоком уровне развития технических средств телекоммуникаций) к проблематике многоуровневой телеграфии, которая привела к созданию прикладной теории информации (см. разд. 1).

Рассмотрим задачу оценивания количества знаковой информации, которую может передать статическая система ССПИ многоуровневой телеграфии, использующая канал КПДС с известным уровнем аддитивных помех в канале КПДС.

Если некоторая непрерывная физическая величина (например, напряжение u постоянного тока) используется для передачи с помощью статического канала КПДС дискретной информации, то возникает вопрос о количестве необходимых уровней и расстояниях между ними (количество «чётко различимых уровней» Г. Найквиста и К. Шеннона – см. разд. 1): проблема квантования с минимальной потерей информации.

Пусть уровни передаваемых сигналов «многоуровневого телеграфа» могут лежать в пределах от – U_т до +U_т, а погрешности определения этих уровней с помощью цифро-аналогового преобразователя (ЦАП), работающего по правилу k = [ u/Δu + 1/2 ], имеют равномерное распределение в пределах от – W до +W (W < U_т, см. рис. 14).

p(u)

2 W

U₁ U₂ U_k U_N

– U Δu 0 + U u

Рис. 14. Распределение уровней U_k и помех p_п(u)

в системе ССПИ

Разобьём промежуток (– U_т, +U_т) на N уровней с интервалом (величиной кванта) Δu так, чтобы N = 1 + 2 U_т /Δu. Если избыточность источника ДИС предварительно снята (соответствующим кодированием первичных знаков некоторыми символами v_k), то все эти N уровней, соответствующие поступающим на ЦАП N символам v_k (k = 1, 2, …, N ), будут равновероятными.

Как показано в разд. 10, большую роль в статистической и в информационной теориях радиосистем имеет энергетический параметр Q, называемый «отношением сигнал/помеха». В бинарной системе ССПИ он определяется как Q = U ²/σ_n².

В многоуровневом телеграфе следует предварительно определить среднюю мощность сигнала . ЕслиN – чётное число (см. рис. 14), то N = 2 M и

= ,

или =.

Но = (L + 1) (2 L + 1) (2 L + 3)/3. Поэтому

= (M – 1 + 1) (2 M – 2 + 1) (2 M – 2 + 3)/3 = M (2 M + 1) (2 M – 1)/3.

Значит, = Δu² (2 M + 1) (2 M – 1)/12.

Если учесть, что Δu = 2 U_т /(N – 1), то есть =,

то окончательно получим: =.

Если N – нечётное, то есть N = 2 M + 1, то = Δu ² M (M + 1)/3 и при Δu = 2 U_т /(N – 1): =.

Итак, при любом значении N средняя мощность сигнала определяется

выражением

= . (12.1)

При N = 2 (обычный двухполярный телеграф или двухуровневая фазовая манипуляция 0º/180º – см. разд. 10) величина = 3 U_т²/3 = U_т², что очевидно.

При N >> 1 величина ≈U_т²/3, что соответствует равновероятному закону распределения бесконечного числа уровней U_k и пределах (– U_т, + U_т) и что следует из вычисления дисперсии случайной величины α, равномерно распределённой на произвольном числовом промежутке длиной 2 U_т (см. разд. 11).

Дисперсия же помехи, равномерно распределённой на промежутке (– W, + W), равна: σ_n² = W ²/3. Значит, в многоуровневом телеграфе отношение

сигнал/помеха есть: Q = , илиQ = , где Z ≡U_т /W.

Если выполняется неравенство Δu > 2 W, то передача сообщений с помощью преобразователя ЦАП («многоуровневая телеграфия») будет абсолютно надёжной (P_jj = 1, χ(Π) = 1). При этом среднее количество информации , приходящееся на один передаваемый символv_k (k = 1, 2, …, N ), будет равно = log N = log (1 + 2 U_т /Δu) (бит/символ).

Максимальное значение N₀ = 1 + U_т /W соответствует величине кванта Δu = 2 W.

При уменьшении величины кванта Δu от Δu = 2 U_т до Δu = 2 W количество уровней N = 1 + 2 U_т /Δu увеличивается от N = 2 до N = 1 + U_т /W = N₀, а средняя информативность символа будет увеличиваться

от = log 2 = 1 до = log (1 + U_т /W ) = log N₀ (бит/символ).

Если же величина кванта Δu будет менее 2 W, то количество уровней N = 1 + 2 U_т /Δu будет больше величины N₀, но эти уровни сигналов на выходном преобразователе ЦАП канала КПДС будут «перепутываться» и будет происходить частичная потеря знаковой информации относительно максимально возможной при данном значении отношенияZ = U_т /W, то есть относительно величины

ℰ = = log N₀ = log (1 + U_т /W ) = log (1 + Z ) = ,

так как 1 + Q = 1 + Z ² (1 + Z + 1)/(1 + Z – 1) = 1 + 2 Z + Z ² = (1 + Z )².

Среднее количество информации на один входной символ, которое получается на выходе каналаКПДС при данных значениях величин U_т, Δu и W, с учётом равенства P_j = 1/N, определяется по формуле (7.4):

= log , (12.2)

а коэффициент надёжности

χ(N, Q) = /log N, (12.3)

где n = (N – 1)/2 = U_т /Δu, а P_jk – элементы переходной матрицы канала КПДС.

Если W < Δu ≤ 2 W, то будут «перепутываться» только соседние уровни (см. рис. 14) – и матрица Π = || P_jk || будет трёхдиагональной. В этом случае:

P_{j j} = =;P_{j, j +1} = P_{j – 1, j} = ,

кроме j = – n и j = n, при которых

P₁₁ = P_NN = ,P₁₂ = P_{N –1, N} = .

Если обозначить величину P_{j j} = Δu /(2 W ) через p₀, то

p₀ = Δu /(2 W ), P_{j, j +1} = P_{1, j – 1} = (1 – p₀)/2,

и матрица Π будет иметь вид

Π = .

Результаты расчётов по формулам (12.1) и (12.2) для канала КПДС с переходной матрицей Π приведены на рис. 15 (сплошные линии).

При N >> 1 из формулы (12.1) приближённо получаем:

= (1 – p₀)/2 + p₀ + (1 – p₀)/2 = 1;

≈=

= log N + p₀ log p₀ + (1 – p₀) log (1 – p₀) + p₀ – 1,

а число уровней N = 1 + 2 U_т /Δu.

Если W < 2 Δu < 2 W, то матрица Π = || P_jk || будет пятидиагональной и т. д.

При Δu = 2 W = 2 σ_n ≈ 3,47 σ_n имеем:

p₀ = Δu /(2W ) = 1, N = N₀, ℰ(Π) = = = log (1 + Z ) = log N₀.

При Δu < 2 W ( p₀ ≤ 1) величина зависит от отношения сигнал/помехаQ = Z ² (N₀ + 1)/ (N₀ – 1). Общая зависимость удельной информативности (бит/символ) многоуровневого телеграфа (или канала КПДС с цифро-аналоговым преобразованием) от количества уровней N = 1 + 2 Z_т приведена на рис. 15.а (при значениях Z = 2, 4 и 8) сплошными линиями. Величину =≡ℰ(Q) мы назвали (см. разд. 9) удельной информационной ёмкостью статического канала КПДС.

На рис. 16 приведена зависимость информационной ёмкости ℰ(Q) – спло-шная кривая – и оптимального количества уровней N₀(Q) – пунктир – статического канала КПДС от отношения сигнал/помеха Q при уровнях {U_k}, равномерно распределённых в пределах отU₁ = – U_т до = + U_т, и равномерном распределении помех – в пределах от – W до + W:

ℰ(Q) = ;N₀(Q) = .

Поскольку количество уровней не может быть менее двух, то при Q < 3 следует воспользоваться формулой (9.3) p = (W – U )/W = 1 – U/W = 1 – :

= 1 + log+ (1 –)log (1 – ).

χ

1

8

0,5

Z = 2 4

0

0 2 4 N₀ 6 8 10 N = 1 + 2 U/Δu

б )

бит

символ

4

log N

3

8

ℰ

2

1 4

Z = 2

0

0 2 4 N₀ 6 8 10 N = 1 + 2 U/Δu

а )

Рис. 15. Зависимость (а) удельной информативности

и (б) коэффициента надёжности : системыССПИ

от количества уровней N = 1 + 2 U₀/Δu

Значит, если задано максимально допустимое значение модуля напряжения U_т на входе статического канала КПДС и уровень W равномерно распределённых помех в канале, то при нечётном значении величины [U₀/W ], где [ x ] – целая часть величины x, то есть [ x ] – максимальное целое число, не превышающее значения x, то количество «чётко различимых уровней» (термин Найквиста и Шеннона) составляет N = [1 + U_т /W ] + 1. Если элементарные сообщения источника ДИС закодированы таким образом, что полученный вторичный источник ДИС выдаёт символы “1” и “0” независимо друг от друга и с равной вероятностью, то информационный поток “единиц” и “нолей” следует объединять в блоки размера m = [log [1 + U_т /W ]] + 1.

ℰN₀

бит

символ

4 20 ℰ(Q)

N₀(Q)

3 15 3 1 2

2 10

1

0

1 3 10 30 100 300 Q

Рис. 16. Зависимость информационной ёмкости (сплошная линия)

и оптимального количества уровней (пунктир) от величины Q

Таким образом, для передачи максимального удельного количества синтактической (дискретной) информации по аналоговому статическому каналу КПДС с равномерно распределёнными помехами нужно провести следующие операции.

1. Сообщение S_i⁽ⁿ⁾ = (u_i1, u_i2, …, u_il …, u_in) длины n необходимо закодировать двоичными символами (например “1” и “0”) таким образом, чтобы в любом i-м сообщении S_i⁽ⁿ⁾ символы “1” и “0” появлялись независимо и равновероятно (снять избыточность данного источника ДИС – см. разд. 5).

2. Исходя из допустимого на входе канала КПДС значения U_т и уровня W равномерно распределённых помех в канале определить число уровней кванто-

вания N₀ = [1 + U_т /W ] при чётном n и N₀ = [1 + U_т /W ] + 1 – при нечётном n.

3. Разбить поток символов “1” и “0” на последовательно идущие блоки b_k длиной m = [ log N₀] + 1.

4. Каждому блоку приписать значение уровня .

5. Подавать эти уровни напряжения (с помощью преобразователя ЦАП) на вход аналогового статического канала КПДС поблочно.

В этом случае реализуется удельная ёмкость канала КПДС

ℰ(Q) = приN₀(Q) = , (12.4)

где Q – отношение сигнал/помеха: Q = U_т² (N₀ + 1)/[W (N₀ – 1)].

Рассмотрим более реалистический вариант «многоуровневого телеграфа». Пусть помехи в канале КПДС распределены по гауссовскому закону с дисперсией D_n = σ_n². Тогда в двухуровневой телеграфии даже при большом отношении сигнал/помеха Q = U₀²/D_n величина _вых(2, Q) составляет не один бит-на-знак, а величину _вых(2, Q) = χ(2, Q) = 1 + p log p + (1 – p) log (1 – p), где p = = (см. формулы (9.3), (10.1) и рис. 11).

При N > 2 для оценки величины _вых(N, Q), где Q = U_т² (N + 1)/[3 (N – 1) σ_n²], воспользуемся формулой (12.2), в которой N = 2 M, а при k ≠ 1 и k ≠ N элемент P_{j k} переходной матрицы Π есть (см. рис. 17):

P_{j k} = ,

или P_{j k} = , (12.5)

где Φ(z) – интеграл вероятности; Φ(z) = .

При k = 1 или k = N:

P_{j k} = .(12.6)

Результаты численных расчётов по формулам (12.6), (12.5) и (12.2) зависимости _вых(Q) при N = 2, 4, 8 и 16 приведены на рис. 18.

p_п(u)

P_{j k}

U₁ U₂ U_j U_k U_N

– U Δu 0 + U u

Рис. 17. Распределение уровней U_k и гауссовских помех p_п(u)

в статической системе ССПИ

Кривая 1 соответствует предельной ёмкости канала КПДС _вых(Q) при N → ∞, которая и определяет, по существу, информационную ёмкость ℰ(Q) аналогового канала связи с ограниченной пиковой мощностью. Для проведения сравнения и аппроксимации на рис. 18 кривой 2 представлена зависимость информационной ёмкости ℰ_Ш(Q) от отношения сигнал/помеха Q аналогового канала связи при ограниченной средней мощности – пунктир: ℰ_Ш(Q) (формула Шеннона, которую мы упоминали в разд. 1 и которую выведем в разд. 13).

При больших значениях Q (Q ≈ 1000) величина ℰ_Ш(Q) на 0,23 (бит/сим-вол) больше, чем величина, даваемая зависимостью ℰ(Q), которую, следовательно, можно аппроксимировать функцией ℰ(Q) .

Имея серию результатов расчёта величины _вых(Q) при различных значениях N, можно построить аппроксимацию зависимости _вых(Q) как поверхности над плоскостью {Q, N }. Для наглядности эту поверхность _вых(Q, N ) при квазинепрерывном N можно представить её сечениями при значениях _вых = = 1, 2, 3 и т. д. (бит/символ) – по аналогии с рельефом местности на топографи-

_вых

бит

символ

4 2 1 16

3 8

2 4

1 N = 2

0

1 3 10 30 100 300 Q

Рис. 18. Зависимости величины _вых от отношения сигнал/помеха Q

при различных значениях количества уровней N

ческих картах (см. рис. 19). А уже по аппроксимации _вых(Q, N ) для квазинепрерывного N можно делать разнообразные практические выводы.

Например. Для конечных значений N < ∞ и при заданной величине U_т: чем больше будет величина кванта Δu = 2 U_т /(N – 1), тем меньше будет число уровней квантования (телеграфной линии) N, но тем меньше будет величина

_вых. Получается задача на оптимизацию величины кванта Δu, и для выбора оптимального значения Δu₀ следует задаться соответствующим критерием; например «ёмкость/стоимость».

Чтобы довести рассматриваемый пример до конкретных числовых результатов, нужно при каждом значении _вых = ,, … построить зависимость величины приведённого квантаq₀ ≡ Δu/σ_n от величин Q и N.

Для каждой кривой N(Q)|_{I = 1, 2, 3, …} можно построить связанную с ней зави-

N q₀ = Δu/σ_n

40 8 I = 1 2 3

30 6

20 4 q₀(Q)|_{I = 1} q₀(Q)|_{I = 2} q₀(Q)|_{I = 3}

10 2

0

1 3 10 30 100 300 Q

Рис. 19. Рельеф функции _вых (N, Q) и выбор

оптимального количества уровней N ₀ многоуровневого телеграфа

симость величины приведённого кванта q₀ ≡ Δu/σ_n от значения Q:

U = Δu (N – 1)/2; Q = .

Значит, q₀ = .

На рис. 19 эти зависимости q₀(Q) показаны пунктиром.

Так, согласно рис. 18, при = 1:N = 4, Q = 4,2; q₀ = 1,9; N = 8, Q = 3,8; q₀ = 0,85; N = 16, Q = 3,3; q₀ = 0,395; при = 2:N = 8, Q = 24; q₀ = 2,4; N = 16, Q = 21; q₀ = 0,99 и т. д.

Если значение q₀ выбрать, например, таким образом, чтобы гауссовская плотность вероятности аддитивных помех была бы эквивалентна равномерной плотности p_р(x) со значением p_р(0) = p_n(0), то для нахождения величины Δu по-

лучаем равенство: Δu₀ p_n(0) = = 1.

Значит, , аP_{j j} ≈ 0,788 при j ≠ 1 и j ≠ N. Величину _вых

при значенииназовёмпрактической информационной ёмкостью многоуровневого телеграфа и обозначим через ℰ_пр(Q).

Результаты расчётов зависимостей от отношения сигнал/помеха Q вели-

чины практической информационной ёмкости ℰ_пр и соответствующей ей оптимального количества уровней квантования N₀ при Δu₀ = 2,5 σ_n (процесс нахождения N₀ показан стрелками на рис. 19) приведены на рис. 20.

ℰ_пр N₀

бит

символ

4 40 3 1

3 30 2

2 20 ℰ(Q)|_{N = 2}

1 10 N = 2

0

1 3 10 30 100 300 Q

Рис. 20. Зависимости от отношения сигнал/помеха Q

величины ℰ_пр и количества уровней N₀

Кривая 1 показывает зависимость от отношения сигнал/помеха Q величины ℰ_пр для рассматриваемого канала КПДС, а кривая 2 – соответствующее величине ℰ_пр количество уровней N₀.

Для проведения сравнения и аппроксимации на рис. 20 также приведена зависимость информационной ёмкости аналогового статического канала связи

ℰ_Ш(Q), соответствующая формуле Шеннона (кривая 3).

Как видим, при больших значениях Q (Q >> 8) значение ℰ_пр одномерного

цифрового канала КПДС («многоуровневого телеграфа») на 0,45 (бит/символ) меньше, чем ёмкость аналогового канала с ограниченной средней мощностью

ℰ_Ш. Поэтому зависимость _вых(Q) при Δu₀ = 2,5 σ_n можно аппроксимировать функцией: ℰ_пр(Q) ≡ при аппроксимации опти-

мального количества уровней квантования кривой ≈.

Поскольку количество уровней в телеграфе не может быть меньше, чем

два, то при Q ≤ 3 величина ℰ_пр(Q) определяется формулой (9.3) – см. рис. 11. На

рис. 20 показаны полные зависимости величин ℰ_пр и N₀ от отношения сигнал/помеха Q, а на рис. 21 приведена полная зависимость от величины Q коэф-

фициента информационной надёжности χ = ℰ_пр /log N₀ системы передачи дис-

кретных сообщений при использовании многоуровневой симметричной амплитудной манипуляции M-ASK. Пунктиром на рис. 20 показана информационная ёмкость двухуровневого телеграфа (N = 2).

χ

1

0

1 3 10 30 100 300 Q

Рис. 21. Зависимость коэффициента информационной надёжности χ

системы передачи сообщений с симметричной модуляцией M-ASK

от величины Q

Вопросы для самопроверки

1. Каким образом вычисляется средняя мощность многоуровневого сигнала?

2. Каким образом вычисляется информационная ёмкость канала электросвязи с ограниченной пиковой мощностью при аддитивных равномерно распределённых помехах в канале?

3. Какова зависимость информационной ёмкости и оптимального количества уровней канала электросвязи с ограниченной пиковой мощностью от величины отношения сигнал/шум в канале в случае гауссовского шума?

4. Какова методика вычисления теоретической и практической информационной ёмкости, а также оптимального количества уровней и коэффициента информационной надёжности канала электросвязи с ограниченной пиковой мощностью в канале?