книги из ГПНТБ / Вулконский Б.М. Теория автоматического управления учебное пособие

Г л а в а 5

КОДИРОВАНИЕ И ПОДАВЛЕНИЕ ПОМЕХ

§ 21. ПРЕОБРАЗОВАНИЕ СИГНАЛОВ ДЛЯ ПОВЫШЕНИЯ

ЭФФЕКТИВНОСТИ КАНАЛА СВЯЗИ

Выше мы получили аналитические выражения для скорости передачи информации и пропускной способности канала, а также определили условия, при которых пропускная способность канала может быть использована полностью.

Рассмотрим теперь вопрос о преобразовании исходного сооб­ щения (сигнала) к виду, позволяющему эффективно использовать канал связи, т. е. вопрос об изменении первоначального распреде­ ления вероятностей, приближении его к равномерному или нор­ мальному в зависимости от условий конкретной задачи.

Покажем, какими приемами и средствами такое преобразова- ние-может быть выполнено.

Я (У \ . У 2,- ■• , Уп)-

В теории непрерывных сообщений эта задача занимает такое же место, как и задача эффективного согласования кода с кана­ лом в теории дискретных сообщений.

Функции распределения вероятностей по определению всегда нормированы, т. е.:

91

Элементарный объем dx.u dx2, . . . . dxn, будучи преобразован к новым переменным, составит

лить необходимую функцию преобразования */ = /'(*)-. Формула (132) есть обычное дифференциальное уравнение. Графическая иллюстрация его приведена на рис. 7. Заметим попутно, что по­ строение, показанное на рисунке, является удобным методом гра­ фического решения подобных уравнений.

Практически преобразование исходного сигнала может быть выполнено на нелинейном четырехполюснике с требуемой характе­ ристикой у'= f(x). Преобразованный сигнал, прошедший через не­ линейный четырехполюсник, будет, разумеется, искажен (как и при любом другом кодировании). Поэтому на приемном конце ка­ пала он должен быть подвергнут для восстановления первоначаль­ ного вида, обратной нелинейной обработке (декодированию).

92

Итак, мы обсудили вопросы, относящиеся к проблеме эффек­ тивности системы связи. Эта проблема состояла в том, чтобы пе­ редать наибольшее количество информации наиболее экономным способом. Мы установили основные соотношения,, позволяющие сравнивать различные системы связи по эффективности, и вскрыли резервы, за счет которых может быть осуществлено повышение эффективности.

Второй основной проблемой является проблем-a надежности связи. Надежность есть мера соответствия принятого сообщения переданному. При заданной помехе надежность зависит от метода кодирования и свойств канала в целом. Перейдем к рас­ смотрению вопросов, связанных с этой второй проблемой теории информации. Такая последовательность изложения не является для нас новой. Точно так мы поступали в теории дискретных сооб­ щений: вопросы эффективности предшествовали вопросам надеж­ ности как 'Необходимый теоретический фундамент.

Очень удобным и наглядным аппаратом исследования вопро­ сов надежности является геометрическая модель системы связи. Поэтому прежде всего следует познакомиться с гео­ метрической интерпретацией основных определений и понятий тео­ рии информации.

§ 22. ГЕОМЕТРИЧЕСКАЯ МОДЕЛЬ СИСТЕМЫ СВЯЗИ

Согласно теореме Котельникова 2TF? чисел, являющихся зна­ чениями сигнала в точках отсчета, полностью определяют сигнал. Поэтому можно рассматривать пространство 2TFr измерений, в котором каждый сигнал длительности Т и полосы Кг определяется соответствующей точкой. Эта .точка, 2 TFr координат которой определяют значения сигнала в точках отсчета.

93

Если координатныеосп этого 2TFT- мерного пространства рас­ сматривать как прямые, перпендикулярные друг другу, то каждо­

му сигналу .будет соответствовать некоторый радиус-вектор г, проведенный из начала координат в точку сингала. Причем

В теории информации доказывается, что энергия (квадратич­ ный эффект) сигнала, отличного от мулл толы<о в интервале от О до Т, как функция его значений в точках отсчета, равна

тогда

1

r'- = 2FT\ [f(t)}2 dt.

Обозначим среднюю мощность данного сигнала

Представление сигналов в виде векторов удобно при рассмот-' рении суперпозиции сигналов в линейной системе. В этом случае сложение сигналов осуществляется по правилу сложения векто­ ров*.

Если к сигналу добавляется шум, то это означает, что точка сигнала получила в пространстве смещение, пропорциональное среднеквадратичному значению (средней мощности) шума. Шум образует около точки сигнала область неопределенности (рис. 8 ).

Помеха, вносящая искажения в сигнал, соответствует искрив­ лению пространства так, что каждая точка сигнала смещается, но вполне определенным образом.

Геометрическое представление может быть распространено и на систему связи в целом.

Механизм передачи сообщений, как мы знаем, состоит в том, что исходный сигнал (передаваемое сообщение) отображается не­ которым кодированным эквивалентом — кодированным сигналом.

* Векторы, отображающие некогерентные сигналы, взаимно перпендикуляр­ ны, так как их квадратичные эффекты обладают свойством аддитивности.

94

На приемном конце канала по примятому кодированному сигналу воспроизводится переданный исходный сигнал.

рование невозможно. Но передача сопровождается шумами и по­ мехами. Шумы создают зциы неопределенности вокруг точек си­ гналов в пространстве L. И может случиться, что искаженный си­ гнал окажется ближе не*к переданному сообщению, а к некото­ рому другому из числа возможных. При декодировании в этом случае неизбежны ошибки. Иллюстрация этих общих положений дана на рис. 9.

Пространство сообщений G изображено двухмерной моделью, в которой g i (t) и g2(t) — две различные функции.из ансамбля со­ общений. Сообщения g\{t) и £г(0 преобразуются в сигналы /](/) и l2(t) посредством некоторого функционального оператора ф

£ = Ф(О).

Этот оператор ф переводит пространство G в пространство L. Сигнал преобразуется, в декодированное сообщение обратным опе­ ратором

v = ф(-Ч [/],

т. е. переводом пространства L в пространство V.

95

При однозначном соответствии сообщении и сигналов и в от­ сутствии шумов декодированное сообщение тождественно пере­ данному

Если же в пространстве L существует помеха, то, как показано па рис. 9, вокруг сигналов создаются зоны неопределенности. Функциональным оператором ф(-,) эти зоны, как и сами сигналы МО и МО. переводятся в координатную систему пространства V. И если случится, что эти зоны в пространстве V пересекутся, то тождественность между декодированным сообщением и каким-то сообщением пространства G не может быть установлена однознач­ но. Это обстоятельство и определяет помехоустойчивость системы связи. При заданном уровне помех помехоустойчивость зависит от свойств оператора преобразования лр, точнее, от расстояния d, которое является аналогом кодового расстояния d для дискретных сообщений.

Рис. 10

Преобразование пространства G в L может выполняться как линейными, так м нелинейными операторами. Модель линейного преобразования изображена на рис. 10. Как видно, при линей­ ном преобразовании повышение помехоустойчивости возможно лишь за счет квантования сигнала, причем шаг квантования дол­ жен соизмеряться с уровнем помех. При заданной мощности шума помехоустойчивость тем выше, чем больше мощность сигнала (т. е. больше расстояние d). Линейное преобразование, таким образом, является примером того, как может быть повышена помехоустой­ чивость за счет простого увеличения мощности сигнала.

Модель нелинейного преобразования дана на рис. 11. Если ансамбль сообщений имеет 2Т AF измерений, т. е. каждое сообще­ ние имеет длительность Т и полосу частот AF, то, применяя нели­ нейный оператор — расширяя полосу частот сигнала или увели­ чивая его длительность, можно преобразовать пространство G — 2ТAF измерений в пространство L — 2TlAFl >2TAF измере­ ний. В этом случае происходит деформация пространства L по сравнению с G. Искривление L может быть сделано очень боль­ шим, и, следовательно, расстояние d может быть увеличено без увеличения мощности сигнала.

96

Таким образом, при нелинейных преобразованиях надежность может быть повышена за счет таких параметров сигнала как длительность и полоса частот.

Р-азличные виды преобразования обладают различными свой­ ствами, а значит и различной способностью по подавлению помех. Обсуждение этих свойств и составляет нашу дальнейшую задачу.

§23. СКОРОСТЬ ПЕРЕДАЧИ ПРИ СКОЛЬ УГОДНО МАЛОЙ ВЕРОЯТНОСТИ ОШИБКИ (ТЕОРЕМА ШЕННОНА.)

Как мы знаем из теории дискретных сообщений, эффективность и надежность связи находятся в прямом противоречии. Увеличе­ ние эффективности может быть получено только за счет сокраще­ ния избыточности, что неизбежно уменьшает надежность. И на­ оборот, увеличение надежности влечет повышение избыточности и, следовательно, уменьшает скорость передачи информации.

Это положение носит общий характер и в равной степени рас­ пространяется на случай непрерывных сообщений.

Для повышения надежности мы вынуждены увеличивать мощ­ ность, длительность или полосу частот сигнала по сравнению с тем, что необходимо для передачи данного объема информации. То есть сигнал помехоустойчивой системы связи несет меньше ин­ формации, чем он мог бы нести. За повышение надежности мы платим скоростью передачи.

Заслугой теории информации является то, что она доказывает существование, по крайней мере теоретически, такого метода коди­ рования непрерывных сообщений, при котором обеспечивается на­ дежная связь без существенных потерь в скорости передачи. Это положение носит название основной теоремы о кодировании непре­ рывных сообщений, или теоремы Шеннона.

При ограниченной средней мощности сигнала Р и случай­ ного шума N, применяя специальную систему кодирования, можно передавать информацию со скоростью, близкой к

С = Fг In — — ,

при сколь угодно малой вероятности ошибок. Никакой метод кодирования не допускает передачи с большей скоростью при произвольно малой вероятности ошибок.

97

Для доказательства теоремы нужно показать, что существует метод кодирования, обеспечивающий передачу со скоростью

Fv In (например в нат. ед./сек.) при вероятности ошибок

меньше некоторого произвольно малого числа е.~ Рассматривается схема из М сообщений. Каждому сообщению

соответствует специальная функция сигнала длительности Т. Име-i ется М различных функций сигнала. Из-за воздействия шумов приемник принимает искаженный сигнал, сравнивает'его с каждым из М возможных переданных и выбирает тот из них, к которому принятый сигнал ближе всего (в смысле среднеквадратичной ошибки). Затем приемник воспроизводит соответствующее выбран­ ному сигналу сообщение.

Для обеспечения вероятности ошибок, меньшей е; М функций сигнала должны быть достаточно разнесены друг от друга. Дейст­ вительно, мы должны выбирать их так, чтобы, когда принят иска­ женный сигнал, ближайшая из М точек сигнала представляла

схема доказательства теоремы Шеннона состоит в рассмотрении всех таких выборов с целью показать, что вероятность ошибок, усредненная по всем выборам, меньше е. Это означает, что в сово­ купности выборов существуют определенные выборы, для которых вероятность ошибок меньше е.

Геометрические соотношения задачи показаны на рис. 12, пред­ ставляющем плоское сечение многомерной сферы. ( В — точка пе­ реданного сигнала; А — точка принятого сигнала). -

Переданный и принятый сигналы лежат очень близко к поверх­ ности сфер радиуса уЛ27'/ггЯ и У 2 TFr (Р + N), соответственно, так как в сфере большого числа измерений почти весь объем со­ средоточен около поверхности.

Многомерная область L есть область возможных сигналов, по­ родивших А, так как расстояние между переданным и принятым

сигналами везде близко к У 2TFTN . Область L имеет меньший объем, чем сфер'а радиуса р. Величину р можно определить, при­ равняв вычисленные двумя различными способами площади тре­ угольника ОАВ.

~ P Y 2TFr (P + N) = - ^ - / 2 TFtP / 277W ,

откуда

98

Вероятность любой определенной точки сигнала (отличной от истинного сигнала, породившего А) оказаться в L меньше, чем

так как в рассматриваемом множестве систем кодирования точки выбираются наудачу из числа точек внутри сферы радиуса

У 2TFrP . Это отношение равно

Мы имеем М точек сигнала. Таким образом, вероятность того, что все они, за исключением точки истинного сигнала, находятся вне области L больше, чем

Если точки лежат вне L, сигнал воспроизводится правильно. Поэтому, если сделать ■&больше 1 — е, то вероятность ошибки бу­ дет меньше е. Но (1 — х)пвсегда больше 1 — пх, если п положи­ тельно. Поэтому можно записать

99