10.Дк без памяти, с памятью, дискретный симметричный канал

Во многих задачах теории связи структура модулятора и демодулятора задана. В этих случаях каналом является та часть линии связи, которая на рис. 1.3 обведена пунктиром. На вход такого канала подаются дискретные кодовые символы  , а с выхода снимаются символом  , вообще говоря не совпадающие с   (рис. 2.1).

Такой канал называют дискретным. При изучении передачи сообщений по дискретному каналу основной задачей является отыскание методов кодирования и декодирования, позволяющих в том или ином смысле наилучшим образом передать сообщения дискретного источника.

Заметим, что почти во всех реальных линиях связи дискретный канал содержит внутри себя непрерывный канал, на вход которого подаются сигналы  , а с выхода снимаются искаженные помехами сигналы  . Свойства этого непрерывного канала наряду с характеристиками модулятора и демодулятора однозначно определяют все параметры дискретного канала. Поэтому иногда дискретный канал называют дискретным отображением непрерывного канала. Однако при математическом исследовании дискретного канала обычно отвлекаются от непрерывного канала и действующих в нем помех и определяют дискретный канал, задавая алфавит кодовых символов   поступающих на его вход, алфавит кодовых символов   снимаемых с его выхода, количество   кодовых символов, пропускаемых в единицу времени, и значения вероятностей переходов  , т. е. вероятностей того, что на выходе появится символ  ,если на вход подан символ  . Эти вероятности, зависят от того, какие символы передавались и принимались ранее. Алфавиты кода на входе и выходе канала могут не совпадать; в частности, возможно, что  . Величину   иногда называют технической скоростью передачи.

Рис. 2.1. Система связи с дискретным каналом.

Если вероятности перехода  для каждой пары   остаются постоянными и не зависят от того, какие символы передавались и принимались ранее, то дискретный канал называется постоянным или однородным. Иногда применяют также другие названия: канал без памяти или канал с независимыми ошибками. Если же вероятности перехода зависят от времени или от имевших место ранее переходов, то канал называют неоднородным или каналом с памятью.

В канале с памятью вероятностные связи, по крайней мере в первом приближении, распространяются только на некоторый конечный отрезок. Это значит, что вероятности перехода   зависят от того, какие переходы имели место при передаче предыдущих   символов, и не зависят от более ранних переходов. Такой канал можно рассматривать, как имеющий ряд дискретных состояний  , определяемых предыдущими переходами, причем  . Для каждого состояния   определены условные вероятности переходов  . В то же время лишь последние   переданных и принятых символов определяют состояние канала  .

Средние безусловные вероятности переходов определяются путем усреднения условных вероятностей по всем состояниям канала:

                                   (2.1)

где   — вероятность состояния  .

В реальных каналах при поэлементном приеме вероятности переходов   не являются заданными, а определяются, с одной стороны, помехами и искажениями сигналов в канале, с другой стороны, скоростью подачи кодовых символов   и первой решающей схемой. Выбирая на основании того или иного критерия оптимальную решающую схему, можно изменять в желательном направлении вероятности перехода. Таким образом, для того чтобы рассматривать канал как дискретный, нужно выбрать первую решающую схему и, учитывая действующие в канале помехи и искажения, вычислить вероятности переходов. Очевидно, что в тех случаях, когда параметры реального канала постоянны и действующие в канале помехи представляют стационарный случайный процесс, его дискретным отображением является постоянный канал. Если же эти условия не выполнены, то дискретным отображением, как правило, оказывается канал с памятью.

Если в канале алфавиты на входе и выходе одинаковы и для любой пары   вероятности  , то такой канал называется симметричным. Переменный канал будем также называть симметричным, если в каждом состоянии   для любой пары   выполняется условие

                 (2.2)

Очевидно, что из (2.2) следует также

                                 (2.3)

однако обратное утверждение было бы неверным. Каналы с памятью, в которых выполняется (2.3), но (2.2) не выполняется или выполняется не для всех  , будем называть симметричными в среднем. Вероятности переходов в симметричном канале схематически показаны на рис. 2.2.

Среди каналов, в которых алфавиты на входе и выходе неодинаковы, интерес представляет так называемый стирающий канал, в котором  . Это название дано ему потому, что наряду с символами  , общими для входного и выходного алфавитов, выходной алфавит содержит дополнительный символ   обозначающий «стирание». Появление   на выходе означает, что переданный символ искажен помехами и не может быть опознан. Таким образом, часть принятой кодовой последовательности оказывается стертой.

Как будет показано в дальнейшем, введение такого стирающего символа не нарушает возможности правильного декодирования принятой кодовой последовательности, а, наоборот, облегчает ее при рациональном выборе метода кодирования и решающих схем.

Рис. 2.2. Вероятности переходов в симметричном двоичном канале.

Рис. 2.3. Вероятности переходов в симметричном канале со стиранием.

Заметим, что алфавит кода на выходе определяется выбором первой решающей схемы и поэтому считается заданным лишь потому, что мы рассматриваем дискретное отображение канала. Выбор первой решающей схемы также в значительной степени определяет свойства симметрии канала. Вероятности переходов в симметричном стирающем канале показаны на рис. 2.3.