Модели дискретных каналов.

В общем случае под каналом передачи информации понимается совокупность технических средств, обеспечивающих передачу сигналов от источника информации к потребителю.

Наиболее общую классификацию каналов связи можно осуществить по характеру сигналов на их входе и выходе. Различают поэтому два типа каналов:

1. Непрерывные каналы. В таких каналах сигналы на входе и вы­ходе непрерывны (по уровням).

2. Дискретные каналы. На входе и выходе таких каналов наблюдаются дискретные сигналы или символы из конечномерного алфавита. Наибольшее распространение получили дискретные модели каналов.

Дискретным каналом является канал, рассматриваемый от входа кодера до выхода декодера.

{X_i}

{Y_j}

Линия связи

декодер

кодер

Рис. 3. Дискретный канал передачи информации.

На вход канала поступают символы Xi , а с выхода – символыYi.

Дискретный канал математически описан, если задан входной алфавит сигналов {X}={ X _k , K = 1… M } вместе с их априорными вероятностями {Р(X _k)} и выходной алфавит сигналов {Y^*}={ Y^*_k , K = 1. . . M +1 }, который в общем случае может содержать символ стирания Q и значения вероятностей переходов Р(Y ^*_i / X _k), т. е. вероятностей того, что на выходе канала появится сигнал Y^*_i при условии, что на вход подан сигнал X _k.

Удобно вероятностные характеристики канала задавать матрицами. Так априорные вероятности группируются в матрицу-строку априорных вероятностей

||P( X_k)||=|| P( X₁) P( X₂) . . . P( X_m) ||

Характеристики, связанные с входным и выходным алфавитами, определяются свойствами источника сообщений и полосой пропускания канала.

Объем выходного алфавита {Y_j} (J = 1, 2, …, M+1} определяется способом построения системы передачи информации.

Условная вероятность Р(Y ^*_i / X _k) определяется в основном характеристиками дискретного канала и его свойствами.

Если для любых сочетаний Y ^*_i и X _k эта вероятность не зависит от момента времени взятия отсчета , т.е.

(5)

то канал называется однородным.

Если данное условие не выполняется, то канал является – неоднородным.

Если справедливо условие

(6)

то такой канал называют каналом без памяти.

Если данное условие не выполняется, то такой канал называют каналом с памятью на n символов.

Реальные дискретные каналы являются неоднородными и с памятью. Это обусловлено следующими причинами:

• искажением и влиянием помех в непрерывном канале;

• задержкой во времени выходной последовательности сигналов по отношению к входной последовательности;

• нарушением тактовой синхронизации.

Однако, модель дискретного однородного канала без памяти, как модель первого приближения, нашла широкое применение. Она позволяет упростить методы анализа и получения исходных данных.

Рассмотрим математические модели дискретных каналов с помехами и без них.

Скорость передачи и пропускная способность дискретного канала без помех. Теоремы Шеннона для канала без помех.

П усть задан канал, на вход которого подаются дискретные сообщения Х, образующие первичный алфавит X₁, X₂, …, X_n. Последние кодируются с помощью преобразователя П₁ и преобразуются в кодированные символы S. Для кодирования используется некоторый алфавит символов S₁, S₂, …, S_m (см. рис. 5)

Рис. 5. Дискретный канал передачи информации.

Говоря о каналах передачи информации, нельзя не отметить ряд следующий информационных характеристик канала. К ним относятся:

• скорость передачи информации;

• пропускная способность канала.

Среднее количество информации, передаваемое по каналу в единицу времени, называется скоростью передачи.

Наибольшее значение скорости передачи для данного канала называется пропускной способностью этого канала.

С корость передачи информации

где Н(Х) – средняя энтропия одного сообщения; _э – средняя длительность сообщения; V_x – скорость выдачи символов сообщения источником.

Под длительностью сообщения понимают интервал времени, в который появляются сообщения на выходе источника информации. Средняя длительность  при отсутствии статистических зависимостей между сообщениями определяется выражением

(8)

где Р(Х_i) и (X_i) – априорная вероятность и длительность i-го сообщения; n – количество сообщений , передаваемых источником.

Пропускная способность канала определяется следующим образом

(9)

Скорость передачи информации в общем случае зависит от статистических свойств сообщения, метода кодирования и свойств канала.

Пропускная способность – характеристика канала и она не зависит от фактической скорости передачи информации.

Рассмотрим информационную модель канала без помех.

В канале без помех каждому определенному входному сигналу всегда будет соответствовать один и тот же сигнал на выходе канала, т.е. входные и выходные сигналы связаны однозначной функциональной зависимостью (рис. 6.).

X₁ X₂

X_n

Y₁ Y₂

Y_n

Рис. 6. Канал без помех.

В этом случае среднее количество информации, переносимое одним символом равно энтропии символа на входе канала (выходе источника сообщений).

I(X) = H(X) (10)