7

Передача информации по каналу с помехами.

(Ключевые понятия: эффективность, достоверность)

1. В реальных условиях передача сообщений происходит при воздействии помех. Помехи искажают сообщения, вследствие чего сообщения на приёмной стороне будут в той или иной степени отличаться от переданных, т.е. будет иметь место неполная достоверность передачи.

2. Для определения основных параметров К. С. последовательно рассмотрим:

• характеристики каналов с помехами;

• виды каналов;

• количество информации, передаваемой по каналу с помехами.

1. Характеристики каналов с помехами

Так как принимаемые из канала сообщения, вследствие воздействия помех, отличаются от передаваемых в канал ,то рассмотрим две системы дискретных сигналов:

x_i  {X} к.с. y_j {Y}

Передаваемые сообщения Принимаемые сообщения

P(x₁) _* x_{1 *} y₁ P(y₁)

P(x_i-1) _* x_{i-1 *} y_i-1 P(y_i-1)

P(x_i) _* x_{i *} y_i P(y_i)

P(x_i+1) _* x_{i+1 *} y_i+1 P(y_i+1)

_* y_j

P(x_n) _* x_{n *} y_n P(y_n)

А) Для канала без помех:

Однозначное соответствие x_i  y_i

Б) Для канала с помехами:

• x_i может перейти в любой y_j  {Y};

• прием y_j достоверно означает, передан один из x_i  {X};

1. Источник характеризуется априорным распределением P(x_i);

После получения на приемной стороне y_j , источник информации может быть охарактеризован апостериорным распределением P(x_i/y_j).

Где P(x_i/y_j) - вероятность, называемая условной вероятностью передачи в канал символа x_i при условии, что из канала был получен символ y_j.

Элемент P(x_i/y_j) называется условной вероятностью передачи x_i при условии приема y_j.

2. Вероятностный характер связи {x_i} с {y_j} (т.е. между алфавитами канала передачи информации) полностью определяется матрицей условных вероятностей:

P₁₁ P₁₂ … P_1n основная характеристика к.с.

P₂₁ P₂₂ … P_2n с помехами

… P (x_i/y_j) …

P_n1 P_n2 … P_nn

А) P_ij– определяется на практике путем статистической обработки результатов экспериментальных исследований.

Б) Свойства P_ij: по диагонали – P_ii – вероятность безошибочной передачи

остальные – P_ij – вероятность ошибочной передачи.

2. Виды каналов с помехами.

1. Каналы без памяти – каналы, у которых на каждый предаваемый сигнал, помехи воздействуют независимо от того, какие сигналы предавались раньше.

А) Вид Pij– постоянный

В настоящее время основные выводы теории информации получены применительно к каналам без памяти.

Б) В дальнейшем будем рассматривать каналы без памяти.

2. Нестационарные каналы – это каналы, для которых элементы матрицы условных вероятностей являются функциями времени {P_ij(t)}.

3. Стационарные каналы имеют матрицу P_ij, элементы которой не зависят от времени.

А) практически все реальные каналы являются нестационарными.

Б) исследования нестационарных каналов является более сложным и трудоемким процессом, поэтому при анализе они представляются как последовательность стационарных каналов. То есть, для конкретных отрезков времени нестационарные каналы апроксимируются стационарными.

4. Канал, имеющий симметричную P_ij, т.е. P_ij = P_ji , называются симметричными.

5. Дискретный канал, по которому передаются только два элементарных сигнала, называют бинарным.

P₁₁ P₁₀ 

P_ij = P₀₁ P₀₀

Если P₁₀ = P₀₁= q – вероятность ошибочной передачи;

P₀₀ = P₁₁= p – вероятность правильной передачи, то такой канал называют бинарным симметричным:

P_ij = p q 

q p