Тема 4. Информационные основы передачи сообщений по каналам связи.

Лек. 7. Согласование источников сообщений с каналами связи.

1. Скорость передачи информации и пропускания способность каналов связи.

1.1 Скорость передачи информации и пропускания способность каналов связи дискретного канала.

1.2 Скорость передачи информации и пропускания способность каналов связи непрерывного канала.

2. Теорема Шеннона для дискретного канала без помех.

2.1 Дискретный канал без помех.

2.2 Теорема Шеннона.

2.3 Статистическое кодирование.

3. Возможности помехоустойчивого кодирования.

Вопрос 1

1.1

τ_k – длительность символов b_i и b_j*.

В канале с помехами в ед. времени в среднем передается кол-во инф.

J’(B, B*) = J(B, B*) / τ_k = V_k[H(B) – H(B/B*) = V_k[H(B*) – H(B*/B)] (4.10)

В (4.10) – скорость передачи инф. по каналу зависит как от источника дискретного сигнала (Н(В)), так и от св-в канала.

А найти надо способность самого канала передавать инф.

Пропускания способность канала – max возможная скорость передачи инф. при заданных св-вах канала.

С = max J’(B, B*) = V_k max J(B, B*) (4.11)

p(b_i) p(b_i)

Максимизация выбором p(b_i) при заданных v_k и m_k.

Пример 4.6.

p(b₁*/b₁) = 1 – P_ош

– p(b₂*/b₁) = P_ош

– p(b₁*/b₂) = P_ош

p(b₂*/b₂) = 1 – P_ош

Рис. Двоичный симметричный канал связи.

Если в канале связи помехи одинаково влияют на передаваемые символы, то канал симметричный (все вер-ти ложных приемов одинаковы, все вер-ти привильных приемов одинаковы.

C = V_k max[H(B*) – H(B*/B)]

H(B*/B) от p(b_i) – не зависит.

H(B*)_max = 1 при b₁* и b₂* независимых и равновероятных 

С = V_k[1+р_ошlogр_ош + (1-р_ош)log(1-р_ош)]

1. р_ош = 0, Сmax = v_k, р_ош – вероятность ошибочного приема символа.

2. р_ош = 0,5. Обрыв канала – полностью исчезает связь между пердаваемыми и принимаемыми символами.

3. р_ош = 1 – также как при р_ош = 0. Все принимаемые символы надо инвертировать.

1.2. Скорость передачи информации и пропускания способность непрерывного канала.

C = V_k max J(B, B*), V_k = 1/τ_k = 2F_k V_k – частота дискретизации.

W(b)

Рассмотрим аддитивную помеху (b* = b + n)

J(B, B*) = h(B*) – h(B*/B)

Апостериорное распределение вер-тей W (b*/b) при любом фиксированном с-ле будет определяться з-ном распределения помехи W(n) и соответственно h(B*/B) равна энтропии

W(n)  W(b*/b); h(b*/B) = h(N)

C = V_k max[h(B*) – h(N)

При заданной мощности (дисперсии) помехи P_п = Б_п2 ее дифференциальная энтропия max и равна при нормальном распределении  С при этом min.

Значит Гауссова помеха наиболее опасна для передаваемой инф.

Зная хар-ки помехи N и смеси с-ла с помехой B*, определим требования к с-лу В при выполнении которых обеспечивается max h(B*)

max h(B*) = log при

W(b)

1. т.к. спектральные плотности помехи и смеси с-ла и помехи равномерны  спектральная плотность с-ла также равномерна.

2. т.к. помеха и смесь с-ла и помехи имеют нормальное распределение  плотность вероятности с-ла также имеет нормальный з-н распределения.

С = V_k max J(B, B*) = 2F_k(log – ).

С = F_k log(1+P_c/P_n) (4.12)

формула Шеннона указывает теоретический предел скорости передачи инф. по каналу связи с помехами.

да

С зависит от F линейно, а от P_c/P_п – по логарифмическому з-ну  обмен мощ­ности на полосу пропускания эффективен, обратный обмен нецелесообразен.

Рассмотрим С(F_k) = F_k log(1+p_c/F_kN₀)

(4.13)

С увеличением пропускания способность быстро возрастает, и затем ассимптотически стремится к С_∞.

Рис. Зависимость пропускной способности гаусовского канала от его полосы пропускания

J_k = T · C = F_k · T · log(1 + p_c/p_п) – количество инф., которое может быть передано за время Т (произведение 3-х сомножителей).

При уменьшении значения одного сомножителя неизменность произведения обеспечивается увеличением знач. др. сомножителей. Но С не может превысить С_∞ даже при F_k∞, при этом

ТС < ТС_∞ = 1,443(p_cT/N₀)  для передачи 1 бита инф. необходимо иметь h₀=p_cT/N₀ > 0,693

Примечание. Если помехи имеют неравномерный спектр или же з-н их распределения отличается от нормального, то пропускная способность канала может превысить значение, вычисление по формуле (4.12).