лекции / Lekciya1IKTYvip.05.02.22 (1)

Т.е., пропускная способность канала связи без помех пропорциональна энтропии источника и обратно пропорциональна длительности элементарного сообщения .

При не равновероятных сообщениях с различными длительностями сообщений получаем общее выражение для пропускной способности канала без помех:

Из приведенных выражений следует, что увеличение пропускной способности (скорости передачи) по каналу связи без помех может быть достигнуто благодаря уменьшению длительности сообщений, т. е, за счет увеличения скорости передачи сигналов (расширения полосы частот), а также за счёт увеличения энтропии дискретного источника..

Вывод: пропускная способность канала передачи информации при отсутствии помех определяется шириной полосы частот канала и быстродействием оборудования приемопередающего тракта.

1.3.2. Пропускная способность непрерывного канала с помехами

При анализе пропускной способности реальной системы обычно рассматривают два вида канала связи с помехами – непрерывный и дискретный.

Непрерывный канал характеризуется тем, что поступающие на вход канала, дискретные в общем виде, сигналы подвергаются воздействию помех, вызывающих ошибки. Рассмотрим непрерывный канал с аддитивным белым гауссовым шумом (АБГШ), имеющим равномерный спектр во всём диапазоне частот . Известный ученый К. Шеннон доказал, что пропускная способность такого канала определяется следующим выражением:

− в формуле (1.5) это отношение сигнал/шум, значение которого равно мощности

сигнала S делённой на мощность шума N.

В литературе отношение сигнал/шум часто представляется в децибелах (дБ). Обе эти величины взаимосвязаны в соответствии с формулой:

Пример 1. Пусть S/N = 100, т.е. мощность сигнала S в 100 раз превышает мощность шума N. Тогда отношение сигнал/шум в децибелах составит

10 10 ( ) = 10 10(100) = 20 дБ

В общем виде, если отношение сигнал/шум равно А дБ, то = 10А/10.

Действительно получаем:

10 10 ( ) = 10 10 (10А/10) = 10 (10А ) = А дБ,

так как 10(10 ) = .

При анализе пропускной способности непрерывного канала связи с помехами следует иметь в виду, что искомую пропускную способность такого канала связи часто определяют следующей формулой Шеннона:

где No – спектральная плотность мощности аддитивного гауссова шума, т. е. мощность на один Гц полосы частот.

Пример 2. Рассмотрим ещё один пример реальной передачи сигналов по телефонной линии в полосе частот от 300 Гц до 3400 Гц с отношением сигнал/шум равным 30 дБ. В этом случае пропускная способность линии будет равна:

30

= (3400 − 300) 2 {1 + 1010} = 3100 2{1 + 1000} = 31000 бит/с

Из анализа выражения (1.6) следует, что расширение полосы частот W приводит к увеличению потенциальной пропускной способности за счёт возможности уменьшения длительности передаваемого сигнала. Это, в свою очередь, приводит к увеличению количества бит информации, передаваемых в единицу времени. Устремив полосу пропускания в пределе до бесконечности (W→∞) и раскрыв неопределенность формулы (1.6) по правилу Лопиталя, получим так называемый предел Шеннона:

Приведем вывод формулы (1.7).

Устремив в (1.6) W→∞, в пределе получим lim С = ∞ ∙ 0.

→∞

Для нахождения предельного значения С преобразуем выражение (1.6) к виду:

неопределённость по правилу Лопиталя, поделив производную числителя на производную знаменателя по переменной W.

Наконец, устремив W→∞, получим формулу (1.7) – предельное значение пропускной

Формула (1.7) устанавливает тот предел, к которому стремится пропускная способность непрерывного канала с АБГШ при расширении полосы пропускания до ∞, т. е. пропускная способность стремится к постоянной величине, определяемой отношением

мощности S сигнала к 0 ( спектральной плотности мощности шума на один Гц полосы).

При передаче дискретных сигналов по непрерывному каналу связи с АБГШ пропускную способность канала оценивают по отношению битовой энергии сигнала Eb к спектральной плотности мощности белого шума No, т.е. по отношению Eb/No.

Пусть информация передаётся дискретными сигналами длительностью каждый со скоростью R бит/сек, Тогда за время будет затрачено энергии S∙ на передачу R∙ бит информации. Следовательно, энергия Eb, затраченная на передачу одного бита информации, будет равна:

Как показал Шеннон, передача информации со сколь угодно высокой достоверностью возможна при условии, что скорость передачи R не превышает пропускную способность канала связи C* (Это, так называемая,

вторая теорема Шеннона для канала связи с помехами, о которой подробнее будет сказано ниже). Тогда, учитывая формулы (1.8) и (1.9), запишем условие теоремы Шеннона как

Из последнего выражения видно, что

> ln 2 = 0,693 = −1,59 дБ.0

Вывод. Надёжная передача информации по каналу связи с АБГШ возможна только тогда, когда отношение сигнал/шум на бит не меньше величины

(−1,59) дБ

1.3.3. Пропускная способность двоичного симметричного канала с помехами.

Вследствие существования помех в канале связи сигналы на входе канала и на выходе связаны между собой не жесткой функциональной связью, а лишь статистической связью. При помехах случайный процесс α на входе канала и случайный процесс β на выходе канала связаны зависимостью β = α+n, где n – помехи в канале связи.

Из теории информации известно, что количество информации J(α, β) которое можно получить о процессе α, наблюдая связанный с ним процесс β, определяется как разность энтропий.

J(α, β)=H(α) – Hβ(α),

где H(α)- априорная энтропия процесса α;

Hβ(α)- условная энтропия процесса α, т.е. энтропия процесса α после регистрации (наблюдения) процесса β (апостериорная энтропия). Энтропию Hβ(α) называют мерой оставшегося незнания (неопределённости) после опыта или ненадежность связи.

Напомним, что под пропускной способностью канала связи понимается максимальное количество информации, которое может перенести один кодовый элемент (сигнал), переданный по данному каналу связи. Возможно определение пропускной способности как максимального количества информации, которое можно передать по данному каналу в единицу времени. Эти определения равносильны. В данном и следующем параграфе будет использоваться первое определение.

По определению пропускная способность С канала с шумами определяется выражением:

Если канал без помех, то ненадежность канала Hβ(α)=0 и, следовательно, пропускная способность равна максимальной энтропии источника

= [ ( )]

Найдем пропускную способность двоичного симметричного канала (ДСК) с

помехами. Под двоичным симметричным каналом понимается канал, по которому возможна передача только двух различных сигналов, причем вероятность искажения этих сигналов одинакова.

Пусть под процессом α понимается передача двух взаимно независимых сигналов, сигнала А и сигнала Б. Сигнал А появляется на передающей стороне с вероятностью Р(А), а сигнал Б – с вероятностью Р(Б). Необходимо определить такое соотношение между Р(А) и Р(Б), чтобы количество информации передаваемой по каналу связи было максимальным..

Будем иметь ввиду, что сообщения, поступающие от источника информации, прежде всего, кодируются первичным двоичным кодом, т.е. преобразуются в последовательность нулей и единиц. Например, «нулевой» элемент данной последовательности соответствует сигналу А, посылаемого в канал, а «единичный» элемент – сигналу Б. Таким образом, нахождение пропускной способности двоичного симметричного канала связано с нахождением оптимальной структуры первичного кода, обеспечивающего максимальную скорость передачи информации.

Под процессом β будем понимать воспроизведение а и б на приемной стороне. Положим, что сигналу А источника на приемной стороне соответствует

воспроизведение а, а сигналу Б – воспроизведение б. Из-за наличия помех в канале могут возникать ошибки, например, сигнал А может перейти на приемной стороне в сигнал б с

q = 1– p

Рис.1.3. Модель двоичного симметричного канала (ДСК).

Найдем количество информации о процессе α, наблюдая процесс β, как:

J(α,n)=H(α) – Hβ(α) (1.11)

Определим энтропии H(α) и Hβ(α). Безусловная энтропия процесса α равна

( ) = − ( ) 2( ) − (Б) 2(Б)

Условную энтропию Hβ(α) определим как

Hβ(α)=Р(а) На(α)+Р(б) Нб(α), (1.12)

где Р(а) – это вероятность правильного или ошибочного воспроизведения на приемной стороне сигнала a, а Р(б) – соответственно сигнала б. Далее, условные энтропии На(α), Нб(α)

– это энтропии процесса α при получении на приемной стороне соответственно сигналов а и б.

( ) = − ( ) 2 ( ) − (Б) 2 (Б)

Так как ( ) = и (Б) = , то( ) = −2 − 2 .

Аналогично можно получить, что

б( ) = −2 − 2

Таким образом, согласно (1,12), находим:

( ) = ( )(−2 − 2) + (б)(−2 − 2)

= (−2 − 2)[ ( ) + (б)]

Поскольку события, состоящие в воспроизведении на приемной стороне сигнала а или сигнала б, составляют полную группу событий и, следовательно, Р(а)+Р(б)=1, то

( ) = −2 − 2

Подставляя Н(α), Нβ(α) в выражение (1.11) для количества информации получим:

Так как p и q есть величины постоянные для данного канала, то максимум J(α, β) ищется как функция от Р(А) и Р(Б). Максимум J(α, β) достигается при Р(А)=Р(Б)=0,5.

Вероятности Р(А) и Р(Б) представляют собой вероятности символов кода (в ДСК это будут вероятность нуля (0) и вероятность единицы (1) в данном коде). Следовательно, для двоичного симметричного канала наиболее оптимальный код характеризуется равновероятными значениями символов кода. Тогда пропускная способность ДСК определяется выражением:

График зависимости пропускной способности двоичного симметричного канала от вероятности ошибки p приведен на рисунке 1.4.

C

1

Рис.1.4. График зависимости пропускной способности ДСК от вероятности ошибки.

Введенную операцию скремблирования в литературе называют также операцией рандомизации ( от англ. random – случайный). Скремблирование это обратимое преобразование структуры цифрового потока сигналов с целью придания ему характеристик случайной последовательности. В случае двоичных последовательностей это означает практически равновероятное в среднем появление «1» и «0» в такой последовательности. Благодаря этому достигается повышение точности работы системы тактовой синхронизации в синхронных системах.

На передающей стороне скремблирование осуществляется путём поэлементного суммирования по модулю 2 исходной информационной и специальной скремблирующей последовательностей. На приемной стороне осуществляется обратное преобразование в дескремблере, который восстанавливает из принятой последовательности исходную информационную последовательность.

Ещё одной, дополнительно введенной в цифровую систему передачи информации, обратимой операцией является перемежение (интерливер). Суть этой операции состоит в том, что на передающей стороне цифровые символы исходной последовательности данных переставляются между собой, не меняя скорость передачи сигналов, по некоторому заранее определенному правилу. На приемной стороне по обратному правилу символы в принятой последовательности возвращаются на свои прежние места. В результате применения такой искусственной операции происходит декорреляция ошибок, т. е. групповые (зависимые) ошибки в канале связи становятся после, обратной процедуры перемежения в приемнике, редкими независимыми ошибками, которые могут быть исправлены более простыми помехоустойчивыми кодами.

1.5.Классификация помехоустойчивых кодов (ПК):

1)по корректирующим возможностям:

• обнаруживающие ошибки;

• исправляющие ошибки;

• исправляющие стирания;

• исправляющие ошибки и стирания;

• комбинированные ПК.

2) по структурным особенностям:

• блочные (блоковые) – каждая комбинация представляет собой блок из n элементов;

• непрерывные – кодовая комбинация – это непрерывная последовательность кодовых элементов;

• каскадные – объединение двух или более кодов;

Систематические и несистематические

2. Вероятность ошибки двоичного сигнала в канале с АБГШ. Корректирующая способность избыточного кода. Критерии эффективности помехоустойчивых кодов.

Вероятность ошибки и отношение сигнал/шум.

Общепринятым критерием качества аналоговой связи принято считать отношение сигнал/шум, представляющее собой отношение средней мощности сигнала к средней мощности шума S/N. В цифровой связи в качестве критерия качества связи как правило используется нормированное отношение сигнал/шум как Eb/N0, где Eb – это энергия битового сигнала и её можно определить как мощность сигнала S, умноженную на время передачи битового сигнала Tb, N0 – спектральная плотность мощности шума, которую можно выразить как мощность шума N, деленную на ширину полосы W. Учитывая, что битовая скорость передачи Rb равна Rb= 1/Tb, получаем:

В дальнейшем в нашем курсе речь будет идти о цифровой связи, поэтому в качестве основного критерия связи естественно выбрано

отношение Eb/N0.

Одной из важнейших характеристик цифровой системы связи является зависимость вероятности битовой ошибки Pb от Eb/N0, имеющая характерный вид:

Pb

для Eb/N0 ≥ x0 Pb P0

P0

Eb/N0

x0

Общий вид зависимости битовой вероятности ошибки от Eb/N0.

Таким образом, отношение Eb/N0 может рассматриваться как метрика, позволяющая сравнивать различные цифровые системы связи.

Вероятность ошибки при передаче двоичных сигналов в канале с гауссовым шумом (АБГШ)

Основнаяp1(x)статистическая характеристика аддитивного шума n(t) – его амплитуды8.764·10x распределены-3 по нормальному или гауссову закону распределения 0с.012нулевым средним а и дисперсией 2:

Рис. 2.1. Нормальный закон распределения амплитудных значений гауссова шума при а=0 и =1 (сплошная линия) и =2 (пунктирная линия).

Двоичный сигнал, переданный в течение временного интервала (0,Т), будем представлять в следующем виде:

Для упрощения анализа будем рассматривать влияние в канале с АБГШ только гауссова шума, обозначаемого как n(t). Тогда сигнал r(t) на выходе

дискретизацию в соответствии с тактовой синхронизацией. При этом в конце интервала Т на выходе устройства дискретизации (или согласованного фильтра, или коррелятора) будет формироваться выборка

интервала Т и пользуются записью z = ai + n0, где шумовая компонента n0 является гауссовой с нулевым средним, а компонента ai является средним значением функции z(T), а именно a1 или a2 в зависимости от входного двоичного символа s1(t) («1») или s2(t) («0»).

Тогда, плотности условных вероятностей будут определяться выражениями: