Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория информационных процессов и систем. Учебное пособие
.pdf
4.3. Нормальный случайный процесс
41
, (4.9)
где
– односторонняя спектральная плотность эргодического
нормального случайного процесса, равная отношению мощности этого
процесса к верхней граничной частоте
Найдем корреляционную функцию нормального стационарного эргодического центрированного процесса, полагая, что спектральная плот-
ность мощности в полосе
постоянна и равна No/2.
. (4.10)
При значении функция . Это соответствует разности
времени
между двумя соседними выборками. Следовательно,
сечения процесса, разделенные этим интервалом, не коррелированы между
собой.
Найдем предел
. (4.11)
При корреляционная функция стремится к δ – функции,
для которой любые два несовпадающих сечения не коррелированы между
собой.
Спектральная плотность такого процесса является постоянной величиной, равной
. (4.12)
Эргодический центрированный стационарный нормальный процесс,
корреляционная функция которого равна δ – функции, а спектральная
плотность постоянна при всех частотах, называется белым шумом.
Белый шум является математической моделью реального эргодического нормального процесса, применимой в тех случаях, когда его время
корреляции много меньше постоянной времени четырехполюсника, на который действует этот процесс, или когда в пределах амплитудно-частотной
4. Случайные сигналы и их математические модели
42
характеристики четырехполюсника спектральную плотность процесса
можно приближенно считать постоянной [4]. Дисперсия белого шума:
.
4.4. Математические модели сообщений
Экспериментально установлено, что основная энергия разговорного
телефонного сигнала сосредоточена в полосе частот от 100 Гц до 5 кГц и
зависит от характеристик человеческого голоса и системы передачи. С
уменьшением полосы системы передачи экономические показатели улучшаются, но падает разборчивость речи.
Оптимальная полоса частот, при которой обеспечиваются приемлемые экономические показатели и достаточная разборчивость речи, лежит в
пределах от 300 до 3400 Гц. Динамический диапазон речи диктора составляет 25–35 дБ.
Для передачи спектра телевизионного сигнала требуется во много раз
большая полоса. Она определяется общим числом различимых элементов в
одном кадре изображения, которое равно 625 × 833 = 520 000, так как число
различимых элементов вдоль строки равно 4/3 × 625 = 833, где 4/3 – отношение сторон кадра. Поскольку частота кадров выбирается равной 25 Гц, на
передачу всех различимых элементов требуется 1/25 с, а на передачу одной
пары элементов 1/260000 × 25. Последняя цифра определяет верхнюю частоту телевизионного сигнала, которая равна 6,5 МГц. Динамический диапазон телевизионного сигнала составляет 40 дБ. Первичные сигналы, в том
числе речевые и видеосигналы, являются нестационарными случайными
процессами с изменяющимися во времени временными и спектральными
характеристиками. Поэтому точное математическое описание таких сигналов, как правило, связано с затруднениями. Для облегчения задачи анализа
обычно используют различные приближения [2].
Рассмотрим математические модели при передаче сообщений в виде
пакетов. Сообщения, передаваемые в системах передачи данных, необходимо трактовать как неизвестные величины. Простейшей вероятностной
моделью сообщений, передаваемых оконечным устройством, является нестационарный случайный процесс со сложными вероятностными связями
между пакетами и паузами [2].
4.4. Математические модели сообщений
43
Типичная реализация процесса, описывающего поток сообще-
ний, имеет вид последовательности пакетов (рис. 4.3). Последовательность
задается длинами , и моментами появления отдельных пакетов
.
Рис. 4.3. Реализация процесса, используемого в качестве модели потока сообщения [2]
При математическом описании реализации накладываются сле-
дующие условия [2]:
1) процесс, описывающий моменты появления пакетов, стационар-
ный;
2) распределение длины данного пакета не зависит от длины других
пакетов;
3) последовательность моментов появления пакетов и последова-
тельность длин пакетов независимы.
Исследования свойств моментов возникновения пакетов показали, что
длина пакета имеет следующее распределение [2]:
,
где – вероятность того, что появившейся пакет закончится в данном единичном интервале, причем среднее значение
Длина пакета , где – продолжительность единичного эле-
мента. Минимальный интервал времени
, который требуется для передачи
одного элементарного сообщения (при передаче двоичных цифр это двоичные числа 0 и 1) называется единичным интервалом [2].
Элемент сигнала, имеющий длительность, равную единичному ин-
тервалу, называется единичным. Если длительность единичного элемента
, распределение длины пакета непрерывно и подчинено экспонен-
циальному закону [2]:
4. Случайные сигналы и их математические модели
44
А число пакетов, появляющихся в промежутке времени [t, t+T] под-
чиняется распределению Пауссона:
,
где – число пакетов, – вероятность возникновения пакета в указанном
промежутке времени.
Распределение промежутка между началами соседних пакетов под-
чиняется экспоненциальному закону [2]:
Геометрические представления детерминированных сигналов ис-
пользуются и при анализе случайных сигналов и помех. Так совокупность
выборочных значений реализации случайного процесса
может быть представлена n-мерным вектором
[4]. Ан-
самблю поставлено в однозначное соответствие множество п-мерных векторов, которые будут занимать некоторую область в п-мерном пространстве
[4].
Если задана п-мерная плотность распределения вероятности, то ве-
роятность того, что множество п-мерных векторов находится в области V
[4]: P=
где интегрирование ведется по
этой области.
Можно найти также вероятность того, что вектор
, определяющий
заданную реализацию
, попадет в бесконечно малую часть области dV:
dP = w(x1, х2,..., хп; t1, t2, ..., tn ) dx1 dx2...dxn .
Эта вероятность называется вероятностью появления заданной реа-
лизации.
Длина случайного п - мерного вектора [4]:
.
Квадрат длины случайного вектора:
,
где Р – мощность случайной реализации.
45
ГЛАВА 5. КАНАЛЫ СВЯЗИ
5.1. Классификация каналов. Помехи в каналах связи
Классификацию каналов ведут по различным показателям: назначению (телеграфные, телефонные, телевизионные и т.д.), виду физической
среды распространения (проводные, волноводные, радио и др.), диапазону
используемых частот, способу распространения электромагнитных колебаний (с открытым или закрытым распространением), характеру информационных параметров сигналов на входе и выходе канала (непрерывные,
дискретные, дискретно-непрерывные и т.д.) [4].
В каналах с закрытым распространением электромагнитная волна
распространяется по направляющим линиям: кабельным, волноводным,
оптоволоконным [4].
В каналах с открытым распространением электромагнитная волна
распространяется в космическом, околоземном или водном пространстве [4].
К радиодиапазону относят частоты в пределах то 30 до 30×1012 Гц.
Данные о радиодиапазонах приведены в табл. 5.1.
Таблица 5.1
Данные о радиодиапазонах частот
Диапазон частот
Диапазон волн
Название частот
Название волн
30… 300 Гц
300… 3000 Гц
3… 30 кГц
30… 300 кГц
300... 3000 кГц
3… 30 МГц
30… 300 МГц
300… 3000 МГц
3… 30 ГГц
30… 300 ГГц
300... 3000 ГГц
1000… 10000 км
100… 1000 км
10... 100 км
1… 10 км
100... 1000 м
10... 100 м
1… 10 м
10… 100 см
1… 10 см
1… 10 мм
0,1…. 1 мм
Сверхнизкие (СНЧ)
Инфранизкие (ИНЧ)
Очень низкие (ОНЧ)
Низкие (НЧ)
Средние (СЧ)
Высркие (ВЧ)
Очень высокие (ОВЧ)
Ультравысокие (УВЧ)
Сверхвысокие (СВЧ)
Крайне высокие (КВЧ)
Гипервысокие (ГВЧ)
Мириаметровые
Километровые
Гектометровые
Декаметровые
Метровые
Дециметровые
Сантиметровые
Миллиметровые
Децимилитровые
К оптическому относят диапазон частот от 1013 до 10
15
Гц.
В зависимости от места нахождения источника различают внутренние
и внешние помехи.
5. Каналы связи
46
К внутренним помехам, возникающим в самом канале, относятся:
флуктуационные шумы входных каскадов приемника, линий передачи
сигналов от передатчика к приемнику и т.д.; электрические сигналы, попадающие в приемник из-за плохой экранировки между каскадами и блоками
аппаратуры. Флуктуационные шумы содержат тепловую и дробовую составляющие. Тепловой шум возникает из-за теплового движения носителей
заряда. Дробовой шум обусловлен дискретной природой носителей заряда и
возникает на выходе электровакуумных и полупроводниковых приборов [4].
Внешние помехи возникают вне канала связи. К ним относится: ат-
мосферные, космические, промышленные, помехи от посторонних средств
связи. Атмосферные помехи возникают в результате физических процессов,
протекающих в земной атмосфере.
Помехи делят на аддитивные и мультипликативные. Воздействие
помех на сигнал можно представить в виде [4]
где – неискаженный помехами сигнал,
– мультипликативная
помеха,
– аддитивная помеха,
– искаженный помехами сигнал.
Причиной возникновения мультипликативной помехи является не-
прерывное или дискретное изменение параметров тракта передачи [4].
5.2. Математические модели каналов связи
5.2.1. Модель непрерывного канала без шума
Математическая модель канала связи, необходимая для проведения
исследований, считается заданной, если известны оператор преобразования,
а также условия и ограничения, накладываемые как на канал, так и на
входные и выходные сигналы. Математическая модель реального канала
связи является достаточно сложной. Это объясняется следующими причинами [4].
1. Оператор L, кроме линейных, содержит также нелинейные и пара-
метрические преобразования.
2. В канале присутствуют помехи.
3. Входной сигнал может быть случайным.
Результаты анализа во многом зависят от условий и ограничений,
которые накладываются на сигналы и помехи. Это касается законов их
5.2. Математические модели каналов связи
47
распределения и физических характеристик сигналов, таких, как длительность, ширина спектра, мощность.
5.2.2. Математические модели дискретных каналов связи
Сигналы на входе и выходе дискретного канала являются дискретными.
Математическая модель этого канала определяется [2]:
а) алфавитом кодовых символов на входе {аi}, i = l,2,...,m и выходе {bi},
i=1,2,...,n;
б) априорными вероятностями появления символов на входе канала;
в) вероятностями перехода P (bj /аi), которые определяют вероятность
того, что при передаче символа аi , на выходе канала появится символ bj.
Если вероятность P (bj /аi) не зависит от времени, то такой канал
называется однородным [2].
В симметричном однородном канале без памяти алфавит кодовых
символов на входе совпадает с алфавитом на выходе, а вероятности перехода определяются равенствами
(5.1)
Любой символ
, (i = l,2,...,m ) может перейти в другой символ
(j = 1,2,...,т) с равной вероятностью . Эти переходы определяют
вероятность ошибки, равную р. Кроме того, любой символ может с вероятностью (1– р) перейти в символ т.е. принят правильно.
5.2.3. Особенности оптических каналов связи
Оптические каналы связи могут быть ненаправленными и направленными [4].
В ненаправленном оптическом канале электромагнитное поле распространяется в области пространства, которое определяется диаграммой
направленности передающей антенны. Средой распространения при этом
является свободное космическое, воздушное или водное пространство [4].
В направленных каналах для распространения электромагнитного
поля используются специальные волноводы – оптические кабели [4].
В простейшем типе ненаправленного канала – космическом пространстве искажения сигнала отсутствуют. Изменяется только амплитуда и
происходит его задержка.
48
ГЛАВА 6. ТЕОРИЯ ПЕРЕДАЧИ И КОДИРОВАНИЯ СООБЩЕНИЙ
6.1. Общие сведения
6.1.1. Количество информации в дискретных сообщениях.
Понятие энтропии
При анализе систем связи используют количественную меру, позво-
ляющую оценивать объем информации, содержащейся в сообщении, и
объем передаваемой информации [4].
Для определения этой количественной меры обратимся к модели
дискретного канала связи. Рассмотрим случай, когда кодовые символы {аi},
i = 1, 2,..., m независимы, а источник полностью описывается априорными
вероятностями Р(аi). При отсутствии помех значения принятых символов
{bi} не отличаются от переданных {аi}. При наличии помех между символами {аi}, {bi} нет однозначного соответствия и любой символ аi может
перейти в любой другой символ bj с некоторой вероятностью перехода
P(bj / ai). Зная априорные вероятности Р(аi) и вероятности перехода P(b
j /ai),
можно вычислить вероятность появления символа ai при условии, что на
выходе наблюдался символ bj. Эта условная вероятность P(ai / bj) называется
апостериорной (послеопытной) вероятностью [4].
Апостериорная вероятность находится из известного равенства,
определяющего совместную вероятность появления событий ai , bj.
. (6.1)
Апостериорная вероятность того, что в тех случаях, когда был принят
символ bj, передавался символ аi:
(6.2)
Вероятность определяется по результатам наблюдения за ра-
ботой дискретного источника в прошлом и называется априорной вероят-
ностью. Выражение
) определяет степень правдоподобия того, что
если был послан какой-то символ , то будет принят символ
. Эта веро-
ятность называется функцией правдоподобия и обозначается буквой .
Вероятность является известной величиной и определяется из условия
нормировки [4]:
6.1. Общие сведения
49
,
где K – постоянная величина.
С учетом приведенных замечаний апостериорная вероятность равна
(6.3)
За меру количества извлекаемой информации принимают величину
. (6.4)
Основание логарифма может быть любым. Принято использовать
основание 2, а количество информации измерять в двоичных единицах или
битах [4].
Пусть
, тогда
.
Рассмотрим случай приема, когда принимаемый символ
одно-
значно определяет символ. В этом случае и количество из-
влекаемой информации на выходе канала о символе
, [4]:
. (6.5)
На практике представляет интерес средняя взаимная информация,
равная количеству информации о множестве А передаваемых символов,
которая в среднем содержится во множестве В принимаемых символов.
. (6.6)
С учетом (6.1) выражение (6.6) перепишем в виде
, (6.7)
где
(6.8)
так как
.
6. Теория передачи и кодирования сообщений
50
Учитывая формулу (6.1), выражение (6.6), можно записать также в
виде:
(6.9)
где
(6.10)
(6.11)
Величину I(A) называют энтропией дискретного источника и обо-
значают H(A) [4].
Выражение I(A,B), входящее в формулу (6.9), определяет среднее количество информации, содержащееся во всевозможных символах на выходе
источника дискретных сообщений до момента приема символа на выходе
канала при известном множестве символов на выходе этого канала. Математически величина I(A,B) определяется формулой (6.8). Величину I(A,B)
называют условной энтропией и обозначают буквой Н(А/В) [4].
Рассмотрим основные свойства энтропии [4].
1. Энтропия – величина вещественная, ограниченная и неотрица-
тельная.
2. Энтропия равна нулю, если значение символа (сообщения) известно
заранее. В этом случае вероятность одного из символов равна 1, а вероятности остальных символов равны нулю.
3. Энтропия максимальна, если все состояния дискретного источника
равновероятны.
Подставляя в (6.9)
, получим [4]:
4. Условные энтропии:
.
5. Энтропия объединения двух зависимых сообщений равна сумме
двух энтропий: безусловной и условной.
6. Энтропия объединения двух независимых сообщений равна сумме
энтропии этих сообщений.
Следовательно, при передаче информации по каналу связи с помехами
к средней взаимной информации I(А, В) добавляется средняя условная эн-
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]