
книги из ГПНТБ / Вулконский Б.М. Теория автоматического управления учебное пособие
.pdf
|
|
|
|
|
|
Таблица |
20 |
|
|
|
|
|
|
|
|
|
|
/14=12, |
rn=2, |
/г0= 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1,00 |
|
|
|
|
|
|
|
|
|
|
-0,40 |
—>0,601 |
|
|
|
|
|
|
|
|
|
..-0,36 |
—>0,40/ |
|
|
|
|
|
|
|
|
|
- г 0,24 |
-0,361 |
|
|
|
|
|
|
|
|
|
- > 0,20 |
т*0,24 |
*0,24/- |
|
|
X3F, |
0,20 |
0,20 |
0,20 |
0,20 |
0,20 |
0,20 |
- 0,20 |
- 0,201 |
|
|
|
0,20 |
0,20 |
0, 20/ |
|
1 0 |
|||||||
|
|
|
|
|
-0,17 |
-0,19 |
-0,19 |
->0,191 |
|
|
|
hF3 |
0,12 |
0,12 |
0,12 |
|
-0,17 |
-0,17 |
-0 ,1 7 /- |
|
|
010 |
|
0,12 |
0,12 |
0,12 |
0,121 |
|
|
|
|||||
^2^3 0,10 |
0,10 |
0,10 |
- 0,12 |
- > 0,12 |
-0,12 |
- 0 ,1 2 /“ |
|
|
|
по |
|
0 , 1 0 |
0,10 |
0,101 |
|
|
|
|
|||||
hFз 0,10 |
0,10 |
0,10 |
Q,10 |
0,10 |
0 ,1 0 /“ |
|
|
|
|
111 |
|
KF3 |
0,10 |
0,10 |
0,10 |
0 , 1 0 |
0,10) |
|
|
|
|
|
0000 |
KF, |
0,09 |
0,09 |
-0,09 |
->0,09 |
-0 ,0 9 /“ |
|
|
|
|
|
0001 |
0,09 |
0,091 |
|
|
|
|
|
|
||||
^2^*2 |
0,08 |
0,08 |
0,08 |
0,08/~ |
|
|
|
|
|
|
ООН |
h f2 |
0,06 |
0,06 |
0,06] |
|
|
|
|
|
|
|
оно |
0,06 |
0,06 |
0,06/ |
|
|
|
|
|
|
|
0111 |
|
hF, |
0,04 |
->0.05 1 |
~‘4' |
|
|
|
|
|
|
|
00101 |
0,04/ |
|
|
|
|
|
|
|
|
|||
XA |
0,041 |
' |
|
|
|
|
|
|
|
|
001000 |
hF, |
0,01 / - |
|
|
|
|
|
|
|
|
|
001001 |
Кодирующее устройство использует двоичный алфавит симво лов 0 и 1 . Данные разведки передаются на пункт обработки ин формации по радиоканалу двоичным кодом с вероятностью ошиб ки в каждом символе р = 1 0 -2.
Требуется построить код, обеспечивающий вероятность ошибки в принятом сигнале (Ро) не более 1 0 ~3.
Р е ш е и и е. Применим для кодирования сообщений код Хафф мена, как обеспечивающий максимальную скорость передачи 'ин формации при заданной конечной схеме сообщений (табл. 20). Д а лее, для передачи сообщений по каналу перекодируем их коррек тирующим кодом так, чтобы получить заданную вероятность ошиб ки Ро = 1 0 _3.
Определим по формуле (80) приближенное число символов в кодовой комбинации корректирующего кода.
Я( Я - 1 ) = 2Р0
РJ
Решая это уравнение при р = 1 0 - 2 и Ро = Ю-3, получим R = 5. Найдем теперь по формуле (79) число контрольных символов
пятиразрядного кода.
Як = log (Я + 1) = log 6 = 2,58 ж 3.
Следовательно, сообщения, кодированные кодом Хаффмена, нужно перекодировать корректирующим кодом «2 из 5». Составим
таблицу перекодирования |
(табл. |
2 1 ). |
|
|
|
|
||
Определим эффективность |
полу |
Т а б л и ц а |
21 |
|
||||
ченного корректирующего |
кода: |
И, |
А, |
Аз At |
A3 |
Суммы |
||
|
|
|
|
|||||
*я „ = 4 - я (Я+-1)/>2 = |
1 |
|
|
|
|
|
||
|
|
|
1000 |
X |
X |
X |
|
1 |
|
|
|
|
|
||||
Я0, = Яи^ = |
|
.Ю -г = ' |
1 |
X |
X |
X |
|
2 |
|
50 ‘ |
|
|
X |
3 |
|||
|
2 |
|
|
X |
|
|
То есть после исправления код в среднем оставляет одну ошибку на последовательность из 1 0 0 0 символов, в то время как код без коррекции дает в среднем одну ошибку на пятьдесят символов. Эффективность кода
£ 1 |
р' = |
Рр |
= 5 -1 0 ~*. |
Ро |
я„ |
|
Г л а в а 4
ПЕРЕДАЧА НЕПРЕРЫВНЫХ СООБЩЕНИЙ ПО КАНАЛАМ СВЯЗИ
§ 12. ОТЛИЧИТЕЛЬНЫЕ ОСОБЕННОСТИ ТЕОРИИ НЕПРЕРЫВНЫХ СООБЩЕНИИ
Наряду с дискретными сообщениями в современной технике не меньшую, если не большую, роль играют непрерывные сообще ния. Примерами таких сообщений являются телефонные радио сигналы, телевизионные сигналы, сигналы датчиков непрерывных физических величин в телеметрии, сигналы станций телеуправле ния и т. п.
В этом разделе мы рассмотрим основные положения теории информации для непрерывных сообщений как шредельного слу чая теории дискретных сообщений, хотя между этими двумя слу чаями имеются существенные различия.
Сравним дискретный и непрерывный сигналы, представленные на рис. 3.
а)
На любом отрезке конечной длины дискретный сигнал содер жит конечное число символов^ взятых из конечного алфавита. Непрерывный сигнал на любом отрезке конечной длины содержит бесконечное множество точек, каждая из которых характеризует ся ординатой сигнала. Причем различных ординат может быть бео-
62
конечное множество. В связи с этим может показаться, что непре рывный сигнал конечной длины обладает свойствами бесконечной последовательности символов, избираемых из бесконечного алфа вита. В соответствии с выводами теории дискретных сообщений ' это должно было бы означать, что непрерывный сигнал конечной
длины содержит бесконечное количество информации.
На самом деле это не так. На практике мы всегда имеем дело с сигналами, спектр которых ограничен, т. е. с функциями, спектральное разложение которых не содержит частот выше некоторой граничной частоты Fг гц. Эта граничная частота определяется либо свойствами приемника информации, либо ограничивается со знательно. Но, согласно известной теореме Котельникова, доказа тельств? которой мы приведем ниже, функции с ограниченным спектром однозначно определяются конечным числом своих зна чений на протяжении конечного интервала времени. А раз так, то передача непрерывной функции.с ограниченным спектром сводится в конечном счете к передаче последовательности дискретных ве личин.
Далее, на всякий реальный сигнал всегда накладывается шум, в силу чего количество различимых уровней сигнала становится конечным и, следовательно, совокупность значений непрерывного сигнала при наличии шума эквивалентна конечному алфавиту.
Заметим попутно, что теории информации для непрерывных со общений в отсутствии шумов не существует.
При рассмотрении непрерывных сигналов необходимо ввести одно определение, которое отсутствовало в теории дискретных сообщений. Это определение квадратичного эффекта или связан ных с ним понятий мощности и энергии сигнала.
Рассмотрим некоторую функцию f(t). Будем называть м г н о
в е н н ы м з н а ч е н и е м значение этой функции в |
некоторой |
точке. |
|
Величины, являющиеся квадратами мгновенных значений, бу |
|
дем называть м г н о в е н н ы м и к в а д р а т и ч н ы м и |
з н а ч е |
н и я м и . |
|
63
Интеграл по времени от мгновенного квадратичного значения
называется |
к в а д р а т и ч н ы м |
э ф ф е к т о м . |
Мгновенное квадратичное значение сигнала пропорционально |
||
его мощности, а квадратичный |
эффект — энергии. |
|
Введенные определения иллюстрируются рис. 4. |
||
В теории |
непрерывных сообщений понятие мощности имеет |
важное значение. Как мы увидим ниже, мощность сигнала, или, точнее, отношение сигнал/шум определяет объем алфавита непре рывных сообщений.
Наконец, важной отличительной особенностью теории непре рывных сообщений является возможность использования такого мощного математического аппарата как частотный анализ.
§ 13. ТЕОРЕМА КОТЕЛЬНИКОВА
Рассмотрим непрерывный сигнал, прошедший через систему с ограниченной полосой пропускания частот. Для этого типа сигна лов докажем следующую теорему.
Если функция не содержит составляющих с частотой вы ше F r гц, то она полностью определяется последователь-
1
ностыо ее значении в точках, отстоящих на расстоянии
секунд друг от друга.
Сформулированное положение есть теорема В. А. Котельни кова. Она утверждает невозможность независимых значений функции, отделенных друг от друга временными интервалами
меньше чем секунд. Доказательство теоремы основано на
разложении функции f(t) с ограниченным спектром в особого рода ряд. Для ограниченного опектра имеем
| |
при |
(О| < |
шг |
5 (ш) = |
При |
| о» | > |
0 )г |
О |
На-конечном интервале (— сог <ог) функция 5(«) может быть представлена рядом Фурье
]Ък •
s и = 2
где 2 о)г — период по частоте.
Коэффициенты разложения Dk определяются по обычной фор муле
Г |
, |
nt |
1 |
■-j*k- |
-г dv. |
^= j |
|
|
|
|
64
Но = д t и интеграл выражает не что иное, как умноженное
на 2п значение f(— kAl). Таким образом
S(in) = Д * 2 f ( - k M ) е ^ \ . '
Выражая функцию f(t) через ее спектр 5(ш), получим
f ( t ) |
= |
~2^ |
5 » <?i-‘ rfo> = |
Дt |
е |
d<» s/ ( Ш ) е jkiuAt |
|
2т. |
где знак при k изменен на том основании, что суммирование про изводится по всем как положительным, так и отрицательнымзна чениям k.
Изменим порядок действий, тогда
|
со |
и' |
|
f i t ) |
М |
kit) |
|
2т |
|
||
|
|
||
|
|
|
|
|
оо |
sin шг (t — k\t) |
|
|
=2 /(Ш) |
(83) |
|
|
шг (t — kbt) |
||
|
|
Следовательно, функция с ограниченным спектром вполне определяется своими мгновенными значениями f ( k отсчитан
ными через М = —— = -ttL—. Теорема доказана. |
|
шг |
2 гт |
Наиболее важный вывод из этой теоремы, о котором мы уже упоминали выше, состоит в том, что передача непрерывного сооб щения, когда сигнал может быть .представлен функцией с ограни ченным спектром, сводится к точно такой же ситуации, как и пере дача дискретного сообщения.
Вернемся к формуле (83). Каждое слагаемое этой суммы по физическому смыслу представляет отклик идеального фильтра нижних частот с граничной частотой «>г на весьма короткий им пульс, возникающий в момент t = k&t и имеющий площадь, рав ную мгновенному значению функции f(t) в тот же момент. Этим
5 |
65 |
и определяется принципиальнаявозможность и весь механизм дискретной передачи непрерывного сигнала с ограниченным спект ром по каналу связи (рис. 5).
На рис. 5,о представлена исходная функция сигнала f(t). Через равные интервалы Дt берутся отсчеты мгновенных значений функ ции и в канал посылаются короткие импульсы, площади которых (например, высоты при неизменной длительности) пропорциональ ны соответствующим отсчетам (рис. 5,6).
- 1 - 1 - 1 1 1 . 1 ] ___i |
5). |
На приемном конце канала эти импульсы пропускаются через фильтр нижних частот. Отклик фильтра на каждый из импульсов представлен рядом кривых (рис. 5,е). В сумме же на выходе фильтра получается исходная функция f(t) (рис. 5,г). Следова тельно, для передачи непрерывного сигнала нет необходимости передавать его целиком, достаточно передать лишь дискретный ряд его значений в точках отсчета и сигнал будет точно восста новлен на приемной стороне канала. Этот удивительный результат является фундаментальной предпосылкой теории непрерывных сообщений.
Отметим одно интересное свойство суммы (83). В моменты k&t значение суммы, т. е. значение f(t), определяется только одним из
66
слагаемых, так как все остальные слагаемые в этот момент обра щаются в нуль. Действительно:
sin <ог (£ — к М ) _П |
при t = kM |
mr(t — Ш ) ~ ( о |
п р и / = уД^ ( j ^ k ) |
при любых целых значениях к и /, так как
<»р( j M — kbt) — (у — к) югДt, — (у — к) ъ.
Таким образом, хотя выходные импульсы (отклики) и перекры ваются, но в моменты отсчета значение функции определяется только одним из них.
Теперь заметим, что в действительности мы обычно имеем дело с сигналами, представляющими собой функции, ограничен ные не только по частоте, но и во времени. Точнее, функции, квад ратичный эффект (энергия) которых почти весь сосредоточен в конечных интервалах времени и полосы частот. Для таких функ ций справедливо следующее утверждение.
Если длительность функции приближенно составляет Т, а спектр ее приближенно ограничен частотой Fr и если 2TFr ^> 1 , то функция с высокой степенью точности опреде ляется ее значениями в 2TFr точках отсчета, отделенных друг
от друга во времени интервалами |
^1 . |
К аналогичным результатам по числу точек отсчета можно прийти, если представить функцию /(/) на интервале Т конечным тригонометрическим полиномом
|
|
2 -jk -у- |
|
|
—а |
где п — номер наивысшей |
|
гармоники, определяемый соотноше |
нием |
|
|
о |
п |
|
2 |
* — = ®г. |
Действительно, так как каждая из п комплексных амплитуд Ск определяется двумя числами (как комплексная величина), то функция /(/) на интервале Т Определяется всего 2п = 2TFr .чис лами.
Таким образом, получается, что функция с ограниченным спектром Fr и конечной длительностью Т определяется 2TFr числами независимо от того, что представляют собой эти числа — мгновенные ли значения функции, отсчитанные через М, или спектральные коэффициенты разложения в ряд Фурье.
67
Выводы теоремы Котельникова распространяются и на те
функции /(/),. частотный спектр которых простирается |
от |
F0 до |
|||
Fr гц. В этом общем случае |
число |
точек отсчета будет |
равно |
||
2Т (F{. — F0), |
а временные интервалы, |
отделяющие точки |
отсчета, |
||
. определятся |
соответственно как |
|
1 |
|
|
0 |
:р ---- тгу- . |
|
|
||
§ |
14. АНСАМБЛИ ФУНКЦИЙ. |
КОГЕРЕНТНОСТЬ |
|
|
Совокупность функций, обладающих одним или несколькими характерными свойствами, называется множеством функций. На пример, все синусоидальные функции времени образуют множе ство, которое может быть записано в виде
|
f(t) = A sin (<оt + op). |
(84) |
||
Другим примером множества функций может служить сово |
||||
купность |
всех функций |
времени, |
не содержащих |
частот выше |
Fr гц. |
|
|
|
|
Множество функций, заданное вместе с распределением веро |
||||
ятностей, |
называется |
ансамблем |
функций. Так, |
множество |
/(/) = sin u>t образует ансамбль, если задано р(ш)— распределение вероятности величины <ы. Величина си в этом случае называется случайной величиной ансамбля пли степенью свободы ансамбля.
Если, например, в (84) А, со и tp— случайные величины, то определяемый этим выражением ансамбль имеет три степени сво боды. Если А постоянная, а ш и ц> случайны, то ансамбль (84) обладает двумя степенями свободы.
Ансамбли функций, представляющие интерес для теории ин формации, обладают, как правило, большим числом степеней сво боды. Как мы видели, ансамбль функций, длительность которых составляет приблизительно Т, а ширина спектра i\F, имеет 2TAF степеней свободы. Для задания такого ансамбля необходимо за дать многомерное распределение4 вероятностей
Р ( У и Уг> • • |
• 1 У2тлр)> |
где у 1 , г/г, ■■•, y2 T4 F ~ значения |
частной функции ансамбля в |
точках отсчета.
Напомним, что теория дискретных сообщений строилась приме нительно к системам символов. Аналогично, теория непрерывных сообщений строится применительно к ансамблям функций. И если функции ансамбля обладают спектром, ограниченным сверху ча стотой Fr гц, то, как уже отмечалось, дискретный и непрерывный случаи оказываются очень близки друг к другу. Действительно, мы всегда можем определить ансамбль функций времени с огра ниченным спектром как ансамбль таких функций, значения которых в точках отсчета образуют некоторую систему символов.
\
68
Рассмотрим |
две функции ансамбля f t (l) |
и Ы 0 - |
Еслн> зная |
/i (/), мы . можем |
что-либо сказать о f2(t), т 0 |
функции |
зависимы. |
Такая зависимость между значениями двух функций в точках от счета называется к о г е р е н т н о с т ь ю .
Две функции или две части одной функции частично когерент ны, если одна ограничивает другую. Две функции полностью ко герентны, если одна полностью определяется значениями другой.
Квадратичный эффект суммы функций / 1 (/)и f2(t) равен
J \fi (t) + / 2 (012 d t = \ 1\fx(Iо2 + [/2 (2?)]2}dt + j 2fi ( t ) f a (t) dt,
где первый интеграл представляет сумму квадратичных эффектов каждой из функций, а второй — квадратичный эффект, характери зующий взаимосвязь между функциями.
Если квадратичный эффект взаимосвязи равен нулю, то функ
ции |
f](i) и f2(l) называются |
о р т о г о н а л ь н ы м и . |
Если f\(t) |
и / 2 |
( 0 принадлежат к двум |
независимым ансамблям, |
т. е. неко |
герентны, то квадратичный эффект взаимосвязи равен нулю. Следо вательно, некогерентные функции всегда ортогональны. Отличие квадратичного эффекта взаимосвязи от нуля свидетельствует о ко герентности функций. Однако равенство этого эффекта нулю не обязательно свидетельствует о некогерентности функций, они мо гут быть только ортогональны.
Таким образом, мы .пришли к важному для практики выводу. При сложении некогерентных сигналов, являющихся функциями ансамбля, в линейной системе их квадратичные эффекты подчи няются аддитивному закону.
В дальнейшем этот вывод будет нами часто использоваться, и, прежде всего, при рассмотрении вопросов, связанных с суперпози цией сигнала и шума в каналах связи.
§ 15. ЭНТРОПИЯ НЕПРЕРЫВНЫХ РАСПРЕДЕЛЕНИЙ
Энтропию непрерывных распределений вероятностей естествен но определить как предельный случай энтропии дискретных рас пределений. Тогда энтропия непрерывного распределения р(х) одной переменной х запишется в виде
И — lim ( — 'У.р (л) |
log [р (х) Aa'jJ ]\ |
(85) |
||||
|
i .i j - |
о ( |
j |
|
J |
|
Преобразуя |
это |
выражение, можно |
написать: |
|
||
t f = |
lim = |
{ — У /? (a ) [log/? (а )] Да Л + |
|
|||
|
Д л т . - О |
I |
|
|
) |
|
|
J |
J |
|
|
|
|
|
+ |
lim { — У р (х) |
[log Да-j] |
Да-j \ ; |
|
|
|
|
Д д : - * 0 |
* |
|
J |
|
|
|
|
J |
|
|
|
# = |
— [ р (a-) log р (a ) dx |
— lim У р (a-) [log Да-j] Aa'j . |
|
|||
|
|
|
|
J |
J |
69 |
|
|
|
|
|
|