
книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdfПоэтому |
1 |
". |
|
|
1 |
" |
|
|
A (/)---L f6(01 = |
ем di« |
|
||||||
L I in i---- |
i |
= lim — |
(' eiu,iH (w)d(o, |
|||||
откуда |
|
2 - Л |
|
|
|
_ a |
|
|
|
h(t)-- |
|
f eilulH (i,y)dо»; |
|
(13) |
|||
|
|
|
|
|||||
|
|
2ТГ |
|
|
|
|
|
|
|
|
II (m )= ( e~i'"'h(t)dt, |
|
(14) |
||||
t . e. h(t) |
и H ( i d ) |
связаны прямым |
н обратным |
преобразованиями |
||||
Фурье. |
есть частотная, a h(t)— временная характеристики линей- |
|||||||
/7(<п) |
||||||||
нон системы L. |
|
|
|
|
|
|
Н (м) |
|
Из (13) следует, что //(/) существует лишь |
тогда, когда |
|||||||
достаточно быстро убывает при | ш| —►оо. |
|
|
||||||
Однако h(l) используют даже тогда, |
когда преобразование |
(13) |
||||||
не существует. При этом h(t) |
рассматривают как несобственную |
|||||||
функцию, определяемую равенством (12), в котором L\X(t)] |
опре |
|||||||
деляется функцией Н(м). |
|
|
|
|
|
|
||
Например, h(l) |
не существует в смысле (11) |
для оператора |
||||||
|
L \X (/) ] = 1. i. m. |
X(t |
At)— X(t) |
|
(15) |
|||
Действительно, |
подставим |
в |
(15) |
спектральное разложение |
||||
|
|
* ( 0 = |
? е*"'</фхМ . |
|
(16) |
|||
|
|
— |
«о |
|
|
|
|
|
Тогда
откуда
Сравнив
г |
°° |
pl»>U + At) _ . pl<«t |
|
L\ X( t ) ] =\ . i . m . Г—--------------------dct>A.((0) |
|
||
|
«-><> Л |
At |
|
|
L\ X(1)]~ |
f г ^ Ы Ф ф ,)). |
(17) |
(17) |
и (10), получим |
|
|
|
Н (to) = /(о.. |
|
По преобразование Фурье функции ко не существует. Это и означает, что весовая функция h(t) оператора (15) несобственная.
Линейная система L называется устойчивой, если для нее
всякое |
ограниченное воздействие |
X(t) |
вызывает |
ограниченный |
|
отклик У'(/). |
|
|
|
||
Выведем условие, налагаемое на h(t) |
и гарантирующее устой |
||||
чивость. |
|
|
|
|
|
Из |
(12) |
имеем |
|
|
|
М [К(/)] |
м f X (t — s)h(s)ds |
< |
M [ X ( ( - s ) ] |
h(s) ds. (18) |
1 0 0
Воздействие АД/) по определению ограничено, если существует такое число А, что при всех /
| М [ Х ( 0 1 | < Л < + оо.
При таком воздействии из (18) следует
М [У (/)]|< /1 ? |/Д /)Д //,
т. е. система L устойчива, если ее весовая функция /ДО абсолютно интегрируема.
До сих пор мы рассматривали линейную систему L как абстрактный оператор в функциональном пространстве. Однако для реальных систем должно выполняться условие
А(/) - 0 при / < 0 , |
(19) |
имеющее физический смысл: отклик на выходе системы не может появиться раньше, чем подано воздействие на ее вход. Поэтому
(19) называют условием физической осуществимости системы.
В силу (19) формулы (12) и (14) перепишем так:
|
|
0 |
X (1 — s)h(s)ds, |
(20) |
|
|
|
|
|
|
|
|
|
\ в~‘"4h(t)dt. |
(21) |
||
|
|
0 |
|
|
|
|
Корреляционная и спектральная функции отклика |
|
|||
Пусть |
воздействие |
АД/) и |
отклик Y(/) центрированы, |
т. е. |
|
Тогда в силу (20) |
'М О - |
"'.ДО |
°- |
|
|
|
|
|
|
||
КД/,Д-М[К(0>'*(х)]:-=-М |
X(t — r)h(r)dr )’ X* (s — о)(1о |
|
|||
откуда |
К,, (/, s) |
(■Кх(/ — т, s — о) h (т) А* (a) dr d о. |
( 22) |
||
|
|||||
Если |
же воздействие X(t) |
стационарно, то из (22) и |
(20) |
||
следует |
|
|
|
|
|
|
АД/ — s ) = [ |
ГАД/ — s — т + |
о) h (г) h* (о) dr da; |
(23) |
|
M[Y (/)] =j'/VI \X(t — s) 1h(s)ds — mx j'A(s) ds - const, |
|
||||
|
b |
|
|
i> |
|
т. e. если воздействие стационарно, то стационарен и отклик.
101
Подставни в (23) спектральное разложение |
|
К (t — s) = f еы<'- »>dS, (со), |
(24) |
в силу (21) получим |
|
k , , ( t - s ) = J еЬ (/-.)|//((0.)|1 ^ х(о,). |
(25) |
Сравнив (25) с (24), а (10) с (16), найдем |
|
dSy(o ) - \ H( a)\*dSx(c>), |
|
dOy(a)=H(ta)d(l>x(to), |
(26) |
т. е. при прохождении стационарного процесса через линейную систему элементарное приращение его спектральной функции умно жается на квадрат модуля передаточной функции, а элементарное приращение ^Флфы) при этом умножается на передаточную функцию.
Как известно, условие вещественности процесса X(t) есть
|
йфх(со) = d(\)x(— со). |
|
Отсюда в силу (26) |
следует, что линейная система L, преобра |
|
зующая вещественный |
процесс |
в вещественный, удовлетворяет |
УСЛ0ВИЮ |
Я (со) - |
Я* (-с о ). |
Если при этом Я (вещественнаясо) , то она четная.
Линейная система как фильтр
Линейные системы часто применяются как фильтры, т. е. служат для выделения определенных спектральных компонент данного процесса.
■Н<ш)
Например, рассмотрим прохождение стационарного процесса Х(() через идеальный полосовой фильтр, т. е. фильтр с веществен ной Я(ы) в виде пары прямоугольников, симметричных относи тельно оси ординат (рис. 18).
102
Такой идеальный фильтр согласно (13) физически не осуще ствим. Однако в радиотехнике известны фильтры, близкие к идеальным.
Из (10) для идеального полосового фильтра следует
У(0 = 2КеЦе‘“*(1фх(ш). |
(27) |
Деи |
|
Если полоса пропускания Ды достаточно узка, то в силу (27) отклик Y(/) можно аппроксимировать гармоникой
Y(/) ^ 2 Re [ФА(Дto)£'“'].
При этом энергия колебания на выходе полоскового фильтра
М[\ Y(t) 14 = 2 ) t/S,(<o),
т. е. S„(o).) есть энергетическая характеристика процесса. Поэтому спектральную функцию S„(о>) называют еще спектром энергии.
Л ек ц и я 14. ОПТИМАЛЬНЫЕ ЛИНЕЙНЫЕ СИСТЕМЫ
Постановка задачи оптимального линейного сглаживания и про гнозирования.
Необходимое и достаточное условие оптимальности линейного сглаживания н прогнозирования. Уравнение Винера.
Решение уравнения Винера для случая рациональной спектраль ной плотности воздействия.
Постановка задачи
Линейная система называется оптимальной, если заданную операцию она выполняет наилучшим в некотором смысле образом.
Примерами оптимальных систем являются сглаживающие и прогнозирующие фильтры. Сглаживающий фильтр служит для наилучшего выделения сигнала из смеси сигнала и шума, а прогно зирующий— для наилучшего воссоздания будущих значений сигна ла по его прошлым значениям.
Пусть па вход линейной системы подается воздействие |
|
X ( t ) = W ( t ) + V ( t ) , |
(1) |
представляющее смесь сигнала W(/) и шума V(i). |
|
Требуется в классе линейных физически осуществимых |
систем |
с постоянными параметрами найти такую систему, которая в момент времени t по всем предыдущим значениям воздействия X (( — т), 0<СЛ<С°о дала бы на выходе наилучшее приближение к сигналу
W ( |
t Т) при времени упреждения Г^О . |
|
Это задача о совместном сглаживании и прогнозировании. Дей |
||
ствительно, из нее при Т= 0 следует чистое сглаживание, |
а при |
|
V(t) |
0 — чистое прогнозирование. |
|
Сигнал W(t) и шум V(t) будем считать вещественными, |
стацио |
нарными и стационарно зависимыми процессами с заданными математическими ожиданиями mw, mv и корреляционными функ циями &щ,(т), kv {x), kwv(x), а выполнение операций сглаживания и прогнозирования наилучшим образом будем понимать в том смысле, что среднеквадратическая ошибка Е при замене искомого
104
значения сигнала W(t + T) фактическим откликом Y(t) для иско мой оптимальной системы принимает минимальное значение, т. е.
Е = M\{W{t + T)— Y{t)Y\ - min, |
(2) |
по сравнению со значениями Е для всех других линейных осуще ствимых систем с постоянными параметрами.
Будем считать mw~ m v -—0, так как при заданных mw и mv предварительно всегда можно перейти к центрированным значе
ниям сигнала W(t) |
и шума |
V(t). |
Будем также считать |
kx(x) |
11 ^mv(T) известными, |
так как |
в силу |
(1) они выражаются |
через |
заданные kw(x), kv(x), kwV{x).
Задачи о сглаживании и прогнозировании стационарных про цессов впервые решены Колмогоровым и Винером.
Условие оптимальности сглаживания и прогнозирования
Отклик линейной осуществимой системы с весовой функцией h(l) па воздействие (1)
Y(I) — \h(x)X(t — x)dx.
|
|
i) |
|
|
|
|
При этом для среднеквадратпческой ошибки |
(2) |
получим |
|
|||
Е — М \w (t + Т) —'\h(x)X{i — x) t/rf = |
M[W*(t + Г)] — |
|||||
- 2\ h( x) M[ W( t + T) X( t — x)]dx + j'f h(x)h(a) M\X (i — x)X (t — |
||||||
|
o) ] dxda = |
kw(0) — 2 \h(x)kwx (t f |
T)dx + |
|
||
|
|
|
о |
|
|
|
|
j’j h (t ) h(a) kx(t — n) dxda. |
|
(3) |
|||
|
'» |
|
|
|
|
|
Найдем необходимое |
условие, |
налагаемое |
на h(t), |
при кото |
||
ром ошибка Е минимальна. |
производного |
линейного осуще |
||||
Пусть |
/( /) — весовая |
функция |
||||
ствимого |
фильтра. Тогда при замене h (I) |
на |
весовую |
функцию |
||
/г (/)+ е /(/) правая часть |
(3) примет вид |
|
|
|
||
kw(0) — 2 j'/г (г) kwx (т -!- T)dx — '2e\t{x) kwx (т г T)dx + |
||||||
|
6 |
|
0 |
|
|
|
|'j'// (x)h(a)kx(x — a)dxda -j- 2 е j'f h(x)l(a)kx(x — a)dxda 4- |
||||||
'd |
|
|
"d |
|
|
|
|
+ e2 [j l(x) l (a)kx(t — ci) dxda. |
(4) |
105
Чтобы h(t) обеспечивала минимум ошибки Е, разность между
(4) и (3) должна быть неотрицательной, т. е.
2в ||'|' к (т) I(a) kx(x — о) chela — \l (x)kwx (т -I- T)dA +
Го |
о |
.1 |
+ |
г= f\l(x)l(o)kx (x - =>)**... 0. |
(5) |
|
о |
|
Последнее слагаемое в левой части (5) неотрицательно, так как кх(х) — неотрицательно определенная функция. Если выражение в фигурных скобках (5) не равно нулю, то при надлежащем выборе алгебраического знака числа в левая часть (5) окажется отрица тельной. Поэтому для выполнения (5) необходимо, чтобы
о |
к (т) I(о) кх(т — a) dido — |7(т) &Ш,Л. (т + T)d%— 0 |
|
о |
|
|
пли |
^(т) [J h(o)kx(x — a ) d a — kwx(% ! T ) \ d x ^0 . |
(6) |
J |
оо
Из (6) в силу произвольности l(t) следует искомое необходи
мое условие |
|
kwx{x + T) =\ h ( a ) k x(%— a)da, х 0. |
(7) |
о |
|
Условие (7) и достаточно. В самом деле, если к(1) удовлетво ряет условию (7), то (6) удовлетворяется при любой 1(1).
Пусть теперь / ( /) — весовая функция некоторого |
произвольного |
||
линейного осуществимого фильтра и 1(1) ~ - f (t) — h(t). |
|||
Так как |
(6) выполняется, то выполняется |
и (5) |
при любом в, |
в частности |
и при в — 1. По левая часть (5) |
при |
в — 1 есть раз |
ность между среднеквадратическпми ошибками (фильтров с весовы
ми функциями / (t) - - //(/) + ДО и |
к(1). Следовательно, ошибка |
|
фильтра |
с весовой функцией к(1) |
не больше ошибки фильтра |
с любой |
иной допустимой весовой |
функцией /(/). Достаточность |
доказана.
Итак, для оптимальности сглаживающего и прогнозирующего фильтра с весовой функцией h(t) необходимо и достаточно, чтобы к(1) удовлетворяла интегральному уравнению (7), которое назы вается уравнением Винера.
Из (3) и (7) следует
Е = kw(0)— ^ h(%)h(a)kx(x — a)dxda,
о
где двойной интеграл равен дисперсии отклика У(1). Поэтому для среднеквадратнческой ошибки оптимального линейного сглажива ния и прогнозирования окончательно имеем
E = D [ W( t ) ] - D [ Y ( t ) } = J SJito)dbi— f | //(co)|2s,(wMco.
106
Р е ш е н и е у р а в н е н и я В и н е р а
Решим уравнение Винера (7), ограничиваясь для простоты важ ным для практики случаем, когда спектральная плотность sx(u) воздействия (1) рациональна или предварительно аппроксимиро вана рациональной функцией, т. е. имеет вид
sx(ti>) = a2 (to — |
a i ) - ( b ) — |
и м ) |
( 8) |
(сн — |
P i ) ... ( о — |
Ы |
|
Свойства спектральной плотности s v(o>) налагают следующие условия на количество и расположение ее нулей и полюсов:
1. sx(со) вещественная при вещественном <о, поэтому а2 вещест венно, а все а т и р„ с не равными нулю мнимыми частями входят
в(8) в виде комплексно сопряженных пар.
2.s*(co) интегрируема на вещественной оси, поэтому ее знаме натель не имеет вещественных корней и степень числителя меньше степени знаменателя, т. е. M<^N.
3.5Л.(ш )^ 0 при вещественном со, поэтому всякий вещественный корень числителя имеет четную кратность.
Всвязи с этим функцию (8) разложим на два множителя так, чтобы один содержал все нули и полюсы с положительными мни мыми частями, а другой — все нули и полюсы с отрицательными мнимыми частями. Так как всякий вещественный корень а.ш
числителя встречается четное число раз, то половину соответствую щих множителей и> — ат включим в первый сомножитель, а другую половину — во второй. При этом (8) запишем в виде
„ , ч. „ (w — а,)...(со — а„) |
~~а |
(о) --at)-••(«) — а*) |
") |
|||
s v (о))— ci |
|
|
|
|||
где 2р = М и 2ц — N, р < |
q, а т (т = |
1 ,..., р) |
имеют неотрицатель |
|||
ные мнимые части, а |
(n— \ , . . . , q ) — положительные |
мнимые |
||||
части. |
„ |
|
\ (,, |
\ |
|
|
Обозначим |
|
|
||||
Тогда |
(со — Р,)...(ш — рв) |
|
||||
М « ) = | G (со) Iя, |
|
|
(9) |
|||
|
|
|
||||
где G(w)— рациональная |
функция, |
|
все нули |
и полюсы |
которой |
лежат выше вещественной оси, за исключением, быть может, нулей на вещественной оси.
Пусть ев вещественно. Рассмотрим преобразования Фурье |
|
||
g ( t ) ~ |
\ eimi G(w)dw, |
( J O ) |
|
g+( t ) = |
J еы G*(a))dw. |
(П) |
|
|
—- 00 |
* |
|
107
Так как |
все |
полюсы функции G(z) |
комплексного |
переменного |
|||||||||
2 = о - f - io |
|
лежат выше |
вещественной осп со, |
то g ( l ) |
= |
0 |
при t |
О |
|||||
и g +( i ) = |
0 |
при / |
Д> 0 . |
|
|
|
|
|
|
|
|
|
|
Действительно, пусть |
С — замкнутый контур, |
состоящий из от |
|||||||||||
резка Г— R, R] |
вещественной |
оси ш и |
дуги |
нижней |
полуокруж |
||||||||
ности Г к |
радиуса R |
с центром в начале координат (рис. |
19). |
|
|||||||||
Так как функция |
G(z)eiz‘ |
аналитическая |
в |
нижней |
полупло |
||||||||
скости плоскости 2 = |
(» -ф-1а, то по теореме Кошн имеем |
|
|
|
|||||||||
|
|
|
|
|
|
|
еш G(г) dz ==. 0, |
|
|
||||
|
|
|
|
|
|
R |
Ь |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
el'"(G (ш) du> -у | elztG (г) dz — 0. |
|||||||
|
|
|
|
|
|
- * |
|
|
'"r |
|
|
|
|
|
|
|
|
|
|
При t <С_0 и R — оо |
|
интеграл по |
|||||
|
|
|
|
|
|
дуге Г r |
в силу |
леммы |
Жордана |
||||
|
|
|
|
|
|
стремится к нулю, |
т. е. при / <ф 0 |
||||||
|
|
|
|
|
|
g ( t ) = |
f еы G(o.)di.) = |
0. |
(12) |
||||
Аналогично |
доказывается, |
что g ' {<) |
0 |
при |
^> |
0. |
kx(t) |
есть |
преобразование Фурье от sx(io). Поэтому из (9), (10), (11) и из
вестной |
теоремы |
умножения |
изображений |
функция |
kx((), |
как |
||||
оригинал, |
равна |
свертке g ( l ) * g +( t ) |
оригиналов g ( t ) |
и g + ( t ) |
изо |
|||||
бражений С(ы) |
и G*(to), т. е. |
|
|
|
|
|
|
|||
kx(t) = |
- |
|
|
|
о |
u)g+(u)du, |
(13) |
|||
)' |
eim‘ G(w)G!i:(w)di,) — |' g ( t — |
|||||||||
где верхний предел интегрирования |
равен нулю в силу |
g+(u) = 0 |
||||||||
при ы > 0 . |
|
|
по определению |
|
|
|
|
|||
Введем функцию /4(ю) |
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
(14) |
где swx — спектральная плотность взаимной |
корреляционной функ |
|||||||||
|
ции kwx. |
|
|
|
|
|
|
|
||
Рассмотрим преобразование Фурье |
|
|
|
|
||||||
|
|
|
« ( /) = |
[ e'mM(w)dw, |
|
|
|
(15) |
||
Из (14), (15), (11) и теоремы умножения изображений анало |
||||||||||
гично (13) получим |
|
|
|
|
|
|
|
|||
|
|
|
К х = |
J а ({ — u)g+(u)du. |
|
|
|
(16) |
||
|
|
|
|
— оо |
|
|
|
|
|
|
Подставив выражения |
kx(t) из |
(13) и kwx(t) из |
(16) в |
(7), |
||||||
найдем |
|
|
|
|
|
|
|
|
|
|
108
f a(r + T — u)g+( u) du= |
\h(n)da |
f g(r — a — u)g+(u)du, x > 0 , |
||||||
пли |
i, |
|
|
T — u)— \ /1 (o)g(t — ci — u)do] du = |
0, x > 0 . |
|||
|
g+(u) [й (т + |
|||||||
-«• |
|
|
|
b |
|
|
|
|
Это уравнение выполняется, если |
|
|||||||
|
|
а(х + Т ) = |
('Л (а)я(т— a)dn, т> -0 . |
|
||||
Отсюда |
«, |
■ |
|
о |
|
|
|
|
|
|
|
(a) da |
— or) с/т = |
||||
|
|
[ е~‘"па( т i T)d% = j' е |
||||||
|
|
о |
|
|
о |
|
h |
|
|
|
|
— j' e - ‘m*h(a)da \e~ lm'lg(\\)d\i, |
(17) |
||||
|
|
|
|
n |
|
b |
|
|
гак как g(p) = 0 при и < |
0. |
|
|
|
||||
Из |
(17) |
в силу |
, |
|
|
|
|
|
|
|
|
|
//((„ )= |
|
h(t)df, |
|
|
|
|
|
|
|
о |
|
|
|
|
|
|
|
|
1 |
|
'" V g ( p ) c / p |
|
|
|
|
|
G ({!))■=------\’е ~ |
|
|||
найдем |
|
|
|
2п |
|
|
|
|
7/((о) = |
1 |
Се~1‘“та (т г Т) (7т. |
|
|||||
|
|
|
||||||
|
|
|
|
|||||
|
|
|
|
2тгG (о>) |
|
|
|
|
Отсюда в силу |
(15) и (14) получим окончательную формулу |
|||||||
|
Н (ю) = |
----- ------ } e - im-dx Г |
do/ |
(18) |
||||
|
|
|
2«G((o)ii |
|
Л |
G*( o') |
|
для передаточной функции Н(ы) оптимального линейного сглажи вающего и прогнозирующего фильтра, весовая функция /;(/) кото рого удовлетворяет уравнению (7).
Если ср(г) рациональная и все ее полюсы лежат выше вещест венной оси о), то при т <С 0 аналогично (12) имеем
|
|
С<?<штф((о)й?а> = 0, |
|
откуда |
1 |
00 |
(19) |
|
---- I' e~l‘"~dx еи"' ф (со')с/со' = ф(со). |
||
|
2u |
<! |
|
Аналогично, если ф(г) рациональная и все ее полюсы лежат ниже вещественной оси со, то
— f е 'iw'dx f e‘m'z Ь(<со') с/со' = = 0 .
од»
109