книги из ГПНТБ / Хеннан, Э. Многомерные временные ряды
.pdf190 Гл. I I I . Прогнозирование и фильтрация случайных процессов
могло бытъ точно найдено с помощью линейной интерполяции, осно ванной на величинах х (А?г), п = 0, ± 1, . . ., необходимо и достаточ но, чтобы / обращалась в нуль вне интервала {—я/А, я/А].
В случае когда ошибка интерполяции равна нулю, легко выпи сать интерполяционную формулу:
ht |
e~U4 (М |
|
КI •< я. |
|
/ W |
|
|
||
|
|
|
|
|
Тогда, если |
|
|
|
|
|
|
СО |
|
|
|
ht (А,) = |
S hje-Vb, |
|
|
то |
|
— СО |
|
|
|
|
|
|
|
|
Л |
|
|
|
|
eiO-i)i>dk = sin я (/— t) |
> |
||
и мы получаем формулу Шеннона1) |
|
|
||
|
я (0 = 2 |
sin л (j — t) |
, . |
|
|
Я ( / - * ) |
Х ( ] ) |
|
|
7. ФИЛЬТРАЦИЯ И ВЫДЕЛЕНИЕ СИГНАЛА
Рассмотрим теперь случай, когда мы наблюдаем сигнал s (п) с добав кой шума X (п) и хотим выделить s (п) из у (п) = s (га) + х (п), используя наблюдения до момента /г+ц, где р может быть теперь положительным. Дальнейшее изложение является более общим, чем это необходимо, в том смысле, что подобная математическая общ ность несущественна с практической точки зрения, однако на этом этапе общие рассуждения нисколько не сложнее частных. С другой стороны, как уже говорилось во введении, в последнее время важную роль стали играть специальные нестационарные модели. Тем не менее результаты этого параграфа представляются весьма ценными и могут быть использованы для разработки методов, применимых не только для строго очерченного класса моделей, послужившего
для них отправной точкой. |
1 ' |
(і) Скалярный случай, дискретное время."Рассматривается модель
|
у (п) = s (п) -(- X (п), |
Е (s (п) X (?п)) == 0, |
|
где s (п) |
и X (п) |
стационарны. Наблюдается только у (п). Мы ищем |
|
оценку2) |
s (п) |
сигнала s {п) по |
наблюдениям до момента га+р, |
1)Ранее Шеннона это соотношение было предложено В. А. Котельниковым
в1933 г. —- Прим, перев.
2)Мы пока опускаем в обозначениях индекс р.
7. Фильтрация и выделение сигнала |
191 |
минимизирующую Е {(s (п) — s (п))2}. Так же как в предыдущем параграфе, имеем
Я |
Я |
s (п) — j е~іпЧі (eih) z,j (dX), |
j hFv (dX) h* dX <C oo, |
- Я |
- Я |
инужно найти h. Мы можем рассматривать лишь тот случай, когда
у(п) чисто иедетерминирован, ибо детерминированная компонента в принципе может быть предсказана безошибочно, и для нее проблема выделения сигнала сводится к более простому случаю ja = оо, который мы рассмотрим позднее.
Т е о р е м а 10. |
Если у (п) чисто иедетерминирован, |
то частот |
||||
ная |
характеристика |
оптимального фильтра s^) (п) |
для выделе |
|||
ния |
сигнала s (п) |
из |
у (п) = s (п) |
х (п) по |
наблюдениям у (т), |
|
т*С п -f- (.1, равна |
|
|
|
|
|
|
|
h W |
|
= e - i u x g (e iX)-i |
[ |
■] , |
( 7 . 1 ) |
где |
|
|
|
|
|
|
|
|
|
/»M = g(eÄ) g (е"1*) |
|
(7.2) |
|
и g (z) голоморфна и не имеет нулей в единичном круге. Среднеквадра тичная ошибка равна
/. М fx (Я,) |
|
Г |
Г eißXfs (ЦП |
|
—IЯ /у (А) |
dX+ |
J |
L g (e-^) J |
dX. |
Если j.1 = оо, то независимо от того, является у (п) чисто недетерми нированным или нет,
/г(°°) |
dFs {%) |
|
dFy {\) ’ |
а среднеквадратичная ошибка равна
Д о к а з а т е л ь с т в о . Мы опускаем индекс ja, так как он в течение доказательства остается неизменным. Среднеквадратичная ошибка равна
Я |
Я |
|
Е £ I j |
e -'n%zs (dX) — j e~inXh(eix) zy (dX) |
= |
*—Л |
- Я |
|
= j {f, + \h\2f„-2Bshfa}dX.
192 Гл. I I I . Прогнозирование и фильтрация случайных процессов
В силу теорем 5 и 3 § 3, факторизация (7.2) действительно суще ствует. Используя ее в последнем выражении и выполняя преобразо вания, получаем
Н ( ' * - ^ ) + І т - ' И Ѵ - |
<7-3> |
Так как f j f y < 1, то функция f\lfy интегрируема. Поэтому f j g квадратично пнтегрпруема. Заметим теперь, что ехр г[_іЛ./г. является среднеквадратичным пределом (относительно /,, (7,)) выражений
N
2 аХ. Л
О
так как мы можем использовать только наблюдения до момента п +U . Поскольку g также является среднеквадратичным пределом подобных выражений, для минимизации (7.3) мы должны минимизи ровать х)
I
Js. gip>-— e'^'hg сП, g
п лучшее, что мы можем выорать, это
e ^ h g = [ О ] |
(7.4) |
Тогда
Г І Г - С Ы ] f W . |
J k l 2 |
|
J I L а |
J+ | |
|
Кроме того, так же как при доказательстве теоремы б,
j |
1 (еЛ) Zij (<Д) = 8 (п -f- р), |
где е (?г) — обновляющая последовательность для чисто недетерми нированного процесса у (п). Так как правая часть соотношения (7.4) может быть записана в форме
оо |
|
со |
2 |
ß (/) еіЛ, |
где У, ß (/)2 < эо, |
о |
|
о |
то (7.1) определяет фильтр требуемого вида
2 ß(7) е(/г + р — у),
о
х) Используемый здесь (и в теореме 1) метод реліешш является разновидно стью метода Винера — Хопфа.
7. Фильтрация и выделение сигнала |
193 |
который оптимален, поскольку минимизирует среднеквадратичную ошибку. Формула для среднеквадратичной ошибки немедленно полу чается из (7.3), ибо
|
|
/1 _ |
fsfy — il |
_ fsfx |
|
ls |
fy |
tv |
ІУ ’ |
Б случае р. = |
оо и произвольной Fy мы должны минимизировать |
|||
выражение |
|
|
|
|
j {Fs. (dX) + 1ä<“ >I3 Fy (dX) — 2 R e h ^ F s (dX)} = |
||||
- H |
dF, |
2 Re h^i |
dF, |
W“) I2} Fy{dX) = |
ЩІ" |
dF„ |
dFy |
|
|
- И |
|
dFs |
|
|
|
dF„ |
|
|
|
которое, очевидно, минимально при
h ^ ^ d F s (X)/dFy{X).
Эта функция, разумеется, квадратично интегрируема относительно Fy. Среднеквадратичная ошибка равна
J (■1 - F- <Л > “ I т = J w i F* <*>•
и доказательство завершено.
Величина R — dFjdFx, в тех случаях когда она определена, называется отношением сигнал-шум. Грубо говоря, оптимальный фильтр при р = оо может быть представлен в виде R!{i-\-R), так что оптимальный фильтр имеет простую интерпретацию в терминах этого отношения.
Даже если мы мощем считать /5, / ѵ известными и можем построить каноническую факторизацию для f y, приведение (7.3) к форме, допускающей численный расчет выделения сигнала (например, раз ложение в ряд Фурье, сходящийся в среднеквадратичном, если такое разложение существует, как будет в случае / у ^ а > 0), может оказаться очень сложным. В силу подобных причин, полученные формулы, за исключением простых случаев, используются редко. Как уже отмечалось выше, эти рассмотрения полезны отчасти тем, что дают привлекательное своей законченностью математическое решение проблемы, а в основном — тем, что оптимальное решение доставляет стандарт, с которым можно сравнивать менее системати ческие (но практически более полезные) процедуры. Кроме того, изучение этого решения приводит к более ясному пониманию про
блемы. |
пример |
|
Рассмотрим |
|
|
f |
__________________ |
0 < р < 1, |
l s |
2я (1 + р3 — 2р cos X) |
’ |
/.-с = Ух (0)/2jt.
13 э. Хеннан
194 Гл. 111. Прогнозирование и фильтрация случайных процессов
Тогда
1 ТР*(0){1 + ра-2рсо9М + о!
и = |
(1 — ре'2") (1 — р е і Х ) |
|
|
Чтобы факторизовать числитель, рассмотрим |
|
{?* (0) (1 + р2) -I- ст|}— рѵ* (0) 2 — рѵ* (0) z"1 = |
|
|
= — РУ* (0) Z -1 {z2 — z (р+ р“1) (1 + 0) + 1}, |
|
0: |
(о) (1 +Ра) ■ |
|
У х |
|
Корни этого выражения |
равны |
|
і- {(р+ р-1) (1 + |
0)} ± [ I |
{(р + р-1) (1 + |
причем корень, меньший по модулю единицы, минус. Обозначим его ß. Тогда
1ѵ = |
а2 (1 —ße^) (l_ ß e- ’4 |
а- : |
||
2я (1-ре*) |
ІХ\ |
|||
|
(1— ре_1Л) |
|
||
Следовательно, |
|
|
|
|
Г е-ІЮ. 2 я (1 -р ^) |
Vещу. |
(\ - p e - * ') _____ |
||
о2 (1 — ße7?') |
L |
( l _ ß e- ’>-) |
2я(1 |
|
hM = \
Ѳ)}2 - 1 ] 1/s,
соответствует знаку
РУ* (0)
-ре'х) (1 —р е -*>L' 0 J+
hl< 0'
|
|
|
|
|
|
|
|
)<1 - |
} ■ |
|
|
|
|
|
|
|
|
|
u > 0 . |
Первая формула вытекает из соотношения |
|
|
|
||||||
|
[ещх {(1 _ ße-a) (1 _ |
ре«.)}- 1]+ = |
( |
) |
. —- ik , |
Р < 0 . |
|||
|
|
|
|
|
|
1 - p ß |
/ |
1— пегк |
|
|
|
|
|
|
|
} |
р |
|
|
и из |
равенства |
|
|
|
|
|
|
|
|
|
ß2- ß ( p |
+ |
Р-1 |
+ |
ру^О) ) + 1==0’ |
|
|||
так |
что |
|
|
|
|
|
|
|
|
|
(i- p ß ) ( - ^ J |
^ |
+ |
l - ß |
t P + P'1): |
РУ* (0) |
а 2 |
||
|
7. Фильтрация и выделение сигнала |
195 |
|||||
|
С другой стороны, |
|
|
|
|
|
|
[е’^{(1 — $е~іх) (1 — ре'7-)}-1].,. = |
|
|
|
|
|
||
|
= [ Уз ß V ^ - ^ + {ß*1 (1 + pß)}] (1 — ре**-)-1, |
р > О, |
|||||
|
о |
|
|
|
|
|
|
и, |
преобразуя это выражение, |
мы получаем вторую формулу. Обсу |
|||||
дим полученный результат |
в |
случае |
р = |
0. |
Так |
как ß-|-ß-1 = |
|
= |
(р-|- р-1) (1 + 0), Ѳ> 0, |
то |
всегда |
| ß |
| С |
| р |. |
Если 0-^-0, |
то, очевидно, ß -> р, а если 0 — оо, то ß |
0. Следовательно, «шири |
||||||
на |
полосы» х) фильтра, которая зависит |
только от параметра ß |
|||||
и уменьшается при его возрастании, при данном р зависит только от 0. При 0 -> 0 шум становится преобладающим, за исключением очень узкого диапазона вблизи нулевой частоты, где мощность сигнала велика. Таким образом, ß берется настолько большой, насколько это возможно, и ширина полосы становится узкой. При
0 -V оо полоса становится шире. |
Вычисления, при заданных значе |
|||
ниях о|, р и у х (0), |
несложны. |
Обозначим теперь через s90 (п) |
значе |
|
ние сигнала s (п), |
оцененное |
по |
наблюдениям до момента |
?г-|-р. |
Тогда (после простых преобразований, которые мы оставляем в каче стве упражнения)
s<°> (п -)- 1) = ßs<°> (п) + ( 1 — |
) у (п -f 1), |
|
|
|
|
|
|||||
|
|
|
i |
s<B> („) + |
р-и-і (1 - |
у ) |
У (п + р + 1), |
р < 0, |
|||
|
|
|
{ |
(п) + |
(ß — р) ß^ {s<°» (и + |
р + |
1) — у (В + р + 1)), |
||||
|
|
|
|
|
|
|
|
|
|
р > 0 . |
|
В частности, |
если мы |
вычислим начальное |
значение s<0) |
(/г0), то |
|||||||
б‘0>(7го-г7% / |
1, |
получаются рекуррентпо |
и |
могут быть исполь |
|||||||
зованы |
для |
пересчета |
|
(7го + /), |
р ^ |
0, |
|
с помощью |
третьего |
||
равенства. |
Обратимся теперь к векторному |
случаю. Если |
р < оо, т |
||||||||
(іі) |
|
||||||||||
мы снова предположим, что у (п) имеет абсолютно непрерывный спектр и является чисто недетерминированным, однако при р = оо
это предположение не потребуется. Для случая р = |
оо введем матри |
|
цы fs, Uj производных Fs, Fy |
по мере т (X) = |
Tr (Fy (X)). Так, |
например, |
|
|
F у (dX) = |
j fy (X) т (dX) |
|
ss
J)Понятие «ширины полосы» определяется нестрого (см. гл. V). Здесь имеется в виду ширина диапазона, в котором коэффициент усиления фильтра аметно отличен от нуля.
13*
196 Гл. I I I . Прогнозирование и фильтрация случайных процессов
для всех измеримых по Лебегу множеств S. Будем обозначать через / у1 обобщенную обратную к f y.
Имеет место следующая теорема, доказательство которой мы опускаем, поскольку оно совершенно аналогично доказательству теоремы 10.
Т е о р е м а 10'. Пусть у (га) = s (га) + х (га) — чисто недетер минированный векторный процесс максимального ранга. Тогда частот ная характеристика оптимального фильтра для выделения s (п) по наблюдениям у (гаг), т-<^ га-|- р, равна
Ац = е-ча [еш яfsC* ( в ^ ) _1]+ С (в**-)"1,
где С = Ф6?1/2, а Ф, G указаны в теореме 1". Ковариационная матрица ошибок равна
л
\ {Ufffx+ |
[ в ^ с - 1]!} dl. |
V |
|
- Я |
|
В случае р = оо без каких-либо ограничений на спектр у (п) имеем
K= fSfy\
аковариационная матрица ошибок равна
jЫуЧхт{дХ).
-л
(ііі) Рассмотрим теперь пример, основанный на нестационарно модели, которая, впрочем, весьма близка к стационарности. (См. § 3 гл. I и п. (ііі) § 6 гл. II. Рассмотрения этого последнего параграфа несомненно можно было бы обобщить таким образом, чтобы они охватывали и результаты настоящего примера. Однако здесь мы избрали более привычный способ изложенпя.) Мы рассмотрим ска лярный случай и построим модель ежемесячных изменений неко торого сезонного экономического показателя *). Итак, выберем s (п)
в виде
6 |
6 |
2я/ |
s (га) = 2 |
(га) cos Xjn + ß, (га) sin Хрг} = 2 SJ (п)> h |
, |
1 |
1 |
|
где aj (га) и ßj (га) полностью не связаны друг с другом и с і (га), т. е.
Е (х (га) s (га-f гаг)) з= Е (а, (га) ßft (га-f гаг)) == 0.
|
а) Н а пр актик е м ож ет п отр ебоваться п р едв ар и тел ьн ая ф ильтраци я |
дан н ы х |
|
д л я |
у стр а н ен и я |
дом и н и р ую щ ей н и зк оч астотн ой компоненты -, н ап р и м ер , |
с пом о |
щ ью |
вы читания |
ц ен тр и р ов ан н ого дв ен адц ати м есяч н ого ск о л ь зя щ его ср ед н ег о . |
|
Йто |
и зм ен и т s (п ), но эф ф ект обы чно б у д ет н езн ачи тельн ы м . |
|
|
7. Ф и л ь т р а ц и я и вы деление с и г н а л а |
197 |
Подходящей моделью |
для aj (п), |
ßy- (п) является следующая *): |
|
а, (п) = р;а ;- (п — 1) + &j (п), ßy (п) = pj-ßy (п — 1) + г\] (п), |
|||
где |
|
|
|
Е (&j (т) sh (п)) = Е (т]у (m) % (;г)) = буб^ау; |
Е (еу (лг) г);і (?г))=0. |
||
Тогда, полагая £у (п ) |
= Ѵ 2{ау (п ) |
— ißy (п ) } , / |
= 1, . . 5, £6(/г) = |
= а 0 (/г), мы можем записать
s(») = S '£ /(n )e lB4
где штрих означает, что член с нулевым запаздыванием отсутствует. Для того чтобы модель была реалистичной, ру должны быть очень близки к единице. В самом деле,
Е {s (т) s (т + и)} = 2 ' {р?о} (1 - р Щ <ГІПЧ
так что при гс = 0 (mod 12) автокорреляция равна
УГрМ ^ - рР"1 < m a x ( p " ) .
2 'o j(i- p j) - i |
з |
Если все Ру равны 0,95, то для п = 60 эта величина приблизительно равна е~3, т. е. через 5 лет сезонный показатель может полностью измениться. Это было бы, по-видимому, чересчур радикальным. Поэтому мы примем, что ру = 1. Тогда £у (п) = £у (п — 1) + |у (п)> где |у = Ѵ2 (бу- —іі]у) exp inkj. Мы можем представить s (п) в виде
s (/г) = 2 4 , - (п)У^п = 2 ' { ( 1 |
^ |
+ ь ( ° ) } . |
||
- 5 |
- 5 |
* |
6 |
|
где zj отвечает (комплексному) стационарному процессу |у (п).
Перепишем |
это в |
виде |
|
|
||
|
6 |
|
|
_ |
|
|
5 («) = |
S |
' [ і |
{ |
C l j e * ------ х 7 ( 1 ~ %^ |
у 1 } Zy (dX) + |
Х К і (0) J ’ |
г) Более |
общей |
моделью является ау (п) = |
pycty (п — 1) + |
tyßy (я — 1) + |
||
+ еу- (я), |
ßy (я) = |
—Ту-сХу- (я — 1) py-ßy- (я — 1) + |
т|у (я). Этот случай охватывает |
|||
ся рассматриваемой ниже общей моделью (если РІ + т? ^ 1), однако с точки зрения моделирования сезонных изменений он является неподходящим, так как при Ту- ф 0 спектр sy (я) не концентрируется в точках +Ху.
19S |
Гл. I I I . Прогнозирование |
и фильтрация случайных процессов |
||
где мы положили Kj = exp ikj. |
Это выражение удобно |
представить |
||
в виде |
|
|
|
|
|
s (?г) = |
j* е_"'Чр {еіх)~х ц (dk) + р {ѣ), |
(7-5) |
|
где |
|
|
|
|
|
z* (£&)=■■: 2 4 |
1J (1— Я),еа )| zj(dX), |
|
|
Ц'{еік) = [[{і — кіе^), 3
Р (») = — 2 { [ (! — К ;^)”1 Zj {dk) + Ъ3(0)} kj.
Оба слагаемых в правой части (7.5) имеют бесконечную диспер сию и не могут быть разделены подобным образом. Мы увидим, однако, что эти слагаемые будут фигурировать только в отфильтро ванной форме, когда их дисперсии конечны. Эта модель, очевидно, допускает обобщение. Пусть, в общем случае, z5 — процесс с орто гональными приращениями, такой, что Е {| zg |2} = f^dk. Будем считать, что ф (z) — многочлен от л с корнями, лежащими вне еди ничного круга или на его границе *). Выражение для р (п) будет иметь вид
2 |
2 с{],к)к-пк. |
(7.6) |
і |
h=i |
|
где Pi — кратность корня kj1 функции cp (s). Введем обозначение
*М = Н W + Ф (еіХ) Ф (е*) /* М
ипредположим, что log к {к) интегрируем. Положим
|
|
к{к) = с (еіх) с (еІХ) |
|
и рассмотрим |
задачу |
минимизации |
Е {[s {н) —s (я)]2}, где s {п) |
использует наблюдения |
до момента / г - j - p . |
и |
|
s{n) —s{n) = j |
e~inK{i — h) у -1z^(dk) — ^ e~inkhzx {dk) -f- p (/г) — p (/г). |
||
Здесь h — частотная характеристика фильтра, которую еще пред стоит определить. Функция z^h (z) должна быть голоморфной в круге;
р {п) есть выход фильтра, когда па вход поступает р {п). Если мы
теперь забудем про член р {п) — р {п) и найдем h из условия мини мальности среднего квадрата остающегося выражения, то, как мы
В Случай, когда корни лежат внутри круга, также требует рассмотрения, однако мы не можем здесь на этом останавливаться.
7. Фильтрация и выделение сигнала |
199 |
покажем, р (п) — р (п) автоматически обратится в нуль, т. е. h с необ ходимостью воспроизводит многочлены вида (7.6). Это — желатель ное свойство, ибо оно означает, в данном контексте моделирования сезонных вариаций, что чисто периодическая сезонная компонента воспроизводится безошибочно. Наша модель и ее рассмотрение охватывают более общий случай, чем могло бы показаться, так как сезонная компонента может представлять собой стохастическую составляющую плюс чисто периодический «тренд». Итак, мы присту паем к минимизации выражения
j { |1 - Ь |2| Ф|-8/б + |Ь |а/*}<& |
(7-7) |
при несколько более общих предположениях. Заметим, что форму лируемая ниже теорема 11 дает, в частности, решение задачи о выде лении сигнала из шума для случая, когда сигнал нестационарен, но имеет структуру, описанпугсГв § 3 гл. I (после теоремы 4). В частно сти, при /д. ~0 наша теорема дает решение задачи прогнозирования подобного сигнала.
и |
Т е о р е м а |
11. |
Пустъ f x и f\ — спектральные |
плотности, |
|
пустъ ф квадратично интегрируема относительно / х |
на границе |
||||
единичного |
круга |
и |
голоморфна внутри него. Пустъ функция к = |
||
= |
/- 4 - ффf x |
такова, |
что log к интегрируем, и пустъ |
к = сс, где |
|
с голоморфна и не имеет нулей в единичном круге. Минимум выраже ния (7.7), где h exp ірЛ, должна бытъ голоморфной в единичном круге, достигается при
/і(кі = і — |
[еш^фс |
і]+с іф— |
Щ.дс]_с іф, |
(7.8) |
|
где q (z) = |
0 при р ^ |
О, а при |
р < О q (z) есть многочлен степени |
||
— р — 1 с |
коэффициентами qj, |
удовлетворяющими соотношениям |
|||
|
I |
|
|
|
|
|
2 <li-j4>j = Slo, |
1 = 0, . . . , р —1, |
|
||
|
о |
|
|
|
|
где ф; — коэффициенты Фурье функции ф. Среднеквадратичная ошиб ка равна
л
j (&-1/і/.-с+ b0bQ) dk, |
&0 = [eitiJ,(/.vCpc-1 —дс)]_. |
(7.9) |
- Я |
|
|
Если все нули xj функции ф лежат внутри круга, то (7.8) прини мает вид
№) = е_і^ [е’^ф !jf|C J]+c 1ф. |
(7.8)' |
Фильтр h воспроизводит многочлены р (п) вида (7.6).
