Поэтому для неубывающей функции l(v) при v ^ O
J |
l{v){v*-D)f~~S° ' d v ^ : l { V D ) Y |
Vd |
|
|
|
уъ |
_ |
v- |
----- |
I |
l ( v ) ( D - v 2)e |
20 |
d v ^ l ( V D ) y |
причем знак равенства в этих формулах одновременно не может иметь места, так как функция / ip) не является постоянной во всем диапазоне изменения v. Следовательно, правая часть формулы (12.29) строго положительна, т. е. [F"iQ) ]*=о > 0. Это служит доказательством того, что при х — 0 функция F(Q) достигает мини мума. Легко видеть, что х = 0 является в этом случае единствен ным решением уравнения F'(0) = 0. Поэтому других экстремумов
функция /•’(б) не имеет. |
|
|
|
0 (t, |
гг, . . |
zN) |
в формуле |
Для нахождения искомой функции |
(12. 24) достаточно положить х — 0. В результате получаем |
|
|
N |
|
|
|
N |
|
|
|
|
|
|
0 — |
2 |
v V r - |
|
2 |
|
|
|
= °- |
|
|
|
р, |
г=1 |
|
|
р, <7, / • = ! |
|
|
|
|
|
|
Отсюда находим |
|
|
|
|
N Г N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
е = е [t, |
zl t ... , |
zN) — |
S |
2 |
|
M >p(0 |
zr + |
|
|
|
|
|
|
N |
|
r=i Lp=i |
|
|
|
|
|
|
|
|
+ |
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
P , |
q, r=1 |
|
|
|
|
|
|
|
|
Положив для |
краткости |
|
|
|
|
|
|
|
|
|
|
|
N |
|
|
|
|
|
N |
|
|
|
|
|
К Ф = |
|
2 |
«ргфр (0. Д (0 = |
2 |
|
K p rC rq H lq b (*). |
(12.30) |
|
Р = I |
|
|
|
Р . |
9 . |
г = 1 |
|
|
|
перепишем полученную формулу в виде |
|
|
|
|
|
|
B(t, |
2, ........ zN) = |
|
S Я,(0гг + Д(0. |
|
(12.31) |
|
|
|
|
|
|
|
r=I |
|
|
|
|
|
|
Из последней формулы следует, что функция 0 в данном случае линейна и не зависит от конкретного вида функции потерь. Однако она отличается от линейной функции, полученной в гл. 10, на личием дополнительного слагаемого A(t). Можно показать, что это слагаемое компенсирует систематическую ошибку, возникающую вследствие неравенства нулю математических ожиданий т ъ . . ., mN параметров сигнала Uх, . . UN.
Докажем, что при равных нулю математических ожиданиях т и . . ., mN случайных величин Ult . . ., UN функция (12. 31) сов падает с линейной функцией, полученной в гл. 10 для оптимальной
линейной системы. Прежде всего заметим, что в этом случае Д (0 = = 0 и формула (12. 31) имеет вид
9(*. .........zjV) = |
Xr(i)zr |
(12.32) |
|
r=l |
|
Остается доказать, что функции Xx(t), . . ., ^Л'(0> определяемые первой формулой (12.30), удовлетворяют в этом случае системе уравнений (10. 92). Так как кргпредставляют собой элементы матрицы, обратной по отношению к матрице В + С, то первая формула (12.30) дает решение системы линейных алгебраических уравнений
(Р= 1,--А^)
Заметим, что вторые начальные моменты ypq {р, q = 1, . . .,N) случайных величин Uх, . . ., UN представляют собой в данном слу чае элементы корреляционной матрицы случайного вектора U, обратной по отношению к матрице С в выражении (12.15) для нор мальной плотности вероятности. Поэтому, умножив уравнение (12.33) на угр и просуммировав по р, на основании известного соотношения между элементами обратных матриц получим
Е ( Е |
|
yrpbps + |
Е |
VrPcps ) К = |
Е уГР% (0 > |
s—1 \р=1 |
|
р=1 |
|
/ |
|
р=1 |
или |
|
|
|
|
|
|
|
Е ( Е уrpbPS+ |
1 |
к = |
£ |
УгрЬ (0- |
s=l |
\р=1 У |
|
|
р=1 |
|
(/•= 1 ,
Эти уравнения совпадают с уравнениями (10.92), что и требо валось доказать.
Полученные, результаты, дают основание во многих практических задачах ограничиться определением оптимальной линейной системы. А именно во всех случаях, когда функция потерь представляет собой неубывающую функцию абсолютной величины ошибки и есть основания считать совместное распределение входного и требуемого выходного сигналов нормальным, следует ограничиться определе нием оптимальной линейной системы по критерию минимума сред ней квадратической ошибки.
12.4. Оптимальная система при нелинейной зависимости входного сигнала от неизвестных параметров
Задача определения оптимальной системы в классе всех воз можных систем при линейной зависимости входного сигнала от случайных параметров Uu . . ., UN была рассмотрена в п. 12.2. При этом требуемый выходной сигнал мог зависеть от этих пара метров и нелинейно. Рассмотрим общую задачу, когда входной и
требуемый выходной сигналы являются произвольными, в общем случае нелинейными функциями параметров. Обозначив через U. вектор параметров с составляющими (/,, . . UN, полезный входной и требуемый выходной сигналы можно выразить следующими фор мулами:
5 (0 = ср (t, U), Гт (/) = ф(/, U), |
(12.34) |
где ср (t, U) и ф (/, U) — некоторые определенные функции указан ных аргументов. Помеху по-прежнему будем считать аддитивной и нормально распределенной. Тогда входной сигнал
* (0 = ф (/, U) + N(f). |
(12.35) |
Чтобы обобщить метод, изложенный в п. 12.2, на этот случай, дискретизируем векторный параметр U. Для этого разобьем об ласть его возможных значений на конечное число М малых эле ментов A«s и выберем в каждом элементе Aus точку us. Построим согласованные фильтры для сигналов
• ф(i, u.s) = ф(/, и!, ..., и%).
(s= 1____ М)
Весовая функция g (t,- т,- и) согласованного фильтра, соответ ствующего сигналу ф (t, и) при произвольном значении и, опреде ляется интегральным уравнением
t
т> и) dx = у (С, и). |
(12.36) |
Определив весовые функции согласованных фильтров, соответству ющих всем значениям us, выразим на основании формулы (12.35) выходной сигнал s-ro согласованного фильтра в фиксированный момент t в виде
t t
Zs = | g (t, t , us) X (t ) dx = |
J g (t, |
t , us) ф (t , |
(J)dx + |
to |
|
|
to |
|
|
+ Jt |
g (t, |
Г, |
11s) N |
(x) dx. |
(12.37) |
to |
|
|
|
|
|
(s = |
1 ........ M) |
■ |
|
Из этой формулы следует, что при любом значении и вектора U условное распределение выходных сигналов согласованных фильтров нормально, так как они представляют собой результаты линейных преобразований нормально распределенной случайной функции N(t). Поэтому для определения условного распределения выходных сиг налов согласованных фильтров при данном значении и вектора U достаточно найти их условные математические ожидания, дисперсии
и корреляционные моменты. Положив |
в выражении (12.37) U = и, |
о |
333 |
получим следующую формулу для условного математического ожи дания выходного сигнала s-ro согласованного фильтра:
ms (и) = М [Zs|и] = |
t |
|
J g (/, т, us) ср (т, и) dx. |
(12.38) |
(S= 1 , |
to |
|
• ■•, М) |
|
Дисперсии и корреляционные моменты выходных сигналов со гласованных фильтров выразятся формулой
kpq = Jt Jt |
g {t, T, |
UP) g (t, |
a, |
UP) Kn (t, 0 dx da. |
ta |
(p, |
q = 1, |
. . ., |
N) |
|
Но на основании формулы (12.36)
Jt Kn (t, a)g (t, a, up) da = 9(t, up). 10
Подставив это выражение в предыдущую формулу, получим t
kpq = \ g (t, x, up) ср (т, up) dx. |
(12.39) |
^0 |
|
(P. Я —1. •••. N)
Обозначив через Z вектор, составляющими которого являются выходные сигналы всех согласованных фильтров Z1, . . . . ZM, ус ловную плотность вероятности вектора Z при данном значении и вектора U можно выразить формулой
к (г\и) = |
— ■exp f■— -i-[z — т (и)]тК ~1 [г — m(u)]\, |
|
У (2л)" | к | |
l 1 |
> |
где m(u)— вектор с составляющими т^и), |
. . ., тм (и), а К — услов |
ная корреляционная матрица вектора Z, |
элементы которой |
опре |
деляются формулой |
(12.39). |
Как известно, |
для нахождения |
опти |
мальной системы достаточно знать условную плотность вероятности вектора U при данном значении z вектора Z. Пользуясь формулами теории вероятностей, для этой условной плотности вероятности по лучаем формулу
f (и) ехр { |
[г — т (и)]т К ~ 1 [г — т (и)]) |
f(u\z) = — --------------------------------------------------- |
1----, (12.40) |
j / (®) exp I— |
(z - m (®)]T /С-1 [z — tti (m)]| dv |
— 00 |
|
где f(u) — безусловная плотность вероятности вектора параметров сигнала U.
Найдем значения плотности вероятности f(u\z) в выбранных точках us (s = \, . . ., М). Имея в виду, что согласно (12.38) и (12.39)
tns (ur) = |
Jt g (t, |
т, |
us) ф (т, ur) dx = |
ksr |
|
|
to |
|
|
|
|
|
|
и обозначив через kjq элементы матрицы /С-1, |
можем написать |
[z — т (ur)]T K ~ l [z — m (иг)] = z^K - 'z — z JK~lm (иг) — |
|
— тп (ur)T K ~ xz + |
m (игУ K ~ xtn (u r) = |
|
м |
|
|
м |
|
|
|
|
= z TK~lZ — 2 Yi |
zpk~mq(ur) + S |
mp(ur) k~qmq(ur) = |
P,q=1 |
|
P .?=I |
|
|
|
|
|
M |
|
|
M |
|
|
|
= ZrK~lZ — 2 2 |
ZPKqkqr+ |
Yl |
kprkjqk{ |
|
|
P.q—1 |
P. <7=1 |
|
|
|
Ho |
Af |
|
|
|
|
|
|
|
kpqkqr — 6pf |
|
|
|
|
|
S |
|
|
|
|
|
</=I |
|
|
|
|
|
|
|
(p, r = 1 , . : . , M ) |
|
|
|
|
Следовательно, |
|
|
|
м |
м |
|
|
|
|
|
|
[z — m (ur)]T K~l [z — m {ur)\ = |
z ^ K ^ z — 2 Yi zP6Pf + £ V |
sp/- = |
|
|
|
|
p = |
i |
p = i |
|
|
= z TK~1z — 2zr -f |
|
|
|
|
Подставив это выражение в формулу |
(12.40), |
сократив множи |
тель ехр | ---- 2т/е- 1.г| и |
заменив |
интеграл |
суммой, получим |
сле |
дующее приближенное выражение для условной вероятности зна чения и г вектора U:
/ |
( u r) exp \ z r ----- ^ krr\ Ди ' |
|
/(«Ч«)Д»Г------Af----------L |
------1-------- • |
(12‘41) |
^ |
f (u s) ехр | zs ----- i - jfess\ Д а5 |
|
S=1 |
|
|
|
Эта формула определяет условную вероятность попадания слу чайного вектора U в элемент t±.ur с точностью до малых второго порядка относительно тах{Дяг).
Вычислим условное математическое ожидание функции потерь при данном вектрре Z. Для этого умножим значение I (Y , ф (/, иг))
функции потерь I (Y, |
Yr) при и = иг на / (ur\Z) Аиг и просумми |
руем по г. В результате получим |
|
AI |
M[l{Y, |
YT)\Z]=-- |
|
|
|
|
^ / ( Y , |
ч|) (/, a ') ) f |
(«О exp U r ------ЛГг | Амг |
|
= — ------м------------------------------------------• |
(12-42) |
2 |
/ (« 0 exp |
f z r — - i - Arrj Диг |
|
Определив Y как функцию выходных сигналов согласованных фильтров Zr минимизацией числителя в последней формуле, найдем оптимальное нелинейное преобразование выходных сигналов согла сованных фильтров. Таким образом, заменив непрерывное распре деление случайного вектора U дискретным с достаточно мелким разбиением области его возможных значений, как и в п. 12.2, получим оптимальную систему, состоящую из ряда согласованных фильтров и оптимального безынерционного нелинейного преобразователя их выходных сигналов.
Для нахождения точного решения задачи необходимо перейти к пределу при max J Aurj —>0. При этом число согласованных фильт ров будет возрастать и мы получим бесконечное множество (непре рывный спектр) согласованных фильтров.
Переходя к пределу в формуле (12.42) и принимая во внимание, что условное математическое ожидание функции потерь при данном векторе Z переходит при этом в условное математическое ожидание
функции потерь при данном входном сигнале Х(т), |
получаем |
|
|
|
00 |
|
|
|
м [/(Г, У,)|Х] = |
х J l(Y, .f (/ u))f{ti) |
х |
|
|
X exp j J g (t, |
T, |
u)X(x)dx---- 4_P(tt)|rf«, |
(12.43) |
где |
|
|
|
|
|
х = J |
f (a) exp IJ g (/, |
т, |
и) X (x) dr — - L p (u)\du |
, (12.44) |
—03 |
\10 |
|
J |
- |
|
|
P (и) = Jt |
g (t, T, и) cp (t , u) dx. |
|
(12.45) |
Для определения выходного сигнала оптимальной системы ин теграл в выражении (12.43) следует рассматривать как функцию переменной Y и найти то значение Y, которое обеспечивает минимум этого интеграла. Величина % не зависит от Y, и поэтому ее можно считать постоянной при минимизации M[l(Y, УТ)|Х ].
336
Формулы (12.41) и (12.37) при переходе к пределу дают следу ющее выражение для условной плотности вероятности случайного вектора U при данной реализации х (т) входного сигнала X (т):
/(я|д;) = х/(и)ехр jjg (f, |
т, u)x(x)dx---- ^-[5(и)|. (12.46) |
Wo |
> |
Итак, при нелинейной зависимости входного сигнала от пара метров оптимальная система состоит из бесконечного множества согласованных фильтров, соответствующих всем возможным зна чениям случайного вектора параметров U, и функционального преобразователя, осуществляющего безынерционное нелинейное пре образование выходных сигналов согласованных фильтров путем минимизации интеграла в (12.43).
Можно показать, что при линейной зависимости входного сиг нала от параметров вида
ср {I, |
U) = ср (/, и ъ . . ., UN) = £ |
и г(рг (/) |
|
Г=1 |
|
интеграл в формуле (12.43) принимает вид (12.46). |
На основании |
полученных результатов, можно заключить, что |
определение оптимальной системы сводится к выполнению следу ющих операций:
решение интегрального уравнения (12.36); вычисление функции {5(и) по формуле (12.45);
определение выходного сигнала оптимальной системы, точнее нахождение выражения ее выходного сигнала через входной сигнал
(оператора |
оптимальной системы) путем минимизации интеграла |
в формуле |
(12.43). |
Изложенный метод дает оптимальную систему не только в сред нем, но и для каждой конкретной реализации входного сигнала Х(т), так как основан на минимизации условного математического ожидания функции потерь при данном входном сигнале.
12.5. Определение оптимальной системы по критерию минимума средней квадратической ошибки
При определении оптимальной системы по критерию минимума средней квадратической ошибки функция потерь выражается фор мулой
l(Y, Yr) = ( Y - Y T)\
Подставив это выражение в формулу (12.43), получим
СО
M [ l ( Y , Y r) \Х] = |
х J [7 - ф ( г , u)ff(u) х |
|
|
— со |
|
Xexp j J g(t, т, |
u)X(x)dx ---- ^-|3(#)jdtt. |
(12.47) |
Приравнивая нулю производную этого интеграла по Y, полу чаем уравнение для определения выходного сигнала оптимальной системы У* =
СО
2% J [Y* — ф (t, и)] / (и) X
—СО
X exp (иJ. g (t, т, и) X (т) clx— -у р (»)
Решая это уравнение, находим
СО
П* = К* (f) = х j ф (*, и) /(») X
—СО
X exp I J g (t, |
т, a) X(x)dx---- Р (и) | du■ |
(12.48) |
и» |
1 |
|
Таким образом, при использовании критерия минимума средней квадратической ошибки метод, изложенный в предыдущем параграфе, дает явное выражение для оператора оптимальной системы.
Правая часть равенства (12.48) на основании формулы (12.46) для условной плотности вероятности случайного вектора U при данном входном сигнале Х(т) представляет собой условное матема тическое ожидание функции ф(/, U), т. е. требуемого выходного сигнала YT(t) при данном входном сигнале Х(т). Следовательно,
формула (12.48) может быть |
переписана в следующем виде: |
|
У*(0 |
= М[Ут (0|Х]. |
(12.49) |
Таким образом, оптимальной системой среди всех возможных систем по критерию минимума средней квадратической ошибки является система, которая дает на выходе условное математическое ожидание требуемого выходного сигнала при данном входном сиг нале, т. е. апостериорное математическое ожидание требуемого выходного сигнала. В каждом конкретном случае это условное математическое ожидание вычисляют по формуле (12.48).
Если требуемый выходной сигнал YT(i) является линейной функцией параметров
П (0 = !>(*, |
^ М О , |
|
то формула (12. 49) принимает вид |
Г— 1 |
|
|
|
Y*(t)= S M[Ur\X]^r{l). |
(12.50) |
Л=1 |
|
|
Но величины |
|
|
U* = M[Ur\X] |
(12.51) |
(r= 1, . . . . |
А/) |
|
согласно той же формуле (12.49) представляют собой оптимальные
оценки параметров U ъ . . ., UN по критерию минимума средней квадратической ошибки. Следовательно, для нахождения оценки сигнала, представляющего собой линейную функцию параметров U .......... UN, по критерию минимума средней квадратической ошибки
достаточно найти |
оценки U\, . . ., U*N параметров |
Uv . . ., UN |
и заменить этими |
оценками параметры U ........... UN в выражении |
требуемого выходного сигнала: |
|
|
r ( 0 = S t / > | V(0- |
(12.52) |
|
Г=1 |
|
В заключение рассмотрим частный случай, когда не только требуемый выходной сигнал, но и входной сигнал X(t) линейно зависят от нормально распределенных параметров U ъ . . ., UN. В этом случае
Ф(Л и ) = Ъ и л Л 1 ) -
г=1
Заметив, что величины р^, . . ., |%, введенные в п. 12.3, пред ставляют собой реализации случайных величин U\, . . ., U*N, опре
деляемых формулой (12. 51), |
при данной реализации х(т) входного |
сигнала Х(т), из формулы (12. |
22) |
получаем следующую систему линей |
ных алгебраических |
уравнений |
для определения |
U\.......... U‘N\ |
£ ( » „ - К ,) |
у; = ■ ? ,« + |
(12.63) |
< 7 = 1 |
4 |
|
< 7 = 1 |
|
(Г= 1 ____ N)
Таким образом, при линейной зависимости входного и требуемого выходного сигналов от нормально распределенных параметров и критерия минимума средней квадратической ошибки оператор оп тимальной системы определяют чисто алгебраически.
12.6. Оптимальные системы обнаружения сигналов
Изложенный в п. 12.4 общий метод определения оптимальной системы в классе всех возможных систем можно, в частности, при менить для синтеза оптимальных систем обнаружения и распозна вания сигналов. Если перенумеровать сигналы разных классов, подлежащих распознаванию, и принять номер сигнала за дополни тельный параметр входного сигнала и за требуемый выходной сигнал, то задача распознавания сведется к задаче, рассмотренной в п. 12. 4, причем один из параметров сигнала будет иметь только конечное число возможных значений. Определив соответствующим образом функцию потерь, можно применить метод, изложенный в п. 12. 4 для определения оптимальной системы обнаружения.
Рассмотрим задачу обнаружения сигнала. В этом случае рас познаванию подлежат сигналы двух классов: сигнал, представляю-
щий собой чистый шум, и сигнал, представляющий собой сумму полезного сигнала и помехи. Если решать задачу обнаружения по критерию минимума вероятности ошибки, то, как было показано в п. 10.2, функция потерь равна нулю, когда выходной сигнал сис темы равен требуемому выходному сигналу, и единице, когда вход ной сигнал системы не равен требуемому выходному сигналу:
(0 |
при У = |
Ут, |
(12.54) |
ЦУ, Гт)~ 1 1 |
при Y ф У г. |
Если определить функцию ср (/, и) так, |
чтобы она |
обращалась |
в тождественный нуль при и = 0, то можно считать, что случай отсутствия полезного сигнала соответствует нулевому значению параметра и , а случай наличия сигнала соответствует любому отлич ному от нуля значению параметра и. При этом требуемым выходным сигналом является номер класса полезного сигнала. Условимся приписывать номер 0 сигналу, представляющему собой чистый шум, и номер 1 сигналу, содержащему полезный сигнал. Тогда требуе
мый выходной сигнал определится |
формулой |
_ |
[ 0 |
при |
U = 0, |
т |
\ 1 |
при |
(12.55) |
U =j=0. |
Пусть р — вероятность того, что полезный сигнал есть в при нимаемом сигнале, q — 1 — р — вероятность отсутствия полез ного сигнала, h (а) — условная плотность вероятности случайного вектора U при наличии полезного сигнала. Тогда плотность вероят ности случайного вектора U
f(u) — q8(a)-\-ph(u). |
(12.56) |
Имея в виду что ср (t, 0) = 0 и, следовательно, g (t, т, |
0) = 0, |
и принимая во внимание, что условное математическое ожидание функции потерь вида (12.54) представляет собой вероятность ошибки
системы, |
перепишем формулу |
(12.43) |
в |
виде: |
|
|
р0Ш(Х, |
Y) = M [/(У, |
У7)\Х] = |
|
|
|
со |
f |
t |
|
ql (Y, |
0)+ р /(У , |
1) J |
/г(и) exp |
Jg (f, т, и)Х{т)йх — |
|
|
|
— со |
|
П о |
|
|
|
2 |
Р (и) | da . |
|
|
|
|
|
|
|
Вводя |
обозначение |
|
|
|
|
|
|
со |
|
|
|
|
Q (X) = |
j h (и) exp |
J g(t, X, u)X{x)dx — -±-$ (u)\da, |
|
— со |
U |
|
|
(12.57) |
|
|
|
|
|