Статистические методы обработки сигналов в радиотехнических системах

112

При использовании этой функции полагается, что оценки, образуемыеизмерительнойРТС, одинаковохороши, еслиошибканепревышает по модулю 0 (потери равны нулю), и одинаково плохи, если модуль ошибки превышает 0 . Применение функции потерь (4.14) оправдано, например, всистемерадионаведения, когдапоражениецелипроисходит прилюбомпромахенепревышающемнекоторойвеличины.

Представимсреднийрискдляфункции потерь (4.14) ввиде

Изданноговыражениявидно, чтоминимизациясреднегорискаэквивалентна минимумувероятности того, чтомодуль ошибки превысит заданное значение 0 . Для определения решающего правила перепишем выражение условного риска в виде

Таким образом, оптимальная оценка должна обеспечивать равные значения апостериорной ПРВ в точках ( 0 ) и ( 0 ) . Если функция W ( / y) симметрична относительно некоторого , то байесовскаяоценкасовпадаетсцентромсимметрии, те. . Б . Можно показать, чтопомереуменьшениявеличины 0 байесовскаяоценкапри простойфункциипотерьприближаетсякзначениюпараметра max , при котором апостериорная ПРВ W ( / y) максимальна.

4.2.2. Оценки максимального правдоподобия

Байесовскаяоценкаприпростойфункциипотерьсоответствуетположению максимума функции W ( / y) и может быть определена как кореньуравнения

113

Поскольку логарифм есть монотонно возрастающая функция аргумента, точастоболееудобнорешатьуравнение

Используем известное соотношение для любой условной ПРВ

W ( / y) W ( ) W (y / ) /W (y) kW ( )W (y / ) , где k W (y) — кон-

станта, не зависящая от и подставим его в (4.18). В итоге уравнение дляоценкиприметвид

Вомногихпрактическихзадачахаприорнаянеопределенностьопараметревелика, те. . функцияW( ) достаточноширокая— имеетслабовыраженный максимум по или вовсеего не имеет. В этом случае второе слагаемоев (4.19) близкок нулю. В итогеоценка помаксимумуапостериорнойвероятностисовпадаетснебайесовскойоценкойпомаксимуму функции L( ) W (y / ) . Функцию L( ) называют функцией правдопо-

добия (ФП). Оценки параметров, определенные этим способом, называют оценками максимального правдоподобия (МП). Таким образом,

функция правдоподобия есть функция неизвестного параметра

иважноизменениееезначенийприизменениипараметра, подлежащего оцениваниюпризаданномсигналеy.

Отметим, чтосуществуютразличныеситуации(например, измерение радиолокаторомскоростивращенияпланеты), когданетсмыслапредполагать, что параметр выбирается случайным образом из некоторого множества, на котором можно разумным способом задать априорную ПРВ. В этом случае использование оценок МП в сравнении с байесовскимив большейстепени соответствуетсодержанию подобныхзадач.

При наличии в полезном сигнале случайных неинформативных параметров ФП принимает вид L( ; ) W (y / ; ) . Определение МП оценки МП в этом случае предполагает вычисление безусловной ПРВвыборкипутемстатистическогоусреднения, тоесть

114

W ( y / ) ... W (y / ; ) W ( ) d L( ) ,

где W( ) — совместная ПРВ совокупности параметров . Интегрированиеприэтомвыполняетсяпообластивозможныхзначений .

Поиск оценок МП связан, в общем случае, с решением одного или, в случаевекторногопараметра , системы нелинейныхалгебраических уравненийвида

Процесс определения МП оценки равносилен выбору среди семейства ПРВ W (y / ) , образованногозначениями параметра , такой W (y / МП) , которая для конкретной выборки y доставляет максимальную вероятность (плотность вероятностей). Отсюда проистекает название— «максимальноправдоподобнаяоценка». Любоезначение ,

отличное от МП , для которого L( ;y) L( МП;y) , приводит к меньшейвероятностипоотношениюкисходнымданным, поэтомуономенее удовлетворительно.

ОценкиМПпостоянныхпараметровмогутиметьрядпримечательных свойств — они асимптотически (при увеличении объема выборки) состоятельны, эффективны и их ПРВ W ( / ) является гауссовской. Поэтому метод построения оценок по максимумуФП находит широкое практическоеприменение. УказанныесвойстваоценокМПреализуются в случае, если ФП обладает свойством регулярности. Суть этого свойства в том, чтодолжновыполняться тождество [6]

то есть ПРВ W (y / ) должна допускать дифференцирование по параметру под знаком интеграла. В указанном тождестве T(y) является произвольнойинтегрируемойфункцией. Впрактическихзадачахнарушение тождествачастосвязаносналичиемуфункции W (y / ) (какфункции y) точек разрыва, положение которых изменяется в зависимости от .

В простейшем случае уравнение правдоподобия (4.20) является линейным и его решение можно найти аналитически. В общем случае

116

где y — m-мерный вектор-столбец наблюдений с координатами yi y(ti ); n — m-мерный вектор-столбец помехи с координатами ni n(ti ); F — матрицаразмерностью m r вида

Для заданных моментов времени tk и известных функций fi(tk) матрица F является числовой.

Допустим, что есть некоторая оценка, тогда (y F ) n — вектор остаточной помехи. Данный вектор называют вектором невязок наблюдений; по существу он является вектором оценок помехи. Критерий оптимальности (целевая функция) для оценок МНК определяется в виде

где R — положительно определенная и симметрическая матрица весовых коэффициентов размерностью m m. Из (4.25) видно, чтоскалярная функция J ( ) является функцией r переменных. Для единичной матрицывесов(R E — единичнаяматрица) значениецелевойфункции

m

J ( ) ni2 , тоесть равносумме квадратов значений невязок по всем

i 1

моментам времени. Для оптимальной по МНК оценки должно выпол-

нятьсяусловие

J ( МНК ) min[ J ( )].

Таким образом, если оптимальная оценка существует, то она может бытьопределенакаккореньуравнения

Выполняяперемножениев(4.25) поправиламалгебрыматриц, получимцелевуюфункциюввиде

117

Второеитретьеслагаемыев (4.27) зависятотоценки, причемвторое является линейной формой по отношению к , а третье — квадратичной. Вычислениепроизводной (4.26) сучетом (4.27) даетуравнение дляоценки

Решая(4.28) матричнымметодом, получаемвыражениеоценкиМНК:

где L (FT RF) 1FT R — матрица размерностью r m, определяющая

линейноепреобразованиевекторанаблюдений y.

Важно отметить, что оптимальная по МНК оценка вектора неиз- вестных параметров сводится к линейному оператору (оператору L)

над входными данными. Очевидно, это следствие линейности модели наблюдаемогосигналаиаддитивностипомехи.

Получениеоценкисогласно(4.29) предполагаетобращениематрицы FT RF размерностью r r. Рассмотрим структуру этой матрицы для случая R E. Выполнивперемножениематриц, получим

Обращение матрицы (4.30) реализуется просто, если она является диагональной. Для этого необходимо, чтобы семейство функций f0 (t), f1(t),..., fr 1(t) обладало свойством дискретной ортогональности,

118

Чебышева обладают этим свойством. При этом необходимо временной интервал наблюдения (0;Т) привести к интервалу (–1;1) и временные отсчеты формировать в моменты ti cos (2i 1) / 2m , где i 1, 2,..., m, причем m k,l.

4.3. Статистические свойства оценок МНК

ОпределимсмещениеидисперсиюоценокМНК. Вычислимматема-

тическое ожидание оценки M[ MHK ]. Для этого в (4.29) подставим выражение вектора наблюдений (4.23) и представим уравнение оценки в виде

где L — матрица, определяющаяоператороценкив (4.29). Такимобразом, из (4.31) векторошибок оценивания

иегостатистическоесреднее M MHK M Ln LM n . Изэтогосле-

дует, чтосреднеезначениеошибки обращается в нуль при M n 0 , то есть оценки МНК являются несмещенными, если помеха n(t), введен- ная в модель наблюдений (4.21), имеет нулевое среднее.

Определимковариационнуюматрицувектораошибок (4.32) ввиде

где Kn — ковариационнаяматрицапомехи. Вразвернутойформесучетомвыражениядля L матрица(4.33) имеетвид

Обсудим вопрос, связанный с выбором весовой матрицы R, которая определяет коэффициенты Rij в выражении (4.25) для критерия оптимальности J. Очевидно, что существенный вклад в J вносят большие по величине невязки, которые возникают при большой интенсивностипомехи. Всвязисэтимдлясниженияихвлиянияцелесообразнозадатьвесовыекоэффициентыобратнопропорциональнымиинтенсив-

119

ности помехи. Можно строго показать [4], что при выборе R Kn1

оценки параметров по МНК для линейной задачи вида (4.21) имеют минимальную дисперсию ошибки. Очевидно, что получение таких оценоктребуетаприорнойинформацииокорреляционныхсвойствахпомехи, тоестьнеобходимознатьматрицу Kn.

Подставимв(4.34) оптимальнуювесовуюматрицу R Kn1 . Витоге ковариационнаяматрицаошибокпринимаетпростойвид

ЗадачаформированияоценокМНКусложнится, еслиматематическая модель (4.21) будет нелинейной по параметрам. В этом случае целевая

m

функция, равная J ( ) yi s(ti ; ) 2 , не является квадратичной

i 1

функциейотпеременных 0 , 1,..., r 1 .

Поисканалитическогорешениясистемыуравненийвида (4.26) сцельюопределениявыражениядляоценокМНКвнелинейныхзадачах, как правило, оказываетсябезуспешным. Проблемаобычнорешаетсяподходящим численнымметодом. Возможностьприменения МНКв конкретнойзадачезависит отскоростисходимостии точностивыбранногочисленного метода. Большое значение при этом имеют оценки на первом шаге итеративного процесса поиска корней (начальное приближение) исведенияохарактерецелевойфункции.

4.4.Пример оценки неизвестного скалярного параметра

Рассмотрим простую задачу оценивания, когда выборочный вектор наблюдаемогосигнала y образован совокупностьюотсчетов вида

yi ni , i 1,...,m; (4.36)

где ni — дискретный отсчет стационарного гауссовского шума с равномерным энергетическим спектром Sn ( ) N0 / 2 Вт/Гц в полосе

( 2 fв; 2 fв) исредним ni 0 ; — неизвестныйпараметр.

Найдем МП оценку параметра Прежде получим в явном виде

функцию правдоподобия L( ) W (y / ) . Будемполагать, чтоинтервал

120

дискретизации t 1/(2 fв) . Тогда согласно (1.45) дискретная последовательность ni ( i 1,...,m ) являетсяпоследовательностьюстатистически независимых случайных величин. Из (4.36) следует, что yi ( i 1,...,m ) естьстационарнаягауссовскаяпоследовательностьнезависимыхслучайных величин со средним yi . Таким образом,

где K — постоянная, не зависящая от ; 2n ni2 N0fв — диспер-

сия дискретного шума.

Из(4.37) найдемлогарифмфункцииправдоподобия

Выражение оценки (4.39) по существу является средним арифметическим выборочных отсчетов.

Найдем по МНК оценку параметра В соответствии с (4.22)

и (4.23) матрица F размерности m r имеет m строк и один столбец.

n i 1