книги из ГПНТБ / Сейдж Э.П. Идентификация систем управления

Глава 3

ФУНКЦИИ ШТРАФА В ЗАДАЧАХ ИДЕНТИФИКАЦИИ

3.1.ВВЕДЕНИЕ

Вэтой главе будут исследованы некоторые функции штрафа, которые можно использовать в задачах иденти­ фикации. Под функциями штрафа для задач идентифика­ ции понимаются потери или штраф, связанные с недости­ жением абсолютно точной идентификации. К примеру, если истинное значение подлежащего определению пара­

метра равно 0, а получаемая оценка равна 0, подходящей функцией штрафа может служить (0 -т-0)2. Собственно говоря, истинное значение параметра 0никогда точно не­ известно; именно это и является основной причиной воз­ никновения задачи идентификации. Следовательно, бо­ лее разумным является использование статистических

характеристик отклонения 0 от 0. В общем виде в случае векторного параметра 0 эта характеристика может быть записана в виде

Здесь С [0 (Z)] означает цену ошибки (штраф за ошибку). Ошибка определяется формулой

где 0 — истинное значение параметра и 0 (Z) — оценка параметра, основанная на некотором наблюдении Z. Фор­ мула (3.1.1) представляет условное математическое ожида­ ние штрафа за ошибку в оценке параметра и получается непосредственно применением основной теоремы о средних

Более традиционной, чем штрафная функция максиму­ ма апостериорной вероятности, является штрафная функ­ ция максимального правдоподобия (МП); в этом случае максимизируется условная плотность вероятности наб­ людений относительно параметра 6. Оценка определяется из уравнения

д р (Z | 8)

(3.1.9)

ее ®=»МП<2)

при этом параметру 0 присваивается значение, при кото­ ром наиболее вероятно появление наблюдавшейся реали­ зации Z. Легко понять, что оценки МАВ и МП тесно свя­ заны, поскольку, согласно формуле Байеса,

Поэтому оценка МАВ есть оценка МП, в которой априор­ ная информация об оцениваемом параметре, содержащаяся в плотности вероятности р (0), используется для улучше­ ния оценки. В оценке МП не используются никакие апри­ орные знания о подлежащем оцениванию параметре 0.

Проиллюстрируем разницу между двумя подходами на простой задаче, которая нам еще понадобится впоследст­ вии. Рассмотрим идентификацию А-вектора состояния х(к), порождаемого линейной автономной моделью

М-вектор наблюдений, производимых в присутствии шу­ ма, имеет вид

причем шум у (к) — последовательность гауссовских слу­ чайных величин с нулевым математическим ожиданием и таких, что

cov {V (к), V (;)} = Vv {к) 6К {к — j), cov {v (к), х (у)} = 0, (3.1.13)

где бк — символ Кронекера. Сначала рассмотрим задачу построения оценки х (к0) методом максимального прав­ доподобия, т. е. путем максимизации функции правдопо­ добия

как х (к) порождается х (к0) в соответствии с (3.1.11).

Xexp {— 0,5 (z (к) — II (к) х (&)]т Уу1 (к) [ъ (к) —

-Н (к)х(к)]}}. (3.1.18)

Видно, что максимизация (3.1.18) эквивалентна ми­ нимизации штрафной функции метода наименьших ква­ дратов :

Эта минимизация должна производиться по х (к0), причем

Объединяя два предыдущих уравнения, дифференцируя по х (й'0) и приравнивая производную нулю, легко полу­ чить

Ht

*мп (*о) = М '1 (kf, Аг0) 2 фТ(^> *о) Нт(к) V ;1 (к) z (к), fc=Kvf'1

(3.1.21)

3 . 1] ВВЕДЕНИ Е 55

где

к/

М (к, , к 0) = 2 фТ (*, к0) Нт (к) Y ;1 {к) Н (к) Ф (к, к0).

к~кц-\-1

(3.1.22)

Для существования решения уравнения (3.1.21) М (А/, к0) должна быть обратимой.

Требование обратимости М (kf, к0) известно под назва­ нием условия наблюдаемости (Сейдж [116]).

Можно получить непрерывный вариант рассмотренной

Плотность распределения вероятности вида (3.1.18) не существует, так как становится бесконечномерной, но уравнение (3.1.19) сохраняет силу и превращается в пре­ деле при уменьшении шага фиксации в формулу

Разностное уравнение (3.1.11) заменяется дифференци­ альным

додставив это соотношение в (3.1.26), продифференцировав

56 ФУНКЦИИ Ш ТРАФ А В ЗАД АЧ АХ ИДЕНТИФИКАЦИИ [ГЛ. 3

его по х (t0) и приравняв результат нулю, получим

определения оценки МП, на основе (3.1.10) можно полу­ чить выражение функции плотности вероятности для на­ хождения оценки МАВ. Поскольку р [Z (&/)] не зависит от переменной, по которой производится максимизация, то задача максимизации р [х (k0) |Z (А/)] полностью экви­ валентна максимизации безусловной совместной плот­ ности вероятности

ц[х,(/с0), Z(k/)] = p[Z(kf))x(k 0))p[x(ko)}. (3.1.31)

Очевидно, что для выполнения желаемой оптимизации необходимо большее количество статистической инфор­ мации. В частности, необходимо знание плотности (апри­ орной) распределения х (к0)- Предположим, что она яв­ ляется гауссовской со средним значением цХо и диспер­ сией VXo. Совместная плотность распределения, согласно

(3.1.18), примет вид

р [х (к 0), Z (к/)] =

3.1] ВВЕДЕНИ Е 57

Приравнивание нулю градиента по х (к0) этой штрафной функции метода наименьших квадратов приводит к сле­ дующему выражению для оценки:

ХМАВ (*о) — [Vxo + м (kf, к0)) 1 X

x [ v i V * . + S ®T(*,Ao)H(A)V;1(ft)Z(&)], (3.1.34)

/С=/С(гЬ1

где М {kf, к0) определяется формулой (3.1.22). Интересно вычислить дисперсии ошибок оценок МП

и МАВ, которые определяются формулами

var {хмп (к0)} = var {х (к0) — хМп (к0)} = М 1 (kf, к0), (3.1.35)

var {хмав(^о)} = var {х (к0) — хМАв (к0)} = [ ' + М (kf„ /с0)]-1. (3.1.36^

Видно, что дисперсия ошибки оценки (или идентификации) по методу МАВ меньше, чем по методу МП. Легко пока­ зать, что обе оценки — несмещенные. Эти утверждения основаны на предположении о правильном выборе пара­ метров априорного распределения, используемого для улучшения алгоритмов идентификации. Если априорное распределение выбрано ошибочно, оценка МП может ока­ заться лучше оценки МАВ. Полный анализ ошибок, во­

Выражение оценки МАВ в непрерывном времени легко получить, если уплотнить точки фиксации и использовать определения (3.1.23) — (3.1.25). Уравнение (3.1.33) примет

Sg ФУНКЦИИ Ш ТРАФ А В ЗА Д А Ч А Х ИДЕНТИФИКАЦИЙ £МГ. 3

ВИД

По-прежнему дисперсия ошибки оценки МАВ меньше, чем дисперсия ошибки оценки МП.

Может показаться, что эти линейные схемы построе­ ния оценок не применимы к задачам идентификации, ко­ торые часто нелинейны. Исключение составляет иденти­ фикация весовой функции линейной системы. Однако нелинейные задачи идентификации можно линеаризовать, как, например, в главе 6 (квазилинеаризация). В этом случае методы данного раздела применимы непосредст­ венно. Есть ситуации, в которых методы, рассмотренные в этом разделе, неприменимы. Они возникают при наличии неизвестных входных сигналов, управляющих поведе­ нием системы. Обратимся теперь к этой задаче и рассмот­ рим вопросы оценки динамики нелинейных систем.

3.2. ИДЕНТИ ФИКАЦИЯ ПО КРИТЕРИЮ МАКСИМУМА АПОСТЕРИОРНОЙ ВЕРОЯТНОСТИ

В этом разделе будет исследован байесовский подход, или метод максимума апостериорной вероятности (МАВ) в применении к обобщенным задачам оценивания, задачам идентификации. Мы покажем, что многие задачи иденти­

60 ФУНКЦИИ Ш ТРАФ А В ЗА Д А Ч А Х ИДЕНТИФИКАЦИИ [ГЛ. 3

Непрерывную модель оценивания часто выводят с по­ мощью не вполне строгого предельного перехода, так что

Эта непрерывная модель оценивания задается уравне­ ниями

в которых w (t) и v (t) считаются белыми гауссовскими шумами с нулевыми математическими ожиданиями, так что

Связь дискретной и непрерывной моделей устанавлива­ ется следующими нестрогими предельными соотношениями:

Отметим, что определяющее непрерывную модель диф­ ференциальное уравнение (3.2.5) записано в не вполне корректной форме и должно быть заменено стохастическим дифференциальным уравнением