Загребаев Методы обработки статистической информации в задачах контроля 2008

Условие (3.4.7) будет выполняться, если di и γi+1 имеют одинаковые знаки, т.е.:

на быть монотонной, по крайней мере на отрезке [cˆi , c] , в против-

ном случае может наблюдаться расходимость метода. Выражение (3.4.6) можно представить в виде сумм:

Перепишем последнее выражение в ином виде:

Так как ξi+1 > 0 , то справедливо неравенство:

Возьмем предел по i от правой и левой частей неравенства:

[11] сумма ряда γ2k ek−1 − ограничена, т.е.

i+1

lim ∑ γ2e − < ∞ .

i→∞ k=1 k k 1

211

Следовательно, справедливо неравенство

i+1

lim ∑ γk dk −1 < ∞ , (3.4.10)

i→∞ k =1

Если теперь на γk наложим еще одно условие, а именно:

k=1

то, на основании признака Дирихле [11], необходимым и достаточным условием сходимости ряда (3.4.10) будет условие

lim dk = 0 .

k→∞

Таким образом, если γk будет удовлетворять трем условиям:

Покажем, что выражение (3.4.13) эквивалентно условию состоятельности в среднем квадратичном. Для этого подставим вместо dk выражение (3.4.5в). Тогда

Разложим ψ(cˆk ) в ряд Тейлора относительно истинного значения параметра, пренебрегая членами высшего порядка малости:

Подставив последнее выражение в (3.4.14), получим:

212

С точностью до случайного возмущения η(i) можно считать, что ψ(c) y(k +1) , тогда

шение (3.4.15) эквивалентно выражению

k→∞ k

Последнее соотношение совпадает с условием состоятельности оценки в среднем квадратичном. Таким образом условие (3.4.13) эквивалентно состоятельности в среднеквадратичном с точностью до введенных упрощений (отбросили члены высшего порядка ма-

лости при разложении в ряд Тейлора и ввели допущение о моно-

тонности (c ) ).

ψ ~

Подводя итог вышесказанному, можно заключить, что оценка, вычисляемая с помощью рекуррентной последовательности

будет состоятельной, коэффициент γi удовлетворяет трем условиям:

Очевидно, можно подобрать бесконечное количество последовательностей γi , удовлетворяющих условиям (3.4.1 8). Возможным видом такой последовательности является ряд

где b – любое положительное число.

213

Рассмотренная рекуррентная процедура (3.4.17) позволяет найти состоятельную оценку скалярного параметра с. Для состоятельной оценки векторного параметра c была впоследствии предложена модификация метода стохастической аппроксимации, которая легла в основу рекуррентных методов идентификации параметров объектов.

3.4.2. Обобщение метода стохастической аппроксимации для решения задач идентификации

Рассмотрим, в общем случае, нелинейный объект, описание которого представлено в форме «вход-выход»:

~ =

лог функции потерь, которая достигает минимума при c c . Тогда c является корнем стохастического векторного уравне-

ния:

Принципиально векторное уравнение (3.4.22) ничем не отличается от стохастического скалярного уравнения (3.4.1). Причем, по крайней мере для линейных систем, уравнение (3.4.22) – монотонно возрастающее.

По аналогии с решением скалярных уравнений, составим рекуррентную последовательность для решения стохастического векторного уравнения (3.4.22):

214

Γi+1 , удовлетворяющей условию (3.4.2 4), является матричный ряд

где В – некоторая положительно определенная матрица.

3.4.3. Асимптотическая скорость сходимости рекуррентных алгоритмов

Рассмотрим след ковариационной матрицы ошибки оценки на i-м шаге рекуррентного процесса оценивания:

В предыдущем разделе было показано, что при правильно выбранной матрице Γi оценка будет состоятельной:

ˆ − = lim tr var {ci c} 0

i→∞ .

При этом могут быть различные способы задания матрицы Γi+1 . Кроме того, не накладывалось никаких дополнительных условий

215

ε ~

(кроме условия четности) на функцию потерь F( (i, c )) . Однако различные способы задания матрицы Γi+1 и различные функции

ε ~

потерь F( (i, c )) будут давать различные скорости сходимости

оценок к истинным значениям параметра.

В качестве меры скорости сходимости алгоритмов в теории оценивания принято использовать асимптотическую матрицу ковариаций ошибок оценки (АМКО) [13]:

= ˆ − =

V lim i var {ci c}

i→∞

Очевидно, чем меньше АМКО, тем выше скорость сходимости

ˆ

алгоритма. Так как ci функционально зависит от вида функции потерь F(ε) и от вида матрицы Γi , то и АМКО является функцио-

налом F(ε) и Γi .

В дальнейшем несколько упростим задачу и будем задавать Γi в виде

где B , как указывалось ранее, некоторая положительно определенная матрица. Тогда рекуррентный процесс нахождения вектор-

ного параметра c может быть представлен формулой:

Поставим себе целью найти такую матрицу B * и такую функцию потерь F * (ε) , которые обеспечивают минимум АМКО. При

этом будем считать, что известна плотность распределения помехи f (η) . Вначале найдем оптимальную матрицу B * , такие алгорит-

мы будем называть «оптимальными» [13]. Затем найдем оптимальную функцию потерь F * (ε) – «абсолютно оптимальные» алго-

ритмы.

216

Можно показать [4], что асимптотическая ковариационная мат-

Полученное матричное уравнение представляет собой сложную функциональную зависимость АМКО от матрицы В и функции потерь F(ε) . В общем случае невозможно в явном виде разрешить

это уравнение относительно АМКО.

3.4.4. Оптимальные рекуррентные алгоритмы идентификации

Как уже отмечалось в предыдущем разделе, «оптимальными» рекуррентными алгоритмами будем называть алгоритмы, которые используют матрицу B * – оптимальную в смысле минимума АМКО при заданной функции потерь F(ε) .

Представим матрицу В в виде:

Дифференцируя обе части уравнения (3.4.34) по λ и затем полагая λ = 0, получим:

217

δB GΦ(0) − M { F′2 (η)} A(c,ση2 ) B*т +

+ Φ(0)Gт − B*M { F′2 (η)} A(c,ση2 ) δBт = 0 .

Нетрудно видеть, что последнее условие будет выполняться для любых δВ только при обращении в нуль выражений, стоящих в квадратных скобках, т.е.

GΦ(0) − M { F′2 (η)} A(c ,ση2 ) B*т = 0 .

Подставляя выражение (3.4.33) для G и учитывая, что Φ(0) = V * , получим:

M {F′′(η)}A(c ,ση2 )V* − M {F′2 (η)} A(c ,ση2 ) B*т = 0 .

Разрешим полученное уравнение относительно V * , тогда будем иметь:

Для нахождения оптимальной матрицы В* подставим полученное выражение для V* в уравнение АМКО (3.4.30); тогда после несложных преобразований получим:

или, раскрывая операцию математического ожидания, будем иметь:

Используя формулу интегрирования по частям, можно записать

Тогда последнее выражение перепишем в виде

− ∫ F′(η) f ′(η)dη

−∞

218

Для нахождения «оптимальной» АМКО подставим (3.4.36) в (3.4.35) и получим:

Используя замену (3.4.37), запишем эквивалентную формулу для АМКО:

Как видно, полученная АМКО является функционалом от функции потерь F(ε) и плотности распределения f (η) . В дальнейшем

АМКО, оптимальную только относительно матрицы В, будем обозначать V(F, f ) , т.е.

Подставляя матрицу В* в рекуррентный алгоритм (3.4.29), получим:

−∞

Очевидно, полученный алгоритм невозможно реализовать, так как в формулу для нормированной информационной матрицы вхо-

219

дит оцениваемый параметр c . Эту трудность можно обойти, использовав вместо c оценку параметра на (i – 1)-м шаге. Таким образом, реализуемый рекуррентный алгоритм будет иметь вид:

Полученная рекуррентная формула является наиболее общей и может быть использована для идентификации параметров нелинейного объекта при произвольной функции потерь F(ε) .

Существенным недостатком данного алгоритма является необходимость рассчитывать, а затем обращать матрицу A(c ,ση2 ).

Предлагаемая ниже процедура [13] позволяет обойти эти трудности.

Воспользуемся леммой об обращении квадратных матриц, которая формулируется следующим образом:

220