книги из ГПНТБ / Сейдж Э.П. Идентификация систем управления

Г л а в а 4

ГРАДИЕНТНЫЕ МЕТОДЫ ИДЕНТИФИКАЦИИ

4.1. ВВЕДЕНИЕ

Рассмотрим теперь вычислительные методы иденти­ фикации. В этой главе будет исследован один класс пря­ мых методов, известных под названием градиентных. Эти методы получили название прямых из-за того, что при их использовании на каждом шаге минимизируется функ­ ция штрафа, тогда как в косвенных методах таких, как квазилинеаризация (см. главу 6), предпринимается по­ пытка решения двухточечной краевой задачи, появление которой связано с тем, что на каждой итерации исполь­ зуются принципы теории оптимального управления.

Сначала будут рассмотрены статические или одно­ шаговые задачи с последующим переходом к изучению многошаговых и непрерывных ситуаций. В дополнение к основному градиентному методу или градиентному мето­ ду первого порядка рассматривается также разложение нелинейностей до членов второго порядка малости, по­ зволяющее строить градиентные методы второго порядка или методы вторых вариаций, которые обладают преиму­ ществом более быстрой сходимости. В заключение будет изучен метод сопряженного градиента, в котором опреде­ ляются сопряженные направления поиска, и в результате, за т шагов минимизируется положительно определенная квадратичная форма т переменных. Этот метод сочетает многие преимущества градиентных методов первого и второго порядков.

Применение градиентных методов демонстрируется на примере идентификации нескольких систем. Наиболее

решения задач оптимального управления. Беки и Карплюс [12] пользуются градиентными методами первого

порядка в гибридных вычислениях. Градиентным методам посвящено много журнальных статей, однако большин­ ство из них связано с решением задач теории оптималь­ ного управления, а не идентификации. Многие из этих статей включены в библиографию.

4.2. ГРАДИЕНТНЫЕ МЕТОДЫ ИДЕНТИФИКАЦИИ СТАТИЧЕСКИХ СИСТЕМ

Вот уже много лет известен способ решения экстре­ мальных задач, основанный на применении классического градиентного метода или метода наискорейшего спуска. Принципиально задача состоит в отыскании экстремума скалярной функции М-вектора:

Как известно из дифференциального исчисления, в экс­ тремальной точке должны выполняться следующие необ­ ходимые условия:

нений, которая может быть достаточно сложна, чтобы из нее можно было найти оптимальный вектор и. Если это так, то можно воспользоваться итеративным методом, ос­ нованным на разложении 0 (и) в ряд Тейлора в окрест­ ности какого-то значения и\

Имеем

4.2] МЕТОДЫ ИДЕНТИФИКАЦИИ СТАТИ ЧЕСКИ Х СИСТЕМ ЮЗ

Хочется выбрать Аш таким, чтобы А7* было как можно меньше нуля, обеспечивая тем самым наискорейший спуск в направлении минимума J. Из уравнения (4.2.5) ясно, что для минимизации AJ* при условии (ДшуДДи1 *= а необходимо

где К 1 — положительное число, являющееся, быть может, функцией номера итерации i; это число выбирается из соображений обеспечения сходимости, скорости сходи­ мости и т. п. Оптимальный вектор Q определяется путем прямых вычислений. Используется какое-то приближение

Вычисления продолжаются до тех пор, пока заметны су­ щественные изменения и от итерации к итерации. Однако в сходимости процедуры нельзя быть уверенным, если не ограничить выбор К1. Это утверждение иллюстрируется простым примером.

Пример 4.2.1 Необходимо решить систему линейных алгебраических уравнений Аи = Ь относительно и. Ясно, что и = А_1Ь, однако реализация этой формулы в случае системы высокого порядка может привести к сложной вычислительной процедуре. Известно, что неотрицатель­ ная функция штрафа

1 1

где оценки Н, х, и и X относятся к i-й итерации вычисли­ тельного процесса. Очевидна возможность минимизации A/ 4 путем соответствующего выбора Аи4. Используя стандартную технику теории матриц, получим

откуда видно, что действительно получена процедура для вычисления изменений управления при переходе от ите­ рации к итерации. Так как минимизация А / проводилась при учете квадратичных членов относительно Аи и Ах, естественно ожидать, что использование градиентного метода второго порядка или метода вторых вариаций дает выигрыш в скорости сходимости по сравнению с градиент­ ным методом первого порядка. Однако ускорение сходи­ мости приобретается ценой значительного усложнения вычислительных процедур и возрастания трудностей, связанных с исследованием сходимости. Процедура вычи­ слений весьма напоминает соответствующую процедуру для градиентного метода первого порядка:

1) выбрать и1,

2) определить х4 из f (х4, и*) = 0,

3)определить Я (х1, и1, X,4) = 0(х4, и1) -f X,iTf (х4, и4),

4)оценить X4 с помощью соотношения

Видно, что процедура сходится за один шаг независимо от выбора и*. Решение системы ui+1 = А~Чэ. Эта особен­ ность присуща всем линейным задачам. Однако обычная процедура вычислений содержала А-1, и в этом простом случае смысл использования итеративного метода состоял в том, чтобы избежать вычисления обратной матрицы. В общем случае градиентные методы особенно полезны для решения систем нелинейных уравнений, причем гра­ диентный метод второго порядка иногда имеет большие преимущества.

До сих пор функция / = 0 (и) минимизировалась путем применения градиентных методов первого или второго порядка. В первом случае имело место соотношение

тогда как для градиентного метода второго порядка

Градиентный метод первого порядка в вычислительном отношении прост, но дает медленную сходимость в окрест­ ности экстремума, если только не используется оптималь­ ный градиентный метод (Сейдж, [116]), который в общем случае очень трудно реализовать. Метод вторых вариа­ ций дает быструю сходимость в окрестности экстремума, однако чрезвычайно усложняется вычислительная про­

п о ГРАДИЕНТНЫ Е М ЕТОДЫ ИДЕНТИФИКАЦИИ [ГЛ. 4

цедура, а в окрестности экстремальной точки для обес­ печения сходимости необходимо решить задачу о выборе начального приближения.

В методе сопряженного градиента (Флетчер и Пауэлл, [41]) сделана попытка соединить лучшие качества двух рассмотренных методов. Вместо того, чтобы вычислять

Затем проводится поиск в направлениях, определяемых каждым из векторов у1с тем, чтобы выбрать оптимальную

так что в результате получается оптимальный градиент­

ся проверкой нескольких возможных значений, выбран­ ных из близкой окрестности того значения, которое ис­ пользовалось на предыдущей итерации. Затем выбирает­ ся то Ю, которое обеспечивает наименьшее значение функции 0. Метод сводится к следующей процедуре: