книги / Системы экстремального управления

где

Для удобства запишем это уравнение в векторной форме:

Ос12 с1з ... Cin

^îil ^"п2 ^n3 • • • О

Будем решать систему (13.1.3) методом последова­ тельных приближений:

где в качестве исходного вектора можно взять, например,

то этот предел является решением исходной системы (13.1.3). Действительно, переходя к пределу (N -> оо) в обеих частях равенства (13.1.5), получаем выражение

которое подтверждает, что предельный вектор X* является решением.

Рассмотрим условия сходимости процесса итераций [13.1]. Этот процесс сходится к решению, если выполняется

уже полученные на этом N-м шаге значения x[N\ ...

x[-i- Естественно, что такая мера увеличивает ско­ рость сходимости процесса поиска.

Формулы для расчета по методу Зайделя имеют сле­

(13.2.1)

Здесь для наглядности подчеркнуты члены, построенные уже в соответствии с методом Зайделя.

Сходимость этого метода, как правило, превышает сходимость метода итераций.

Рассмотрим подробнее вопрос о сходимости метода Зайделя. Этот метод сходится всегда, если решаемая система линейных уравнений (13.1.1) порождена поло­ жительно определенной квадратичной формой, т. е. если минимизируемая функция качества имеет эллиптический характер (11.4.20). Это обстоятельство является чрезвы­ чайно ценным для решения задач оптимизации и делает метод Зайделя достаточно универсальным методом опти­ мизации объектов, хорошо аппроксимируемых квадра­ тичной формой.

Рассмотрим особенности поведения этого метода в про­ странстве оптимизируемых параметров. На рис. 13.2.1 представлена плоскость параметров двумерного объекта

(*1 , х2).

На рис. 13.2.1, о показан один этап процесса итера­

ций. В исходной точке XN-X = (a:iw-1), определяются координаты-следующей точки Х п. Эти координаты (точки

XN зависит от порядка вычислений, что хорошо видно

па рис. 13.2.1, б.

Как видно, эффективность применения метода Зай­ деля существенно зависит от выбора порядка обращения к оптимизируемым координатам. В одном случае резуль­ тирующее на N-м шаге состояние X N будет ближе к экс­ тремуму, а в другом — дальше. Поэтому естественно

Рис. 13.2.1» Иллюстрация работы методов итерации (а) Зайделя

(б) в пространстве параметров.

выбирать такой порядок обращения к координатам, ко торый быстрее всего приводит к цели.

Таким методом является метод релаксации. Это даль нейшее развитие метода Зайделя.

§ 13.3. Метод релаксации

Преобразуем исходную систему уравнений (13.1.2). Для этого введем обозначения

Бели в правые части этих выражений подставить коорди­ наты точки Xiv-i, то величины 0(^ -1) (i = 1 , , . п) покажут

степень несоответствия точки X этой системе урав­ нений на (N — 1)-м этапе решения. Задачей каждого шага является удовлетворение системе (13.3.1). Поэтому естественно при последовательном расчете начать с того уравнения, для которого ôh по модулю больше, т. е.

Из этого уравнения определяется х^ , которое затем подставляется в остальные уравнения, заменяя В результате получаем новые значения невязок 0 ^

(i = 1, п), где Ô^V) = 0. Следующим шагом опреде­ ляется наибольшая по модулю невязка и т. д. Блок-схема этого алгоритма по­ казана на рис. 13.3.1. Здесь прямо­ угольниками обозначены основные опе­ рации метода релаксации: определение невязок, выделение наибольшей по мо­ дулю невязки и определение соответ­ ствующей компоненты.

Таким образом, метод релаксации заключается в том, что на каждом шаге обращают в нуль максимальную по мо­ дулю (i-ю) невязку путем изменения значения соответствующей (i-й) компо­ ненты.

Интуитивно ясно, что, действуя та­ ким образом, мы будем приближаться к решению со скоростью большей, чем при последовательном переборе всех

Рис. 13.3.1. Блок- уравнений (13.2.1), рассмотренном в

схема алгоритма предыдущем параграфе.

релаксации.

В этих трех параграфах рассмот­ рен случай, когда объектом является квадратичная форма с заданными коэффициентами. Однако

впрактике оптимизации часто приходится встречаться

собъектами иного характера, когда система уравнений (13.0.1) является нелинейной.

Рассмотрим методы решения этой, более сложной, задачи.

§ 13.4. Метод Ньютона

Пусть решаемая система уравнений имеет вид

Подставляя полученное отсюда выражение X* = X N + Е

в(13.4.2), разлагая F в ряд Тейлора по малой невязке Е

иограничиваясь малыми первого порядка малости, по­

лучаем

340 Основы поисковых Не т о д о Н ОПТИМИЗАЦИИ [fri.

Теперь, подставляя это выражение в (13.4.4), получаем решение в виде рекуррентной формулы:

В качестве иллюстрации рассмотрим подробнее два слу­

*= 0. Пусть xN — JV-e приближение, которое отличается

тельной с осью абсцисс, что и дает следующее значение XN+1 - Наглядно видна скорость сходимости метода: уже хй довольно хорошо определяет решение х*. Наибольшие

на рис. 13.4.2, где хорошо видно, что он сходится, хотя и

эти выражения в исходные уравнения, разлагая их в ряд

получаем оценку решения на (N + 1)-м шаге

Матрица Якоби (13.4.6) в этом случае имеет вид

df1 a/i

a*i 5x2 grad h(x[N\ xiN))

au au — grad/2(4'V), 4 N))

дх\ дх2

Рассмотрим один частный случай, когда система урав­ нений (13.4.1) линейна и имеет вид (13.1.1). Тогда мат­ рица Якоби (13.4.6) не зависит от исходного состояния Х0 и равна

Дц Û12 . . . Д1п

F =

®П1 Дп2 • • • ^ПП

Систему (13.4.5) после естественных преобразований мож­ но представить в виде

как разложение линейной функции в ряд Тейлора, огра­ ничено линейными членами, и система уравнений (13.4.5) точно определяет положение экстремума X* = Х 0 Е.

Указанное вовсе не означает, что в линейном случае следует применять именно этот метод, а не рассмотрен­ ные выше методы итераций Зайделя и релаксации. Дело в том, что решение линейной системы входит в метод Ньютона как одна из операций, которые следует повто­ рять на каждом шаге. Поэтому метод Ньютона, попросту, не позволяет решать линейных задач. Это — метод реше­ ния существенно нелинейных систем.

Метод Ньютона довольно быстро сходится и обычно на втором-третьем шаге дает вполне удовлетворительную оценку решения поставленной задачи. Однако очень важным при этом является выбор исходного состояния Х 0. Оно всегда должно быть достаточно близко к решению X*, тогда процесс сойдется:

Если исходное состояние Х0 выбрано неудачно, процесс может разойтись. Эта зависимость успеха от начальных условйй требует осторожности при работе с методом Нью­ тона.

Заметим, что процесс всегда сходится, независимо от начальных условий, если исходная функция Q {X) вы­ пукла, т. е. удовлетворяет условию (2.3.10).