6.4. Циклический покоординатный спуск

В одном из алгоритмов прямого поиска, базирующихся на идее методов спуска, на каждом fc-м шаге поиска проводят од­ номерную минимизацию целевой функции последовательно по каждой из п координат ее аргумента х еШп. Такой метод на­ зывают обычно методом циклического покоординатного спуска. Рассмотрим алгоритм этого метода.

Пусть е*, г —1,п, — стандартный базис в W1. Выберем начальную точку ж0. Поиск точки минимума функции в мето­ де циклического покоординатного спуска проводят в соответ­ ствии с рекуррентным соотношением

Значение ak Е К находят из решения задачи одномерной мини­ мизации (см. 2)

Подчеркнем, что индекс j изменяется циклически, пробегая на каждом шаге покоординатного спуска все значения от 1 до п, причем значение аk в отличие от значения а* в (6.8) может быть как положительным, так и отрицательным.

Пусть выбраны значения е\ и (или) €2 в (6.9) и перед fc-м шагом циклического покоординатного спуска по найденной на предыдущем шаге точке x k~l вычислено значение f { x k~l) целевой функции (на первом шаге значение /(ж 0) вычисляют в выбранной начальной точке ж0). Тогда для каждого значения j = 1, п из решения задачи (6.11) находят значение ак и затем вычисляют

з=1

и значение f { x k). Далее проверяют выполнение условий (6.9) или того из них, которое выбрано в качестве условия прекра­ щения поиска. При положительном результате поиск точки х*

минимума функции f(x) прекращают на fc-м шаге и принима­ ют х* « х к и f(x*) « f { x k). В противном случае переходят к следующему шагу метода, полагая к: = к+ 1 .

Рассмотренный алгоритм прост в реализации, но эффекти­ вен лишь в случаях, когда минимизируемая функция является сепарабельной, т.е. представляет собой сумму функций, каждая из которых зависит лишь от одной координаты:

В этом случае решение задачи минимизации можно получить за один шаг поиска.

В самом деле, так как

то достаточно на первом шаге поиска последовательно решить п задач одномерной минимизации функций hj(xj), j —1, п, что позволит найти все п координат х* искомой точки х*.

Для функций более общего вида может нарушаться да­ же условие релаксационности последовательности {®fc}, т.е. j { x k~1) - f { x k) > 0 для некоторых номеров к. Поэтому обычно используют модификацию этого метода, состоящую в следую­ щем. На каждом шаге при спуске по очередной координате Xj учитывают результаты, полученные на этом шаге для коорди­ нат xi, I = 1, j —1. В этом случае значение ак находят из реше­

После перебора всех п координат вычисляют х к = х к_г + акеп. Рис. 6.14 иллюстрируют этапы покоординатного спуска для первых двух шагов метода в случае функции двух переменных.

Пример 6.4. С помощью модифицированного метода ци­ клического покоординатного спуска найдем решение задачи минимизации функции

f{xi,X2 ) = Qx\ - 4X IX 2 + 3^2 + 4>/5(rci + 2ж2) + 22,

рассмотренной в примерах 6.1 и 6.2. В качестве начальной выберем точку х° = (—2, 1), в которой /(® °) = 57, а в первом из условий (6.8) прекращения поиска положим е* = 0,01.

На рис. 6.15 дана графическая иллюстрация первых двух шагов процесса поиска точки минимума х* — (—л/5, —2л/5) этой функции, а в табл. 6.3 приведены результаты вычислений (заметим, что у/Ъ« 2,2361). Из этих результатов видно, что при заданной точности поиска решение задачи получается за шесть шагов. #