Алгоритмы методов оптимизации в разговорном виде / Метод Зангвилла

Метод Зангвилла.

Основная стратегия метода базируется на свойстве квадратичных функций, называется свойством параллельного подпространства. Если x^k+1 - точка минимума квадратичной функции, полученная в результате серии из k одномерных поисков из начальной точки x¹ по всем направлениям системы _k = {pⁱ}, i = 1,2,...,k, а z^k+1 - точка минимума этой же функции вдоль тех же направлений _k, но из другой начальной точки z₁, то вектор p^k+1 = z^k+1 - x^k+1 сопряжен со всеми направлениями системы _k.

Начальный этап. Задать начальную точку x¹, константу . Положить p₁ = - grad y(x¹), k = 1.

Основной этап. Шаг 1. Оптимальный поиск точки x^k+1 = x^k + _kp^k. Если k = n, то перейти к шагу 4.

Шаг 2 Перейти в другую начальную точку z¹ = x^k+1 + *d, где d = -grad y(x^k+1) - новое поисковое направление, * - оптимальное решение задачи минимизации y(x^k+1 + d). Положить i = 1.

Шаг 3. Проверить критерий окончания поиска и, если он не выполняется, выполнить спуск вдоль направлений _k в точку z^k+1:

(1) Если grad y (zⁱ) , то остановиться; x* = zⁱ - искомый минимум.

(2)Найти оптимальный шаг _i в точку zⁱ⁺¹ = zⁱ + pⁱ.

(3)Если i < n, то заменить i на i+1 и вернуться к операции (2); иначе - построить новое сопряженное направление p^k+1 = z^k+1 - x^k+1, заменить k на k+1 и перейти к шагу 1.

Шаг 4. Установить новые начальные условия для очередной итерации:

(1) взять xⁿ⁺¹ за новую начальную точку x¹ = xⁿ⁺¹, принять p¹ = - grad y(x¹);

(2) заменить k на k+1 и перейти к шагу 1.