19. Метод сопряженных направлений Пауэлла.

Для всех квадратных функций за n итераций приводит к , если вычисляется без округления.

идея метода: в процессе применения алгоритма выбирается особые направления(взаимно сопряженные направления, фактически совпадают с главными осями квадратичной формы):

и затем поиск по каждому направлению приводит к . Сопряженные направления:

- сопряженные или сопряженные относительно матрицы С (симметричной) или С-сопряженными или С-ортогональными, если эти векторы линейно независимы и для них выполняются соотношения:

;

если С-единичная, то направления совпадают с координатными осями. Пример:

; - длина шага

;

;

;

Обычно неудобно в качестве начальных выбирать 2 точки, выбрав 1 точку и двигаться из нее в направлении единичных векторов.

Алгоритм:

1.​ Задаем начальную точку , систему линейно независимых векторов: ;​

можно взять единичные вектора

2.​ (для k-той итерации) ​

2.1На первой итерации система линейно независимых векторов следующая:

выполняем последовательность поисков n+1 одномерную оптимизацию функции в направлениях .​

В результате получаем ; которое является сопряженными (взаимно)

;​ 2.2 Переходим на 2 пункт алгоритма, перед этим вычеркиваем направление и

получаем: ;​

;​

;​

;​ 2.3 вычеркиваем , получаем​

​