Метод Дэвидона – Флэтчера – Пауэлла

Поэтому широкое распространение получила группа методов называемая методами переменной метрики или квазиньютоновскими, базирующихся на аппроксимации обратной матрицы Гессе на основе только первых производных. В этих методах вектор направления рk рассчи- тывается по формуле рk=-Аkgk, где матрица Аk называемая иногда матрицей направлений, представляет собой аппроксимацию матрицы Нk-1. Один из ме- тодов переменной метрики, полученный Дэвидоном и модифицированный Флэтчером и Пауэллом, получил название метода Дэвидона – Флэтчера – Пауэлла (ДФП). Основной трудностью реализации обобщенного метода Ньютона – Рафсона является необходимость вычисления матрицы вторых производных Н (матрицы Гессе) и ее обращения на каждой итерации. В методе ДФП эта трудность преодолевается благодаря использованию определенного приближения Ак для матрицы, обратной гессиану Н. Матрица Ак – положительно определенная симметричная матрица, которая обновляется на каждой итерации. В пределе матрица Ак становится равной обратному гессиану Нк-1. Начальное значение матрицы А0 принимается равным единичной матрице Е. На каждой итерации текущее значение матрицы направлений пересчитывается в соответствии с рекуррентным соотношением. Алгоритм метода. Задается начальная точка х0 и погрешность. Задается начальное значение матрицы А0=Е (единичная матрица).

Метод штрафных функций

Исходную задачу минимизации с ограничениями (как в форме неравенств, так и в форме равенств) можно свести к последовательности задач без ограничений, для решения которых используются методы безусловной минимизации функций, при выполнении определённых условий. Для этого вводят функцию Ф(х), определенную и непрерывную на Rn таким образом, чтобы выполнялись следующие условия: 1. Ф(х)=0 для всех х Х. 2. Ф(х) > 0 для всех х вне допустимой области Х. Образно говоря, функция Ф(х) назначает положительный штраф за выход за пределы допустимой области Х. Выбор весовых коэффициентов r, j, j весьма важен с вычислительной точки зрения. При больших значениях весовых коэффициентов при нарушении оганичений целевая функция F(x) приобретает ярко выраженный «овражный» характер, что затрудняет процесс минимизации. В общем случае весьма важен разумный выбор начальной точки с тем, чтобы она находилась в допустимой области. На практике проводят несколько циклов минимизации при последовательно изменяющихся значениях весового коэффициента r.