5. Метод штрафов

Используется штрафная функция вида:

.

Начальная точка поиска обычно задается вне множества допустимых решений . Обычно используются, а.

При решении задач процедура расчетов завершается при некотором конечном значении параметра штрафа . При этом приближенное решение, как правило, не лежит в множестве допустимых решений, т.е. ограничения задачи не выполняются. Это является одним из недостатков метода. С ростом параметравычисляемые алгоритмом точки приближаются к решению исходной задачи извне множества допустимых решений.

При обеспечивается сходимость метода.

6. Метод барьерных функций

Используются обратная или логарифмическая барьерные функции. Обе штрафные функции определены и непрерывны на множестве допустимых значений , и стремятся к бесконечности при приближении к границе множества изнутри. Логарифмическая штрафная функция положительна прии отрицательна при, т.е. в этом случае внутренним точкам области отдается предпочтение перед граничными точками. Начальная точка задается только внутри множества.

Обычно , а параметр.

При обеспечивается сходимость метода.

7. Метод Фиакко-Мак-Кормика

Для ограничений равенств используется квадратичная штрафная функция, а для ограничений неравенств обратная и логарифмическая барьерные функции:

Начальная точка задается так, чтобы ограничения-неравенства строго выполнялись.

Фиакко и Мак-Кормик предложили . Приобеспечивается сходимость метода.

8. Метод множителей

Метод множителей аналогичен методу штрафов, но штрафная функция добавляется не к целевой функции, а к классической функции Лагранжа. В результате задача на поиск условного минимума сводится к решению последовательности задач поиска безусловного минимума модифицированной функции Лагранжа:

где и- векторы множителей.

Полученная в результате минимизации модифицированной функции Лагранжа точка используется в качестве начальной на следующей итерации, выполняемой при возрастающем значении параметра штрафаи пересчитанных значениях векторов множителей:

Метод обладает сверхлинейной сходимостью, если последовательность неограниченно возрастающая, в противном случае сходимость метода – линейная.

Обычно , а,. Т.е.е первая вспомогательная задача безусловной оптимизации совпадает с решаемой в методе штрафов. Методом множителей удается найти условный минимум за меньшее количество итераций, чем методом штрафов.

3. Методы возможных направлений

Ненулевой вектор называется возможным направлением в точке, если существует такое, чтодля всех.

Вектор называется возможным направлением спуска в точке, если существует такое, чтоидля всех.

1. Метод проекции градиента для задач с ограничением типа равенств

Стратегия поиска задачи условной оптимизации состоит в построении последовательности точек , вычисляемых по правилу:

,

где - вектор, вычисляемый на каждой итерации и определяемый из условия проекции векторана аппроксимирующую плоскость, задаваемую уравнением:

, где

где , а.

Вектор определяется по формуле:

,

называется градиентной составляющей приращения и вычисляется следующим образом:

Для вычисления могут использоваться методы одномерного поиска или она может выбираться произвольным образом из условия убывания функциипри переходе из точкив точку.

Градиентная составляющая не меняет вектор невязки условий связи. Под ее действием точка движется параллельно или по плоскости.

Составляющая называется компенсационной составляющей и вычисляется следующим образом:

.

Под действием этой составляющей осуществляется проекция точки на плоскость.

Расчет заканчивается в точке, в которой выполняются оба условия:

и .

В полученной точке требуется обязательная проверка выполнения достаточных условий условного минимума функции.

Метод имеет линейную скорость сходимости.