Методы оптимизации

151

ММЛ можно распространить на случай, когда задача оптимизации имеет несколько ограничений-равенств. Рассмотрим общую задачу (6.3)–(6.4). Функция Лагранжа принимает следующий вид:

i=1

где λ1,…,λm – множители Лагранжа, т. е. неизвестные параметры, значения которых необходимо определить.

Алгоритм ММЛ

1.Составить функцию Лагранжа.

2.Найти частные производные

и, приравнивая их нулю, составить расширенную систему (n + m) уравнений с (n + m) неизвестными xj , λi :

·····························································

Это и есть необходимое условие экстремума функции Лагранжа.

·····························································

3.Решить полученную систему и определить стационарные точки функ-

ции L.

4.Классифицировать полученные стационарные точки на основе вычисления элементов матрицы Гессе функции L, рассматриваемой как функции только аргумента x :

Выбрать из полученных точек оптимальное решение x* .

154

6.3 Необходимые и достаточные условия оптимальности

Ранее были рассмотрены необходимые и достаточные условия оптимальности решения задач оптимизации без ограничений. Ограничения на управляемые переменные существенно уменьшают размеры области, в которой проводится поиск экстремума (ОДР). На первый взгляд может показаться, что уменьшение размеров ОДР должно упростить процедуру поиска экстремума. Но, напротив, процесс оптимизации становится более сложным, т. к. установленные выше критерии оптимальности нельзя использовать при наличии ограничений. Может нарушаться даже основное условие – равенство нулю первой производной в стационарной точке [1–3, 8].

Например, безусловный минимум функции f (x) = (x − 2)2 имеет место при x* = 2 (т. е. f (x* ) = 0). Но если задача решается с учетом ограничения x ≥ 4, то условный минимум достигается в точке x = 4, где f (x* ) = 4 ≠ 0 .

Может показаться, что условный минимум достигается на границе ОДР, но и это не так. Например, если решать задачу с учетом ограничения x ≤ 4, то минимумом останется точка x* = 2.

Если ограничений в задаче несколько, то процесс ее решения усложняется еще сильнее, т. к. условный минимум:

•может совпадать с безусловным минимумом, т. е. являться внутренней точкой ОДР, т. е. не лежать на поверхности ни одного из ограничений (в этом случае f (x* ) = 0);

•может лежать на поверхности некоторых ограничений, но не лежать на поверхности других, т. е. являться граничной точкой ОДР (в этом случае градиент f (x* ) может быть нулевым, а может не быть);

•может лежать на пересечении поверхностей всех ограничений (в этом случае обычно f (x* ) ≠ 0, но не обязательно).

Будем называть ограничение-неравенство g(x) активным в некоторой точке x , если данная точка лежит на его поверхности (т. е. обращает его в равенство), и неактивным, если данная точка не лежит на его поверхности.

155

······················ Пример 6.1 ························

= 2 > 0.

·······································································

Если в точке x ограничение g(x) выполняется, то такая точка называется внутренней (т. е. она лежит внутри ОДР, определяемой данным ограничением), и внешней, если ограничение g(x) для нее не выполняется (т. е. она лежит

·······································································

6.3.1 Необходимые и достаточные условия оптимальности

задач с ограничениями общего вида

Выше было установлено, что множители Лагранжа можно использовать при построении критериев оптимальности для задач оптимизации с ограничениями в виде равенств. Кун и Таккер обобщили этот подход на случай общей задачи нелинейного программирования с ограничениями как в виде равенств,

где f (x), gi (x), hl (x) – непрерывные и дифференцируемые функции. Необходимые и достаточные условия первого порядка выражаются тео-

ремой, приведенной ниже.

157

p

xL(x,µ) = f (x)+ ∑λl hl (x),

l=1

λ L(x,µ) = hl (x) = 0, l =1,2,..., p.

Таким образом, условия Куна – Таккера (6.28) и (6.30) совпадают с условиями оптимальности для задачи Лагранжа.

Если данные условия выполняются, то точка является оптимальной. Но если нет, то нельзя утверждать, что она не оптимальна. В таких случаях следует использовать критерий оптимальности второго порядка.

6.3.2 Необходимые и достаточные условия

оптимальности второго порядка

Выше рассматривались необходимые и достаточные условия первого порядка – это условия Куна – Таккера. Данные условия применимы к задачам условной оптимизации и формулируются через градиенты ЦФ и функций, входящих в ограничения. При этом на функции ограничения gi (x) накладываются

жесткие условия выпуклости (или вогнутости), а ограничения-равенства hl (x) должны быть линейными, что выполняется не для всех ЗНП. Необходимые и достаточные условия оптимальности второго порядка для задач с дважды дифференцируемыми функциями построены Мак-Кормиком.

Рассмотрим следующую задачу нелинейного программирования:

Предположим, что gi (x* ) при i I и hl (x* ) при l =1,2,..., p линейно

независимы.

·····························································

Теорема. Для того чтобы точка x* была точкой строгого ло-

кального минимума, необходимо и достаточно выполнение следующих условий:

158

1) существует такой вектор (λ*,µ* ), что вектор (x*,µ*,λ* )

определяет точку Куна – Таккера;

2) для любого ненулевого вектора y Rn , удовлетворяющего системе уравнений и неравенств:

·····························································

·····························································

Множество I = I1 I2 содержит номера всех активных огра-

ничений в точке x* .

·····························································

6.4 Методы штрафов

Здесь мы продолжим изучение ЗО с ограничениями. Нас будут интересовать методы, существенно отличающиеся от рассмотренных выше методов. Их общий принцип заключается в замене исходной задачи на решение последовательности экстремальных задач без ограничений [1, 5–6, 8, 10, 14].

Рассмотрим задачу:

159

Предполагается, что точка x* является решением этой задачи, известно некоторое начальное приближение x0 , возможно недопустимое, т. е. не удовлетворяющее отношениям (6.37). С помощью рассматриваемых далее алгоритмов в пространстве Rn строится конечная последовательность точек xt , t = 0,1,…,k , которая начинается с заданной точки x0 и заканчивается точкой xk , дающей наилучшее приближение к точке экстремума x* среди всех точек построенной последовательности. В качестве точек последовательности {xt} берутся стаци-

онарные точки штрафной функции – ЦФ вспомогательной задачи безусловной минимизации.

Конкретные методы, основанные на указанной общей схеме, определяются видом штрафной функции, а также правилами, по которым производится пересчет штрафных параметров по окончании очередного цикла безусловной минимизации. Идея преобразования задачи с ограничениями в последовательность задач без ограничений, построенную надлежащим образом, представляется заманчивой, главным образом, в связи с наличием эффективных и надежных методов безусловной минимизации. При этом будем надеяться искать условный минимум с приемлемой точностью путем решения относительно небольшого числа не слишком сложных задач.

·····························································

В зависимости от того, являются ли элементы последовательности {xt} допустимыми или недопустимыми точками, гово-

рят соответственно о методах внутренней (рис. 6.1) или внешней точки (рис. 6.2). Иногда их называют методами внутреннего

или внешнего штрафа. Методы внутренних штрафных функций называют также методами барьерных функций.

·····························································

160

Линии уровня ЦФ

Рис. 6.1 – Метод внутренних штрафов

Рис. 6.2 – Метод внешних штрафов

6.4.1 Понятие штрафных функций