
- •113 3.1. Задачи математической оптимизации ________________________________________________________________________________________________________
- •Глава 3. Общая характеристика методов оптимизации
- •3.1. Задачи математической оптимизации
- •Постановка задачи математической оптимизации.
- •Целевая функция и особенности области ее определения
- •Необходимые и достаточные условия существования экстремума целевой функции
- •Классификация задач математической оптимизации.
Необходимые и достаточные условия существования экстремума целевой функции
Классическая теория экстремумов функции дает признаки абсолютного и относительного, условного и безусловного максимума (минимума) [19]:
Необходимое
условие существования безусловного
относительного экстремума.
Если целевая функция W()
имеет
первые производные,
то из того, что функция
W()
принимает в точке 0
в
ее
- окрестности (0<)
наибольшее
значение
W()W(0)
(либо наименьшее
значение
W()W(0)),
следует
W(0)/i
= 0,
i
=.
Все
n
частных производных функции W()
в точке 0
обращаются
в ноль.
Следовательно, градиент
функции
grad
W(0)
=
W(0)
= (W(0)/1,
…, W(0)/n)Т
также обращается в ноль в точке 0.
Точка
0
с
координатами
(10,...,
n0)
называется стационарной
точкой.
Необходимое
условие существования условного
относительного экстремума аналогично
условию существования
безусловного относительного
экстремума.
Об условном экстремуме говорят, когда
целевая функция W()
ограничена областью
(
)
возможных векторов. Область
задается равенствами или неравенствами
функций gj()
{
, = , }
bj
и областью определения (допустимых
значений) iQi,
для i
=
.
В данной ситуации внутри области
может не оказаться точки 0
с
координатами (10,...,
n0),
в которой, градиент функции
W()
обращается в ноль в ее
- окрестности; либо таких точек может
оказаться несколько. Однако, значения
W()
в крайних точках области
могут быть наибольшими (наименьшими),
даже больше (меньше), чем в точках
относительного экстремума. Таким
образом, условный
относительный экстремум
может находиться в
одной или нескольких точках безусловного
относительного экстремума 0,
(если они есть) либо
в одной
или нескольких крайних точек.
Отметим, что условие W() = 0 является необходимым, но не достаточным условием существования относительного экстремума. К стационарным точкам относятся не только точки относительного (локального) экстремума, но и седловые точки (рис. 3.1.3).
Рис.
3.1.3. Стационарные точки
Для W(1, 2) седловая точка – это такая точка * =(1*, 2*) в которой целевая функция W(1, 2) принимает наименьшее значение по одной координате 1 и наибольшее значение по другой координате 2. В окрестности седловой точки для любых значений 1, 2 всегда выполняется: W(1*, 2) W(1*, 2*) W(1, 2*).
Достаточным условием существования безусловного относительного экстремума функции W() является то, чтобы матрица Гессе Н в точке 0 (Н|0) была либо положительно определенной (тогда 0 – точка минимума), либо отрицательно определенной (тогда 0 – точка максимума). Матрица Гессе Н есть матрица вторых производных W().
Например, для W(1, 2, 3)= 1+23+23–12–22–32 матрица Гессе Н|0 имеет вид:
,
т. к. необходимое условие экстремума W(0)=0, то
W/1 =1–21 = 0, W/1 = 3–22 = 0, W/1 = 2+2–23 = 0.
Для того чтобы неособенная квадратная матрица Гессе Н|0 была положительно определенной (все ее собственные значения были положительны) необходимо и достаточно, чтобы все k-е главные миноры Δk матрицы были положительны. Для того чтобы неособенная квадратная матрица Гессе Н|0 была положительно полуопределенной необходимо и достаточно, чтобы все k-е главные миноры Δk матрицы были положительны или равны нулю.
Для того чтобы неособенная квадратная матрица Гессе Н|0 была отрицательно определенной (все ее собственные значения были отрицательны) необходимо и достаточно, чтобы k-е главные миноры Δk матрицы были отличны от нуля и имеют знак (–1)k, k=1, 2, …,n. Для того чтобы неособенная квадратная матрица Гессе Н|0 была отрицательно полуопределенной необходимо и достаточно, чтобы k-е главные миноры Δk матрицы были равны нулю или имели знак (–1)k, k=1, 2, …,n.
Во всех остальных случаях, когда знаки главных миноров не удовлетворяют комбинациям, описанным выше, матрица Гессе Н|0 является неопределенной.
Главным минором Δk неособенной квадратной матрицы называется определитель, образованный элементами, стоящими на пересечении k выделенных строк матрицы и k выделенных столбцов матрицы, причем номера выделенных строк и столбцов матрицы совпадают.
Так, в нашем примере Δ1 и Δ3 – отрицательны, Δ2 - положительный:
Δ1=a11=–2;
Δ2==
=4;
Δ3=
=
=
–6.
Если матрица Гессе Н|0 является неопределенной, то точка 0 должна быть седловой. Если же матрица Н|0 оказывается полуопределенной, то соответствующая точка 0 может быть как экстремальной, так и не экстремальной точкой. При этом формулировка достаточного условия существования экстремума значительно усложняется, ибо для этого необходимо учитывать члены более высоких порядков в разложении Тейлора. В некоторых случаях такие сложные процедуры не являются необходимыми, поскольку диагонализация матрицы Н|0 позволяет сделать вывод о наличии или отсутствии экстремума. Если матрица Н|0 приведена к диагональному виду путем преобразования подобия, то данная матрица является: неопределенной, если диагональные элементы приведенной матрицы имеют разные знаки, положительно определенной, если все диагональные элементы положительны, отрицательно определенной, если все диагональные элементы отрицательны.
Кроме того, любой относительный максимум (минимум) не обязательно будет абсолютным. Для поиска абсолютного экстремума необходимо определить все стационарные точки функции W(), и затем методом перебора найти глобальный максимум (минимум).
В классической теории экстремумов рассматриваются задачи математической оптимизации без ограничений. Однако такие задачи имеют чисто теоретическое значение. Это понятно из физической интерпретации целевой функции и ограничений. Т. к. оптимизационные задачи имеют истоки из экономики, то иногда целевую функцию называют функцией дохода, а балансовые уравнения – ресурсными ограничениями. В силу того, что любые практические задачи решаются в условиях ограниченности ресурсов, то становится понятным, что они относятся к задачам нахождения условного экстремума [11].