
- •4. Математические модели оптимизации
- •4.1. Постановка задачи оптимизации
- •4.2. Условия оптимальности
- •4.3. Критерий Сильвестра
- •А) Критерий проверки достаточных условий экстремума
- •Б) Критерий проверки необходимых условий экстремума второго порядка
- •Второй способ (с помощью собственных значений матрицы Гессе)
- •4.4. Теорема Вейерштрасса
- •4.5. Обобщенная задача оптимизации
- •4.6. Задача условной минимизации
- •Упражнения
4.3. Критерий Сильвестра
Вместо перебора всех стационарных точек и соответствующих значений функции можно воспользоваться специальными процедурами, позволяющими найти глобальный оптимум с меньшими затратами времени.
Определение модальной функции не позволяет непосредственно проверить, является ли функция унимодальной. В теории оптимизации выделяется важный класс выпуклых и вогнутых функций, которые допускают проверку такого рода.
Когда
функция достаточно проста, теоремы
(4.1…4.3) позволяют явным образом решить
задачу (4.1). При этом для исследования
матрицы
на неотрицательную и положительную
определённость, как правило, используется
критерий Сильвестра с использованием
угловых и главных миноров (первый
способ).
А) Критерий проверки достаточных условий экстремума
Пусть А – симметрическая матрица порядка nxn. Тогда
Для того чтобы матрица Гессе G(x*) была положительно определена (G(x*) > 0) и точка x* являлась точкой локального минимума, необходимо и достаточно, чтобы знаки угловых миноров были строго положительны:
M1 > 0, M2 > 0,…, Mn > 0. (4.8)
Для того чтобы матрица Гессе G(x*) была отрицательно определена (G(x*) < 0) и точка x* являлась точкой локального максимума, необходимо и достаточно, чтобы знаки угловых миноров чередовались, начиная с отрицательного:
M1 < 0, M2 > 0, M3 < 0,…, (-1)n Mn > 0. (4.9)
Б) Критерий проверки необходимых условий экстремума второго порядка
Для того чтобы матрица Гессе G(x*) была положительно полуопределенной (G(x*) 0) и точка x* может быть являлась точкой локального минимума, необходимо и достаточно, чтобы все главные миноры определителя матрицы Гессе были неотрицательны.
Для того чтобы матрица Гессе G(x*) была отрицательно полуопределенной (G(x*) 0) и точка x* может быть являлась точкой локального максимума, необходимо и достаточно, чтобы все главные миноры четного порядка были неотрицательны, а все главные миноры нечетного порядка – неположительны.
Второй способ (с помощью собственных значений матрицы Гессе)
Матрица G(х) размерностью(nxn) считается положительно определенной, если все ее собственные значения 1, 2,…, n положительны, т.е. j > 0 для всех j = 1, 2,…, n.
Матрица G(х) считается отрицательно определенной, если собственные значения отрицательны, т.е. j < 0 для всех j = 1, 2,…, n.
Если среди собственных значений G встречаются и положительные и отрицательные, то матрица является знакопеременной, а исследуемая функция – невыпуклой.
Для определения собственных значений необходимо решить характеристическое уравнение:
,
где I – квадратная единичная матрица; det – знак определителя.
Матрица
отличается от матрицы Гессе тем, что по
диагонали располагаются члены вида
.
Так для двухмерной функции f(x1, x2) характеристическое уравнение будет иметь вид:
(4.10)
Собствееные значения 1 и 2 есть корни обыкновенного квадратного уравнения 2 + b + c = 0, образуются после раскрытия определителя.
Для примера возьмем функции двух переменных:
f(x)= 2 – 2x1 –2x2 +x12+x22 – x1 x2
Координаты экстремальной точки x* определяются решением системы уравнений
и
равныx1*
= 2, x2*
= 2
Гессиан
.
После решения характеристического
уравнения
,
т.е. квадратного уравнения (2 –)2
– 1 = 0
получены собственные значения 1
= 3, 2
= 1, т.е.
матрица G
является
положительно определенной. Следовательно,
функция f(x)
является выпуклой и в экстремальной
точке х*
= (2,2) принимает минимальное значение
f(x*)
= –2.
Оба способа проверки достаточных и необходимых условий экстремума второго порядка приведены в табл.4.2.
Пример
4.4. Найти
экстремум функциина множествеЕ2.
Решение. 1. Запишем необходимые условия экстремума первого порядка:
;
В результате решения системы получаем стационарную точку x* = (0,0).
2. Проверим выполнение достаточных условий экстремума.
Первый
способ: Матрица
Гессе имеет вид
.Так
как М1 =
2 > 0,
,
то в точкеx*
локальный минимум (строка 1 в табл.4.2).
Второй способ: Найдем собственные значения матрицы Гессе, используя (4.10):
Отсюда
и
.
Так как все собственные значения
положительны, то в точкеx*
локальный минимум (строка 1 в табл. 4.2).
Из примера 3.3 следует, что функция
является строго выпуклой на множестве
Е2.
Поэтому точка локального минимума
является и точкой глобального минимума
(согласно п.3, утверждение 3.1).
Вычислим значение функции в точке глобального минимума: f(x*) = 0.
Пример
4.5. Найти
экстремум функции
на множестве Е2.
Решение. 1. Запишем необходимые условия первого порядка:
;
.
В результате решения системы получаем стационарную точку x* = (0,0).
2. Проверим выполнение достаточных условий экстремума и необходимых условий второго порядка.
Первый
способ:
Матрица Гессе имеет вид
.
Так как М1
= 2 > 0,
,
то достаточныое условия экстремума не
выполняются (строки 1 и 2 в табл.4.2).
Проверим выполнение необходимых условий
второго порядка.
Главные миноры первого порядка (m = 1) получаются из M2 в результате вычеркивания n – m =2 – 1 = 1 строк и столбцов, с одинаковыми номерами: – 2, 2. Главный минор второго порядка (m = 2) получается из M2 в результате вычеркивания n – m= 0 строк и столбцов, т.е. совпадает с M2: -4. Отсюда следует, что необходимые условия экстремума второго порядка не выполняются (строки 3 и 4 в табл.4.2). Так как матрица Гессе не является нулевой, то можно сделать вывод о том, что в точке х* нет экстремума (строка 6 в табл.2.1).
Таблица 4.2
Критерий проверки достаточных и необходимых условий второго порядка в задаче поиска безусловного экстремума
№ п/п |
|
G(x*) |
Условия |
Первый способ |
Второй способ |
Тип стационарной точки |
1 |
0 |
>0 |
Достаточные условия экстремума |
M1 > 0, M2 > 0,…, Mn > 0 |
μ1 > 0, μ2 > 0,…,μn > 0 |
Локальный минимум |
2 |
0 |
<0 |
Достаточные условия экстремума |
M1 < 0, M2 > 0, M3 < 0,…, (-1)n Mn > 0 |
μ1 < 0, μ2 < 0,…,μn > 0 |
Локальный максимум |
3 |
0 |
0 |
Необходимые условия экстемума второго порядка |
Все главные миноры определителя матрицы G(x*) неотрицательны |
μ1 0, μ2 0,…, μn 0 |
Может быть локальный минимум, требуется дополнительное исследование |
4 |
0 |
0 |
Необходимые условия экстемума второго порядка |
Все главные миноры четного порядка неотрицательны, а нечетного порядка неположительны |
μ1 0, μ2 0,…, μn 0 |
Может быть локальный максимум, требуется дополнительное исследование |
5 |
0 |
=0 |
Необходимые условия экстемума второго порядка |
Матрица Гессе состоит из нулевых элементов |
μ1 = 0, μ2 = 0,…, μn = 0 |
Требуется дополнительное исследование |
6 |
0 |
>0, <0 |
Необходимые условия экстемума второго порядка |
Не выполняются условия п.1…5 |
μn имеют разные знаки |
Нет экстремума |
Второй способ: Найдем собственные значения матрицы Гессе, используя (4.10):
Отсюда 1 = 2 > 0, 2 = –2 < 0, т.е. собственные значения имеют разные знаки. Поэтому точка х* не является точкой минимума или максимума (строка 6 в табл.4.2), а является седловой точкой (аналогична изображенной на рис.4.6).
3. Так
как экстремум не достигается ни в одной
точке,
не вычисляется.
Пример 4.6 Проверить, является ли выпуклой квадратичная функция
.
Решение. Найдем матрицу Гессе
.
Угловые (главные) миноры этой матрицы положительны:
М1
= 6 > 0, .
Поэтому, согласно критерию Сильвестра, матрица G(x) положительно определенная, и, следовательно, функция строго выпуклая.