
- •2. Задача безусловной оптимизации
- •2.1. Постановка и схема решения задачи
- •2.2. Необходимые и достаточные условия наличия локального экстремума Теорема 1 Необходимое условие наличия локального экстремума
- •Знакоопределенность матрицы. Критерий Сильвестра
- •2.3. Общие сведения о численных методах оптимизации
- •Замечание 1. Множество х называется замкнутым, если оно содержит все свои внутренние и граничные. Замечание 2. Множество х называется ограниченным, если
- •Замечание 3. Ограниченное замкнутое множество х называется компактным (компактом).
- •1. Выбор направление поиска
- •2. Правило выбора параметра
- •3. Скорость сходимости алгоритма
- •4. Правилами останова алгоритма
- •2.4. Численные методы одномерной минимизации
- •2.5. Численные методы многомерной оптимизации
2. Задача безусловной оптимизации
2.1. Постановка и схема решения задачи
Данные:
;
Модель:
;
-
управляющие переменные;
Задача безусловной оптимизации имеет вид:
(1)
Предполагается,
что функция
дважды непрерывно дифференцируема
всюду на
,
т.е. в точке
имеет градиент
и матрицу Гессе
.
Схема решения задачи оптимизации может выглядеть следующим образом:
1. Находятся все точки локальных минимумов (максимумов);
2. Вычисляются
значения функции
во всех найденных точках локальных
минимумов (максимумов) и выбирается
точка (точки) с наименьшим (наибольшим)
значением функции. Она и составит решение
задачи.
2.2. Необходимые и достаточные условия наличия локального экстремума Теорема 1 Необходимое условие наличия локального экстремума
Пусть
- непрерывно дифференцируемая функция
в точке
.
Если
-
точка локального минимума (максимума)
функции
,
то
(2)
Доказательство
(3)
(4)
Представим
,
где
,
– единичный вектор, совпадающий по
направлению с вектором
,
.
Тогда (4)
или
(5)
(6)
(7)
Точки
,
удовлетворяющие условию (2), называются
стационарными
точками функции
или задачи (1).
Для выявления искомой точки на множестве стационарных используется условие локальной оптимальности второго рода
Теорема 2
Пусть
- дважды непрерывно дифференцируемая
функция в некоторой окрестности точки
.
Если
-
точка локального минимума (максимума)
функции
,
то матрица Гессе неотрицательно
(неположительно) определена, т.е.
,
(8)
где
Теорема 3 Достаточное условие локальной оптимальности
Пусть - дважды непрерывно дифференцируемая функция в некоторой окрестности точки . Если удовлетворяет условию (2), а матрица Гессе положительно (отрицательно) определена, т.е.
,
(9)
то - точка строгого локального минимума (максимума) функции .
Замечания:
Каждое из условий (2) и (8) по отдельности, а также оба вместе, являются необходимыми, в то время, как только совокупность условий (2) и (9) является достаточным условием. Условие (2) называется необходимым условием I рода, условие (8) - необходимым условием II рода.
Условие (8) означает выпуклость (вогнутость) функции в некоторой окрестности точки
. Условие (9) означает строгую выпуклость (вогнутость) функции в некоторой окрестности точки
.
Из теорем вытекает, что если градиент целевой функции равен нулю и ее матрица Гессе положительно определена, то имеет место локальный минимум, если отрицательно определена, - локальный максимум.
Схема отыскания локального экстремума дважды непрерывно дифференцируемой функции:
1.
Составляется
система уравнений
.
2. Находятся
стационарные точки
функции.
3. Составляется
матрица Гессе
.
4. Для каждой
стационарной точки
вычисляется
,
устанавливается ее знакоопределенность
и делается вывод относительно наличия
и квалификации экстремума (минимум это
или максимум).