Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы оптимизации. В 2 частях. Ч.1. Учебное пособие
.pdf
Алгоритм называется ε-приближенным, если выполняется нера-
c
f x
,
a b
,
Q a b
f x
x S
f x
f x
,
a b
,
a b
1
x
2
x
a x x b
1
a x
1
,
a x
x b
,
x b
1 2
,
x x x
f x f f x
1
,
a x
1 2
,
x x
,
x b
f x
,
a b
f x
венство
Унимодальные функции. Многие методы оптимизации приме-
нимы только тогда, когда целевая функция
дальной, т. е. любой локальный минимум ЦФ одновременно является
и глобальным.
Множество функций, унимодальных на отрезке
.
Существование локальных минимумов
лютного, почти всегда затрудняет поиск точки экстремума
поэтому многие приближенные методы применимы тогда, когда
любой локальный минимум функции
и глобальным. Одним из классов функций, удовлетворяющих этому
условию, составляют унимодальные функции.
.
является унимо-
, обозначим
, отличных от абсо-
*
является одновременно
,
Определение. Функция
ке
причем
стает;
отрезков
и вырождения в точку отрезков монотонности и постоянства унимо-
дальных функций представлены на рисунке 1.2.
, если она непрерывна на
1 2
– если
– если
– при
Отметим, что возможно вырождение в точку одного или двух из
Очевидно, что в некоторых вырожденных случаях ЦФ
, то на отрезке
2
,
, такие, что:
, то на отрезке
имеем
и
2
называется унимодальной на отрез-
и существуют числа
функция монотонно убывает;
функция монотонно возра-
2
. Некоторые варианты расположения
min
x a b
.
,
и
,
не является дифференцируемой на отрезке
Для проверки унимодальности функции
но используют следующие критерии:
.
на практике обыч-
11
– если функция
f x
,
a b
f x
,
f x Q a b
f x
,
a b
0
,
x a b
,
f x Q a b
f x
f x
,
a b
1 2 1 2
f x x f x f x
, ,
x x a b
0,1
дифференцируема на отрезке
и про-
изводная
– если функция
и вторая производная
a x1 x2 b
не убывает на этом отрезке, то
;
дважды дифференцируема на отрезке
f x
при
, то
a x1 = x2 b
.
a x1 = x2 = b a = x1 = x2 b
Рисунок 1.2 — Примеры унимодальных функций
Если эти критерии не выполняются, то функция
мультимодальной или многоэкстремальной.
Выпуклые и вогнутые функции. Функция
пукла вниз») на
для произвольных
, если справедливо неравенство Иенссена
1 1
1 2
и
.
является
выпукла («вы-
(1.5)
12
Геометрически это означает, что все точки функции
f x
,
x a b
1 2
f x f x
, [ , ]
x x a b
f x
,
a b
0
,
x a b
f x
n
D R
f i j
H x f x x x
x D
f x
F x f x
f x
F x
0
H x H x
для
всех
точек
все угловые миноры матрицы Гессе — матрицы вторых производных
1 2
На практике обычно используют следующие критерии:
1. Одномерный случай: дважды дифференцируемая функция
выпукла на
;
2. Многомерный случай (критерий Сильвестра): если функция
дважды дифференцируема на выпуклом множестве
выпукла на множестве D.
Если
лежат ниже прямой
.
, если вторая производная
2
, и при этом функция
— положительны при
для любых
1
f x
является выпук-
при всех
, то функция
и
лой, то функция
утверждение также верно. Соответственно, для одномерного случая
вторая производная вогнутой функции
случая учитываем, что при изменении знака функции меняются также
знаки всех элементов матрицы Гессе:
будет вогнутой («выпуклой вверх»). Обратное
f x
F f
а
. Для многомерного
.
б
Рисунок 1.3 — Пример (а) выпуклой и (б) вогнутой функции
13
Вопрос. Какими будут знаки угловых миноров вогнутой функ-
0,1
1 2
x x
,
f x x a x b x c
,2f x x Ax b x c
n n
grad ,
.ff x Ax b
n
R
ции?
Функция называется строго выпуклой, если неравенство (1.5)
является строгим для всех
Квадратичные функции. Во многих задачах оптимизации рас-
сматриваются функции вида
или, в матричном виде,
где x и b есть вектор-столбцы размерности n; A — симметричная
матрица
Градиент и матрица Гессе функции (1.6) равны, соответственно,
; c — константа.
и
n n n
1 1 1
i j j
i ij j j j
1
T T
H x A
.
(1.6)
Таким образом, для того чтобы функция (1.6) была выпуклой
в
тельны;
тельны.
матрицы A — необходимо и достаточно, чтобы все угловые миноры
матрицы A были положительны, т. е.
, достаточно, чтобы матрица A была положительно определена.
Критерии определенности матриц (теорема Сильвестра).
Положительная определенность:
– все диагональные элементы матрицы должны быть положи-
– все ведущие главные определители должны быть положи-
Положительная полуопределенность:
– все диагональные элементы неотрицательны;
– все главные определители неотрицательны.
Главный определитель — это определитель главного минора.
Для положительной определенности квадратичной формы —
14
0, 0, , 0.
a a
A A
0, , 1 0.
f x
n
x R
grad ( ) 0.
x x
f x
grad ( )
x x
a A
1 11 2
11 12
a a
21 22
n
Соответственно, если у положительно определенной матрицы
изменить знаки всех элементов (
), то она станет отрицательно
определенной. Если это сделать для положительно полуопределенной
матрицы, то она станет отрицательно полуопредеоенной.
Для отрицательной определенности матрицы A необходимо и
достаточно, чтобы знаки угловых миноров матрицы A чередовались,
начиная с отрицательного, т. е.
a a
a
1 11 2
a a a
a a a A
3 21 22 23
a a a
0, 0,
11 12 13
31 32 33
11 12
a a
21 22
n
n
Вопрос. Каким будет критерий отрицательной полуопреде-
ленности матрицы?
Стационарной точкой функции
, где
, называется
такая точка x, в которой функция непрерывна, а ее градиент обращается в ноль:
Критический точкой функции
f x
, или подозрительной на
экстремум точкой, называется точка x, которая либо является
стационарной, либо градиент в которой
f x
не существует (т. е. имеет разрыв). Другими словами, это точка, в которой функция непрерывна, а градиент равен нулю или имеет разрыв.
Для функций скалярного аргумента, соответственно, исследуют
производную, а не градиент.
Если критическая точка не соответствует локальному экстремуму
(минимуму или максимуму), то она является седловой точкой.
15
Пример 1. Дана функция
1 2 1 2 1 2
f x x x x x x x
T
0,2; 0,6
T
0,2; 0,6
0
grad .
0
T
0,2; 0,6
2 1
.
1 2
2 0
2 2 1 1 5 0
T
0,2; 0,6
1 2 1 2 1 2
f x x x x x x x
T
1/ 3; 1/ 3
T
1/ 3; 1/ 3
0
grad .
0
T
1/ 3; 1/ 3
2 2
. Класси-
фицировать точку
Решение. Вычислим градиент функции в точке
Таким образом, точка
x .
2 1
x x
f x
1 2
2 1
x x
1 2
x является подозрительной
x
0,2
0,6
x :
на экстремум. Для того, идентифицировать эту точку, т. е. определить, является ли она точкой максимума (минимума) или седловой
точкой, вычислим матрицу Гессе:
2 2
H
f f
2
x
1
2 2
f f
x x
2 1
x x
1 2
x
2
2
Минор первого порядка
2
. Следовательно, матрица Гессе не является
1
, минор второго порядка
ни положительно определенной, ни отрицательно определенной.
Поэтому точка
Пример 2. Дана функция
фицировать точку
Решение. Вычислим градиент функции в точке
Таким образом, точка
x является седловой точкой.
2 2
x .
x :
2 1
x x
1 2
2 1
x x
1 2
x
1/3
1/3
f x
x является стационарной.
. Класси-
Для того, идентифицировать эту точку, вычислим матрицу Гессе:
16
2 2
2 1
.
1 2
2 0
2 2 1 1 3 0
T
1/ 3; 1/ 3
1 2 1 2 1 2
f x x x x x x x
T
1;1
T
1;1
0
grad ,
0
T
1;1
2 1
.
1 2
2 0
2 2 1 1 3 0
T
1;1
H
f f
2
x
1
2 2
f f
x x
2 1
x x
1 2
x
2
2
Минор первого порядка
2
. Следовательно, матрица Гессе является поло-
1
жительно определенной. Поэтому точка
точкой минимума.
Пример 3. Дана функция
фицировать точку
x .
2 2
Решение. Градиент функции в точке
2 1
x x
1 2
2 1
x x
1 2
т. е. точка
f x
x является стационарной. Идентифицируем эту
, минор второго порядка
x является
. Класси-
x равен
1
x
1
точку:
2 2
Имеем
1
H
f f
2
x
1
2 2
f f
x x
2 1
,
2
x x
1 2
x
2
2
. Следовательно,
матрица Гессе является отрицательно определенной. Поэтому точка
x является точкой максимума.
17
1.2 Постановка и классификация задач оптимизации
1
min, ,
f x x R
0,
K J
1
x D R
Для того чтобы использовать математические результаты и численные методы теории оптимизации для решения конкретных инженерных задач, необходимо:
1. Установить свойства границы подлежащей оптимизации инже-
нерной системы или объекта.
2. Построить математическую модель системы.
3. Составить целевую функцию. Иногда удается подставить в целевую функцию математическую модель и получить явную зависимость ЦФ от управляющих воздействий, т. е. возможных стратегий
управления системой. В остальных случаях математическая модель
выступает в роли ограничений на управление.
4. Определить критерий оптимальности — как правило, требование экстремума ЦФ по управляющим воздействиям при наличии ограничений.
5. Выбрать или построить оптимизационный алгоритм и решить
экстремальную задачу.
Корректная постановка задачи служит ключом к успеху оптимизационного исследования. Искусство постановки задачи постигается
в практической деятельности на примерах успешно реализованных
алгоритмов и основывается на четком представлении преимуществ,
недостатков и специфических особенностей различных методов оптимизации.
Значительный интерес представляет деление задач оптимизации
по виду целевой функции и ограничений, поскольку специфические
особенности тех или иных задач играют важную роль при разработке
методов и их решений.
Задача одномерной оптимизации без ограничений (безусловная
оптимизация):
(1.7)
ограничения отсутствуют, т. е. в задаче (1.1)
18
или
,x
.
Задача многомерной оптимизации без ограничений (безуслов-
или , , 1,2,..., .
x D R x i n
0, 1,2,..., ;
0, 1,2,..., ;
, 1,2,..., ,
g x j J
h x k K
a x b i n
g x
h x
min,
, 1,2,..., ;
a x b i m
j
x
, 1,2,..., .
x Z j n
ная оптимизация):
f x x R
min, ,
n
K J
0,
(1.8)
n
i
Задача оптимизации с ограничениями (условная оптимизация):
f x
min,
j
k
i i i
(1.9)
т. е. компоненты вектора x ограничены сверху и снизу.
Задача условной оптимизации с линейными ограничениями.
Функции-ограничения
и
j
k
в задаче (1.9) являются линей-
ными, а целевая функция может быть либо линейной, либо нелинейной.
Задача линейного программирования (ЗЛП):
f x c x
n
1
j
x j n
j
n
j j
1
j
ij j i
0, 1,2,..., ,
(1.10)
т. е. и целевая функция, и ограничения являются линейными функциями переменных
.
Задача целочисленного программирования (ЗЦП). В задаче ЛП
(1.10) компоненты вектора x принимают только целые значения:
j
19
Задача нелинейного программирования с линейными ограниче-
f x
f x
f x
min,
min.
1
x R
*
x
0
*
f x
0
f x
ниями. Целевая функция
линейные функции. Оптимизационные задачи такого рода можно
классифицировать на основе структурных особенностей нелинейных
целевых функций.
Задача квадратичного программирования. Найти минимум
, где целевая функция
f x x Qx c x d
n
Задача дробно-линейного программирования. Целевая функция
j
x j n
a x b i m
ij j i
1
0, 1,2,..., ,
j
— нелинейная, а все ограничения —
является квадратичной:
1
T T
2
, 1,2,..., ;
(1.11)
есть отношение линейных функций:
n
c x c
1
j
Здесь приведены лишь некоторые классы ЗО. Остальные описаны
далее, в соответствующих разделах учебника.
f x
n
d x d
1
j
j j
j j
0
(1.12)
0
1.3 Необходимые и достаточные условия
существования экстремума
1. Скалярный случай (
Сформулируем необходимое условие экстремума функции ска-
).
лярного аргумента. Если в точке
*
является критической, т. е.
Необходимое условие перегиба функции скалярного аргумента
в точке x — вторая производная
20
f x
имеется экстремум, то эта точка
или
f x
или
не существует.
не существует.
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]