- •1. ОСНОВНЫЕ ПОНЯТИЯ
- •2.1. Формализация геометрической задачи
- •2.2. Аппроксимация экспериментальных данных
- •2.3. Выбор места расположения управляющей вычислительной машины на производстве
- •2.4. Выбор места расположения УВМ в производственном здании
- •2.5. Определение оптимальных настроек АСР
- •2.6. Распределение нагрузки между параллельными агрегатами
- •2.7. Оптимизация температурного режима реактора периодического действия
- •3. ОСНОВНЫЕ ПОНЯТИЯ АЛГЕБРЫ И АНАЛИЗА
- •3.1. Общие сведения о множествах
- •Рис.2. Графическое представление операций над множествами
- •3.2. Евклидово пространство
- •3.3. Функция нескольких переменных и ее свойства
- •4. ПОСТАНОВКА ЗАДАЧИ ОПТИМИЗАЦИИ В ЕВКЛИДОВОМ ПРОСТРАНСТВЕ. УСЛОВИЯ ОПТИМАЛЬНОСТИ
- •4.1. Целевая функция. Локальный и глобальный оптимумы
- •4.2. Разрешимость задачи оптимизации
- •4.3. Задачи оптимизации без ограничений
- •4.4. Задачи оптимизации с ограничениями типа равенств. Метод неопределенных множителей Лагранжа
- •4.5. Задачи с ограничениями типа неравенств
- •5. ВЫПУКЛЫЕ ЗАДАЧИ ОПТИМИЗАЦИИ
- •5.1. Постановка задачи
- •5.2. Условия оптимальности в выпуклых задачах
- •6. МЕТОДЫ РЕШЕНИЯ ОПТИМАЛЬНОЙ ЗАДАЧИ ДЛЯ ФУНКЦИИ ОДНОЙ ПЕРЕМЕННОЙ
- •6.1. Необходимые и достаточные условия экстремума функции одной переменной
- •6.2. Алгоритм аналитического метода
- •7. ИТЕРАЦИОННЫЕ МЕТОДЫ ОПТИМИЗАЦИИ
- •7.1. Алгоритм итерационного метода
- •7.2. Метод сканирования
- •7.3. Определение унимодальной функции
- •7.4. Метод дихотомии
- •7.5. Метод золотого сечения
- •7.6. Одномерный градиент
- •7.7. Методы полиномиальной аппроксимации
- •7.8. Метод Пауэлла
- •7.9. Метод ДСК
- •7.10. Метод квадратичной интерполяции
- •7.11. Метод кубической аппроксимации
- •7.12. Метод Фибоначчи
- •7.14. Методы поиска безусловного экстремума невыпуклых функций
- •7.15. Метод тяжелого шарика
- •8. ЗАДАНИЯ
- •8.1. Исследование функции на выпуклость (вогнутость)
- •8.2. Варианты задач безусловной оптимизации
- •8.3. Варианты задач условной оптимизации
- •9. КОНТРОЛЬНЫЕ ВОПРОСЫ
- •10. ЛИТЕРАТУРА
В обобщенной задаче минимизации
f (x) → inf, x G
под решением понимают не отдельную точку, как это имеет место в обычной задаче оптимизации, а последовательность точек
{xk }∞k =1, |
xk G , |
k = 1,2, ..., |
такую, что |
|
|
lim f (xk ) = inf |
f (x) = f 0 . |
|
k →∞ |
x G |
|
Эта последовательность всегда существует и называется минимизирующей последовательностью.
Таким образом, обобщенная задача минимизации целевой функции f на множестве G заключается в отыскании числа f 0 и последова-
тельности |
|
|
{xk }∞k =1, xk G , |
k = 1,2, ..., |
|
таких, что выполняются равенства |
|
|
lim f (xk ) = f 0 |
, f 0 |
= inf f (x) . |
k →∞ |
|
x G |
Если
inf f (x) = −∞,
x G
то искомая последовательность удовлетворяет условию
lim f (xk ) = −∞.
k →∞
4.3. Задачи оптимизации без ограничений
Рассмотрим задачу безусловной минимизации
f (х) → min, х Rn.
Имеет место следующее утверждение, которое представляет собой обобщение известной из математического анализа теоремы Ферма
34
(4.2) на случай функции n переменных.
Теорема 4.2:
Пусть функция u = f (x), х Rn дифференцируема в точке х0. Для того, чтобы х0 была точкой локального минимума функции f, необходимо, чтобы ее дифференциал обращался в нуль при х=x0:
f (х0) = 0n , |
(4.4) |
т.е. градиент должен являться нуль-вектором.
Так как точка глобального минимума является и точкой локального минимума функции, то равенство (4.4) представляет собой также необходимое условие того, чтобы х0 была точкой глобального минимума в задаче без ограничений.
В соответствии с теоремой 4.2, дифференцируемая функция f может иметь локальный (значит, и глобальный) минимум в задачах без ограничений только в точках, где градиент является нуль-вектором. Следовательно, решение задачи безусловной минимизации функции f следует искать среди решений векторного уравнения (4.4), которое в координатной форме представляет собой систему уравнений
∂f (x) |
= 0, i =1,2,..., n. |
(4.5) |
|
||
∂xi |
|
Решения этой системы называются стационарными точками функции f. Если известно, что множество стационарных точек конечно, то, сравнивая значения функции f в них, может быть найдена точка ее глобального минимума.
Следует, однако, заметить, что решение системы уравнений (4.5) не всегда возможно аналитически, в этом случае ее решают численными методами.
Условие (4.4) не является достаточным для наличия в стационарной точке х0 локального минимума. Это означает, что стационарная точка может оказаться точкой локального или глобального максимума или являться седловой точкой A (рис.5), где в одном направлении функция возрастает, а в другом убывает.
35
A
Рис.5. Седловая точка А
В этом легко убедиться на следующем примере. Пусть f (x)=x1 x2. Тогда
∂f (x) |
= x |
2 |
, |
∂f (x) |
= x . |
|
|
||||
∂x1 |
|
1 |
|||
|
|
∂x2 |
В точке x0 = (0,0):
∂f (x0 ) = ∂f (x0 ) = 0,
∂x1 ∂x2
следовательно:
f (x0 ) = 02
и, кроме того,
f (02 ) = 0 .
Однако здесь при любых х1 ≠ 0 и х2 ≠ 0 имеем x1 x2 > 0, если х1, х2 одинаковых знаков, и x1 x2 < 0, если х1, х2 противоположных знаков, т.е. значение f (02) = 0 не является наименьшим ни в какой окрестности точки (0,0). А это по определению означает, что точка (0,0) не является точкой минимума данной функции.
Следующее утверждение устанавливает достаточные условия существования локального минимума в стационарных точках [8].
36
Теорема 4.3:
Для того чтобы дважды непрерывно дифференцируемая функция f (x), х Rn, имела в стационарной точке х0 локальный минимум достаточно, чтобы квадратичная форма была положительно определена, т.е. Выполнялось неравенство
n n |
∂ |
2 |
f (x |
0 |
) |
|
∑∑ |
|
|
dxidx j >0 , |
|||
∂xi∂xj |
|
|||||
i =1 j =1 |
|
|
для dx = (dx1 , dx2 ,..., dxn ) Rn и dx ≠ 0n.
Пример 3:
Проиллюстрируем вышеизложенное на следующей задаче: найти точки экстремума функции
u = f (x) = |
x2 |
+ x22 → extr, |
|
|
1 |
для х R2. |
|||
2 |
||||
|
|
|
Из необходимых условий (4.5) имеем:
∂f (x) |
= x , |
∂f (x) |
= 2x . |
|
|
||
1 |
2 |
||
∂x1 |
∂x2 |
Следовательно, х0 = (0,0) – стационарная точка. Частные производные второго порядка данной функции имеют вид
|
|
|
|
∂2 f |
(x) |
=1, |
∂2 f (x) |
= |
∂2 f |
(x) |
= 0, |
∂2 f (x) |
= 2. |
|||
|
|
|
|
|
∂x |
∂x ∂x |
2 |
∂x |
∂x |
∂x2 |
||||||
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
1 |
|
1 |
|
2 |
1 |
|
2 |
|
|
Отсюда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
2 |
2 |
2 |
(x |
0 |
) |
|
|
|
|
|
|
|
|
|
|
|
∑∑ |
∂ f |
|
dxidxj = dx12 + 2dx22 >0 x = (dx1, dx2 ) R2 и dx ≠ 02. |
|||||||||||||
∂x |
∂x |
j |
|
|||||||||||||
i=1 |
j =1 |
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
Согласно теореме 4.3 получим: (0,0) – точка минимума. Отметим, что графиком рассматриваемой функции является эллиптический параболоид с вершиной в точке (0,0).
37