- •1. ОСНОВНЫЕ ПОНЯТИЯ
- •2.1. Формализация геометрической задачи
- •2.2. Аппроксимация экспериментальных данных
- •2.3. Выбор места расположения управляющей вычислительной машины на производстве
- •2.4. Выбор места расположения УВМ в производственном здании
- •2.5. Определение оптимальных настроек АСР
- •2.6. Распределение нагрузки между параллельными агрегатами
- •2.7. Оптимизация температурного режима реактора периодического действия
- •3. ОСНОВНЫЕ ПОНЯТИЯ АЛГЕБРЫ И АНАЛИЗА
- •3.1. Общие сведения о множествах
- •Рис.2. Графическое представление операций над множествами
- •3.2. Евклидово пространство
- •3.3. Функция нескольких переменных и ее свойства
- •4. ПОСТАНОВКА ЗАДАЧИ ОПТИМИЗАЦИИ В ЕВКЛИДОВОМ ПРОСТРАНСТВЕ. УСЛОВИЯ ОПТИМАЛЬНОСТИ
- •4.1. Целевая функция. Локальный и глобальный оптимумы
- •4.2. Разрешимость задачи оптимизации
- •4.3. Задачи оптимизации без ограничений
- •4.4. Задачи оптимизации с ограничениями типа равенств. Метод неопределенных множителей Лагранжа
- •4.5. Задачи с ограничениями типа неравенств
- •5. ВЫПУКЛЫЕ ЗАДАЧИ ОПТИМИЗАЦИИ
- •5.1. Постановка задачи
- •5.2. Условия оптимальности в выпуклых задачах
- •6. МЕТОДЫ РЕШЕНИЯ ОПТИМАЛЬНОЙ ЗАДАЧИ ДЛЯ ФУНКЦИИ ОДНОЙ ПЕРЕМЕННОЙ
- •6.1. Необходимые и достаточные условия экстремума функции одной переменной
- •6.2. Алгоритм аналитического метода
- •7. ИТЕРАЦИОННЫЕ МЕТОДЫ ОПТИМИЗАЦИИ
- •7.1. Алгоритм итерационного метода
- •7.2. Метод сканирования
- •7.3. Определение унимодальной функции
- •7.4. Метод дихотомии
- •7.5. Метод золотого сечения
- •7.6. Одномерный градиент
- •7.7. Методы полиномиальной аппроксимации
- •7.8. Метод Пауэлла
- •7.9. Метод ДСК
- •7.10. Метод квадратичной интерполяции
- •7.11. Метод кубической аппроксимации
- •7.12. Метод Фибоначчи
- •7.14. Методы поиска безусловного экстремума невыпуклых функций
- •7.15. Метод тяжелого шарика
- •8. ЗАДАНИЯ
- •8.1. Исследование функции на выпуклость (вогнутость)
- •8.2. Варианты задач безусловной оптимизации
- •8.3. Варианты задач условной оптимизации
- •9. КОНТРОЛЬНЫЕ ВОПРОСЫ
- •10. ЛИТЕРАТУРА
x2
a1x1+ a2x2 ≤ λ
O |
x1 |
Рис.3. Замкнутое пространство на плоскости
Пусть х' и х'' – две произвольные точки этого множества. Для них по условию выполнены неравенства
(а,х') ≥ λ, (а,х'') ≥ λ.
Тогда для любого t [0,1] будем иметь:
t(a,x') ≥ tλ; (1–t)(a,x'') ≥ (1–t)λ;
t(a,x')+(1–t)(a,x'') ≥ tλ + (1–t)λ; (a,tx' + (1–t)x'') ≥ λ.
Таким образом, отрезок, соединяющий точки х' и х'' принадлежит рассматриваемому множеству в силу произвольности t [0,1].
Пересечение выпуклых множеств представляет собой выпуклое множество.
3.3. Функция нескольких переменных и ее свойства
Функция f (x1, x2, …, xn), область определения которой представляет собой множество точек x пространства Rn
G= {(x1, x2 ,..., xn )} Rn ,
азначения являются действительными числами (U = {u} R) называется
25
функцией n переменных и обозначается
u = f (x), x G ,
или
u = f (x1,x2,…,xn ), где (x1,x2,…,xn) G
Функция f называется непрерывной в точке х0, если для любого ε > 0 существует δε > 0, что для любого x U(x0,δε) выполняется условие
|f (x) – f (x0)| < ε
и называется непрерывной на множестве G, если она непрерывна в каждой точке G .
Например, линейная функция
|
|
n |
f (x) = ∑ci xi + c0 |
||
|
|
i=1 |
и квадратичная функция |
|
|
n |
n |
n |
u = f (x) = ∑∑aij xi xj + ∑ci xi + c0 |
||
i=1 |
j =1 |
i=1 |
непрерывны на Rn.
Пусть х0 = (x10,x20,…,xn0) – фиксированная внутренняя точка множества G.
Функция f называется дифференцируемой в точке х0, если существует ее производная
df (x0 ) |
= lim |
f (x0 + |
x) − f (x0 ) |
< ∞ |
(3.12) |
dx |
|
x |
|||
x→0 |
|
|
|
Функция, дифференцируемая в каждой точке открытого множества G, называется дифференцируемой на множестве G (или просто дифференцируемой, если G=Rn).
Функция многих переменных f, имеющая в точке х0 (на множестве G) непрерывные частные производные первого порядка, называется непрерывно дифференцируемой в этой точке (на множестве G).
Функция f (x1, x2, …, xn) называется сепарабельной, если ее можно записать в виде суммы функций одной переменной f1(x1), f2(x2), …, fn(xn),
26
т.е.
f (x1, x2, …, xn) = f1(x1) + f2(x2) + … + fn(xn).
Например, линейная функция
h(x1, x2, …, xn) = a1x1 + a2x2 + … + anxn
(где все аi, i= 1,n – постоянные числа) является сепарабельной, а функция
h(x1, x2, x3) = x1 +sin(x2 + x3) + x2
сепарабельной не является. Вектор
|
∂f (x0 ) |
|
∂f (x0 ) |
|
∂f (x0 ) |
|
|
|
|
|
|
|
|
|
∂x |
, ∂x |
,..., ∂x |
|
||
|
1 |
2 |
|
n |
|
называется градиентом функции f в точке х0, обозначается символом f (x0) (читается: "набла эф от х0''), где
= ∂∂x1 , ∂∂x2 ,..., ∂∂xn
−символический оператор Гамильтона, и пишут
|
|
|
0 |
|
∂f (x0 ) |
|
∂f (x0 ) |
|
∂f (x |
0 ) |
|
|||
|
|
|
|
|
|
|||||||||
grad f |
|
0 = f (x |
|
) = |
|
, |
|
|
,..., |
|
|
|
|
(3.13) |
|
|
|
|
|
|
|
|
|||||||
|
x |
|
|
|
∂x |
|
∂x |
|
|
∂x |
n |
|
|
|
|
|
|
|
|
1 |
|
|
2 |
|
|
|
|
|
Вектор −f (x0) называется антиградиентом функции f в точке x0. Градиент функции f указывает направление наискорейшего возрастания, а антиградиент – направление наискорейшего убывания ее
значений в точке х0.
Функция f, заданная на выпуклом множестве G Rn, называется выпуклой, если x1x2 G и t [0,1] выполняется неравенство
f (tx1 + (1 −t)x2 ) ≤ tf (x1) + (1 −t) f (x2 ) |
(3.14) |
и называется вогнутой, если функция −f (противоположная функция) выпукла на множестве G.
27
Выпуклые функции определяются только на выпуклых множест-
вах.
В случае действительного аргумента x R функция f (x) называется выпуклой, если для любых х1 и х2 из интервала допустимых значений выполняется условие:
f ( |
x1 + x2 |
) ≤ |
f (x1 ) + f (x2 ) |
(3.15) |
|
2 |
|||
2 |
|
|
Геометрически условие (3.15) означает, что середина любой хорды графика функции f лежит либо над графиком, либо на нем.
Если неравенства (3.14), (3.15) выполняются, как строгие, то f – строго выпуклая функция.
Справедливы следующие утверждения.
1) Если функции f1,f2,…, fm выпуклы на выпуклом множестве G, то функция
m
f (x) = ∑ck fk (x),
k =1
где сk ≥ 0, k = 1,2, ...,m, выпукла на G.
2) Если функция выпукла на выпуклом множестве G, то α R множество
{ x G f (x) ≤α }
является выпуклым.
3) Пусть функция f непрерывно дифференцируема на выпуклом множестве G. Тогда f выпукла на G, следовательно
f (x2) ≥ f (x1) + ( f (x1), x2 – x1) x1,x2 G |
(3.16) |
Необходимое и достаточное условие выпуклости функции:
Если функция f дифференцируема на интервале, то для того, чтобы она была (строго) выпуклой на нем, необходимо и достаточно, чтобы ее производная возрастала (не убывала).
Таким образом, для выпуклости непрерывно дифференцируемой функции на некотором множестве G достаточно неотрицательной определенности ее матрицы вторых частных производных Гессе:
28
|
∂2 |
|
f (x) |
||
|
|
|
|
|
|
|
|
∂x2 |
|||
|
∂2 |
|
|
1 |
|
|
f (x) |
||||
|
|
|
|
|
|
Г(x) = |
∂x |
2 |
∂x |
||
|
|
|
|
1 |
|
|
|
L |
|||
|
∂ |
2 |
|
f (x) |
|
|
|
|
|||
|
∂x |
n |
∂x |
||
|
|
|
|
1 |
∂2 f (x)
∂x1∂x2
∂2 f (x)
∂x22
L
∂2 f (x)
∂xn ∂x2
L∂2 f (x) ∂x1∂xn
∂2 f (x)
L∂x2∂xn
LL
L∂2 f (x)
∂xn2
При исследовании на знакоопределенность матрицы Г вторых производных целесообразно использовать критерий Сильвестра.
Главным угловым минором k-го порядка некоторой квадратной матрицы называют определитель матрицы, составленной из первых k строк и первых k столбцов исходной матрицы.
Критерий Сильвестра:
Симметричная матрица является:
а) положительно определенной тогда и только тогда, когда все ее главные угловые миноры положительны;
б) отрицательно определенной, когда все ее главные угловые миноры нечетного порядка отрицательны, а четного – положительны;
в) при любом другом сочетании знаков миноров стационарная точка является седловой. Если хотя бы один из миноров равен нулю, то для определения характера экстремума следует использовать другие критерии.
Пример 2:
Исследовать функцию f = x12 x22 на выпуклость на множестве X = R2. Решение:
∂f |
|
∂f |
|
|
|
|
∂ |
2 |
f |
|
∂ |
2 |
f |
|
|
∂ |
2 |
f |
|
∂ |
2 |
f |
|
2 0 |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
= 2x1 ; |
|
|
|
= 2x2 ; |
|
= 2; |
|
|
|
|
= |
|
|
|
= 0; |
|
|
= 2; Г = |
0 2 |
. |
||||||||
∂x |
∂x |
2 |
∂x2 |
∂x |
|
∂x |
2 |
∂x |
2 |
∂x |
|
∂x2 |
|||||||||||||||||
1 |
|
|
|
|
|
|
|
1 |
|
|
1 |
|
|
|
|
1 |
|
|
|
|
2 |
|
|
|
|||||
|
Главные угловые миноры матрицы Г: |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
M |
1 |
= |
∂2 f |
|
= 2 > 0; M |
2 |
= det(Г) = 2 2 −0 |
0 = 4 > 0. |
|
|
|||||||||||||||||
|
|
∂x2 |
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Главные угловые миноры положительно определены, значит данная функция выпукла.
29