Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория и методы оптимизации. Учебное пособие
.pdf
Задачи
оптимизации
Дискретное
программирование
1
Целочисленное
программирование
4а
Условная
оптимизация
2
Одномерная
оптимизация
4b
Безусловная
оптимизация
4c‐b
Непрерывное
программирование
3
Многомерная
оптимизация
4c
Условнаясограниче‐
ниямиIиIIрода
4c‐c
Линейное
программирование
Нелинейное
программирование
Рис. 1.3. Классификация задач оптимизации
2. По критерию размерности допустимого множества параметров D.
Задачи оптимизации по этому критерию делятся на задачи одномерной
и многомерной оптимизации.
3. По критерию наличия или отсутствия ограничений на допустимое множество
D. Различают задачи условной (constrained) и безуслов-
ной (unconstrained) оптимизации. Этот признак классификации имеет
место как для одномерных, так и для многомерных задач оптимизации.
4. По характеру ограничений. Различают детерминированную оптимизацию и стохастическую. Если множество допустимых значений
включает случайные компоненты, то имеет место стохастическое программирование. При этом стохастическая оптимизация может относить-
и к дискретной задаче.
ся
11
5. По виду целевой функции и виду ограничений. Различают ли-
f
x
K
f
f
x
K
x
f
j
x
нейное и нелинейное программирование.
Задача линейного программирования содержит линейную целевую
функцию, ограничения в задаче также линейны.
При нарушении линейности целевой функции или ограничений
имеет место нелинейная задача оптимизации. Классификация задач нелинейного программирования в основном определена видом целевой
функции и приведена
на рис. 1.4.
Ниже представлены постановки основных задач оптимизации в соответствии с рис. 1.3.
Задача одномерной безусловной оптимизации
min ( )
Ограничения отсутствуют, 0
x ,
J
1
R. (1.4)
,
DR
1
, т. е. задача без огра-
ничений с одномерным вектором. Вид ()
x произвольный.
Задача многомерной безусловной оптимизации
min ( )
Ограничений нет, 0
J,
x ,
DR
n
R
, [,].
Задача условной многомерной оптимизации
min ( )
() 0
hx
k
gx , 1,
() 0
j
D
x ; (1.6)
, 1, kK ;
J ;
, 1, iN .
Задача линейного программирования
n
() min
Fx c x
n
ax bi mx
1
j
jj
j
1
.
ij j i j
, 1, , 0
n
. (1.5)
()fx – любого вида.
; (1.7)
Целевая функция – линейна, ограничения тоже линейны.
Наиболее известные классические задачи линейного программирования: транспортная задача, задача о диете и другие.
Задача целочисленного программирования
В задачах целочисленного программирования компоненты вектора
{x} принимают только целые значения. Известны классические задачи
целочисленного программирования: задача о коммивояжере, раскраски
графов, теории расписания.
12
Задача нелинейного программирования
x
x
x
Нелинейное
программирование
Классические
методы
Прямые
методы
Симплекс‐методы
Выпуклое
программирование
Квадратичное
программирование
Специальные
методы
Динамическое
программирование
Сепарабельные
функции
Градиентные
методы
Рис. 1.4. Классификация задач нелинейного программирования
Особо развито выпуклое и квадратичное программирование.
Приведенная классификация сделана по виду нелинейности целевой
функции, при этом предполагалось, что ограничения ()
min ( );
Fx
() 0, 1, ;
i
() 0, 1, .
i
im
im
13
(1.8)
– линейны.
1.5.Анализэкстремальныхзадач.
f
x
f
x
f
f
f
Условиясуществованияэкстремума
Определение. Функция ()
гает своего глобального min в точке *
Замечание. Если же можно указать ε – окрестность точки *
которой выполняется условие (*) ()
x имеет на множестве D локальный min. Локальных экстремумов на
()
x , определенная на множестве D, дости-
D в том и только том случае, если
xfxxD
(*) (),
.
xfx, то говорят, что функция
, в
интервале D может быть несколько.
Определение. Функция
()fxR является унимодальной на отрез-
ке axb, если любой её локальный min на отрезке
1
[,]ab одновре-
менно является и глобальным.
Из определения унимодальной функции не следует правила проверки этого свойства функций. Однако в теории оптимизации можно
выделить важный класс унимодальных функций – класс вогнутых и выпуклых функций, которые допускают такую проверку.
f(x)
f(x1)
λ·f(x1) + (1 – λ) · f(x2)
f(x2)
f [λ · x1 + (1 – λ) · x2]
x
λ·x1 + (1 – λ) · x2
Рис. 1.5. Геометрическая иллюстрация неравенства Иенсена
Определение: функция ()
x , определенная на интервале [,]ab , на-
x2 x1
зывается выпуклой (выпуклая вниз функция) тогда и только тогда, ко-
14
гда для любых двух точек
x
f
x
f
f
f
x
x, [ , ]
12
ab выполняется неравенство Иен-
сена
f[λ · x1 + (1 – λ) · x2] ≤ λ · f(x1) + (1 – λ) ·f(x2), [0,1]
. (1.9)
То есть прямая, соединяющая две точки f(x
всех значений функции f(x) при x[x
, x2].
1
) и f(x2), лежит выше
1
Геометрическая иллюстрация неравенства Иенсена приведена на
рис. 1.5.
Свойствавыпуклыхфункций
1. Хорда, соединяющая две любые точки выпуклой функции, про-
ходит выше графика функций в интервале между этими точками.
2. Производная '( )
растает (или по крайней мере не убывает) при увеличении [,]
3. ''( ) 0, [ , ]
xxab.
4. Для выпуклой функции локальный экстремум всегда является
глобальным.
5. Функция ()
[,]ab
тогда и только тогда, когда ()fx есть выпуклая функция на этом
интервале.
6. Касательная в любой точке интервала [,]ab лежит ниже графика
функции ()
x .
x (или тангенс угла наклона касательной) воз-
ab .
x является вогнутой (выпуклой вверх) на интервале
На практике обычно для проверки выпуклости функции (а следовательно и свойства унимодальности) проверяют выполнение свойств 2 и 3.
При выполнении этих свойств функция имеет 1 экстремум, при невыполнении – несколько экстремумов, т. е. функция является мультимодальной.
Свойство унимодальности – весьма важное свойство функций.
Многие методы оптимизации применимы только для унимодальных
функций. Для
многоэкстремальных функций стратегия поиска глобального оптимума сводится к перебору всех локальных экстремумов и выделению среди них глобального.
Определение. Стационарной точкой функции
точка
*
x , в которой
()
df x
dx
*
xx
()fxR называется
. (1.10)
0
1
Существует несколько видов стационарных точек, графическая иллюстрация которых приведена на рис. 1.6. Из рисунка видно, что только
для унимодальных функций стационарная точка определяет глобальный
максимум или минимум.
15
Рис. 1.6. Типы стационарных точек
x
f
x
f
x
x
x
x
x
x
f
f
f
Сформулируем необходимые и достаточные условия существования экстремума функции
1
R .
Теорема (необходимые условия экстремума).
Для того чтобы дифференцируемая на [,]ab функция ()
x имела в
точке *[,]
ab локальный экстремум, необходимо, чтобы точка *x яв-
лялась стационарной, т. е.
x
'( *) 0
.
Теорема (достаточные условия экстремума).
Пусть в точке *
(n – 1)-е производные функции ()fx обраща-
ются в нуль, а производная n-го порядка отлична от нуля. Тогда:
если n – нечетное => *
если n – четное => *
– точка перегиба;
– точка локального экстремума.
Кроме того:
если эта производная > 0 → *
если эта производная < 0 → *
– локальный минимум;
– локальный максимум.
Методиканахожденияэкстремуманаинтервале
1. Найти стационарную точку *
'( *) 0
x .
Проверить значение функции в граничных точках интервала и в
2.
стационарной точке: ( ), ( ), ( *)
3.
Проверить знак ''( *)
afbfx.
x для оценки типа экстремума.
функции из решения уравнения
16
Пример 2
x
f
x
Найти экстремум (максимум) функции
() 3 9 10, [2,4]fx x x x x .
1.
df
2
369
dx
2. (2)12, (4)30, (3)37, (1)5 *3
fff x .
3. Оценим вид экстремума
32
x
12
3, 1xx
.
2
df
dx
2
x
66 120
x
3
.
Следовательно, * 3
2
4.
df
2
dx
66 120
x
– глобальный максимум.
.
1
x
Приведенное на рис. 1.7 графическое решение совпадает с аналитическим.
Рис. 1.7. Графическая оценка экстремума функции
1.6.Характеристикиалгоритмовоптимизации
Прежде чем приступить к решению конкретной задачи оптимизации,
следует выполнить переход от содержательной постановки задачи к формализованной. Следующий этап решения – выбор метода оптимизации.
Для целенаправленного выбора алгоритма необходимо сопоставить алгоритмы и методы оптимизации по определенной группе характеристик.
Поэтому весьма важен выбор определенных сравнительных характеристик алгоритмов среди большого количества
возможных.
Основными характеристиками численных алгоритмов являются:
трудоёмкость вычислений;
сходимость алгоритма;
устойчивость метода к погрешностям в вычислениях;
чувствительность метода к параметрам алгоритма;
эффективность алгоритма.
17
Большинство методов оптимизации носит итерационный характер.
x
x
x
x
x
x
x
x
x
Итерационные методы имеют ряд особенностей. Выделим основные.
1. Вычисления осуществляются по одной и той же итерационной
(повторяющейся) формуле
nn
1
()
x
, то есть каждое последующее
приближение к оптимуму определяется через предыдущее.
2. Для начала итерационного процесса необходимо задание началь-
ного приближения
3. Итерационный процесс бесконечен
ва необходима точность вычисления решения
.
0
{ , , ..., }
xx
01
. Для его остано-
n
и правило (формула) ос-
танова.
4. Важнейшая характеристика итерационного процесса – количест-
во итераций (шагов)
n для получения решения с заданной точностью.
Чем шагов меньше, тем быстрее может быть получен результат и тем
привлекательнее метод.
Именно эти особенности итерационных методов определяют перечисленные выше характеристики алгоритмов оптимизации. Рассмотрим
основные из них.
Сходимость алгоритма
Наиболее важный показатель метода оптимизации. Эта величина
определяет, как быстро на каждой итерации уменьшается расстояние до
точного значения корня
Различают сходимость
ная сходимость означает, что при любом выборе начальной точки
последовательность
xT – x
.
n
глобальную и асимптотическую. Глобаль-
()
x
nn
сходится к точке, удовлетворяющей не-
1
0
обходимым условиям оптимизации.
Иногда для унимодальных функций под глобальной сходимостью
понимают попадание
xxв окрестность стационарной точки *
01
n
.
{ , , ..., }
Под асимптотической сходимостью понимается поведение последовательности
xx в окрестности предельной точки *
01
n
. Это
{ , , ..., }
приводит к тому, что каждому алгоритму приписывается некоторый индекс эффективности, называемый скоростью сходимости r.
т
xx
n
C
т
xx
r
1
n
, (1.11)
где C – некоторая конечная ненулевая константа; показатель степени r и
называют скоростью сходимости.
Наиболее распространены случаи линейной и квадратичной сходимости, соответственно r = 1 – линейная и r = 2 – квадратичная сходимости.
Методы более высокой скорости сходимости встречаются редко.
18
Замечание 1. При решении практических задач, когда *
x
x
x
T
вестно, его заменяют последним значением x
. Тогда, используя зна-
n+1
неиз-
чение заданной точности нахождения оптимума ε, получают такую
оценку скорости сходимости:
Скорость сходимости – важнейший показатель итерационных алгоритмов и методов. Однако для оценки эффективности выбранных методов оптимизации можно использовать также такие характеристики:
время получения результата;
точность решения;
чувствительность алгоритма к изменению параметра сходимости.
. (1.12)
x
1nn
1.7.Критерииостановаитерационныхметодов
Процесс нахождения оптимального решения чаще всего имеет итера-
{,,..., }
ционный характер, т. е. последовательность
xx x стремится
01
n
к точному решению при увеличении количества итераций n.
T
x
x
0
x1 x
2
x
n–1
xn
Рис. 1.8. Иллюстрация сходимости итерационных методов
Весьма важным элементом всех итерационных методов является
критерий (правило) останова итерационного процесса. Именно критерий определяет точность достижения решения, а соответственно и эффективность метода.
Наиболее
1.
2.
3.
распространены следующие критерии останова.
xx
1 nn
fx fx
))((
1
nn
()
fx
. (1.11а)
. (1.11б)
. (1.11в)
x
x
n
19
Следует отметить, что, как видно из рис. 1.8, на n-й итерации про-
х
изошел останов итерационного процесса вычисления корня по определенному правилу. При этом точного решения x
Т
достигнуть не удалось.
Итерационная процедура позволила найти приближенное значение решения, но при любом численном решении существует погрешность вы-
числения
T
х . Это особенность и общее свойство всех итерацион-
n
ных методов.
20
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]