Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Исследование операций и методы оптимизации. Элементы выпуклого и динамического программирования. Учебное пособие
.pdf
Следствие1. Если функция f: Rn → R определена и непрерывна на выпуклом
1
2
3
4
5
6
7
замкнутом множестве M, то она вогнута (выпукла) на M, если и только если
f(0,5(x1 + x2)) ≥ (≤) 0,5(f(x1) + f(x2)) для всех x1 и x2 из M.
Теорема 2.12 (о непрерывности и дифференцируемости по направлению)2.
Если функция выпукла (вогнута) на множестве M, то в любой внутренней точке
этого множества она непрерывна и имеет производную по любому направлению.
2.2.3. Свойства дифференцируемых выпуклых и вогнутых функций
Теорема 2.133. Пусть функция f: Rn → R дифференцируема на непустом
выпуклом множестве M Rn, {x, y} M.
Если f выпукла на M, то f '(x), y – x ≤ f(у) – f(x) ≤ f '(y), y – x.
Если f вогнута на M, то f '(x), y – x ≥ f(у) – f(x) ≥ f '(y), y – x.
Теорема 2.14 (признаки выпуклости/вогнутости дифференцируемых
функций). Пусть функция f: Rn → R дважды дифференцируема на множестве
M Rn.
а) Для выпуклости функции f(x) на M достаточно, а если int M , то и
необходимо, чтобы матрица f ''(x) была положительно полуопределена для любого xM4.
б) Если матрица f ''(x) положительно определена для любого xM, то
функция f(x) строго выпукла на M5.
в) Для вогнутости функции f(x) на M достаточно, а если int M , то и
необходимо, чтобы матрица f ''(x) была отрицательно полуопределена для любого xM6.
г) Если матрица f ''(x) отрицательно определена для любого xM, то функ-
ция f(x) строго вогнута на M7.
Из теоремы 2.14 следует, что для проверки выпуклости/вогнутости функций можно использовать признаки знакоопределенности квадратичных форм
(критерии Сильвестра), см. теорему 2.9.
Доказательство для вогнутой функции: Хуторецкий А. Б. Модели исследования операций. Новоси-
бирск: Изд-во СО РАН, 2006 (следствие на с. 104). Для выпуклой функции рассуждения аналогичны.
Доказательство: Пшеничный Б. М. Выпуклый анализ и экстремальные задачи. М.: Наука, 1980 (теорема
1.4 на с. 61, леммы 3.1 и 3.2 на с. 70).
Доказательство: Павлов В. Н. Математическая экономика. Новосибирск: Изд-во СО РАН, 2005 (лемма
1.1).
Доказательство: Васильев Ф. П. Численные методы решения экстремальных задач. М.: Наука, 1980
(теорема 5 на с. 173, замечание 1 на с. 174).
Доказательство: Berkovitz L.D. Convexity and optimization in Rn. New York: John Wiley & Sons, 2002 (Theo-
rem 3.3).
Утверждение следует из (а) и теоремы 2.8(а).
Утверждение следует из (б) и теоремы 2.8(а).
21
2.3. Задача выпуклого программирования
f0(x) → min при условиях
(9)
xM Rn,
(10)
fi(x) ≤ 0 для i
1
,1 m
,
(11)
fi(x) = 0 для i
mm ,11
,
(12)
m,0
1
,0 m
mm ,1
1
f(x) → max при условиях
(13)
xM Rn,
(14)
gi(x) ≤ bi для i
1
,1 m
,
(15)
gi(x) = ai, x = bi для i
mm ,1
1
,
(16)
1
,1 m
1
,1 m
mm ,1
1
m,1
1
,1 m
mm ,1
1
n
R
n,1
2.3.1. Определение и основные свойства
Рассмотрим задачу оптимизации
где fi для i
― функции из Rn в R, определенные на множестве M.
Определение. Пусть X ― множество допустимых решений задачи (9)–
(12). Задача называется задачей выпуклого программирования (ЗВП), если M ―
выпуклое множество, функции fi для i
i
(здесь aiR
1n
, diR).
выпуклы на М, fi(x) = 〈ai, x〉 + di для
Пусть задача оптимизации имеет вид
где M ― выпуклое множество, f и gi для i
ленные на множестве M, функция f вогнута на M, функции gi для i
лы на M, aiR
1n
для i
, biR для i
― функции из Rn в R, опреде-
выпук-
.
Легко видеть, что эта задача эквивалентна ЗВП вида (9)–(12), достаточно
положить:
f0(x) = –f(x), fi(x) = gi(x) – bi для i
, fi(x) = ai, x – bi для i
.
Это оправдывает следующее определение.
Определение
Задачу (13)–(16), как и удовлетворяющую условиям, указанным в определении ЗВП, задачу (9)–(12), будем называть задачей выпуклого программирования.
Выпуклое множество M, фигурирующее в определении ЗВП, обычно выбирают так, чтобы оно имело простую структуру. Это может быть, например,
положительный ортант
j
}.
или параллелепипед {x = (x,...,xn)T | αj ≤ xj ≤ βj для
22
Определения
1
2
3
4
Для точки x0Rn окрестностью радиуса ε > 0 (ε-окрестностью) называются множество O(x0, ε) = {xRn | |x – x0| < ε}.
Точка x0 является точкой локального максимума функции f(x): Rn → R на
множестве X Rn, если x0X и существует ε > 0 такое, что f(x) ≤ f(x0) для всех
xX O(x0, ε).
Точка локального максимума функции f(x) на множестве X является локальным решением задачи оптимизации
f(x) → max при условии xX.
Направление hRn является возможным направлением в точке x относительно множества X Rn, если (x + δh)X для всех δ[0, ε) при некотором ε > 0.
Теорема 2.15 (свойства ЗВП). Рассматриваем ЗВП (13)–(16) с множеством
допустимых решений X и множеством оптимальных решений X *.
а) X ― выпуклое множество1.
б) Множество X * выпукло2.
в) Множество X * содержит не более одной точки, если функция f(x) строго
вогнута2.
г) Всякое локальное решение задачи является ее оптимальным решением3.
д) Пусть функция f(x) непрерывно дифференцируема на X. Тогда x0X *,
если и только если 〈f '(x0), x – x0〉 ≤ 0 для всех xX с равенством при xint X4.
Следствие 1. Пусть функция f(x) непрерывно дифференцируема на множе-
стве X допустимых решений задачи (13) – (16). Тогда точка x0X является оп-
тимальным решением задачи, если и только если f(x) не возрастает в любом
направлении, возможном в точке x0 относительно множества X.
Доказательство. Нетрудно доказать, что направление h является возможным в точке x0 относительно множества X тогда и только тогда, когда h = x – x0
для некоторого xX. В соответствии с теоремой 2.8 производная функции f(x)
по направлению h равна f '(x0), x – x0. По утверждению (г) теоремы 2.15 оптимальность точки x0 эквивалентна неположительности этой производной и, следовательно, невозрастанию функции f в любом возможном направлении. #
Следствие 2. Если функция f(x) непрерывно дифференцируема на множе-
стве X допустимых решений задачи (13) – (16), то внутренняя точка x0 множества X оптимальна тогда и только тогда, когда f '(x0) = 0n.
Выпуклость множества X следует из утверждения (в) теоремы 2.10, теоремы 2.5 и утверждения (а) тео-
ремы 2.4.
Доказательство: Васильев Ф. П. Численные методы решения экстремальных задач. М.: Наука, 1980
(теорема 1 на с. 170).
Доказательство: там же, теорема 1 на с. 170.
Доказательство: там же, теорема 2 на с. 170.
23
Доказательство. Пусть x0 ― внутренняя точка множества X. Тогда в этой
n,1
)(
0
x
x
f
j
)(
0
x
x
f
j
1
,1 m
1
,1 m
m
R
1
m
i
iii
bxgy
1
))((
n,1
n,1
*
j
x
n,1
1
,1 m
1
точке возможны все направления, в частности, координатные векторы ej (j
и противоположные им векторы (–ej). По следствию 1
= f '(x0), ej ≤ 0 и
= f '(x0), –ej ≤ 0.
Следовательно, f '(x0) = 0n. #
Заметим, что множество допустимых решений задачи (13) – (16) не имеет
внутренних точек, если в задаче есть хотя бы одно ограничение-равенство.
Следствие 3. Задача выпуклого программирования может не иметь оптимальных решений (неразрешимость), иметь единственное решение или бесконечно много решений.
Доказательство. Если {x1, x2} X * и x1 x2, то все точки отрезка [x1, x2]
принадлежат X * по утверждению (б) теоремы 2.15. #
2.3.2. Теорема Куна – Таккера
Определения
Ограничению задачи (13) – (16) с номером i из групп (15), (16) сопоставим
)
число yi, множитель Лагранжа, так, что yi ≥ 0 для i
.
Множество векторов множителей Лагранжа для задачи (13) – (16):
Y = {(y1,…,ym) | yi ≥ 0 для i
В частности, если m1 = 0 (в ЗВП нет ограничений-неравенств), то Y = R
если же m1 = m (в ЗВП нет ограничений-равенств), то Y =
}.
1m
.
Определение. Пусть X ― множество допустимых решений задачи (13) –
(16). На множестве пар (x, y)XY определим функцию Лагранжа для этой задачи:
L(x, y) = f(x) –
.
Теорема 2.16 (Куна – Таккера)1. Пусть αjR{–∞}, βjR{+∞}, αj < βj для
j
j
. Для ЗВП (13) – (16) предположим, что M = {x = (x,...,xn)T | αj ≤ xj ≤ βj для
}, X ― множество допустимых решений, x* = (
| j
)TX и выполнено
одно из следующих условий:
а) функции gi(x) для i
линейны;
;
Теорему Куна – Таккера в такой формулировке нетрудно получить, комбинируя пункты 2 и 3 теоремы
2.3 на стр. 157 книги Сухарева А.Г., Тимохова А.В., Федорова В.В. Курс методов оптимизации (2 изд. М.:
ФИЗМАТЛИТ, 2005), теорему 2.4 на стр. 158 – 159 той же книги и утверждение 2 леммы 2.1 (там же, стр. 150).
24
б) функции gi(x) для i
1
,1 m
0
j
x
n,1
1
,1 m
*
i
у
m,1
),(
**
yx
x
L
j
, если ,0
),,( если ,0
, если ,0
*
*
*
jj
jjj
jj
x
x
x
при всех j
n,1
;
(17)
yi(gi(x*) – bi) = 0 при всех i
1
,1 m
.
(18)
),( yxL
x
),1|),((
**
njyx
x
L
j
n
R
n,1
),(
**
yx
x
L
j
*
j
x
*
j
x
),(
**
yx
x
L
j
),(**yx
x
L
j
= 0 для j
n,1
, или
),(**yxL
x
= 0n.
(19)
точка
дифференцируемы в точке x*X и существует
x0 = (
такая, что gi(x0) < bi для всех i
| j
)TX
(условие Слейтера).
Тогда для оптимальности точки x* в задаче (13) – (16) необходимо и достаточно, чтобы существовал вектор (множителей Лагранжа) y* = (
| i
)Y,
для которого
Это теорема Куна – Таккера в дифференциальной форме для ЗВП с прямыми ограничениями αj ≤ xj ≤ βj. Понятно, что если αj = –∞ или βj = +∞, то соответствующие строки в (17) отсутствуют.
Определения
Задачи выпуклого программирования, удовлетворяющие условиям теоремы 2.16, называются регулярными.
Условия (17)–(18) в совокупности с условием неотрицательности множителей Лагранжа для ограничений-неравенств, которое входит в определение
множества Y, называют условиями Куна – Таккера.
Соотношения (17) ― это условия первого порядка (УПП).
Равенства (18) ― условия дополняющей нежесткости (УДН).
=
― градиент по x функции L: RnRm → R в точке
(x, y).
Условия Куна – Таккера для регулярной ЗВП дают необходимые и достаточные условия оптимальности допустимой точки.
Если αj = 0 и βj = +∞ для всех j, то M =
сать следующим образом: при всех j
≤ 0 с равенством, если
. В этом случае УПП можно запи-
> 0, или
= 0.
Если в задаче (13)–(16) нет прямых ограничений, то есть M = Rn, то УПП
упрощаются и принимают вид
25
Тогда для определения m + n координат векторов x* и y* имеем m – m1
f0(x) → min при условиях
xM Rn, fi(x) ≤ 0 для i
1
,1 m
, fi(x) = ai, x + di = 0 для i
mm ,1
1
,
(20)
1
,0 m
mm ,1
1
1
,1 m
mm ,11
1
,0 m
mm ,1
1
1
1
2
уравнений (16), m1 уравнений (18) и n уравнений (19), то есть m + n уравнений.
Метод множителей Лагранжа для решения регулярной ЗВП заключается в
поиске векторов x*X и y*Y, удовлетворяющих условиям Куна – Таккера. Если
такая пара (x*, y*) найдена, то теорема Куна – Таккера гарантирует, что x* – оптимальное решение задачи, а y* ―соответствующий вектор множителей Лагранжа.
2.3.3. Устойчивость
Теория устойчивости задач оптимизации изучает влияние изменений
(возмущений) параметров задачи на оптимальное решение и оптимальное зна-
чение целевой функции. Параметрами задачи будем считать правые части ограничений.
Сначала рассмотрим ЗВП в форме (9)–(12):
где M ― выпуклое множество, fi для i
ные и выпуклые на множестве M, aiR
1n
― функции из Rn в R, определен-
и diR для i
.
Определения
Для ε = (ε1,…,εm)TRm возмущенной задачей (20) назовем следующую зада-
чу P(ε):
f0(x) → min при условиях xM Rn, fi(x) ≤ εi для i
для i
где M ― выпуклое множество, fi для i
ные и выпуклые на множестве M, aiR
1n
и diR для i
,
― функции из Rn в R, определен-
, fi(x) = ai, x + di = εi
.
Если задача P(ε) разрешима, то оптимальное значение ее ЦФ обозначим
V(ε). Это функция минимумов (или функция значений).
Легко видеть, что возмущенная задача ― это ЗВП.
Теорема 2.17 (об устойчивости оптимального значения ЦФ).
Если задача P(0m) регулярна и разрешима, то существует окрестность
O Rm точки 0m такая, что:
а) задача P(ε) разрешима для любого εO
;
б) функция V(ε) выпукла и непрерывна на O2.
Доказательство: Рокафеллар Р. Выпуклый анализ. М.: Мир, 1973 (следствие 29.1.5).
Доказательство выпуклости функции V(ε): там же, теорема 29.1. Непрерывность V(ε) на O следует из
теоремы 2.12.
26
Если, кроме того, вектор множителей Лагранжа y* = (
*
i
у
m,1
)0(
m
i
V
*
i
у
m,1
1
f(x) → max при условиях
xM Rn, gi(x) ≤
0
i
b
для i
1
,1 m
, gi(x) = ai, x =
0
i
b
для i
mm ,11
,
(21)
m,1
1
,1 m
mm ,1
1
0
i
b
m,1
0
i
b
m,1
1
,1 m
mm ,1
1
m,1
1
,1 m
mm ,1
1
0
i
b
m,1
)(0b
b
W
i
0
)(
0
bb
i
bb
V
)0(
n
i
V
1
| i
) для задачи
P(0m) определен однозначно, то функция V(ε) дифференцируема в точке 0m и
V'(0m) = –y*, то есть
= –
для всех i
.
Теперь перейдем к ЗВП в форме (13)–(16).
где M ― выпуклое множество, f и gi для i
― функции из Rn в R, опреде-
ленные на множестве M, функция f вогнута на M, функции gi для i
лы на M, aiR
1n
для i
,
R для i
. Положим b0 = (
| i
Определения
Для b = (b1,…,bm)TRm возмущенной задачей (21) назовем задачу Q(b):
f(x) → max при условиях xM Rn, gi(x) ≤ bi для i
i
где M ― выпуклое множество, f и gi для i
,
― функции из Rn в R, опреде-
, gi(x) = ai, x = bi для
ленные на множестве M, функция f вогнута на M, функции gi для i
лы на M, aiR
1n
для i
.
выпук-
).
выпук-
Если задача Q(b) разрешима, то оптимальное значение ее ЦФ обозначим
W(b). Это функция максимумов (или функция значений).
Возмущенная задача Q(b) ― это ЗВП вида (13)–(16). Понятно, что она эк-
вивалентна возмущенной ЗВП вида P(ε), для которой f0(x) = –f(x), fi(x) = gi(x) –
(i
) и ε = b – b0. Тогда W(b) = –V(ε) и
= –
= –
.
Из теоремы 2.17 получаем аналогичный результат для возмущенной задачи
Q(b).
Теорема 2.18 (об устойчивости оптимального значения ЦФ).
Если задача Q(b0) регулярна и разрешима, то существует окрестность
O Rm точки b0 такая, что:
а) задача Q(b) разрешима для любого bO;
б) функция W(b) вогнута и непрерывна на O.
Доказательство: Рокафеллар Р. Выпуклый анализ. М.: Мир, 1973 (следствие 29.1.3).
27
Если, кроме того, вектор множителей Лагранжа y* = (
*
i
у
m,1
)(
0
b
b
W
i
*
i
у
m,1
*
i
у
m
i
iii
bby
1
0*
)(
*
i
у
m,1
1
,1 m
3
1
,1 m
1
2
3
| i
) для задачи
Q(b0) определен однозначно, то функция W(b) дифференцируема в точке b0 и
W'(b0) = y*, то есть
=
для всех i
.
Таким образом, для регулярной и разрешимой ЗВП (21) малые изменения
правых частей ограничений не нарушают разрешимость задачи и порождают
малые изменения максимального значения ЦФ.
Если множители Лагранжа
в задаче (21) определены однозначно, то
можно оценить силу влияния изменений правых частей ограничений на максимальное значение ЦФ. В этом случае по определению дифференцируемости
функции в точке1
W(b) – W(b0) =
+ о(|b – b0|).
Следовательно, приращение максимального значения ЦФ приблизительно
равно сумме приростов, порожденных возмущениями правых частей ограничений. Если изменяется правая часть только ограничения с номером i, то максимальное значение ЦФ изменяется со скоростью
.
Чтобы гарантировать устойчивость оптимального решения ЗВП, прихо-
дится наложить на нее дополнительные условия.
Определения и обозначения
Ограничение задачи (13)–(16) с номером i активно в точке x, если gi(x) = bi.
Понятно, что ограничения (16) активны в любом допустимом решении задачи.
I(x) = {i
| gi(x) = bi} ― множество номеров ограничений, активных в
точке x.
Векторы xRn и y = (y1,…,ym) удовлетворяют условиям строгой дополняю-
щей нежесткости в задаче (13)–(16), если для любого i
выполняется ров-
но одно из равенств yi = 0 и gi(x) = bi.
Теорема 2.19 (об устойчивости оптимального решения)2. Предположим,
что:
а) задача Q(b0) разрешима, x* и y* ― оптимальное решение задачи и соот-
ветствующий вектор множителей Лагранжа;
*
б) целевая функция f(x) строго вогнута в окрестности точки x
;
в) функции f(x) и gi(x) для i
Кудрявцев Л. Д. Курс математического анализа. В 3 т. Т. 2. М.: Дрофа, 2004. С. 251–252).
Следует из теоремы 9 на с. 246 книги: Поляк Б. Т. Введение в оптимизацию. М.: Наука, 1983.
С учетом утверждений (б) и (в) теоремы (2.15) отсюда следует единственность оптимального решения
задачи. Из (в) также следует, что функция Лагранжа задачи Q(b0) строго вогнута по x в окрестности точки x*.
дважды дифференцируемы в точке x*;
28
г) векторы
)(
*
xg
i
*
)(lim
0
xbx
bb
*
)(lim
0
yby
bb
m,1
1
для iI(x*) линейно независимы;
д) векторы x* и y* удовлетворяют условиям строгой дополняющей нежест-
кости в задаче Q(b0)1.
Тогда существуют определенные в некоторой окрестности точки b0 и диф-
ференцируемые в этой точке функции x(b) и y(b) такие, что x(b) ― решение за-
дачи Q(b), y(b) ― соответствующий вектор множителей Лагранжа и
,
.
Если выполнены условия теоремы 2.19, то малые возмущения правых ча-
стей ограничений порождают малые вариации оптимального решения и множителей Лагранжа. Другими словами: малые изменения правых частей ограничений влекут малые изменения координат оптимального решения; тогда оптимальное значение ЦФ тоже мало изменяется, так как ЦФ непрерывна; важно,
что при этом и скорость изменения оптимального значения ЦФ (определяемая
множителями Лагранжа) подвергается лишь малым вариациям.
2.4. Интерпретации
2.4.1. Основная модель
Прежде всего, сформулируем общепринятую экономическую интерпрета-
цию задачи нелинейного программирования.
Предположим, что управляемая система в течение планового периода может в различных сочетаниях применять n технологических способов (или просто способов). Для определенности будем считать, что рассматриваемая система является предприятием. Предположим также, что в реализации технологических способов участвуют ингредиенты (материальные и трудовые ресурсы,
оборудование, другие факторы производства, полуфабрикаты, конечные про-
дукты, полезности) с номерами i
. Каждый ингредиент может производить-
ся и (или) потребляться предприятием.
Мерой использования технологического способа в плановом периоде является его интенсивность, определенная в соответствии с содержанием способа и
принимающая неотрицательные действительные значения. Обычно интенсивность использования способа характеризуют объемом производства или потребления (за рассматриваемый период) какого-то (основного для данного способа)
ингредиента. Пусть xj 0 — интенсивность использования способа j (xj = 0 означает, что способ не применяется). Тогда вектор x = (x1,...,xn)T естественно
назвать планом производства.
Пусть gi(x) — чистое потребление предприятием ингредиента i за плановый период при плане x (разность потребления и производства); gi(x) < 0 озна-
Условия (б)–(д) обеспечивают невырожденность решения x*, см. определение в книге: Хуторецкий А. Б.
Модели исследования операций. Новосибирск: Изд-во СО РАН, 2006. С. 61–62.
29
чает, что в системе к концу периода образуется избыток ингредиента i, равный
f(x) max
при условиях
(22)
gi(x) bi
для i
m,1
,
(23)
x 0n.
(24)
m,1
|gi(x)|. Будем считать, что функции gi не убывают по каждому аргументу и
gi(0n) = 0 для всех i (потребление не убывает сростом производства и отсутству-
ет при нулевом производстве).
В начале периода предприятие имеет запас bi ингредиента i; bi < 0 означает, что система имеет обязательство по поставкам ингредиента i (за плановый
период) во внешнюю среду в размере |bi|.
Допустим, что план x дает предприятию (в течение планового периода) полезность (например, прибыль или условно чистый доход) f(x). Теперь модель
планирования можно записать следующим образом:
Это задача нелинейного программирования. Смысл ограничения (23) зависит от знака bi. Неотрицательное bi ― это исходный запас ингредиента, и потребление не должно его превышать. Если же bi < 0, то и левая часть неравенства должна быть отрицательной. В таком случае |bi| мы интерпретируем как
обязательство по поставке ингредиента во внешнюю для системы среду. Условие (23) в этом случае удобно записать в виде –gi(x) |bi|: чистое производство
ингредиента должно покрывать запланированные поставки.
Предположим, что задача (22)–(24) является задачей выпуклого программирования, то есть функция f(x) вогнута, а функции gi(x) выпуклы. Будем считать, что все функции дважды дифференцируемы на множестве X допустимых
планов. Это множество выпукло по утверждению (а) теоремы 2.15.
2.4.2. Допустимые планы, отсутствие отдачи от масштаба
Пусть b = (bi | i
). Если планы x1 и x2 допустимы, то и любой промежу-
точный (средневзвешенный) план является допустимым, то есть позволяет выполнить обязательства, указанные отрицательными координатами вектора b, не
превышая ресурсных запасов, указанных остальными его координатами.
Предположим, что выполняется условие Слейтера: существует план x0 ≥ 0n,
для которого gi(x) < bi при всех i. Это значит, что можно перевыполнить все обязательства, сохранив неиспользованные остатки всех ресурсов. Тогда gi(x) < bi для
всех i в некоторой окрестности точки x0 (по непрерывности функций gi). В этой
окрестности найдется точка x > 0, то есть существует план (не обязательно оптимальный), использующий все технологические способы. Эта точка является
внутренней для множества X.
30
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]