Решение задач по методам оптимизации и вариационному исчислению. Практикум
.pdfОтсюда |
( yx =−y2. |
Подставим первое во второе x − x4 |
= 0, èëè |
|
= x2 |
, |
|
x(1 −x3) = 0. Получим два возможных значения для x и два решения системы (стационарные точки): (0, 0) è (1, −1).
II. Составим матрицу Гессе (матрицу вторых производных)
G = |
3 |
−6y |
!. |
|
6x |
3 |
|
Исследуем в стационарных точках.
В точке (0, 0): G|(0,0) = |
3 |
0 |
! последовательные главные мино- |
|
0 |
3 |
|
ры равны M1 = 0, M2 = −9 < 0. Значит, матрица общего вида, она не относится ни к одному из четырех выделенных типов. Поэтому точка (0, 0) не является точкой локального экстремума (т. е. (0, 0) / locextr).
В точке (1, −1): G|(1,−1) = |
3 |
6 |
! главные миноры M1 = 6 > 0, |
|
6 |
3 |
|
M2 = 36 − 9 = 27 > 0. Поскольку они все положительны, то матрица положительно определенная. Поэтому (1, −1) locmin.
III. Исследуем на глобальный экстремум. Устремим x → +∞ ïðè y = 0 и получим f → +∞.
Устремим x → −∞ ïðè y = 0 и получим f → −∞.
Ответ. (0, 0) / locextr, (1, −1) locmin; fmin = −∞, fmax = +∞.
Пример 5.
f(x, y, z) = x2 + y2 + z2 − xy + x − 2z → extr.
Решение. I. Вычислим частные производные
∂f |
= 2x − y + 1, |
∂f |
= 2y − x, |
∂f |
= 2z − 2. |
|
|
|
|||
∂x |
∂y |
∂z |
Запишем условие стационарности, приравняв их к нулю,
2x − y + 1 = 0,
2y − x = 0,
2z − 2 = 0.
Отсюда x = −23 , y = −13 , z = 1 координаты стационарной точки. II. Составим матрицу Гессе (матрицу вторых производных)
11
|
2 |
−1 |
0 |
|
G = −1 |
2 |
0 |
. |
|
|
0 |
0 |
2 |
|
|
|
|||
Последовательные главные миноры равны M1 = 2 > 0, M2 = 3 > 0,
M3 = 6 > 0. Значит, G > 0 è (−23 , −13 , 1) locmin.
III. Исследуем на глобальный экстремум. Выделим полные квадраты у функции
|
x |
2 |
|
3x2 |
2 |
|
x |
2 |
|
x |
2 |
2 |
|
x2 |
||||
f = ( |
|
|
−y) |
+( |
|
+x)+(z |
−2z) = ( |
|
|
−y) |
+( |
|
|
+1) +(z−1) |
|
+ |
|
−2. |
2 |
|
4 |
2 |
|
2 |
|
|
2 |
||||||||||
Очевидно, что f(x, y, z) > −2 всюду и lim|(x,y,z)|→∞ = +∞. Значит,
точка (−23 , −13 , 1) локального минимума доставляет и глобальный минимум. Вычислим f(−23 , −13 , 1) = 49 + 19 + 1 − 29 − 23 − 2 = −43 .
Ответ. (−23 , −13 , 1) absmin; fmin = −43 , fmax = +∞.
Пример 6.
f(x, y) = x2 − 4xy2 + 3y4 → extr.
Решение. I. Вычислим частные производные
∂f |
= 2x − 4y2, |
∂f |
= −8xy + 12y3. |
|
|
||
∂x |
∂y |
Запишем и решим условие стационарности
( −8xy + 12y3 = 0, |
|
( 4y(2x − 3y2) = 0. |
2x − 4y2 = 0, |
|
x = 2y2, |
Из второго уравнения при y = 0 получим стационарную точку (0, 0), à ïðè 2x − 3y2 = 0 сравнением с первым уравнением придем к ней же.
|
−8y 36y2 |
! |
||
II. Составим матрицу Гессе G = |
2 |
|
−8y |
è åå âèä â ñòà- |
ционарной точке (0, 0): A = G|(0,0) = |
0 |
0 |
!. Поскольку матрица |
|
|
2 |
0 |
|
|
неотрицательно определена (A ≥ 0), то необходимое (но не достаточ- ное) условие минимума выполнено. Причем f(0, 0) = 0.
III. В малой окрестности стационарной точки (0, 0) вычислим зна- чение f(2y2, y) = 4y4 − 8y4 + 3y4 = −y4 < 0 в точках на параболе x = 2y2. Значит, (0, 0) / locmax.
12
Предостережем от упрощенного (и неверного) исследования по всем прямым, проходящим через стационарную точку (0, 0): y = kx è x = 0. Äëÿ y = kx имеем f(x, kx) = x2(3k4x2 −4k2x + 1) > 0 ïðè x, отличных от нуля, но малых по модулю. На прямой x = 0 имеем f = y4. Èç ýòî- го исследования напрашивается (неверный) вывод о том, что (якобы) (0, 0) есть точка локального минимума.
То же наблюдение f(2y2, y) = −y4 < 0 применим при исследовании
на глобальный экстремум для вывода fmin = −∞. С другой стороны, f(0, y) = y4 > 0 влечет = ∞.
Ответ. (0, 0) / locextr; fmin = −∞, fmax = +∞.
1.1.5.Задачи безусловной гладкой оптимизации
Âзадачах без ограничений найти все стационарные точки (или оценить их количество и расположение в задаче 1.8), исследовать их на экстремум, указать все локальные и глобальные точки минимума и максимума, вычислить максимальное и минимальное значения функции (или точную верхнюю и нижнюю грани).
1.1.f(x) = x4 − 4x3 + 4x2 → extr.
1.2.f(x) = x6 − 6x5 → extr.
1.3.f(x) = x5 − 5x4 → extr.
1.4.f(x) = x2ex → extr.
1.5.f(x) = x3ex → extr.
1.6.f(x) = 1+1x2 → extr.
1.7.f(x) = (arctg x)3 → extr.
1.8.f(x) = arctg x sin x → extr.
1.9.f(x, y) = 2x2 + 2xy + y2 − 4x → extr.
1.10.f(x, y) = x2 − y2 − 4x + 6y → extr.
1.11.f(x, y) = x2 + 4xy + 3y2 − 12x − 8y → extr.
1.12.f(x, y) = x4 + y4 − x2 − 2xy − y2 → extr.
1.13.f(x, y, z) = x2 + y2 + z2 − 2x + 2y − 4z + 8 → extr.
13
1.14.f(x, y) = x2 − y2 + 2e−x2 → extr.
1.15.f(x, y) = sin x − y2 → extr.
1.16.f(x, y, z) = x2 + 2y2 + z2 − 2xy − x + 2z → extr.
1.17.f(x, y, z) = x2 + y2 + 2z2 + xy + 2xz + 3yz − x → extr.
1.18.f(x, y, z) = x2 + y2 + 2z2 + xy + 2yz − x → extr.
1.19.f(x, y) = 3x + 2y − x3 − y2 → extr.
1.20.f(x, y) = x4 + y4 − (x + y)4 → extr.
1.21.f(x, y) = x3 + y3 − 3xy → extr.
1.22.f(x, y) = 3xy − x2y − xy2 → extr.
1.23.f(x, y) = 2x4 + y4 − x2 − 2y2 → extr.
1.24.f(x, y) = x2y3(6 − x − y) → extr.
1.25.f(x, y) = e2x+3y(8x2 − 6xy + 3y2) → extr.
1.26.f(x, y, z) = xy2z3(7 − x − 2y − 3z) → extr.
14
1.2. Условная гладкая оптимизация
Условная гладкая оптимизация на прямой это задачи на наибольшее и наименьшее значения функции на отрезке, которые в рамках этого курса не рассматриваем.
Общая постановка задачи для некоторой замкнутой D Rn
f(x) → extr при условии x D.
К данному типу задач относятся задачи линейного программирования, которые также не включены в этот курс. Рассмотрим задачи,
где область D задается набором уравнений или неравенств, а для решения применяется метод множителей Лагранжа .
1.2.1. Условная оптимизация с ограничениями в виде равенств
Постановка задачи
f0(x) → extr при ограничениях fi(x) = 0, ãäå i = 1, 2, . . . , m.
Схема решения задачи.
1. Составляем функцию Лагранжа
L(x; λ) = λ0f0(x) + λ1f1(x) + . . . + λmfm(x).
В этой сумме не могут все множители Лагранжа λk (которые счи- таем параметрами функции L, зависящей от x) равняться нулю.
2. Записываем условие стационарности L′(x) = 0, которое распи-
сывается в виде системы ∂L = 0, k = 1, 2, . . . , n.
∂xk
3.Дополняем условие L′(x) = 0 уравнениями связи fi(x) = 0 ïðè i = 1, 2, . . . , m. Решаем систему сначала в особом случае λ0 = 0 (ïðè
котором обычно не получаем решение), а потом в основном случае λ0 = 1 (для задачи на минимум, вместо единицы можно взять любое положительное число) и λ0 = −1 (для задачи на максимум). Каждое решение представляет собой стационарную точку x˜ D Rn и набор
множителей Лагранжа λk.
4. Исследуем все стационарные точки на экстремум. Это можно сделать непосредственной проверкой близлежащих точек, выписав при-
15
ращение функции. Другой способ проверкой условия второго порядка: вычисляем матрицу Гессе в стационарной точке A = L′′(˜x) è êàñà-
тельное пространство K = {h Rn | (fi′(˜x), h) = 0, i = 1, 2, . . . , m}. Если матрица Гессе A положительно определена на касательном
пространстве
(Ah, h) > 0 для всех ненулевых h K,
òî x˜ locextr (locmin в случае λ0 = 1 и locmax в случае λ0 = −1). Если это достаточное условие неверно, то проверяем необходимое
условие неотрицательной определенности матрицы Гессе A на касательном пространстве K. Невыполнение этого условия будет означать, что x˜ / locextr. В случае его выполнения возвращаемся к непосредственной проверке в близлежащих точках.
5. Исследуем на глобальный экстремум. Если область D, заданная
условиями связи fi(x) = 0, i = 1, 2, . . . , m, ограниченная и замкнутая (компакт), то по теореме Вейерштрасса считаем значения во всех точ- ках локального минимума (отдельно максимума) и сравниваем для
выбора точки глобального минимума (максимума). Если область D неограраниченная, то вычисляем предел целевой функции f(x) ïðè
стремлении по всем допустимым направлениям в бесконечность. Это нужно для обнаружения ограниченности целевой функции снизу или сверху. Если таковая есть, то применяем следствие 1 из теоремы Вейерштрасса.
Следует учитывать, что какие-то из этих пунктов в отдельных слу- чаях окажутся труднорешаемыми. Тогда ответ задачи будет неполным.
1.2.2. Решения задач на экстремум с ограничениями в виде равенств
Пример 7. Задача с одним равенством. f(x, y) = x2 + 2xy + 2y2 → extr
при условии x + y = 1.
Решение. I. Составим функцию Лагранжа
L = λ0(x2 + 2xy + 2y2) + λ1(x + y − 1).
16
Вычислим частные производные
∂L |
= λ0(2x + 2y) + λ1, |
∂L |
= λ0(2x + 4y) + λ1. |
|||
∂x |
|
∂y |
|
|||
|
|
|||||
Запишем условие стационарности
(
λ0(2x + 2y) + λ1 = 0, λ0(2x + 4y) + λ1 = 0
èповторим условие связи x + y = 1.
II. Решим сначала особый случай λ0 = 0. Получим λ1 = 0, что невозможно (не могут все множители Лагранжа равняться нулю).
Для основного случая возьмем, например, λ0 = 1
(
2(x + y) + λ1 = 0, (2x + 4y) + λ1 = 0.
Подставим в эту систему также условие связи и получим
(
2 + λ1 = 0,
2 + 2y + λ1 = 0.
Èòàê, λ1 = −2, y = 0. Из условия связи x = 1.
Вычислим f(1, 0) = 1 значение в стационарной точке.
Если возьмем λ0 = −1, то аналогично λ1 = 2 и та же стационарная точка.
III. Исследуем на экстремум в стационарной точке через матрицу
Гессе |
2λ0 |
|
4λ0 |
!. |
G = |
|
|||
|
2λ0 |
|
2λ0 |
|
Ïðè λ0 = 1 получим A = |
2 |
4 |
! |
è M1 = 2 > 0, M2 = 4 > 0; |
|
2 |
2 |
|
|
значит, матрица A > 0 положительно определенная. В стационарной точке (1, 0) локальный минимум.
Значит, при λ0 = −1 эти вычисления можно не повторять. IV. Исследуем на глобальный экстремум.
Перепишем целевую функцию f = (x + y)2 + y2 с выделением пол- ного квадрата. Отсюда f(x, y) ≥ 0 всегда.
17
При стремлении к бесконечности в каждом из двух направлений вдоль условия связи получим из этого же представления f → +∞.
Значит, (1, 0) absmin è fmax = +∞.
Ответ. (1, 0) absmin; fmin = 1, fmax = +∞.
Пример 8. Задача с двумя ограничениями.
f(x, y) = x2 + y2 + z2 → extr
при условиях
x + y + z = 1, 2x + 2y − 2z = 1.
Решение. I. Составим функцию Лагранжа
L = λ0(x2 + y2 + z2) + λ1(x + y + z − 1) + λ2(2x + 2y − 2z − 1).
Вычислим частные производные
∂L |
= 2λ0x + λ1 + 2λ2, |
∂L |
= 2λ0y + λ1 + 2λ2, |
∂L |
= 2λ0z + λ1 −2λ2. |
|||
|
|
|
|
|
|
|||
∂x |
∂y |
∂z |
||||||
Запишем условие стационарности
2λ0x + λ1 + 2λ2 = 0, 2λ0y + λ1 + 2λ2 = 0,
2λ0z + λ1 − 2λ2 = 0
èповторим условия связи
x + y + z = 1, 2x + 2y − 2z = 1.
II. Решим сначала особый случай λ0 = 0. Получим λ1 = λ2 = 0,
что невозможно (не могут все множители Лагранжа равняться нулю). Для случая λ0 = 1 получим x = y = −λ21 − λ2, z = −λ21 + λ2.
Подставим x = y в условия связи: 2x + z = 1, 4x − 2z = 1. Решим их
как систему уравнений и получим x = 3 |
|
z = 1 |
. Нашли |
M(3 |
, 3 |
, 1 ). |
|||
|
|
|
8 , |
|
4 |
8 |
8 |
4 |
|
Из системы |
( λ1 |
− 2λ2 |
= − |
21 |
|
|
|
|
|
|
|
|
|
|
|||||
|
λ1 |
+ 2λ2 |
= − |
43 , |
|
|
|
|
|
найдем множители Лагранжа λ1 = −58 , λ2 = −161 .
Для случая λ0 = −1 меняются знаки всех множителей Лагранжа,
àстационарная точка та же. III. Составим матрицу Гессе
18
|
|
|
|
2λ0 |
0 |
0 |
. |
G = 0 |
2λ0 |
0 |
|
|
|
|
|
0 |
0 |
2λ0 |
|
Ïðè λ0 = 1 эта матрица A = G|M положительно определенная. Значит, в стационарной точке M(38 , 38 , 14 ) локальный минимум.
Ïðè λ0 = −1 имеем A < 0, что ничего не дает. IV. Исследуем на глобальный экстремум. Имеем f = x2 + y2 + z2 ≥ 0 всегда.
При стремлении к бесконечности в каждом из двух направлений вдоль условия связи (по прямой как линии пересечения двух плоско-
стей) получим f → +∞. Значит, точка M есть точка и глобального минимума, а fmax = +∞. Вычислим f(38 , 38 , 14 ) = 1132 .
Ответ. (38 , 38 , 14 ) absmin; fmin = 1132 , fmax = +∞.
Пример 9. Иллюстрация особого случая.
f(x, y) = x − y → extr
при условии
x2 − 2xy + y2 = 0.
Решение. I. Составим функцию Лагранжа
L = λ0(x − y) + λ1(x2 − 2xy + y2).
Вычислим частные производные
∂L |
= λ0 + λ1(2x − 2y), |
∂L |
= −λ0 + λ1(−2x + 2y). |
||
|
|
|
|
||
∂x |
∂y |
||||
Запишем условие стационарности λ0 + 2λ1(x −y) = 0, где оба уравнения совпали. Повторим условие связи x2 − 2xy + y2 = 0.
При особом случае λ0 = 0 è λ1 ̸= 0 имеем x = y. При этом условие связи выполняется, а целевая функция равна нулю.
Предлагается самостоятельно показать, что случай λ0 = 1, названный основным, противоречит условию связи.
Ответ. Вдоль прямой y = x целевая функция постоянна и равна нулю, fmin = fmax = 0.
19
Этот немного странный пример демонстрирует, что и особым слу- чаем λ0 = 0 пренебрегать не следует. В более сложных примерах взаимосвязь целевой функции и условий связи может существовать, но не быть столь наглядной.
1.2.3. Условная оптимизация с ограничениями в виде неравенств
Постановка задачи
f0(x) → extr при ограничениях
fi(x) = 0, ãäå i = 1, 2, . . . , m1 (в виде равенств; могут отсутствовать), fi(x) ≤ 0, ãäå i = m1 + 1, m1 + 2, . . . , m (и в виде неравенств).
Схема решения задачи
1. Составляем функцию Лагранжа
L(x; λ) = λ0f0(x) + λ1f1(x) + . . . + λmfm(x).
В этой сумме не могут все множители Лагранжа
2. Записываем набор условий: а) стационарности L′(x) = 0;
б) дополняющей нежесткости при i = m1 + 1, m1 + 2, . . . , m;
в) неотрицательности множителей Лагранжа λi ≥ 0 для неравенств при i = m1 + 1, m1 + 2, . . . , m.
3. Дополняем этот набор условий соотношениями связи
ïðè ïðè i = m1 + 1, m1 + 2, . . . , m. Систему полученных уравнений (неравенства проверяются потом) решаем сначала в особом случае λ0 = 0 (что соответствует локальным как минимуму, так и максимуму), а потом в двух основных случаях: λ0 = 1 (для задачи на минимум) и λ0 = −1 (для задачи на максимум). Каждое решение представляет собой стационарную точку x˜ D Rn è
набор множителей Лагранжа λk, удовлетворяющих выписанным неравенствам.
Замечание. Каждое условие дополняющей нежесткости рассматриваем как два альтернативных варианта равенства нулю одного из сомножителей. При одном условии вида б решение распадается на два случая; при двух условиях вида б решение распадается на четыре слу-
20
