- •А.В. Аттетков, С.В. Галкин, В.С. Зарубин
- •ПРЕДИСЛОВИЕ
- •Задания для самопроверки
- •ОСНОВНЫЕ ОБОЗНАЧЕНИЯ
- •Буквы латинского алфавита
- •Буквы греческого алфавита
- •1. ЗАДАЧИ ОПТИМИЗАЦИИ
- •1.1. Основные понятия
- •1.2. Некоторые простые примеры
- •1.3. Задачи оптимального проектирования
- •1.4. Задачи оптимального планирования
- •1.5. Классы задач оптимизации
- •Вопросы и задачи
- •2. МЕТОДЫ ОДНОМЕРНОЙ МИНИМИЗАЦИИ
- •2.1. Предварительные замечания
- •2.3. Оптимальный пассивный поиск
- •2.4. Методы последовательного поиска
- •2.5. Сравнение методов последовательного поиска
- •2.6. Методы полиномиальной аппроксимации
- •2.7. Методы с использованием производных
- •Вопросы и задачи
- •3. МИНИМИЗАЦИЯ ВЫПУКЛЫХ ФУНКЦИЙ
- •3.2. Выпуклые функции
- •3.4. Условия минимума выпуклых функций
- •3.5. Сильно выпуклые функции
- •ф{t) = (grad/(а; + th), h)
- •3.6. Примеры минимизации квадратичных функций
- •3.7. Минимизация позиномов
- •Qj = '%2aijci = Q> J = !.*»•
- •Вопросы и задачи
- •4. ЧИСЛЕННЫЕ МЕТОДЫ БЕЗУСЛОВНОЙ МИНИМИЗАЦИИ
- •4.1. Релаксационная последовательность
- •4.2. Методы спуска
- •4.4. Минимизация квадратичной функции
- •4.5. Сопряженные направления спуска
- •5. АЛГОРИТМЫ МЕТОДОВ ПЕРВОГО И ВТОРОГО ПОРЯДКОВ
- •|iufc|
- •5.3. Метод Ньютона
- •5.4. Модификации метода Ньютона
- •5.5. Квазиньютоновские методы
- •Вопросы и задачи
- •6. АЛГОРИТМЫ ПРЯМОГО ПОИСКА
- •6.1. Особенности прямого поиска минимума
- •6.2. Использование регулярного симплекса
- •6.4. Циклический покоординатный спуск
- •6.5. Метод Хука — Дживса
- •Щ + bjej,
- •6.6. Методы Розенброка и Пауэлла
- •Вопросы и задачи
- •7. АНАЛИТИЧЕСКИЕ МЕТОДЫ НЕЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ
- •7.2. Минимизация при ограничениях типа равенства
- •7.4. Седловая точка функции Лагранжа
- •7.5. Двойственная функция
- •7.6. Геометрическое программирование
- •Вопросы и задачи
- •8. ЧИСЛЕННЫЕ МЕТОДЫ НЕЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ
- •8.1. Метод условного градиента
- •8.2. Использование приведенного градиента
- •8.5. Метод проекции антиградиента
- •СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРЫ
- •ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
- •ОГЛАВЛЕНИЕ
- •Математика в техническом университете Выпуск XIV
- •Аттетков Александр Владимирович Галкин Сергей Владимирович Зарубин Владимир Степанович
- •МЕТОДЫ ОПТИМИЗАЦИИ
Таким образом, множество W* не пустое и содержит един ственную точку w = (2/5, 1/5, 1/5, 1/5). Значит, рассматри ваемый позином на R+ достигает наименьшего значения.
Поскольку W* ф 0, позином имеет двойственную функцию, которая в соответствии с (3.48) принимает вид
U U U |
(3'50) |
В точке w значение двойственной функции равно
Поэтому наименьшее значение позинома у(х) не меньше 10. #
Позином (3.42) называют регулярным, если выполнены п
равенств |
|
Qj = '%2aijci = Q> J = !.*»• |
(3.51) |
i=l |
|
Если позином регулярный, то координаты |
= Ci/d* точки |
w* 6 W, в которой, согласно теореме 3.20, двойственная функ ция d(w) достигает на m-мерном выпуклом многограннике W наибольшего значения еГ, равного d* = ci + ... + с™, удовлетво ряют условиям ортогональности (3.47). Действительно,
^2 o-ijWi = ^2 |
= 0, j = 1, n. |
|
|
1=1 |
1=1 |
|
|
Это означает, что для регулярного позинома у(х) |
верны нера |
||
венства |
d* < М < у{х), |
х € К£. |
(3.52) |
|
Теорема 3.21. Регулярный позином у(х) достигает в К” своего наименьшего значения у* = у(х*) = d* = с\ + c<i + ... + Сщ в точке х* = (1, 1, ..., 1) € R ".
◄ Поскольку для регулярного позинома верны неравенства (3.52), достаточно показать, что в точке х* позином прини мает значение d* С помощью непосредственных вычислений получаем
т |
п |
т |
Итак, поиск наименьшего значения регулярного позинома не составляет труда: оно достигается в точке х* с единичными координатами. Нерегулярный позином у(х) может не дости гать наименьшего значения, но если известно, что наименьшее значение этим позиномом достигается, то значение d* = у(х*) может рассматриваться как оценка сверху для наименьшего значения позинома.
Как отмечено выше, если позином достигает наименьшего значения, то все точки наименьшего значения есть стационар ные точки позинома. Поэтому задачу минимизации позинома можно решать, определяя его стационарные точки.
Используя представления (3.42) и (3.43), получаем уравне ния для стационарных точек позинома:
j = 1, п. |
(3.53) |
Эти уравнения сложные. Установить по ним существование стационарных точек, а тем более найти их не так просто, особенно при большом числе т слагаемых в (3.42) и дробных показателях степеней.
Введем дополнительные переменные
п
Тогда
п
и условия (3.53) можно записать в виде двух систем линейных уравнений
т |
п |
Теорема |
3.22. Если позином |
у(х) достигает в точке |
х* = (я*, |
х*) G М+ наименьшего |
значения у* = у(х*), то |
двойственная функция d(w) достигает на множестве W* наи большего значения d(w*) = у* в точке го* G W* с координатами го* = щ/у*, где щ = CiPi(x*), i =
◄ Покажем сначала, что точка го* принадлежит множеству
W*, т.е. ее координаты го* = и,/у* удовлетворяют равенству
т
го* = 1 и равенствам (3.47). Так как в точке х* позином
г=1 у(х) достигает наименьшего значения, эта точка для позинома
является стационарной. Следовательно, выполняются равен ства (3.54), в которых
п
Щ= С Д (® р ву =CiPi(x*), i = 1,т,
и Zj = lnz!-, j = 1, п. Используя первую группу этих равенств, заключаем, что
ТП
£ * х =£
Кроме того,
тп тп
Поэтому го* G W
Теперь вычислим значение двойственной функции в точке w*. Поскольку w* = щ/у* = CiPi(x*)/y*, то
|
Ci_ _ |
у« |
|
|
Используя представление двойственной фунции, находим |
||||
771 |
* 771 / |
\ э д ? |
/ 7 7 1 |
\ — w* 771 |
««о-Пф'-П{±Г} |
= |
п# |
||
г=1 1 |
г=1 |
' ' |
\=1 |
' г=1 |
Во втором произведении все показатели степени складываются, причем в сумме получаем
Еwt = 1.
Следовательно, это произведение равно у*. Первое произведе ние преобразуем, учитывая вид функций Pi(x):
—W* 771 71
где
771
kj = —^ ] CLijW = 0.
г= 1
Значит,
и d(w*) = у*.
Так как с?(ги) ^ у* для любой точки ги € W’*, то у* = d(w*) является наибольшим значением й(гу) на W* ►
Теорема 3.23. Пусть двойственная позиному у(х) функция
d(w) достигает |
в точке |
w* = |
( w * . . . , w |
E W* |
наибольшего |
значения и щ = ги*<Дги*), i = 1, т. Позином у(ж) |
достигает в |
||||
R+ наименьшего значения тогда и только тогда, когда система |
|||||
т уравнений |
п |
|
|
|
|
|
|
|
|
(3.55) |
|
|
|
|
|
|
|
где Zj = InXj, j |
= l,n , |
имеет |
решения, |
принадлежащие R+. |
При этом любое решение (г*, ..., z*) системы определяет точку х* = (х*, ..., х*), где Zj = lnx!-, j = 1,п, которая является точкой наименьшего значения позинома.
◄ Пусть позином у(х) достигает в R+ наименьшего значе ния у* в некоторой точке х* Тогда, согласно теореме 3.22, двойственная функция d(w) достигает на множестве W* наи большего значения в точке w* с координатами w* = щ/у*, где щ = Cipi(x*), i = 1, га. Кроме того, d(w*) = у*, и мы можем за писать щ —w*d(w*), i = 1, га.
Отметим, что функция d(w) достигает наибольшего зна чения в единственной точке. Действительно, множество W* есть пересечение выпуклого многогранника W с линейным мно гообразием, заданным системой линейных уравнений (3.47). Значит, W* — выпуклое множество. Как было отмечено выше (см. доказательство теоремы 3.20), функция —Ind(x) являет ся строго выпуклой. Поэтому она на W* имеет единственную точку минимума, а функция d(w) — единственную точку мак симума.
Для точки х* наименьшего значения позинома выполняют ся равенства (3.54), а так как щ = w*d(w*), i = 1, га, то вторая
группа этих равенств совпадает с (3.55). |
Следовательно, зна |
|
чения Zj = Xj, j = 1, п, дают решение системы (3.55). |
||
Пусть теперь система (3.55) имеет |
решение |
(г*, ..., г*) |
и х* = (xj, ..., х*) — соответствующая |
точка, |
для которой |
Inж* = zlj, j = 1, п. Тогда из системы (3.55) находим
Поэтому
771 |
771 |
У(х *) = ^ 2 сгРг{х*) = d(w*)J2w* =d(w*).
В данном случае W* / 0 и , значит, верны неравенства (3.52),
вкоторых d* = d(w*). Отсюда делаем вывод, что значение у{х*) = d(w*) является наименьшим значением позинома у(х*)
вЩ. ►
Теоремы 3.22 и 3.23 позволяют задачу поиска стационар ных точек позинома, т.е. решение системы уравнений 3.54, заменить задачей исследования на условный максимум двой ственной функции, ограничения в которой являются линейны ми. Такая задача может оказаться более простой, а решив ее, можно найти решение исходной задачи минимизации позинома.
Пример 3.20. Позином
у{х) = ------------) r X \ X 2 + 2 X 2 X Z +AX \XZ, X = (а?1, Х 2 , Х з ) € М+,
Х\Х2Хз
рассмотренный в примере 3.19, не является регулярным, так как для этого позинома не выполнено ни одно из условий (3.47):
- 4 + 1 + 4 = 1^ 0 , - 4 + 1 + 2 = - 1 ^ 0 , —4 + 2 + 4 = 2 ^ 0.
Однако для него множество W* не пусто (см. пример 3.19), и поэтому в R+ он достигает наименьшего значения. В качестве оценки сверху наименьшего значения этого позинома можно взять значение у(1,1,1) = 11, которое, отметим, является наи меньшим значением любого регулярного позинома с теми же