- •Д. Р. Воденин Численные методы оптимизации Учебно-методическое пособие
- •Оглавление
- •Глава 1. Одномерная оптимизация 14
- •Глава 2. Многомерная оптимизация без ограничений 25
- •Глава 3. Многомерная оптимизация с ограничениями 43
- •Глава 1. Одномерная оптимизация
- •Основные понятия
- •Классический подход
- •Метод деления отрезка пополам.
- •Метод золотого сечения
- •Метод Фибоначчи.
- •Симметричные методы
- •Метод Ньютона.
- •Глава 2. Многомерная оптимизация без ограничений
- •Основные понятия
- •Классический подход.
- •Классификация численных методов поиска экстремума функции нескольких переменных без ограничений
- •Метод покоординатного спуска
- •1. Задать: начальную точку ;точность ;шаги по координатам
- •Метод Хука и Дживса(метод конфигураций)
- •1.Задать: начальную точку ;точность ;шаги по координатам
- •2.Осуществить исследовательский поиск
- •4. Провести поиск по образцу.
- •Метод наискорейшего спуска
- •1.Задать: начальную точку ;точность ;
- •Метод Флетчера-Ривса
- •1.Задать: начальную точку ;точность ; ;
- •Эвристический выбор начального интервала одномерной минимизации
- •Алгоритм
- •Вычислить функцию в трех точках ;
- •Проверить условие окончания:
- •Метод Давидона-Флетчера-Пауэлла
- •1.Задать: начальную точку ;точность ; ;
- •Методы Ньютона и Ньютона-Рафсона.
- •1.Задать: начальную точку ;точность ; ;
- •1. Задать: начальную точку ;точность ; ;
- •О методе наименьших квадратов
- •Глава 3. Многомерная оптимизация с ограничениями
- •Классическая задача на условный экстремум
- •Нелинейное программирование
- •Классификация численных методов многомерной оптимизации при наличии ограничений
- •Метод внешних штрафных функций
- •Алгоритм
- •1.Задать: начальную точку ;точность ; ; ;
- •Замечания
- •Метод барьерных функций
- •Алгоритм
- •1.Задать: начальную точку внутри области ;точность ; ; ; ;
- •Замечания
- •Комбинированный метод штрафных функций
- •Алгоритм
- •Замечания
- •4. Справедливы замечания для внешних штрафных функций и для барьерных функций.
- •Алгоритм
- •1. Задать: начальную точку точность ; ; ; ; ит начальные значения параметра
- •Замечания
- •Метод точных штрафных функций
- •Алгоритм
- •Замечания
- •Метод проекции градиента
- •Алгоритм
- •1. Задать: начальную точку ; точность ; ;
- •Замечания
- •Литература
Замечания
1. В качестве начальных значений параметра обычно выбирают
;
2. Можно использовать разные параметры штрафа для внутренних и внешних штрафных функций.
3.Метод предложен Фиакко А. и Мак-Кормиком Г. (Fiacco A.V., McCormic G.P.)
4. Справедливы замечания для внешних штрафных функций и для барьерных функций.
Метод множителей.
Будем предполагать, что дважды непрерывно дифференцируемая функция. Снова рассмотрим задачу:
(3.5)
Данный метод аналогичен методу внешних штрафных функций, но штраф добавляется не к целевой функции, а к классической функции Лагранжа.
В результате задача на условный минимум сводится к решению последовательности задач поиска безусловного минимума модифицированной функции Лагранжа.
(3.18)
(3.19)
Задается
начальная точка
.
На каждой итерации ищется точка минимума
модифицированной функции Лагранжа с
помощью одного из методов безусловной
минимизации. Полученная точка
используется в качестве начальной на
следующей итерации.
Алгоритм
1. Задать: начальную точку точность ; ; ; ; ит начальные значения параметра
2. Составить модифицированную функцию Лагранжа.
где
3.Находим
точку
безусловного минимума функции
с помощью одного из методов безусловной
минимизации 0,1 или 2 порядка:
.
В качестве начальной выбирается точка
,
при этом должны быть заданы все начальные
параметры соответствующего метода
4. Проверяем условия окончания работы метода:
a) Если
,
то считаем, что найдено оптимальное
решение
;конец;
иначе
б)
для ограничений равенств,
для ограничений неравенств,
Переход на 2.
Сходимости метода множителей приводится в []
Замечания
1. В качестве начальных значений параметра обычно выбирают
;
.
Целесообразно выбирать значение
близким к
.
Если выбрать начальное значение
,
то первая вспомогательная задача
минимизации совпадает с задачей, решаемой
в методе внешних штрафных функций.
2. Обычно методом множителей удается найти условный экстремуму за меньшее число итераций, чем метод внешних штрафных функций. При это для сходимости не требуется, чтобы . Минимум модифицированной функции Лагранжа , начиная с некоторого , совпадает с минимумом в исходной задаче. Это приводит также к тому, что проблема овражности не является такой острой, как в методе внешних штрафных функций.
3.Метод предложен Пауэллом и Хестенсом. (Powell M.J.D., Hestenes M.R.). Он имеет большое количество модификаций.
4.
Если
,
то через конечное число итераций, те
множители, которые соответствуют
ограничениям, не являющимися активными
в точке
обратятся в нуль.
Метод точных штрафных функций
Будем предполагать, что дважды непрерывно дифференцируемая функция. Снова рассмотрим задачу:
(3.5)
Идея метода заключается в том, чтобы для выбранных соответствующим образом параметров штрафа однократная безусловная минимизация давала решение исходной задачи.
При построении вспомогательной функции могут использоваться
1. недифференцируемые точные штрафные функции.
(3.20)
Дифференцируемые штрафные функции (для задач с ограничениями типа равенств,
)
(3.21)
где
- классическая функция Лагранжа.
Для минимизации недифференцируемых штрафных функций можно применять только методы минимизации функций нескольких переменных без ограничений нулевого порядка, а для дифференцируемых – также методы первого и второго порядков.
\
