- •Д. Р. Воденин Численные методы оптимизации Учебно-методическое пособие
- •Оглавление
- •Глава 1. Одномерная оптимизация 14
- •Глава 2. Многомерная оптимизация без ограничений 25
- •Глава 3. Многомерная оптимизация с ограничениями 43
- •Глава 1. Одномерная оптимизация
- •Основные понятия
- •Классический подход
- •Метод деления отрезка пополам.
- •Метод золотого сечения
- •Метод Фибоначчи.
- •Симметричные методы
- •Метод Ньютона.
- •Глава 2. Многомерная оптимизация без ограничений
- •Основные понятия
- •Классический подход.
- •Классификация численных методов поиска экстремума функции нескольких переменных без ограничений
- •Метод покоординатного спуска
- •1. Задать: начальную точку ;точность ;шаги по координатам
- •Метод Хука и Дживса(метод конфигураций)
- •1.Задать: начальную точку ;точность ;шаги по координатам
- •2.Осуществить исследовательский поиск
- •4. Провести поиск по образцу.
- •Метод наискорейшего спуска
- •1.Задать: начальную точку ;точность ;
- •Метод Флетчера-Ривса
- •1.Задать: начальную точку ;точность ; ;
- •Эвристический выбор начального интервала одномерной минимизации
- •Алгоритм
- •Вычислить функцию в трех точках ;
- •Проверить условие окончания:
- •Метод Давидона-Флетчера-Пауэлла
- •1.Задать: начальную точку ;точность ; ;
- •Методы Ньютона и Ньютона-Рафсона.
- •1.Задать: начальную точку ;точность ; ;
- •1. Задать: начальную точку ;точность ; ;
- •О методе наименьших квадратов
- •Глава 3. Многомерная оптимизация с ограничениями
- •Классическая задача на условный экстремум
- •Нелинейное программирование
- •Классификация численных методов многомерной оптимизации при наличии ограничений
- •Метод внешних штрафных функций
- •Алгоритм
- •1.Задать: начальную точку ;точность ; ; ;
- •Замечания
- •Метод барьерных функций
- •Алгоритм
- •1.Задать: начальную точку внутри области ;точность ; ; ; ;
- •Замечания
- •Комбинированный метод штрафных функций
- •Алгоритм
- •Замечания
- •4. Справедливы замечания для внешних штрафных функций и для барьерных функций.
- •Алгоритм
- •1. Задать: начальную точку точность ; ; ; ; ит начальные значения параметра
- •Замечания
- •Метод точных штрафных функций
- •Алгоритм
- •Замечания
- •Метод проекции градиента
- •Алгоритм
- •1. Задать: начальную точку ; точность ; ;
- •Замечания
- •Литература
Алгоритм
1.Задать: начальную точку внутри области ;точность ; ; ; ;
2.Составить вспомогательную функцию , где
или
3.Находим точку безусловного минимума функции с помощью одного из методов безусловной минимизации 0,1 или 2 порядка:
. В качестве начальной выбирается точка , при этом должны быть заданы все начальные параметры соответствующего метода и обеспечена проверка на допустимость при нахождении шага в нужном направлении в методе безусловной минимизации.
4.Проверяем условия окончания работы метода:
a) Если
,
то считаем, что найдено оптимальное
решение
;конец;
иначе
б)
Переход
на 2.
Теорема
19.
Пусть функции
выпуклы и конечны. Множество
решений задачи условного минимума не
пусто и ограничено, существует точка
,такая
что
.
Тогда в методе барьерных функций функции
выпуклы, последовательность
,
порожденная алгоритмом, ограничена и
все ее предельные точки принадлежат
,
причем
для
.
Замечания
1. В качестве начальных значений параметра обычно выбирают
;
2.
При
обеспечивается сходимость. Однако, при
уменьшении
функция
становится все более овражной, поэтому
полагать
сразу малым числом нецелесообразно.
3.Обратная штрафная функция была предложена Кэрроллом (Carrol C.W.)
А логарифмическая – Фришем (Frisch K.R.).
4. Так как большинство методов поиска безусловного экстремума используют дискретные шаги, то вблизи границы неудачный выбор шага может привести в точку, лежащую вне допустимой области. Поэтому в алгоритмы безусловной оптимизации должна быть включена процедура проверки принадлежности точки области . Благодаря этому приближенное решение всегда принадлежит допустимой области. Это одно из преимуществ метода.
5. В методе внешних штрафных функций имеется тесная связь между значением параметров штрафа и множителями Лагранжа для регулярной точки минимума:
для
обратной штрафной функции
для логарифмической.
При этом
Комбинированный метод штрафных функций
Будем предполагать, что дважды непрерывно дифференцируемая функция. Снова рассмотрим задачу:
(3.5)
Данный метод является комбинацией двух предыдущих: для ограничений типа равенств применяется метод внешних штрафных функций, а для ограничений неравенств – метод барьерных функций.
.
При этом, в зависимости от вида барьерной функции, получается два вида штрафных функций:
a)
(3.16)
- обратная штрафная функция.
б)
(3.17)
- логарифмическая штрафная функция.
Алгоритм
1.Задать:
начальную точку
так, чтобы
;точность
;
;
;
;
2.Составить вспомогательную функцию , где
или
3.Находим точку безусловного минимума функции с помощью одного из методов безусловной минимизации 0,1 или 2 порядка:
. В качестве начальной выбирается точка , при этом должны быть заданы все начальные параметры соответствующего метода и обеспечена проверка на допустимость при нахождении шага в нужном направлении в методе безусловной минимизации для ограничений типа неравенств.
4.Проверяем условия окончания работы метода:
a) Если , то считаем, что найдено оптимальное решение ;конец; иначе
б) Переход на 2.
