- •Д. Р. Воденин Численные методы оптимизации Учебно-методическое пособие
- •Оглавление
- •Глава 1. Одномерная оптимизация 14
- •Глава 2. Многомерная оптимизация без ограничений 25
- •Глава 3. Многомерная оптимизация с ограничениями 43
- •Глава 1. Одномерная оптимизация
- •Основные понятия
- •Классический подход
- •Метод деления отрезка пополам.
- •Метод золотого сечения
- •Метод Фибоначчи.
- •Симметричные методы
- •Метод Ньютона.
- •Глава 2. Многомерная оптимизация без ограничений
- •Основные понятия
- •Классический подход.
- •Классификация численных методов поиска экстремума функции нескольких переменных без ограничений
- •Метод покоординатного спуска
- •1. Задать: начальную точку ;точность ;шаги по координатам
- •Метод Хука и Дживса(метод конфигураций)
- •1.Задать: начальную точку ;точность ;шаги по координатам
- •2.Осуществить исследовательский поиск
- •4. Провести поиск по образцу.
- •Метод наискорейшего спуска
- •1.Задать: начальную точку ;точность ;
- •Метод Флетчера-Ривса
- •1.Задать: начальную точку ;точность ; ;
- •Эвристический выбор начального интервала одномерной минимизации
- •Алгоритм
- •Вычислить функцию в трех точках ;
- •Проверить условие окончания:
- •Метод Давидона-Флетчера-Пауэлла
- •1.Задать: начальную точку ;точность ; ;
- •Методы Ньютона и Ньютона-Рафсона.
- •1.Задать: начальную точку ;точность ; ;
- •1. Задать: начальную точку ;точность ; ;
- •О методе наименьших квадратов
- •Глава 3. Многомерная оптимизация с ограничениями
- •Классическая задача на условный экстремум
- •Нелинейное программирование
- •Классификация численных методов многомерной оптимизации при наличии ограничений
- •Метод внешних штрафных функций
- •Алгоритм
- •1.Задать: начальную точку ;точность ; ; ;
- •Замечания
- •Метод барьерных функций
- •Алгоритм
- •1.Задать: начальную точку внутри области ;точность ; ; ; ;
- •Замечания
- •Комбинированный метод штрафных функций
- •Алгоритм
- •Замечания
- •4. Справедливы замечания для внешних штрафных функций и для барьерных функций.
- •Алгоритм
- •1. Задать: начальную точку точность ; ; ; ; ит начальные значения параметра
- •Замечания
- •Метод точных штрафных функций
- •Алгоритм
- •Замечания
- •Метод проекции градиента
- •Алгоритм
- •1. Задать: начальную точку ; точность ; ;
- •Замечания
- •Литература
Алгоритм
1.
Задать: начальную точку
точность
;
-
число решаемых задач безусловной
минимизации.
;
;
;
;
2. Составить вспомогательную функцию , где
для недифференцируемых штрафных функций или для дифференцируемых штрафных функций.
3. Находим точку безусловного минимума функции с помощью одного из методов безусловной минимизации 0 порядка для недифференцируемой штрафной функции: .
или
для дифференцируемой.
В качестве начальной выбирается точка , при этом должны быть заданы все начальные параметры соответствующего метода :
a) Если , то считаем, что найдено оптимальное решение ; для недифференцируемых функций или
для дифференцируемых
конец; иначе
б) если
,
конец. Выдается сообщение о неудаче
иначе
в)
Переход
на 2.
Замечания
Идея метода недифференцируемых точных штрафных функций предложена Эблоу и Брайхемом (Ablow C.M., Brigham G.). Дифференцируемые точные штрафные функции предложены Флетчером, Де Пило и Гриппо (R.Fletcher, Di Pillo G.,Grippo L.)
Дифференцируемые точные штрафные функции могут рассматриваться как модифицированные функции Лагранжа.
Метод проекции градиента
Хотя метод проекции градиента применяется в задачах поиска условного экстремума как для равенств, так и для неравенств, мы рассмотрим применение этого метода только в случае ограничений типа равенств:
Будем предполагать, что непрерывно дифференцируемая функция.
(3.22)
Поиск решения задачи в данном алгоритме состоит в построении последовательности точек вычисляемых по правилу:
,
где
определяется из условия проекции
вектора
на аппроксимирующую плоскость, задаваемую
уравнением
,
которая аппроксимирует в точке
поверхность
,
задаваемая уравнениями
.
- матрица размерности
вида:
(3.23)
а
Алгоритм
1. Задать: начальную точку ; точность ; ;
2.
Если
то
;конец;иначе
3. Вычислить
4.
Вычислить
5.
Вычислить
6.
Вычислить
7. Вычислить
8.
Вычислить
9.
Проверить выполнение условий
и
a) Если и , то считаем, что найдено оптимальное решение ;конец; иначе
б) Если
и
то
;Переход
на 10, иначе
в) Если
и
то
;
Переход на 12. иначе переход на 10.
10. Находим
11. Находим
точку
14.
Вычислить
;
;
Переход на 2.
Замечания
1. Метод предложен Розеном. (Rozen J.B.).
2. В полученной точке требуется обязательная проверка достаточных условий минимума. Точное равенство свидетельствует о точном выполнении необходимых условий экстремума. При этом вектор множителей Лагранжа определяется по формуле
(3.24)
Знание данного приближения вектора множителей Лагранжа, определяемого формулой (3.24) позволяет осуществить проверку достаточных условий экстремума в полученной точке.
Литература
1. Пантелеев А.В., Летова Т.А. Методы оптимизации в примерах и задачах. ‑ М. : Высшая школа, 2005. ‑ 544 с.
2. Васильев Ф.П. Численные методы решения экстремальных задач. ‑ М. : Наука, 1988.
3. Горбунов В.К. Введение в теорию экстремума. ‑ УлГУ, 1999.
4. Галеев Э.М., Тихомиров В.М. Краткий курс экстремальных задач. ‑ М. : Изд-во Моск. ун-та, 1989.
5. Васильев Ф.П. Методы оптимизации. – М. : Факториал Пресс, 2002.
6. Алексеев В.М., Галеев Э.М., Тихомиров В.М. Сб. Задач по оптимизации. ‑ М. : 1984.
7. Банди Б., Методы оптимизации. Вводный курс. – М. : Радио и связь, 1988.
8. Полак Э. Численные методы оптимизации. Единый подход. – М. : Мир, 1974. ‑ 376 с.
