
- •Глава 6. Постановки задачи нелинейного программирования (знп) и основные определения…………………………...3
- •Глава 7. Задача одномерной оптимизации…………………………………….13
- •Глава 8. Графический метод решения знп…………………………………...33
- •Глава 10. Выпуклое программирование……………………………………....62
- •Глава 11. Квадратичное программирование…………………………………74
- •Глава 12. Задача безусловной оптимизации (збо)…………………………………………………………………..81
- •Глава 13. Задача условной оптимизации (зуо)……………………….……127
- •Глава 6.
- •6.1. Задача нелинейного программирования (знп) и ее постановки.
- •6.2. Основные определения.
- •6.3. Классификация знп.
- •6.4. Классическая оптимизация.
- •Глава 7. Методы одномерной оптимизации
- •Постановка задачи. Основные понятия
- •7.2. Поиск отрезка, содержащего точку максимума Алгоритм Свенна
- •Методы нулевого порядка.
- •Дихотомический поиск (метод деления отрезка пополам)
- •Метод золотого сечения
- •Метод дск-Пауэлла
- •7.4. Методы первого порядка.
- •Метод средней точки
- •Метод хорд (секущих)
- •Метод кубической аппроксимации
- •7.5. Методы второго порядка. Метод Ньютона-Рафсона
- •Итерация 1
- •Глава 8. Графический метод решения знп.
- •8.1. Алгоритм графического метода решения знп
- •8.2. Решение примеров.
- •Выпуклые и вогнутые функции
- •9.1. Определения
- •9.2. Свойства вогнутых (выпуклых) функций
- •9.3. Критерии вогнутости (выпуклости) гладких функций
- •9.4. Экстремальные свойства вогнутых (выпуклых) функций
- •9.5. Сильно вогнутые (выпуклые) функции
- •9.5.1. Определение. Примеры
- •9.5.2. Свойства сильно вогнутых (выпуклых) функций
- •9.5.3. Критерии сильной вогнутости (выпуклости)
- •9.5.4. Экстремальные свойства сильно вогнутых (выпуклых) функций
- •Глава 10. Выпуклое программирование
- •10.1. Постановка задачи
- •10.2. Функция Лагранжа. Седловая точка функции Лагранжа, условия ее существования Определение 10.1. Функция , (10.10)
- •10.3. Достаточные условия оптимальности
- •10.4. Условия регулярности выпуклого множества
- •10.5. Теорема Куна-Таккера. Общий случай
- •10.6. Теорема Куна-Таккера. Случай линейных ограничений
- •Глава 11. Квадратичное програмирование.
- •11.1. Постановка задачи квадратичного программирования (зкп)
- •11.2. Применение теории Куна-Таккера к решению зкп.
- •11.3. Решение задач.
- •Глава 12. Методы безусловной оптимизации
- •12.1. Постановка задачи
- •Алгоритм метода спуска
- •. Методы нулевого порядка (прямого поиска)
- •Метод Хука-Дживса
- •Алгоритм метода Хука-Дживса, использующий одномерный поиск
- •Метод покоординатного спуска
- •Первый вариант
- •Второй вариант
- •Методы первого и второго порядков
- •Градиентные методы. Метод скорейшего спуска – метод Коши
- •Метод Ньютона
- •Модифицированный метод Ньютона
- •Методы, использующие сопряженные направления
- •Определение сопряженных направлений
- •Оптимизация квадратичной функции. Конечная сходимость алгоритмов, использующих сопряженные направления
- •12.4.4. Метод Дэвидона-Флетчера-Пауэлла Шаг 1.Метод Дэвидона-Флетчера-Пауэлла (дфп) принадлежит к классу квазиньютоновских методов, в которых направление поиска задаётся в виде
- •Алгоритм метода дфп
- •Итерация 1
- •Шаг 2. Вычислим , тогда .
- •Шаг 2. Вычислим , тогда .
- •12.4.5. Метод сопряжённых градиентов Флетчера-Ривса
- •Алгоритм метода Флетчера-Ривса
- •Глава 13. Методы условной оптимизации
- •13.1. Постановка задачи. Классификация методов
- •Общая схема методов условной оптимизации
- •Шаг 2.Шаг 1. Выбрать ( -я итерация) – возможное направление подъёма функции в точке . Если такого направления нет, то - решение задачи. В противном случае перейти к шагу 2.
- •13.2. Методы возможных направлений
- •13.2.1. Метод Зойтендейка
- •Пример 13.2
- •Итерация 3
- •Шаг 4.Рисунок 13.6
- •13.2.2. Метод Топкиса-Вейнотта
- •Пример 13.3
- •Итерация 1
- •Шаг 5.Рисунок 13.7
- •Алгоритм метода Топкиса-Вейнотта
- •13.2.3. Метод Франка-Вульфа
- •Алгоритм метода Франка-Вульфа
- •Шаг 5. Находим шаг в направлении новой точки . Решение этой задачи (одномерной): .
- •Шаг 3. Так как , переходим к шагу 4.
- •Шаг 5. Решаем задачу: .
- •Литература
Выпуклые и вогнутые функции
9.1. Определения
Определение 9.1. Функция , определенная на выпуклом множестве , называется вогнутой (выпуклой) на этом множестве, если
|
(9.1) |
для
всех
и всех
,
.
Определение
9.2.
Если для любого
неравенство
выполняется как строгое, то функция
называется строго вогнутой (выпуклой)
на
.
Функция
называется выпуклой (строго выпуклой)
на выпуклом множестве
,
если
вогнута (строго вогнута) на множестве
.
Замечание 9.1. Если множество пусто или состоит из одной точки, то функцию можно считать вогнутой (выпуклой) по определению.
Замечание
9.2.
Линейная функция
на всем пространстве
является одновременно и вогнутой и
выпуклой.
9.2. Свойства вогнутых (выпуклых) функций
Теорема
9.1.
Если функции
,
,
вогнуты (выпуклы) на выпуклом множестве
,
то функция
вогнута (выпукла) на
для всех
,
.
Теорема 9.2. Сумма строго вогнутой и вогнутой функций есть функция строго вогнутая.
Теорема
9.3.
Если
вогнута (выпукла) на выпуклом множестве
и
,
,
,
,
,
то
|
(9.2) |
Терема
9.4.
Пусть
– выпуклое множество, а функция
выпукла (вогнута) на
,
тогда множество
выпукло для любого
(
– действительное число).
Если
функция
непрерывна на
,
а множество
замкнуто, то множество
замкнуто.
Доказательство.
Возьмем произвольные
,
.
Используя выпуклость множества
и выпуклость функции
,
имеем
,
то есть
.
Следовательно, множество
выпукло.
Пусть
функция
непрерывна на
.
Возьмем какую-либо предельную точку
множества
.
Тогда существует последовательность
,
сходящаяся к
.
В силу замкнутости
точка
.
Так как
непрерывна в точке
и
,
,
то
,
т.е.
.
Следовательно,
замкнуто.
Теорема
9.5.
Пусть множество
выпукло и
.
Тогда выпуклая (вогнутая) функция
,
определенная на
,
является непрерывной во всех внутренних
точках этого множества.
Следствие.
Если функция выпукла (вогнута) на всем
пространстве
,
то функция
непрерывна во всех точках.
Определение
9.3.
Производной
функции
,
определенной на множестве
,
в точке
по направлению
будем называть число
.
Если
функция
дифференцируема на множестве
,
то
имеет производные по всем направлениям
в любой точке
и
.
Определение
9.4.
Направление
в точке
называется возможным, если существует
такое число
,
что для всех
точки
.
Очевидно,
если
,
то любое направление в этой точке
является возможным.
Теорема
9.6.
Пусть множество
выпукло и
.
Тогда вогнутая (выпуклая) функция
,
определенная на множестве
,
имеет в каждой внутренней точке этого
множества производную по любому
направлению
.
Теорема
9.7.
Пусть функция
выпукла (вогнута) и не убывает в промежутке
(
не исключается), функция
выпукла (вогнута) на выпуклом множестве
,
причем
для всех
.
Тогда функция
является выпуклой (вогнутой) на множестве
.
Следствия из теоремы 9.7.
Пусть функция
и выпукла на выпуклом множестве , тогда функция
при всех
,
будет выпуклой на .
Если функция выпукла на выпуклом множестве , то выпукла на и функция
,
.
Если функция
и выпукла на выпуклом множестве , то выпуклы на и функции
,
, .