- •Кафедра компьютерных систем управления и обработки информации
- •Введение
- •1 Методы одномерной оптимизации
- •Одномерная оптимизация методом классического анализа
- •Метод равномерного поиска
- •Метод поразрядного приближения
- •Метод дихотомии
- •1.5 Метод золотого сечения
- •1.6 Метод квадратичной интерполяции
- •Методы одномерной оптимизации на основе преобразования задач
- •2.1 Метод классического анализа.
- •2.2 Метод исключения переменных
- •2.3 Метод множителей Лагранжа
- •2.4 Пример применения метода множителей Лагранжа
- •2.5 Метод множителей Лагранжа с ограничениями в виде неравенств
- •2.6 Экономическая интерпретация множителей Лагранжа
- •2.7 Метод штрафных функций
- •3 Поисковые методы одномерной оптимизации
- •3.1 Общие сведения
- •3.2 Градиентные методы оптимизации
- •3.2.1 Метод релаксации
- •3.2.2 Метод градиента
- •Метод наискорейшего спуска
- •3.3. Безградиентные методы оптимизации поиска
- •3.3.1 Метод сканирования
- •3.3.2 Метод Гаусса-Зейделя
- •3.3.3 Метод поиска по симплексу
- •4 Линейная оптимизация
- •4.1 Примеры задач линейной оптимизации
- •4.2 Общая постановка задачи линейной оптимизации
- •4.3 Геометрическая интерпретация злп
- •4.4 Основы симплекс-метода
- •Список использованных источников и литературы
- •Содержание
Методы одномерной оптимизации на основе преобразования задач
Многие инженерные
задачи связаны с оптимизацией при
наличии различного вида ограничений
на управляемые переменные. Такие
ограничения существенно уменьшают
размеры области, в которой проводится
поиск оптимума. Однако, несмотря на это,
процесс оптимизации становится более
сложным, поскольку известные критерии
оптимальности решения задачи безусловной
оптимизации нельзя использовать при
наличии ограничений. При этом может
нарушаться даже основное условие, в
соответствии с которым оптимум должен
достигаться в стационарной точке,
характеризующейся нулевым градиентом.
Часто оптимум достигается в точке, не
являющейся стационарной точкой функции
.
Указанные трудности наталкивают на
мысль использовать безусловную
оптимизацию вспомогательных функций,
составленных с учётом ограничений, для
отыскания точки условного оптимума.
Идея преобразования задачи с ограничениями в последовательность задач без ограничений представляется эффективной в связи с наличием надёжных методов безусловной оптимизации. Это позволяет отыскать условный оптимум с приемлемой точностью путём решения относительно небольшого числа не слишком сложных задач.
Ниже рассматривается задача нелинейного программирования следующего вида:
,
, (2.1)
при ограничениях
,
,
; (2.2)
,
. (2.3)
Начнём рассмотрение с краткого обсуждения метода классического анализа поиска экстремума функции многих переменных без ограничений. Этот метод часто является неотъемлемой частью методов решения преобразованной задачи оптимизации.
2.1 Метод классического анализа.
Пусть целевая
функция
является непрерывной дифференцируемой
функцией
(2.4)
Необходимые условия экстремума:
,
.
(2.5)
Решением этой
системы уравнений определяют точки
,
соответствующие «подозрительным»
экстремумам.
Чтобы сформировать
достаточные условия рассмотрим матрицу
вторых производных в точке
(матрицу Гессе)
;
(2.6)
Поскольку
,
матрица Гессе симметрична относительно главной диагонали.
Обозначим определители диагональных миноров матрицы (2.6) через Δ1, Δ2,…, Δn
;
;
и т.д.
В общем случае определитель Δк имеет вид:
(2.7)
Чтобы установить тип экстремума достаточно определить знаки диагональных миноров (условие Сильвестра).
В точке
функция
имеет минимум, если
,
,
(2.8)
или максимум, если
,
.
(2.9)
Если же условия
(2.8) и (2.9) не выполняются, но все определители
Δк,
,
отличны от нуля (Δк
≠0,
),
то в исследуемой точке
функция
не имеет экстремума. При обращении в
нуль хотя бы одного из определителей
Δк
тип экстремума не определён, вопрос о
наличии экстремума в исследуемой точке
решается сложнее, с использованием
производных более высокого порядка.
На практике обычно используют лишь необходимые условия – условия первого порядка совместно с некоторыми физическими соображениями, относящимися к конкретной задаче, ввиду сложности проверки достаточных условий – условий второго порядка.
В отдельных случаях может оказаться эффективным непосредственное вычисление в окрестности стационарных точек, где выполняются необходимые условия.
Эффективно использовать методы исследования функции – классического анализа когда относительно просто можно найти аналитическое выражение критерия оптимальности. Применение этих методов оказывается так же полезным при предварительном анализе и более сложных задач в первоначальном, относительно грубом приближении. Поэтому эти методы не теряют своего значения в теории оптимальных процессов по мере дальнейшего его развития.
