51. Многомерная оптимизация.
Метод наискорейшего
спуска
представляет собой модификацию
градиентного метода и заключается в
определении минимума
вдоль антиградиентного направления. В
основу метода положены вычисление и
анализ производных целевой функции
.
В
начальной точке поиска определяем
направление вектора градиента
,
для чего вычисляются частные производные
в точке
,
где
=
,
- вектор независимых переменных
.
Вектор градиента
по направлению совпадает с направлением
наискорейшего возрастания целевой
функции
.
Следовательно, целевая функция в
направлении, обратном направлению
градиента, т.е. в направлении антиградиента,
убывает наиболее быстро. После того,
как в начальной точке найдем градиент
оптимизируемой функции и таким образом
определим направление её наибыстрейшего
убывания, в данном направлении делается
шаг спуска. Если значение функции
в результате этого шага уменьшилось,
производится очередной шаг в этом же
направлении. Аналогичным образом шаги
продолжаются до тех пор, пока не будет
найден минимум в этом направлении. В
новой точке, где достигнут частный
минимум в текущем направлении, вновь
определяются частные производные
и новое направление наибыстрейшего
убывания
.
Теперь поиск осуществляется в новом
направлении путем анализа величины
после каждого шага и т.д.
При достаточно
большой величине шага в районе оптимума
поиск может зациклиться. В этом случае
следует последовательно уменьшить
величину
при поиске в районе оптимума.
При использовании рассматриваемого метода можно обнаружить только локальный минимум. Каждый локальный минимум целевой функции можно охарактеризовать некоторой областью притяжения, обладающей тем свойством, что при задании начального состояния в границах этой области метод наискорейшего спуска всегда приводит в один и тот же локальный минимум. Поэтому для поиска других локальных минимумов и выбора среди них глобального необходимо производить поиск из других начальных точек.
52. Линейное программирование.
Линейное программирование представляет собой математический аппарат, разработанный для решения оптимальных задач с линейными выражениями для критерия оптимальности и линейными ограничениями на область изменения переменных. Такие задачи обычно встречаются при решении вопросов оптимального планирования производства с ограниченным количеством ресурсов, при определении оптимального плана перевозок (транспортные задачи) и т.д.
Для решения большого круга задач линейного программирования имеется практически универсальный алгоритм - симплексный, метод, позволяющий за конечное число итераций находить оптимальное решение подавляющего большинства задач. Тип используемых ограничений (равенства или неравенства) не сказывается на возможности применения указанного алгоритма. Дополнительной проверки на оптимальность для получаемых решений не требуется. Как правило, практические задачи линейного программирования отличаются весьма значительным числом независимых переменных. Поэтому для их решения обычно используют вычислительные машины, необходимая мощность которых определяется размерностью решаемой задачи.