
Шпоры ВычМат Хорошие! [2424 вопросов] / 19
.docx19.Дайте классификацию методов нахождения минимума функции n переменных. Какие две операции лежат в основе методов нахождения минимума
Практически все методы минимизации функции n переменных основаны
на многократном повторении следующих двух действий:
1. выбор некоторого направления спуска;
2. спуск к минимуму вдоль выбранного направления.
Если
- единичный вектор выбранного
направления в точке
,
то уравнение прямой, проходящей через
точку
направлении
,
записывается в виде
,
где z −∞<<∞ параметр, соответствующий
точкам на прямой (при этом модуль z
есть расстояние от текущей точки
до
).
Значения функции
вдоль этой прямой можно описать
функцией одной переменной
.Двигаясь
вдоль этой прямой находится точка
,
в которой функция
имеет меньшее значение, чем в точке z
=0 (соответственно
).
Обычно спуск вдоль прямой сводится к
нахождению точки
, в которой достигается минимум функции
одной переменной min ϕ (z). Эта задача более
проста и ее решение находится одним
из методов нахождения минимума функции
одной переменной (методы последовательного
перебора, золотого сечения, квадратичной
или кубической парабол). Хотя не всегда
стратегия нахождения min ϕ (z). эффективна,
часто лучшие результаты дает стратегия
небольшого спуска в сторону уменьшения
ϕ . После нахождения
следует перейти в новую точку, т.е.
и,
выбрав в этой точке новое направление,
опять выполнить спуск по направлению
и т.д., пока не будет достигнут минимум.
Все многообразие методов минимизации
функции n переменных определяется
множеством способов выбора направлений
и методов спуска в выбранном
направлении.
-
МЕТОДЫ НУЛЕВОГО ПОРЯДКА - при выборе направления спуска требуют вычисления только значений функции (методы: Гаусса-Зейделя, Пауэлла, ДСК, Розенброка, Хука-Дживса, Нелдера-Мида).
-
МЕТОДЫ ПЕРВОГО ПОРЯДКА - требуют вычисления (точного или приближенного) градиента функции (методы: градиентный, сопряженных градиентов, Давидона-Флетчера-Пауэлла (ДФП), Флетчера-Ривса и др.).
-
МЕТОДЫ ВТОРОГО ПОРЯДКА - требуют вычисления как градиента, так и матрицы вторых производных (методы: Ньютона, Ньютона-Рафсона).
-
МЕТОДЫ С ПЕРЕМЕННОЙ МЕТРИКОЙ – занимают промежуточное место между методами 1-го и 2-го порядка