Шпоры ВычМат Хорошие! [2424 вопросов] / 19

19.Дайте классификацию методов нахождения минимума функции n переменных. Какие две операции лежат в основе методов нахождения минимума

Практически все методы минимизации функции n переменных основаны

на многократном повторении следующих двух действий:

1. выбор некоторого направления спуска;

2. спуск к минимуму вдоль выбранного направления.

Если - единичный вектор выбранного направления в точке

, то уравнение прямой, проходящей через точку направлении , записывается в виде , где z −∞<<∞ параметр, соответствующий точкам на прямой (при этом модуль z есть расстояние от текущей точки до ). Значения функции вдоль этой прямой можно описать функцией одной переменной .Двигаясь вдоль этой прямой находится точка , в которой функция имеет меньшее значение, чем в точке z =0 (соответственно ). Обычно спуск вдоль прямой сводится к нахождению точки , в которой достигается минимум функции одной переменной min ϕ (z). Эта задача более проста и ее решение находится одним из методов нахождения минимума функции одной переменной (методы последовательного перебора, золотого сечения, квадратичной или кубической парабол). Хотя не всегда стратегия нахождения min ϕ (z). эффективна, часто лучшие результаты дает стратегия небольшого спуска в сторону уменьшения ϕ . После нахождения следует перейти в новую точку, т.е. и, выбрав в этой точке новое направление, опять выполнить спуск по направлению и т.д., пока не будет достигнут минимум. Все многообразие методов минимизации функции n переменных определяется множеством способов выбора направлений и методов спуска в выбранном направлении.

• МЕТОДЫ НУЛЕВОГО ПОРЯДКА - при выборе направления спуска требуют вычисления только значений функции (методы: Гаусса-Зейделя, Пауэлла, ДСК, Розенброка, Хука-Дживса, Нелдера-Мида).

• МЕТОДЫ ПЕРВОГО ПОРЯДКА - требуют вычисления (точного или приближенного) градиента функции (методы: градиентный, сопряженных градиентов, Давидона-Флетчера-Пауэлла (ДФП), Флетчера-Ривса и др.).

• МЕТОДЫ ВТОРОГО ПОРЯДКА - требуют вычисления как градиента, так и матрицы вторых производных (методы: Ньютона, Ньютона-Рафсона).

• МЕТОДЫ С ПЕРЕМЕННОЙ МЕТРИКОЙ – занимают промежуточное место между методами 1-го и 2-го порядка