47. Форма функции многих переменных в окрестности точки седла.

Седловая точка функции (обозначена красным) , седловая точка точка центр "восьмерки".

Седловая точка в математическом анализе — такая точка из области определения функции, которая является стационарной для данной функции, однако не является её локальным экстремумом. В такой точке, если рассматривается функция двух переменных, образованная графиком функции поверхность обычно напоминает по форме седло или горный перевал - выпуклая в одном направлении и вогнутая в другом. На карте высот седловая точка может быть в общем случае обнаружена в месте пересечения изолиний. Например, два холма, между которыми находится высокий перевал, образуют седловую точку в вершине этого перевала: на карте высот это будет выглядеть как центр "восьмерки", образованной соответствующими изолиниями.

Седловая точка в математическом анализе

Проверить, является ли данная стационарная точка функции F(x,y) двух переменных седловой, можно, вычислив матрицу Гессе функции в этой точке: если гессиан будет неопределенной квадратичной формой, то данная точка - седловая. Например, составив матрицу Гессе функции z = x² − y² в стационарной точке (0,0) получим матрицу:

которая является неопределенной. Поэтому, точка (0,0) данной функции - седловая. Однако вышеприведенный критерий предоставляет только достаточное условие наличия седловой точки. Например, (0,0) является седловой точкой функции z = x⁴ − y⁴, но матрица Гессе в данном случае будет нулевой матрицей, которую, по определению, нельзя назвать неопределенной.

В общем случае, седловой точкой гладкой функции (чей график изображает кривую, поверхность или гиперповерхность) называется такая стационарная точка, в окрестности которой данная кривая/поверхность/гиперповерхность не лежит полностью на одной стороне касательного пространства в данной точке.

В случае функции одной переменной, седловая точка - такая точка, которая одновременно и стационарная точка, и точка перегиба (точка перегиба не является локальным экстремумом).Термин «седловая точка» также используется для обозначения элемента матрицы, который является наименьшим элементом в своем ряду и наибольшим в своем столбце (или же наоборот, то есть наибольший в ряду и наименьший в столбцеНапример, матрицаимеет одну седловую точку — «4» в первом ряду третьем столбце меньше, чем элементы в первом ряду матрицы («5», «6», «5»), и больше, чем элементы в третьем столбце («3», «-2»). Матрица содержит 4 седловых точки — «2» в первом и втором ряду, первом и четвёртом столбце. Данный пример показывает, что матрица может иметь любое количество седловых точек. Так, в матрице, состоящей из одного и того же числа, все элементы являются седловыми. Матрица не имеет седловой точки.

48. Градиентный метод минимизации функции многих переменных.

Градиентный спуск — метод нахождения локального минимума (максимума) функции с помощью движения вдоль градиента. Для минимизации функции в направлении градиента используются методы одномерной оптимизации, например, метод золотого сечения. Также можно искать не наилучшую точку в направлении градиента, а какую-либо лучше текущей.

Сходимость метода градиентного спуска зависит от отношения максимального и минимального собственных чисел матрицы Гессе в окрестности минимума (максимума). Чем больше это отношение, тем хуже сходимость метода.

Описание

Иллюстрация последовательных приближений к точке экстремума в направлении наискорейшего спуска (красн.) в случае дробного шага. Синим отмечены линии уровня.

Пусть целевая функция имеет вид:

.
И задача оптимизации задана следующим образом:
Основная идея метода заключается в том, чтобы идти в направлении наискорейшего спуска, а это направление задаётся антиградиентом :