- •1.3. Численные методы нахождения локального минимума функции одного переменного
- •Алгоритм отыскания локального минимума унимодальной функции
- •Метод дихотомии
- •Метод золотого сечения
- •Рубежный тестовый контроль
- •1.4. Оптимизационная задача при отсутствии ограничений. Целевые функции нескольких переменных
- •Рубежный тестовый контроль
- •1.5. Градиентные методы поиска экстремума функции нескольких переменных
- •Градиентный подход поиска локального минимума функции нескольких переменных
- •Метод наискорейшего спуска
- •Метод Гаусса-Зейделя
- •Овражный метод
- •Рубежный тестовый контроль
- •1.6. Численные методы решения нелинейных алгебраических уравнений
- •Метод Ньютона
- •Решение системы алгебраических уравнений
- •Рубежный тестовый контроль
- •Глава II. Условный экстремум функций
- •Условный экстремум функций при ограничениях типа равенств (Задача Лагранжа)
- •Максимизация скорости набора высоты самолета в установившемся режиме полета на заданной высоте
- •Задача о консервной банке
Рубежный тестовый контроль
Матрица
является
положительно определенной;
неопределенной;
вопрос поставлен некорректно;
отрицательно неопределенной.
Необходимые условия экстремума функции
имеют вид:
1)
;
2)
3)
4)
.
Для того, чтобы функция
достигала минимума в некоторой точке
(x1,
x2)достаточно,
чтобы в этой точке
матрица Гессе была положительна;
2)
;
;
3)
;
;
;
4)
;
;
.
4. Функция
в начале координат имеет
точку перегиба;
min;
max;
неопределенность.
5. В задаче перевозки сыпучего материала достаточные условия
свидетельствуют о минимуме затрат;
применить не представляется возможным;
свидетельствуют о максимуме затрат на изготовление контейнера и перевозку груза;
применять нет необходимости.
1.5. Градиентные методы поиска экстремума функции нескольких переменных
Основные понятия
Рассмотрим функцию
n
переменных
.
Как известно, в пространстве переменных
каждой точке с такими координатами
можно поставить в соответствие вектор
x,
компонентами (проекциями) которого как
раз и будут величины
,
т.е.
.
Другими словами, каждой точке с
координатами
(записывать это будем как
)
отвечает вектор
.
В дальнейшем будем обозначать через x
как точку в пространстве переменных
,
так и вектор, который отвечает этой
точке. Конечно, это не вполне строго,
однако, допустимо. При сделанных оговорках
введенная выше функция запишется как
.
Градиентом функции называется вектор
.
Пример. Пусть
,
тогда
Заметим, что
компоненты градиента зависят от координат
x1,
…, xn,
т.е. от компонент вектора x.
Это означает, что в каждой точке
пространства переменных
проекции градиента в общем случае
принимают различные значения, а вместе
с тем меняется модуль и направление
градиента
.
Так для векторов
и
и функции
соответственно имеем
.
В дальнейшем ограничимся рассмотрением лишь случая n = 2, но все сказанное ниже для этого случая справедливо и для n > 2. Отметим важное свойство градиента.
Пусть
– некоторая фиксированная точка
плоскости. Градиент
всегда ориентирован по нормали к линии
уровня, проходящей через точку x0
, направлен в сторону наискорейшего
возрастания функции
.
Напомним, что уравнение линии уровня,
проходящей через точку x0,
имеет следующий вид
,
где
.
Например, если
,
а
,
то уравнение линии уровня, проходящей
через точку x0
будет
,
рис. 1.22.
В рассматриваемом примере линией уровня является окружность с уравнением .
Тот факт, что
ориентирован по нормали к линии уровня,
проходящей через любую точку x,
примем без доказательства.
Р
азберем
далее, какой смысл вкладывается в понятие
«направление наискорейшего возрастания
функции». Для этого рассмотрим некоторую
точку x0,
рис. 1.23.
Будем вычислять
приращения целевой функции y(x),
осуществляя некоторые малые, но одинаковые
перемещения (так называемые, локальные
– на окружность А
малого радиуса
)
из точки x0
вдоль
направлений 1, 2, …, n.
Естественно ожидать различные по
величине приращения по разным направлениям.
То направление, по которому приращение
в указанном смысле окажется наибольшим
и назовем направлением наискорейшего
возрастания функции. Покажем теперь,
что градиент
как раз и указывает направления
наискорейшего возрастания функции
y(x).
Другими словами, выясним, в каком
направлении из точки x0
следует перемещаться, чтобы y(x)
получила наибольшее приращение. Согласно
формуле Тейлора, рис. 1.24
,
г
де
вектор
,
а
– скалярное произведение векторов
,
.
О2
– слагаемые более высокого порядка
относительно разности
.
Заметим, что
– число,
– вектор с фиксированным направлением.
При малых перемещениях
величина разности
будет определяться слагаемым
.
Как известно, скалярное произведение этих векторов
.
Своего наибольшего значения рассматриваемое скалярное произведение достигнет тогда, когда
,
т.е. тогда, когда
вектор
будет направлен по градиенту
.
Таким образом, получается, что если в
некоторой точке x0
построен градиент
(его направление полностью определяется
его проекциями
),
то малое смещение из точки x0
по направлению градиента
даст наибольшее приращение целевой
функции
по сравнению с любым другим возможным
малым перемещением из точки x0.
Обратим, наконец,
внимание на тот факт, что если градиент
указывает направление наискорейшего
возрастания функции
в точке x0,
то антиградиент, т.е.
,
указывает направление наискорейшего
убывания функции.
