- •Математическое программирование
- •Часть I
- •2. Математические модели и методы их построения
- •3. Выбор целевой функции. Характер ограничений
- •II Элементы векторной алгебры
- •1. Рассмотрим систему уравнений
- •2, 3 Компоненты вектора.
- •2.4 Произведение векторов
- •Треугольные виды матриц
- •6. След матрицы сумма элементов, расположенных на главной диагонали квадратной матрицы.
- •III Обращение матриц
- •III.1 Определитель
- •III.2 Ранг
- •Задача отыскания экстремума функций многих переменных
- •I. Функция одной переменной. Условия экстремума
- •I.1 Постановка задачи
- •Теорема Вейерштрасса
- •I.2 Необходимое и достаточное условие экстремума
- •X2 точка абсолютного глобального минимума.
- •I.3 Необходимые условия второго порядка
- •I.4 Достаточные условия
- •II Функция многих переменных
- •II.1 Необходимое условие экстремума
- •II.2. Необходимое условие второго порядка. Достаточные условия
- •I. Введение
- •2 Подхода к решению задач:
- •1. Линейная сходимость (сходимость со скоростью геометрической прогрессии)
- •2. Сверхлинейная скорость сходимости
- •3. Квадратичная сходимость
- •II Градиентные методы методы 1-ого порядка
- •1. Метод с дроблением шага
- •2. Метод наискорейшего спуска. (минимизируется на каждом функция f(xk-f '(xk)) от ).
- •II.1. Градиентные методы с дроблением шага. Методы с постоянным шагом
X2 точка абсолютного глобального минимума.
Слева от х2 функция убывает, справа возрастает.
В точке х2 убывание функции приостанавливается, т.е. х2 стационарная точка.
Все точки х, удовлетворяющие условию =0 называются стационарными.
(В том числе и точки перегиба пример: точка х1)
I.3 Необходимые условия второго порядка
Т. 1.3 Для того, чтобы функция f(x) имела в стационарной точке безусловный локальный минимум (максимум), необходимо, чтобы ее вторая производная была неотрицательна (неположительна), т.е
>=0
(
<=0)
Доказательство. По теореме 1.2 =0.
Из формулы Тейлора при всех получим
(**) f(
+)
- f(
)
=
Допустим, что теорма неверна, т.е. <0.
Тогда при малых правая часть уравнения (**) отрицательна, т.е.
f( +) - f( ) < 0,
т.е. не является точкой минимума, что противоречит нашему условию.
Таким образом в точке локального минимума >=0.
Условия
необходимое условие минимума.
Достаточность не всегда выполняется.
Пример: f(x) =
В точке =0
=0
Необходимые условия выполняются, но х=0 точка перегиба.
I.4 Достаточные условия
Т. 1.4. Для того чтобы в точке функция f(x) имела безусловный локальный минимум, достаточно, чтобы ее вторая производная была в точке положительна.
Доказательство теоремы 1.4 основано на использовании формулы Тейлора.
Теорема 1.5., обобщающая полученные результаты
Пусть f(x), определенная на множестве Х=Е1, имеет имеет непрерывные производные до k-ого порядка включительно, причем в некоторой точке
Тогда, если k
четное число, то функция f(x) имеет в точке
локальный максимум при
и локальный минимум при
.
Если k нечетное число, то f(x) не имеет в точке ни максимума, ни минимума.
II Функция многих переменных
II.1 Необходимое условие экстремума
Пусть теперь х вектор размерности n, т.е. Х=Еn, а функция f(x) скалярная величина.
Пусть точка ее безусловного локального экстремума. Зафиксируем все переменные, кроме хj. Тогда получим функцию одной переменной хj.
f(
),
для которой доказано необходимое условие.
Аналогично поступая со всеми переменными, получим теорему.
Т. 2.1 Для того, чтобы в точке функция f( ) имела безусловный локальный экстремум, необходимо, чтобы все ее частные производные обращались в точке в нуль:
=0, i=1,
2, ... , n (1)
Условие стационарности (1) записывается также в виде
grad f( ) = ▼f( ) = 0
f '( ) = 0.
▼f( ) = f '( ) n-мерный вектор с компонентами
(
),
i = 1, ..., n
градиент
функции f(x)
в точке
.
Условие (1) эквивалентно равенству нулю дифференциала функции f(x)
df( ) = 0,
т.к.
df(
)=
.
II.2. Необходимое условие второго порядка. Достаточные условия
Полагая функцию дважды непрерывно дифференцируемой по всем переменным, разложим ее в ряд Тейлора:
(2) f(
+)
= f(
)
+
(
)
+0(||
|
(первые частные производные =0 по определению стационарной точки)
(
)
элементы
матрицы вторых производных (матрица
Гессе Н).
H = f ''(
)
=
Выражение
квадратичная форма.
Если А
квадратная симметрическая матрица
порядка n, а Х
вектор размерности n, то выражение
X'AX=
;
называется квадратичной формой.
В частности, уравнение второго порядка (квадратное) можно записать как квадратичную форму
Z=
Z=
Квадратичная форма называется
положительно определенной, и матрица
А называется положительно определенной,
если все главные миноры А положительны,
т.е. А11>0
>0;
и т.д. [A]>0.
Квадратичная форма
неотрицательно определена, если
>=0
и положительно определена, если
>0.
С учетом записи (2) получаем теорему:
Т 2.2 Для того чтобы дважды непрерывно дифференцируемая функция n переменных f(x) имела в стационарной точке безусловный локальный минимум (максимум), необходимо, чтобы матрица ее вторых производных была неотрицательно (неположительно) определенной, и достаточно, чтобы она была положительно (отрицательно) определенной.
Пример: Определить экстремальные значения функции
f(x)=
,
a0,
b0,
xE2
Необходимые условия
=0;
=0;
=
стационарная
точка
Коэффициенты квадратичной формы
;
= 0;
.
Имеем следующие случаи:
1) a>0; b>0 матрица вторых производных
положительно определена, в точке {0, 0}
минимум.
Условия Сильвестра: а11>0;
положительно
определена.
(-1)nа11>0, , (-1)n отрицательно определена.
2) a<0; b>0; экстремума нет
3) a>0; b<0; экстремума нет
4) a<0; b<0; функция f(x) имеет в точке {0, 0}T максимум.
Случаи 1), 4) поверхности являются эллиптическим параболоидом.
Случаи 2), 3) гиперболический параболоид, имеющий стационарную точку типа "Седло".
Численные методы отыскания безусловного экстремума
