3. Краткое напоминание материала 1-го семестра.

Безусловный минимум функции конечного числа переменных.

Условия экстремума задачи безусловной минимизации

Условия экстремума являются основой, на которой строятся методы решения задач оптимизации, и дают информацию о свойствах решения. Доказательства условий экстремума и их вид часто указывают путь построение методов оптимизации. В этом разделе мы вспомним условия экстремума задачи без ограничений.

Точка х называется стационарной, если в ней выполнено условие

f(х) = 0 (1)

Теорема 1. (Необходимое условие 1 порядка). Пусть х^*- точка минимума f(x), xRⁿ и f(x) дифференцируема в х^*, тогда выполняется условие стационарности (1).

Доказательство следует из возможности линейного представления функции в точке х^*_. Не всякая из точек, удовлетворяющих (1) и называемых «стационарными» является точкой минимума. Она может быть точкой максимума или седловой точкой.

Символом «*» далее везде обозначается стационарная точка и значения функций ( скалярных, векторных и матричных) в этой точке.

Достаточные условия для точки локального минимума (максимума) функции общего вида, дифференцируемой, без ограничений

Представим разложение функции в окрестности точкив ряд Тейлора с точностью до квадратичных послагаемых.

;

, ;

- матрица вторых производных от целевой функции по соответствующим переменным в точке .,.

Она называется матрицей Гессе и часто обозначается также ²f или f(x).

Полное приращение функции можно записать в виде:

. (2)

Учитывая необходимые условия (1), представим (2) в виде:

Квадратичная форма называетсядифференциальной квадратичной формой (ДКФ).

Если ДКФ положительно определена, то , и стационарная точкаявляется точкой локального минимума.

Если же ДКФ и матрица , ее представляющая, отрицательно определены, тои стационарная точкаявляется точкой локального максимума.

Необходимое и достаточное условие локального максимума имеет вид:

, ( другие формы записи:),

.

Вспомним критерий, позволяющий определить, является ли квадратичная форма ДКФ и матрица , ее представляющая, положительно определенной, или отрицательно определенной.

Критерий Сильвестра

Матрица и ДКФ, которую она представляет, будут положительно определенными, если всеглавные (угловые) определители (миноры) матрицы Гессе положительны (т.е. имеет место следующая схема знаков:).

Главные определители матрицы Гессе стоят на главной диагонали, начиная всегда с левого верхнего угла:;

; ; … ,

Если же имеет место схема знаков для главных определителей матрицы Гессе, то матрицаи ДКФ отрицательно определены.

Если хотя бы один из них равен нулю в стационарной точке, то вдоль некоторого направления приращения нет (тогда вместо точки функция имеет связную стационарную гиперповерхность), либо приращение имеет порядок . Эти ситуации в данном курсе не рассматриваются, поскольку не являются случаями общего положения, т.к. «распадаются» при малом «шевелении» задачи а значит, не представляют практического интереса.

Теорема 2. (Достаточное условие 1-го порядка). Пусть F(x) - выпуклая функция, дифференцируется в точке х^* и выполняется условие стационарности (1). Тогда х^* - точка глобального минимума F(x) на Rⁿ.

Доказательство следует из (3).

Теорема 3. (Необходимое условие 2-го порядка). Пусть х^* - точка минимума F(x), xRⁿ и F(x) дважды дифференцируема в х^*. Тогда ²F(x^*)  0.

Теорема 4. ( Достаточное условие 2-го порядка). Пусть в точке х^* F(x) дважды дифференцируема, выполнено условие (1) и ²F(x^*)  0.

Тогда х* – точка локального минимума.

Теорема 5. (Существование решения). Пусть F(x) непрерывна на Rⁿ и множество = {x: F(x)  } для некоторого не пусто и ограничено. Тогда существует точка глобального минимума на Rⁿ.

Теорема 6. Точка минимума строго выпуклой функции существует и единственна.