Лекция №3

2) Условие экстремума гладкой ф-ии многих переменных.

Док-во (необх. 2-го порядка):

Это и док. необ. усл. 2-го порядка.

Th. доказана.

Далее идет обощение полученных результатов одном. ф-и на многом. случай.

Теорема Ферма.

Пусть - т.min и дифференцируема в окрестности этой точки.

Тогда градиент в = 0.

Если градиент в какой-либо точке равен 0, то эта точка наз-ся стационарной.

Док-во:

А это противоречит 1). Значит предположение о том, что не верно.

Th. доказана.

Определение:

Матрица А наз-ся положительно определенной, если

квадратичная форма

Такое определение для вычислительной практики не подходит.

Теорема (необходимое условие 2-го порядка).

Пусть - т.min и градиент в ней не равен 0, тогда Гессиан ф-ии явл-ся не отрицательно определенной матрицей.

Док-во:

Отсюда вытекает, что , что и доказывает теорему.

Определение.

Т. будет наз-ся седловой, если

Теорема (дост. усл-е экстремума)

max или min седл. т.

Линии постоянного уровня в седловой т. не замкнуты.

Пусть

Тогда т. явл-ся т. локальногоmin.

Док-во:

Всегда можно выбрать , когда второе слагаемое будет > третьего.

Что и доказывает теорему.

Условие экстремума и количественные оценки

положительной определенности Гессиана

Th. Ферма имеет конструктивный характер.

Пусть G – Гессиан.

Если все соб. значения >0, то G полож. определено.

Можно рассмотреть следующие случаи соб. значений:

1. . Матрица положительно определена. Если рассматривать стационарные точки, то это точки min (локальн.).

2. . Матрица отрицательно определена. Если стац. т. – т. max (локальный).

3. - знаконеопределенная матрица. Т. седловая.

4. . Матрица неотриц. определен. (полуопределенная матрица). Недостаток информации. Т. стационарна.

Обусловленность экстремума

Замечание. Вывод числа обусл. Матрицы смотри в дисциплине алгоритмизация вычислений.

1. Норма матрицы.

ставит в соответствие матрице скаляр.

Замечание.  много способов определения нормы матрицы. Большинство из них будут рассматриваться в АВ.

Покажем как организуется вычисление нормы матрицы на практике.

2. Спектральная норма матрицы

• использ. Евклидову норму вектора

• 

Утверждение. Значение отношения Релея на всех ненулевых векторах совпадает со значением квадратичной формы.

(определенных на мн-ве векторов единичной длины)

Доказать самостоятельно!

Максимальное значение квадрата нормы матрицы равно собственному значению матрицы В.

Лекция №4

Задача. Показать, что

число обусловленности

Чем оно больше, тем хуже, тем сложнее решение задачи.

Частный случай:

Числа обусловленности – мера искажения окружности.

В целевых ф-ях имеют место гребни и овраги.

Если есть узкий и извилистый овраг, резко увеличивается кол-во шагов поиска.

Хорошо обусловленная матрица – число обусловленности не велико.

Плохо обусловленная матрица – число обусловленности велико.

Выводы:

1. Получены необх. и дост. условия экстремума гладкой ф-ии.

2. Отмечен подход к построению(нахождению) т. min ф-ии . Док-воTh. Ферма.

3. Услов. экстремума легко проверяется.

4. Отмечена важная характеристика экстрем., определяемая через число обуслов.

Условие существования экстремума гладкой функции многих переменных (условная оптимизация с ограничениями типа равенств)

1. Формулировка задачи.

функциональные ограничения

прямые

ограничения равенства неравенства

n-мерная зад. гиперпараллелепипед.

Обычно эти ограничения формируются физическими параметрами.

Прямые ограничения будут рассмотрены в отдельной теме.

- ограничения типа равенств

- ограничения типа неравенств

- ограничение типа равенств

В нашем случае:

Такая система имеет бесчисленное мн-во решений.

2. Обоснование необходимости изучения этой темы

• Практические задачи

• Для построения оптимальных методов

3. Основные подходы к решению задач

• Замена переменных.

• Множители Лагранжа.

• Поисковые методы. (Изложены будут позже)