30. Задача одномерной оптимизации. Классический метод.

Задача одномерной минимизации имеет вид (1).

Классический метод. Нужно найти все точки подозрительные на экстремум, затем выбрать среди них экстремальные по значению целевой ф-ции. Такими точками будут:

1. н а концах отрезка ;

2. где ( );

3. где но ф-ция непрерывна ( );

в точках разрыва 1-го рода .

32. Задача одномерной оптимизации. Метод «золотого сечения».

Рассмотрим задачу (1), когда ф-ция

Опр. Говорят, что точка осуществляет “золотое сечение” отрезка , если отношение длины всего отрезка к его большей части равно отношению длины его большей части к меньшей или

Т.о., для любого отрезка сущ. две точки, которые осуществляют «золотое сечение».

Можно показать, что для первого квадратного уравнения второй корень лежит левее , а для другого уравнения лежит правее .

Таким образом, можно получить, что

Алгоритм метода «золотого сечения»

1. Задаем параметры метода

2. Вычисляем пробные точки по формулам (2), (3).

3. Вычисляем значения функции в этих точках .

4. Если . , то попали на ветвь возрастания, . Вычислить . Иначе . Вычислить .

5. Проверяем условие остановки: , то является точкой минимума с точностью . Иначе и переходим на шаг 4.

34. Задача одномерной оптимизации. Метод касательных

Применяется для минимизации функции одной переменной на отрезке, когда она является дифференцируемой и выпуклой.

Опр. Ф-цию наз.выпуклой, если .

Геометрический смыл: ф-ция выпукла, если ее график всегда лежит ниже хорды, соединяющей любые точки графика.

Метод касательных полностью повторяет метод ломанных, если ввести следующие изменения:

Очевидно, что выпуклая дифференц. ф-ция удовлетворяет условию Липшица и является унимодальной, а значит для нее можно применять и все остальные методы.

Алгоритм метода касательных:

1. Задаем параметр метода (конст)

2. Выбираем начальную точку (либо правый, либо левый конец отрезка )

3. Строим ломанную

4. Строим общую ломанную

5. Точку ищем как решение задачи

6. Условие остановки

Если оно выполняется, то -- точка минимума с точностью . Покажем, что функция апроксимирует f(x) снизу. Для этого достаточно показать, что . По условию Липшица ,

Пример.

36. Градиентный метод безусловной оптимизации.

Рассматриваем задачу безусловной оптимизации

В градиентном методе в качестве направления спуска полагают антиградиент: . Тогда итерационный процесс строится по формуле

Шаг может быть выбран одним из трех способов:

1) постоянный шаг для каждой итерации;

2) дробление шага применяется когда не выполняется условие релаксации : или

3) метод найскорейшего пуска:

После подстановки получится ф-ция от одной переменной , т.е. получилась задача одномерной минимизации.

Для задачи (1) условие стационарности имеет вид

Согласно этому методу шаг ищем так, чтобы точка была точкой касания какой-либо линии уровня, - максимально возможный шаг вдоль выбранного направления.

Тогда говорят о градиентном методе с пост шагом, градиентном методе с дроблением шага и градиентным методе с наискорейшим спуском.

При дроблении шага в качестве условия релаксации выбирают , ;

В условии остановки должно быть выбрано другим.