§7. Методы сокращения текущего интервала неопределенности. Метод Паулла.

Рассмотрим следующую задачу одномерной безусловной оптимизации: найти минимум одномерной унимодальной функции ,определенной в незамкнутой области допустимых значений ,

Φ(x)=Φ(x*). (2)

Напомним, что методы, использующие квадратичную аппроксимацию, относятся к семейству методов полиномиальной аппроксимации.

В параграфе 6 показано, что если имеются не совпадающие точки и соответствующие значенияминимизируемой функции, то аппроксимирующий квадратичный полином достигает минимального значения в точке

, (1)

где ,.

Метод Паулла решения задачи (2) часто используется при решении задач безусловной оптимизации многопараметрических функций.

Схема метода Паулла:

1. Полагаем и задаем начальную точку.

2. Находим точку , где Δ – длина шага, которая должна быть величиной того же порядка, что и расстояние точкидо точки минимума функции (оценка этого расстояния является самостоятельной проблемой).

3. Вычисляем значения функции в точках ,.

4. Находим точку (рисунок 1):

5. Вычисляем - значение функции в точке (рисунок 1).

6. По формуле (1) определяем величину и находим значение функции в этой точке .

7. Находим следующие три точки.

7.1) Ситуация (а):

- если , то полагаем- рисунок 2;

- если , то- рисунок 3;

- если , то(рисунок 4);

7.2) Ситуация (б):

- если , то полагаем- рисунок 5;

- если , то- рисунок 6;

- если , то(рисунок 7);

8. В качестве следующего текущего интервала неопределенности принимаем .

9. Если |ТИН_r+1|≤ε_x,, то заканчиваем вычисления. Иначе выполняем присваивание r=r+1 и переходим на п.6. Здесь ε_x – требуемая точность решения●

Рисунок 1 - К определению точки

Рисунок 2 - К определению точек : ситуация (а);

Рисунок 2 - К определению точек : ситуация (а);

Рисунок 4 - К определению точек : ситуация (а);

Рисунок 5 - К определению точек : ситуация (б);

Рисунок 6 - К определению точек : ситуация (б);

Рисунок 7 - К определению точек : ситуация (б);

Метод Паулла может быть модифицирован и для замкнутой области допустимых значений

Метод Паулла относится к классу прямых методов поиска.

Входные термины:

• одномерная унимодальная функция;

• метод последовательного поиска;

• метод поиска первого порядка.

Выходные термины:

• метод хорд, метод секущих;

• метод касательных, метод Ньютона;

• метод Мюллера.

§8. Методы сокращения текущего интервала неопределенности. Метод хорд. Метод касательных (метод Ньютона).

Рассмотрим следующую задачу: найти минимум одномерной унимодальной функции Φ(x), определенной и дифференцируемой в замкнутой области допустимых значений D=[a,b],

Φ(x)=Φ(x*). (1)

В параграфе 2.1 мы показали, что в этих предположениях необходимым условием минимума функции Φ(x) является условие

. (2)

Рассматриваемые в данном параграфе методы основаны на поиске стационарной точки функции Φ(x), т.е. на решении задачи (2), которая представляет собой задачу нахождения корней функции , принадлежащих интервалу [a,b].

Аналитическое решение задачи (2) возможно лишь в простейших случаях. Обычно для решения этой задачи приходится использовать численные методы нахождения корней нелинейных уравнений.

Наиболее известны следующие методы нахождения корней нелинейных уравнений:

• метод хорд (метод секущих);

• метод касательных (метод Ньютона).

Метод хорд.

Метод хорд является поисковым методом первого порядка. Метод ориентирован на отыскание корня уравнения (2) в случае, когда на границах интервала [a,b] знаки производной различны. Такая ситуация, очевидно, возможна, если точка минимума функцииΦ(x) является внутренней точкой интервала [a,b] – рисунок 1.

Нам далее понадобится величина . Из подобия треугольникаи треугольникаимеем

.

Отсюда следует, что

. (3)

Схема метода (рисунок 1).

1. Выполняем присваивания r=1, a¹=a, b¹=b.

2. Вычисляем значения производных ,.

3. Если производные ,имеют одинаковые знаки – завершаем вычисления (точки a,b выбраны неверно).

4. По формуле (3) вычисляем приближение к стационарной точке функцииΦ(x) и значение производной .

5. Если , где ε – требуемая точность решения по ,то принимаем и заканчиваем вычисления.

6. Если разные знаки имеют производные ,, то выполняем присваивания ,r=r+1 и переходим на п. 4.

7. Если разные знаки имеют производные , (как на рисунке 1), то выполняем присваивания.,r=r+1 и переходим на п. 4●

Рисунок 1 - К схеме метода хорд

Заметим, что в случае квадратичной функции Φ(x) производная этой функции линейна. Поэтому для квадратичной функцииметод хорд гарантирует нахождение стационарной точки функцииΦ(x) всего за одну итерацию.

Замечание. Поскольку поиск заканчивается при выполнении условия , возможно появление ложных корней. Например, для уравненияложный кореньx=0 появляется в том случае, если . В подобных случаях увеличивая точность поиска, можно избавить от ложных корней. Однако, возможны уравнения, для которых такой подход не приводит к успеху. Например, уравнениене имеет действительных корней, однако для сколь угодно малогонайдется точка, удовлетворяющая условию окончания поиска

Возможна модификация метода хорд, когда значения производной вычисляются приближенно с использованием первых разностей. В этом случае, очевидно, метод становится прямым (нулевого порядка).

Метод касательных (метод одномерной оптимизации Ньютона).

Метод касательных представляет собой поисковый метод второго порядка. Метод ориентирован на нахождение корня уравнения в случае, когда на границах интервала[a,b] знаки производной различны. Такая ситуация, очевидно, возможна, если точка минимума функцииΦ(x) является внутренней точкой интервала [a,b] – рисунок 2. Метод требует, чтобы функция Φ(x) была определена и дважды дифференцируема в области допустимых значений D=[a,b].

Рисунок 2 - К схеме метода касательных

Нам далее понадобится величина . Линейная функция, аппроксимирующая функциюв точке, записывается в виде

. (4)

Приравняв правую часть выражения (4) к нулю, получим

. (5)

Заметим, что точка может оказаться вне интервала(правее точки).

Схема метода (рисунок 2).

1. Выполняем присваивания r=1, a¹=a, b¹=b.

2. Вычисляем значения производных ,.

3. Если производные ,имеют одинаковые знаки – завершаем вычисления (точки a,b выбраны неверно).

4. По формуле (5) вычисляем приближение к стационарной точке функцииΦ(x) и значение производной .

5. Если , где ε – требуемая точность решения, то принимаем и заканчиваем вычисления.

6. Если разные знаки имеют производные ,(как на рисунке 2), то выполняем присваивания ,r=r+1 и переходим на п.4.

7. Если разные знаки имеют производные ,, то выполняем присваивания.,r=r+1 и переходим на п.4●

Как и в случае метода хорд, в случае квадратичной функции Φ(x) метод касательных гарантирует нахождение стационарной точки функции Φ(x) всего за одну итерацию.

Возможна модификация метода касательных, когда значения производной вычисляются приближенно с использованием первых разностей. В этом случае, очевидно, метод становится методом первого порядка.

Замечание. Метод касательных может расходиться (рисунок 3)

Рисунок 3 - К расходимости метода касательных

Входные термины:

• одномерная унимодальная функция;

• метод последовательного поиска;

• метод сокращения текущего интервала неопределенности.

Выходные термины:

• константа Липшица;

• липшицева функция.