7.11. Метод кубической аппроксимации

По своей эффективности метод кубической аппроксимации является одним из самых лучших среди всех методов одномерной оптимизации. Недостатком является необходимость вычисления первой производной.

Предположим, что функция f (x) выпукла и непрерывно дифференцируема на отрезке [a,b], f '(a)<0, f '(b)>0. Аппроксимируем функцию многочлена 3-й степени:

ϕ(x) = c0 (x − a)3 + c1(x − a)2 + c2 (x − a) + c3,

где коэффициенты c0, c1, c2, c3 определяются из условий:

Найдем точку

x = argminϕ(x)

[a,b]

Легко проверить, что

ω = z 2 − f '(a) f '(b)

Точка x используется для сжатия отрезка локализации так же, как и в методе деления отрезка пополам с вычислением производной: если

Алгоритм метода кубической аппроксимации:

1.Задается начальное приближение x0 , шаг h, погрешность ε.

2.Вычисляется f '(x0 ).

3.Проверка условия f '(x0 ) < 0 :

–если "да", то x1 = x0 + 2k h ;

–иначе, x1 = x0 − 2k h .

4.Проверяется условие: f '(x1 ) f '(x0 ) < 0 :

–если "да", то точка min-ма функции пройдена и следует переходить к пункту 5;

–иначе, x0=x1 и возврат на п.2.

8.Проверка условия b −a < ε :

–если "да", то переход на п.9;

–иначе, переход на п.6.

9. x* = b +2 a , min f = f (x* ), f 1 = f '(x* ).

Печать x*, min f, f1. Конец. f '(x)

f '(b)

a x

x* b

f '(a)

Рис.13.

82

7.12. Метод Фибоначчи

Этот метод связан со знаменитыми числами Фибоначчи, которые представляют собой последовательность, где каждый элемент получается, как сумма двух предыдущих. Числа Фибоначчи определяются соотношениями

Pn+2 = Pn+1 + Pn , n =1,2,3,...; P1 = P2 =1

Метод Фибоначчи относится к классу симметричных методов нулевого порядка и применяется для унимодальных функций. Причем абсолютная погрешность, возникающая при поиске минимума этим методом, не превышает величины

eps = (b −a) / Ps ,

где Ps – s-тое число в ряде Фибоначчи.

Алгоритмы метода "золотого" сечения и метода Фибоначчи очень похожи, отличия заключаются в том, что в методе "золотого" сечения отрезок всегда делится в постоянном соотношении, в то время как в методе Фибоначчи деление отрезка на каждой итерации осуществляется в зависимости от чисел Фибоначчи. Кроме того, метод Фибоначчи в среднем на 17% быстрее метода золотого сечения. Между числами Фибоначчи и методом золотого сечения существует связь:

Алгоритм метода Фибоначчи:

1.Задаем интервал поиска [a,b] и погрешность ε.

2.P[1] = 1; P[2] = 1; n = 2.

3.Вычисляем очередное число Фибоначчи:

P[n+1] = P[n] + P[n-1]

4.Находим координаты точки x1 [a,b], которая делит отрезок в отношении двух чисел Фибоначчи:

83

5.Определяем координаты точки x2, которая является зеркальным отражением точки x1 относительно центра отрезка:

6.Если условие f(x1) > f(x2) выполняется, то a = x1, иначе b = x2.

7.n = n + 1

8.Если условие окончания поиска |b − a| ≤ ε не выполняется, то переходим к следующему числу Фибоначчи (на п.3).

9.В качестве минимального значения принимаем ту из точек a или b, в которой целевая функция имеет наименьшее значение.

7.13.Метод Ньютона 2-го порядка

Метод Ньютона используется для гладких f0(x) функций. Минимизируемая функция f0(x) в малой окрестности произвольной точки х0, расположенной вблизи точки минимума х*, может быть аппроксимирована усеченным рядом Тейлора:

Продифференцируем (7.19) по х, учитывая, что f0(x0) и f0'(x0) являются постоянными величинами. Применяя необходимое условие оптимальности получим:

f0 '(x) = 0 ≈ f0 '(x0 ) + f0"(x0 ) (x − x0 ) .

Следовательно, выражение для вычисления приближенного значения точки экстремума будет иметь вид:

84

Метод является прямым обобщением известного метода Ньютона отыскания корня функции ϕ(x) = 0.

Уравнение касательной к кривой в точке х0:

y= y(x0 ) − y '(x0 ) (x0 − x).

Вточке х пересечение касательной с осью абсцисс:

y = y(x) = 0 => x = x0 − y(x0 ) . y '(x0 )

Необходимое условие экстремума функции f0(х):

f0'(x)=0

Тогда обозначим, ϕ(x) = f0 '(x) получим то же уравнение (7.20). Начальное приближение выбирается из условия

ϕ(x0 ) ϕ"(x0 ) > 0

или