35. Алгоритм и условия сходимости метода ломаных решения задачи одномерной минимизации. Пример. Описание метода ломаных

Выбирем некот т-ку . Построим ф-ю

и определим из усл.. Очевидно, чтоx¹=a или x¹=b. Пусть в результате выполнения нескольких шагов определены т-ки х¹,х²,…,хⁿ, n. Построим ф-цию g(x,xⁿ)=f(xⁿ)-L|x- xⁿ |.

Строим ф-цию

Следующее приближение

Процесс вычисл. продолж. до тех пор, пока не будет выполнено нерав-во , где- заданная точность. В кач-ве решения задачи выбирается т-ка.

Зам.Метод ломаных сходится при любом начальном при любом начальном приближении.

Зам. Для всех х справедливо соотнош.

т.е. ф-ции р_n(х) приближают ф-цию f(x) снизу, оставаясь каждый раз не выше графика ф-ции f(x).

Зам, Недостаток – с ростом числа шагов растет требуемый объем памяти вычисл машины.

Зам. Для применения метода надо знать константу Липшица.

Теорема. Пусть ф-я уд. усл. Липшица на [a;b], тогда посл-ть полученная методом ломанных такая, что:

1) (1), причем (2)

2) (3)

Док-во. Рассмотрим (4)

(5), (6) , где . Из (4)-(6) получаем

т.е. послед-ность явл. возрастающей и ограничена сверху, поэтому. Кроме того, из (4)-(6) следует оценка (2). Покажем, что. Т.к.ограничена, то из нее можно выделить сходящуюся подпослед-ность. Пусть - некотор. т-ка послед-ности . Послед-ностьсходится к т-кеприn¹<n²<…<n^k<…

Пример. f(x)=|x²-1|, x [-2,3]. На отр. [-2,3] ф-ция уд. усл. Липшица с константойL₁=4, на отр. [-1,1] L₂=2, на отр. [1,2] L₃=6. На всем отр. L=6. Строим ф-цию g(x,0)=1-6|x|. При x<0, g(x,0)=1+6x, g(-1,0)=-5, x>0, g(x,0)=1-6x, g(1,0)=-5. Т-ка x¹. g(x,3)=8-6|x-3|, g(x,3)=8+6x-18.

Следующ. т-ка x² определ. как min g(x,-2)=3-6|x+2|, g(x,-2)=3-6x-12

36.Алгоритм метода скорейшего спуска решения змм.

Пусть выбрано некот нач-е приближение и на некоторой итерации построено очередное приближениеи вычислены значения,. Рассм.луч, проходящий ч/з тв направлении антиградиента.В этом луче рассм. ф-ю, зависящую от альфа. Рассм. вспомогательную задачу одномерной минимизации(*).

И пусть решение этой задачи достигается в т :, тогда след. приближение вычисляется по ф-ле.

Итерационный процесс продолжается до тех пор, пока не будет выполнен критерий окончания счета.

В качестве критерия окончания счета могут использоваться нерав-ва:

; ;,где,,–заданные числа, характеризующие точность счета

Если на некоторой итерации выполняется рав-во, то в т-ке х^k выполн. необход. усл. Оптимальности и итерационный процесс заканчивается.

_Если , то сущ.такое неотрицат. , что_.

_{Если значения явл. решением задачи (*), то в этой т-ке должно быть выполнено необходимое усл. оптимальности, т.е.}

_{Вычислим эту производную в т-ке}

Получаем, что градиенты, вычисл. в соседних приближениях, постоенных методом скорейшего спуска ортогональны.

Зам. Величину можно выбирать из условия, в этом случае метод наз градиентным.

37.Алгоритмы метода условного градиента и метода проекции градиента решения задачи многомерной условной минимизации.

1)алгоритм метода условного градиента. Пусть задано начальное приближение и методом условного градиента вычисленоСтроим ф-циюи решаем задачу(1)

Пусть есть решение задачи. Заметим, что. Если, тоуд. необходимому усл. и вычислительный процесс заканчивается. Если, то строим отрезок(2) на этом отрезке рассматриваем ф-цию и решаем задачу(3).

Тогда след.приближение находится по формуле гдеесть решение задачи (3).

Практическим критерием окончания счета выбираются нер-ва где согласованные числа, характеризующие точность счета.

Замеч1. Метод условного градиента эффективен когда вспомогат. задача (1) допускает простое решение.

Замеч2.Часто на практике задают некоторое значение , н/р, равное 1, проверяют усл.. Если оно не выполняется, то уменьшают, например, в два раза и т.д.

2)алгоритм метода проекции градиента. Пусть задано нач. приближение и методом проекции градиента вычислено. След.приближение ищется по формуле(4) В зависимости от выбора строятся различные варианты метода проекции градиента. Например,может находиться как решение задачи од­номерной минимизации

(5), где (6)

В этом случае при метод проекции градиента превращается в метод скорейшего спуска.

Часто при практическом исп. метода (4) находят такое , что выполняется условие релаксационности

При его нарушении полагают равнымснова проверяют условие ре­лаксационности и т. д.

В качестве критерия окончания счета выбираются неравенства , где— числа, характеризующие точность счета.

Замеч4. Главная сложность реализации метода проекции градиента заключается в решении задачи проектирования.