МиАПР_ПОВТ_2012 / Васильков_Компьютерные технологии вычислений

4.Основная задача модернизации "базового" метода.

5.Основные достоинства модернизированного метода?

6.Каким образом повысить точность нахождения решения?

7.Условие отыскания оптимального решения.

8.Как найти самое большое значение Щх)!

9.Трудно ли метод поддается алгоритмизации, т.е. сложно ли составить алгоритм для решения задачи на ЭВМ?

10.Как влияет вид функции R{x) на процесс нахождения реше­ ния?

Метод деления пополам

1.Для каких функций Щх) пригоден метод половинного деле­ ния?

2.Каково основное достоинство метода половинного деления?

3.Каков способ "размещения" точек вычисления критерия оп­ тимальности на оси х1

4.Каким образом повысить точность нахождения решения х ?

5.Условие отыскания оптимального решения.

6.Как влияет вид функции R{x) на процесс нахождения реше­ ния?

7.Всегда ли метод гарантированно дает решение?

8.Каким образом определяется следующий отрезок, на котором находится экстремум?

9.Сколько раз нужно вычислить R{x) на отрезке [а, Ь], если хо­ тим найти решение с погрешностью 1% от длины [а, Ь]!

10.Может ли сокращение исходного отрезка [а, Ь] обеспечить уменьшение затрат на поиск решения с погрешностью 1 % от

[а,Ь]1 Метод золотого сечения

1.Может ли сокращение исходного отрезка [а, Ь] обеспечить уменьшение затрат на поиск решения с погрешностью 1 % от

[а, *]?

2.Всегда ли метод гарантированно дает решение?

3.Как влияет вид функции R{x) на процесс нахождения реше­ ния?

121

4.Каким образом определяется следующий отрезок, на котором находится экстремум?

5.Основное достоинство метода золотого сечения.

6.Каким образом повысить точность нахождения решения?

7.Как влияет вид функции R(x) на процесс нахождения реше­ ния?

8.Что делится по правилу золотого сечения?

9.Если отрезок [а, Ь] содержит внутреннюю точку с, то какое условие называется золотым сечением?

10.Сколько раз нужно вычислить R(x) на каждом шаге?

Метод параболической аппроксимации

1.Экстремум каких функций R{x) можно найти методом пара­ болической аппроксимации?

2.Основное достоинство метода параболической аппроксима­ ции.

3.Условие окончания поиска.

4.Каким образом находится аппроксимирующая парабола?

5.К чему может привести увеличение степени аппроксимирую­ щего полинома (с 2 до 3 или 4)?

6.Каким образом повысить точность нахождения решения?

7.Всегда ли метод гарантированно дает решение?

8.Способ формирования точек для построения аппроксими­ рующей параболы на текущем шаге.

9.Возможно ли нахождение решения задачи оптимизации за один шаг?

10.Как влияет вид функции R(x) на процесс нахождения реше­ ния?

МНОГОМЕРНАЯ БЕЗУСЛОВНАЯ ГРАДИЕНТНАЯ ОПТИМИЗАЦИЯ

КОНЦЕПЦИЯ МЕТОДОВ

В данном разделе рассматриваются методы построения улучшаюпщх последовательностей при отыскании экстремума функ­ ции R(x) без активных ограничений. Активными принято назы-

122

вать такие ограничения, на границе которых находится решени Если известно, что решение лежит строго внутри допустимой о ласти, например в случае ограничений типа неравенств, то таки ограничения лучше выводить из задачи на этапе ее постановю Кстати, следует отметить, что ограничения типа равенств всегд активные.

Величина шага Ах в рекуррентном соотношении

вычисляется с использованием градиента целевой функции R(x т.е.

Дх' =/(grad/?(x')),

при этом шаг может определяться с использованием градиента одной (текущей) или в двух (текущей и предыдущей) точках. Н правление градиента, как известно, показывает направлени наискорейшего возрас­ тания функции, а его модуль — скорость это­ го возрастания.

В отличие от других рассмотренных выше вычислительных мето­

12

липп» одна из возможных траекторий. Кроме того, для всех приве­ денных траекторий выбраны различные начальные условия, с тем чтобы не загромождать построения. На этом и последующих ри­ сунках зависимость Щх^,Х2) приведена в виде линий уровня на плоскости в координатах X, -Х2.

ОСНОВНЫЕ МЕТОДЫ

МЕТОД ГРАДИЕНТА

Метод градиента в чистом виде формирует шаг по перемен­ ным как функцию от градиента R(x) в текущей точке поиска. Про­ стейший алгоритм поиска ттЛ(;с) записывается в векторной форме следующим образом:

х'^^ =x'-hgradR{x'),

или в скалярном виде:

Величина рабочего шага в направлении градиента h grad К{х) зависит от величины градиента, который заранее учесть трудно, и от коэффициента пропорциональности шага h, с помощью кото­ рого можно }пгфавлять эффективностью метода.

Поиск каждой новой точки состоит из двух этапов:

1)оценка градиента Щх) путем вычисления частных произ­ водных от Щх) по каждой переменной х/,

2)рабочий шаг по всем переменным одновременно. Величина h сильно влияет на эффективность метода. Большей

эффективностью обладает вариант метода, когда шаг по каждой переменной определяется направляющими косинусами гради­ ента

х'^^ = x'j -Acoscpy,

где cos ф , = , , „^ ч,-

124

в этом случае величина рабочего шага не зависит от величи ны модуля градиента, и ею легче управлять изменением Л. В рай оне оптимума может возникать значительное "рыскание", поэто му используют различные алгоритмы коррекции А.

Наибольшее распространение получили следующие алго

где а — угол между градиентами на предыдущем и текущем ша ге; а, иа2 — заданные пороговые значения выбираются субъек тивно (например, а, =л/6, а2 =л/3).

Вдали от оптимума направление градиента меняется мало, по этому шаг можно увеличить (второе выражение), вблизи от опти мума направление резко меняется (угол между градиентами R(x большой), поэтому А сокращается (третье выражение).

Для оценки частных производных используются разностные методы:

где gj — пробный шаг по /-й переменной, выбираемый достаточ но малым для разностной оценки производной.

Первый алгоритм требует меньших затрат по сравнению со вторым (обычно затраты выражаются количеством вычислений критерия оптимальности), но позволяет получить решение менее точно, чем второй, и эта погрешность зависит от величины проб ного шага.

На рис. 17 приведена одна из возможных траекторий поиска минимума двумерной функции градиентным методом (наряду с другими ниже рассматриваемыми методами).

125

Условием окончания поиска может являться малость модуля градиента R(x), т.е. |grad Я{х)\< е.

Пример 1.

1. Требуется найти минимум функции R(xi,X2) = Ax^ +Вх\ -

-Ос,-ZJxj, где ^ =1,5 =2, С =3, Z) = 4.

2.Интервап поиска: х,„„ = -2, л,,„„ = 2, дг^н., = -2, JC2,„„ = 2.

3.Начальная точка: дг,^ = -0,5, х^^ = - 1 .

4.Параметры поиска: коэффициент шага А = 0,1, пробный шаг g = 0,01, погрешность Е = 0,01.

5.Алгоритм метода: алгоритм 1 (дг'*' =х' - AgradJ?(A:') ).

6.Алгоритм коррекции шага: без коррекции коэффициента пропорциональности шага (А = const).

7.Способ вычисления производной: вычисление grad/? с пар­ ными пробами.

Ре з у л ь т а т ы в ы ч и с л е н и й . В начальной точке вычис­ ляем градиент функции:

Значение критерия R = 7,3750. Делаем рабочий шаг, получаем д;, =-0,275, ^2=-0,2.

В новой точке опять вычисляем производные:

Значение критерия R = 1,3750.

Делаем рабочий шаг, получаем х, =0,002, Xj =0,280.

Далее аналогично осуществляем следующие шаги (табл. 18).

126

Таблица I 8

В последней точке модуль градиента меньше заданной по­ грешности (0,0063 < 0,01), поэтому поиск прекращается.

Пример 2.

Отличается от предыдущего только величиной коэффициента пропорциональности шага А, теперь А = 0,4. Ниже, в табл. 19 при­ ведены только первые 14 шагов (как и в предыдущем случае). Целесообразно сопоставить их путем построения траекторий поиска при обоих значениях А в координатах Х] -Xj-

Таблица 19

127

Условием окончания может являться малость модуля градиента ^(^) |grad/?(x:)|< Е. Можно также использовать и малость прира­ щений по переменным в результате шага, но только в том случае, если на данном шаге мы "проскочили" оптимум, иначе может оказаться, что малость шага обусловлена не близостью к оптиму­ му, а малостью коэффициента пропорциональности шага А.

В ряде случаев используют уменьшение шага поиска оптиму­ ма по направлению после каждой смены направления. Это позво­ ляет с большей точностью каждый раз находить оптимум, но рез­ ко снижает эффективность поиска в овражных функциях. Метод используется для локализации "дна оврага" в специальных ов­ ражных методах. Условием окончания поиска в этом случае явля­ ется достижение заданной малой величины шага.

Одна из возможных траекторий поиска минимума двумерной функции методом наискорейшего спуска приведена на рис. 17.

Пример.

Для сравнения с методом градиента рассмотрим решение пре­ дыдущего примера при Л = 0,1.

Результаты расчетов . Расчет производных детально рассмотрен выше, поэтому здесь не приводится. Ниже, в табл. 20 приводятся результаты движения по градиенту с постоянным ша­ гом.

Таблица 20

В следующей точке (0,400, 2,00) значение критерия (R = = -0,256) оказывается хуже, чем в последней (Л =-2,1996). По­ этому в найденной точке оптимума по направлению снова вычис­ ляем градиент и по нему совершаем шаги, до тех пор, пока не най­ дем наилучшую точку (табл. 21).

129

Таблица 21

МЕТОД СОПРЯЖЕННЫХ ГРАДИЕНТОВ

Градиентные методы, базирующиеся только на вычислении градиента Щх), являются методами первого порядка, так как на интервале шага они заменяют нелинейную функцию Щх) линей­ ной.

Более эффективными могут быть методы второго порядка, ко­ торые используют при вычислении не только первые, но и вторые производные от R{x) в текущей точке. Однако у этих методов есть свои труднорешаемые проблемы — вычисление вторых произ­ водных в точке, к тому же вдали от оптимума матрица вторых производных может быть плохо обусловлена.

Метод сопряженных градиентов является попыткой объеди­ нить достоинства методов первого и второго порядка с исключе­ нием их недостатков. На начальных этапах (вдали от оптимума)

130