МиАПР_ПОВТ_2012 / Васильков_Компьютерные технологии вычислений

в данном разделе рассматриваются следующие методы: сле­ пой поиск, метод случайных направлений, метод поиска с "нака­ занием случайностью", блуждающий поиск, которые отличаются эффективностью и возможностями.

В целом случайные методы поиска предпочтительнее регу­ лярных в задачах высокой размерности л t 10 и вдали от оптиму­ ма. Поэтому здесь они рассматриваются сравнительно кратко, преимущественно в ознакомительном плане.

Методы этой группы позволяют в среднем быстрее выходить в район оптимума. Эффективны рассматриваемые методы и при поиске глобального оптимума.

Как и в предыдущих случаях, на рис. 19 приводятся лишь по одной из возможных траекторий поиска каждым из ниже рассмат­ риваемых методов. Кроме того, случайные методы имеют ту осо­ бенность, что даже при одних и тех же неформально задаваемых параметрах они дадут различные траектории поиска. Здесь, так же как и в предыдущих случаях, приведенные траектории начи­ наются из различных начальных условий, с тем чтобы не загро­ мождать построения.

Рис.19. Иллюстрация траекторий поиска оптимума функции методами случайного поиска: 1 — область оптимума; 2 — траектория метода случайных направлений; 3 — траектория метода с наказанием случайностью; 4 — траектория метода блуждающего поиска; 5 — начальные точки поиска

151

ОСНОВНЫЕ МЕТОДЫ

МЕТОД СЛЕПОГО ПОИСКА

Идея метода очень проста и наглядна. Случайным образом в допустимой области берется точка, и сравнивается значение кри­ терия в ней с текущим наилучшим. Если новая случайно взятая точка хуже хранящейся в качестве текущей лучшей, то берут дру­ гую точку. Если же нашли точку, в которой критерий лучше, то ее запоминают в качестве текущей лучшей. Гарантируется, что при неограниченном возрастании числа попыток мы будем прибли­ жаться к глобальному оптимуму, т.е. найденное текущее наилуч­ шее значение будет сколь угодно близко к точному решению.

На практике поиск прекращают, когда число неуспешных по­ пыток превышает наперед заданное число Nz.

Данный метод можно применять для поиска начального при­ ближения, задав сравнительно небольшое число попыток. Метод прост в алгоритмическом плане и не требует примера с конкрет­ ными значениями.

МЕТОД СЛУЧАЙНЫХ НАПРАВЛЕНИЙ

Из текущей (или заданной начальной) точки делается шаг в случайном направлении х'"^' = х' +ha', где а — сл)^айный век­ тор с модулем, равным единице (случайно только его направле­ ние); А — коэффициент пропорциональности шага. Если R(x'*^)< R(x') (при поиске минимума критерия оптимальности), то новая точка принимается за текущую и из нее делаются шаги в надежде найти лучшую точку. Если Л(х'"*^') >. R{x'), то делают но­ вую попытку, т.е. новый шаг Аа-'.

Поиск заканчивают, когда за заданное число попыток Nz не /дается найти точку с лучшим значением критерия оптимально­ сти, чем имеющаяся текущая.

Существуют модификации метода, в одной из которых после серии неудачных попыток Nz уменьшается коэффициент А, что

152

позволяет "уточнить" положение оптимума. В этом случае усло вием окончания является малость значения шага (т.е. h < hj^„)- Существует также модификащи метода с обратным шагом Отличительной ее особенностью является то, что при неудачном шаге ha' из точки х' сразу производится шаг в обратном направ лении -ha'- При достаточном удалении от оптимума такая стра тегия поиска может оказаться весьма эффективной. Если и обрат ный шаг оказался неудачным, то можно сделать новый шаг из текущей точки или перейти к поиску с уменьшенным шагом. В последнем случае существует опасность замедления поиска вда­

ли от оптимума, особенно в овраге.

Одна из возможных траекторий поиска минимума двумерной функции методом случайных направлений приведена на рис. 19.

Пример.

1.Требуется найти минимум фунищи R(xi,X2)=Axi +Вх\ -

-Ccj -Dx2, где^ = 1,5 =2,С =3,1> =4.

2.Интервал поиска: дс1„ач = -2, XUOH = 2, хгнач = -2, дсггон = 2.

3.Начальная точка: дгю = -0,5, X^Q = - 1 .

4.Параметры поиска: коэффищ1ент шага Л = 1, число попыток в каждой точке Nz= 10.

153

Продолжение

Последнюю точку можно считать решением, так как за задан­ ное число следующих попыток (10), которые для краткости не приведены, не удалось найти лучшую точку. Возможно, увеличив число таких попыток, можно найти лучшее решение.

МЕТОД ПОИСКА С "НАКАЗАНИЕМ СЛУЧАЙНОСТЬЮ"

Метод является аналогом метода наискорейшего спуска, только направление локального поиска не градиентное, а случай­ ное. Как и в предыдущем методе, из текущей точки делают слу­ чайные шаги до тех пор, пока не будет найдена точка с лучшим значением критерия оптимальности. Затем в этом направлении регулярным методом одномерного поиска ищут оптимум. В точ­ ке оптимума по направлению опять случайным образом ищут но­ вое направление и т.д.

Условием окончания обычно является невозможность полу­ чения лучшей точки из текущей за предварительно заданное чис­ ло попыток Nz.

О, ,da из возможных траекторий поиска минимума двумерной фуюощи методом поиска с "наказанием случайностью" приведе­ на на рис. 18.

Пример.

Для сравнения рассмотрим пример, аналогичный предыду­ щему.

154

Результаты вычислений представлены в табл. 29, где Л^поп ~ число неудачных попыток в данной точке найти лучшее направ ление поиска.

Таблица 29

Последнюю точку можно считать решением, так как за задан ное число попыток (10) не удалось найти лучшую точку. Возмож но, увеличив число таких попыток, можно найти более хороше решение.

МЕТОД С "БЛУЖДАЮЩИМ" ПОИСКОМ

Данный метод является статистическим расширением гради ентного метода и реализуется в соответствии с алгоритмом

jc'^' =х' •hgnidRix') + h^a' =х' -Ах',

где а — случайный вектор с единичным модулем, А и Л, — коэф фициенты, характеризующие вклад случайной составляющей (Ai и регулярной составляющей (А) в величину шага.

Чаще в формуле для дс'"^' используется не градиент R(x), а со ответствующие направляющие косинусы градиента (см. метод градиента в теме "Многомерная градиентная оптимизация"), что позволяет выдерживать заданное соотношение между регуляр ной и случайной составляющими шага.

155

Теоретически доказывается, что данный алгоритм наиболее вероятно приведет к глобальному экстремуму. В алгоритме могут использоваться алгоритмы коррекции шага А, свойственные гра­ диентному методу, который включается после Nz неудачных по­ пыток. Условием окончания является малость значения шага (т.е.

Стратегия поиска может предусматривать не постоянное, а периодическое добавление случайного вектора к градиентному шагу. Частота случайных "скачков" должна уменьшаться по мере приближения к оптимуму и увеличиваться вдали от него. Для это­ го существуют специальные алгоритмы самообучения, например:

Ns = Ns{M,R{x)),

где Ns—число шагов регулярным градиентным методом без слу­ чайной составляющей, т.е. период добавления случайной состав­ ляющей;

М — заданное целое число (рекомендуется 2<Мй\0, при этом в процессе поиска Ns будет изменяться в диапазоне М/2 ...

ЮМ.

Обратно пропорщюнально частоте "скачков" меняется и доля случайной составляющей в шаге, т.е. Л] = h^lNs. Условием окон­ чания поиска будет, как и в регулярном градиентном методе, бли­ зость градиента к нулю.

Одна из возможных траекторий поиска минимума двумерной функции методом блуждающего поиска приведена на рис. 19.

Пример.

Для сравнения рассмотрим пример, полностью аналогичный примеру в предыдущем разделе. Результаты вычислений сведены в табл. 30.

156

Продолжение

Нетрудно заметить, что при заданных параметрах поиск "за­ циклился" в окрестности оптимума. Для повышения эффективно­ сти поиска следует попытаться выбрать другие параметры поис­ ка, но формальных рекомендаций по их выбору нет.

КОНТРОЛЬНЫЕ ВОПРОСЫ

1.в чем заключается основное преимущество случайных мето­ дов поиска?

2.В чем достоинство метода слепого поиска?

3.Назовите недостаток слепого метода поиска.

4.Может ли в методе "блуждающего" поиска начальная точка выбираться случайным образом?

5.Может ли в методе поиска с "наказанием случайностью" на­ чальная точка задаваться исследователем не случайно, а из своих соображений?

6.Может ли в методе слепого поиска начальная точка выби­ раться не случайно, а по желанию исследователя?

7.Сравните эффективность метода поиска с "наказанием слу­ чайностью" с методом наискорейшего спуска.

8.Сравните эффективность метода случайных направлений с градиентным методом в случае овражной R{x).

9.Чем характеризуется случайный вектор, который использу­ ется в методе случайных направлений?

10.Что нужно сделать, чтобы получить более высокую точность решения задачи оптимизации в методе поиска с "наказанием случайностью"?

157

МНОГОМЕРНАЯ УСЛОВНАЯ ОПТИМИЗАЦИЯ

КОНЦЕПЦИЯ МЕТОДОВ

В данном разделе рассматриваются численные методы по­ строения улучшающих последовательностей при наличии огра­ ничений типа равенств (связей) и типа неравенств (ограничений) (рис. 20). Сюда не входят методы, использующие условия оп­ тимальности. Во всех методах строится в допустимой области последовательность точек, в которых значения критерия улучша­ ются. Поиск осуществляется градиентным методом. При этом предполагается, что учащийся знаком с особенностями и усло­ виями работы этого метода по крайней мере в объеме соответ­ ствующего раздела настоящего пособия.

Допустимая область может формироваться автономными ог­ раничениями X, иа„ ^ Xi < Xi ^ , связями /у(х„Х2,... ,Х„)=0 (j = I,

...,7и)И.ограничениямиF,(A:,,A:2,...,J^„) ^ О,дляу = 1,...,/?.

Рис. 20. Иллюстрация траекторий поиска минимума функции при наличии ограничений типа неравенств: 1 — допустимая область; 2 — запрещенная область; 3 — траектория метода проектирования градиента; 4 — оптимум 1; 5 — траектория метода штрафов; б — траектория прямого метода с возвратом; 7 — оптимум 2; 8 — на­

чальные точки поиска

158

Отклонения от ограничений увеличивают критерий Rp, т как бы накладывают "пгграф" Н на Rp. Уменьшение Rp происх дит как за счет уменьшения R{x), так и за счет уменьшения вел чины нарушения ограничения.

В точке минимума ограничения будут справедливы, т.е. ра ны нулю, и поэтому /г* = R*. Однако это соотношение будет спр

ведливо только при коэффициенте "штрафа", стремящемся к бе конечности.

Увеличение а, с одной стороны, не допускает больших отю нений в "запретные" стороны от ограничений (это хорошо), а другой — увеличивает "овражность" Rp (овраг размерности имеет место вдоль ограничений), что резко усложняет поиск o тимума Rp (это плохо).

Поэтому целесообразно решать задачу сначала с маленькн значением а, потом его увеличивать. Это будет способствова более быстрому выходу в область условного оптимума и точно\ его определению.

Существуют и другие структуры Rp, в частности учитыва щие сравнительную важность отдельных ограничений. При это каждое ограничение может иметь свой коэффициент штрафа.

Одна из возможных траекторий поиска минимума двумерн функции методом штрафов приведена на рис. 20.

Пример.

Требуется найти минимум функции R{X'^,X'^ = Ax\-^Вх^ -Ccj -Dx2 при наличии ограничения типа равенства.

1. Коэффициенты выражения/?(jc,,X2): A = \,B=\,C-\,D =

2.Интервал вычислений (автономные ограничения): л:|нач

3.Начальная точка: Х]о = -0,1864, лго = 0,4340.

4.Прочие данные: h =0,1; погрешность = 0,05; штраф = О вид штрафа: модульный.

5.Ограничения типа равенства /(^1,^:2) =Л)гр^1 +^orii=«^2-l =0

Коэффициенты ограничения: Аогр = 5,00; Boip = 9,30.

В соответствии с методом сформируем новый критерий, м нимум которого будем искать градиентным методом Rp = R + аДх). Величину а выбираем равной 0,5.

160