2.13. Метод случайного поиска

Этот метод, как и метод градиента, по принятой классификации относится к группе одноэтапных методов, применение которых характеризуется одновременным изменением всех параметров оптимизации на каждом рабочем шаге. В литературе рассматриваемый метод носит также названия метода возможных направлений или случайного по­иска.

В соответствии с этим методом:

1. из некоторой точки в пространстве параметров делается несколько пробных шагов в слу­чайных направлениях;

2. приращения функции цели, полученные на каждом пробном шаге, сравниваются, определяется направление, в котором улучшение функции цели наибольшее и которое принимается в дальнейшем за приближение к градиенту Q;

3. в этом направлении выполняется рабочий шаг, который переводит изображающую точку в положение ;

4. действия по определению случайного градиента повторяются в окрестности новой точки.

Таким образом, в отличие от метода градиента в данном алгоритме:

1. направление поиска определяется не гра­диентом функции цели, а наиболее удачным из пробных шагов, выполнен­ных из k-й точки в случайных направлениях; при этом координаты те­кущей изображающей точки в пространстве нормирован­ных параметров вычисляются по формуле:

.

(2.26)

где – проекция наиболее удачного пробного шага на ось x_i,  –размер пробного шага;

2. для формирования направлений пробных шагов здесь так же, как и в методе статистических испытаний, нужен датчик слу­чайных чисел; это обстоятельство определяет особенности построения алгоритма реализации данного метода в сравнении с ме­тодом градиента; в общем случае количество необходимых пробных шагов определя­ется из требования равномерного исследования -окрестности вокруг изображающей точки, часто оно выбирается равным 5.

В остальном процесс поиска экстремума функции цели здесь идентичен поиску по ме­тоду градиента и ему в равной мере присущи все особенно­сти метода градиента.

Если число пробных шагов принимается меньшим, чем количест­во параметров оптимизации n, то при определении направления поиска получается выигрыш по числу обращений к модели объекта проектирования для вычисления значений Q в сравнении с методом градиента. Однако уменьшение числа пробных шагов приводит к соответствующему уменьшению вероятности приближения к направлению градиента, а, следовательно, к возможному увеличению количества рабочих шагов по определению экстремума функции цели.

2.14. Метод покоординатного поиска

Этот метод является типичным представителем группы многоэтапных методов поисковой оптимизации и известен также под назва­ниями метода покоординатного улучшения функции цели и метода Гаусса-Зейделя, а его алгоритм представляет собой реализацию метода Гаусса-3ейделя. В соответствии с данным методом по­иск на каждом этапе произ­водится поочерёдно по каждому параметру при зафиксирован­ных значениях всех остальных:

1. посредством пробных шагов опреде­ляется направление преимущественного улучшения функции цели при измене­нии одного параметра;

2. в выбранном нап­равлении выполняются рабочие шаги h до тех пор, пока не будет найдено местоположение частного экстремума функции цели, причём значение изменяемого параметра фиксируется;

3. осуще­ствля­ется переход на другую координатную ось и поиск экстремума Q повторяется в той же последовательности при измене­нии следующего параметра; здесь, так же как и в других методах направленного поиска, при достижении экстремума или при приближении к границе допусти­мой области производится деление рабочего шага пополам.

Условием окончания поиска по методу Гаусса-Зейделя, как и для всех мето­дов направленного поиска, является невозможность улучше­ния значения функции цели при переме­щении из текущей точки на рабочий шаг, значение которого уменьшено до некоторого положительного заранее задан­ного малого числа , по каждой из координат. Точность опре­деления локального экстремума по данному методу вычисляется по (2.24).

При отсутствии ограничений описанный процесс поиска позволяет определить приближение к локальному экстремуму функции цели, в окрестности которого находится начальная точка поиска. В услови­ях действия ограничений при определённом взаимном расположении линий равного уровня Q и ограничений поиск может закончить­ся при первом достижении границы допустимой области S, когда из текущей точки не удается сделать шага по любой координате, не ухудшив значения функции цели. В итоге поиск будет окончен дале­ко от действительного местонахождения экстремума Q, и цели оптимизации не будут достигнуты.

К особенностям построения алгоритма метода покоординатного поиска следует отнести искусственное сведение исходной многопараметри­ческой задачи оптимизации к однопараметрической на каждом шаге направленного поиска, что

1. упрощает поиск частных экстремумов Q по каждой координате;

2. позволяет организовать алгоритм, в основе которого лежит циклический участок программы, по общему правилу определяющий местоположение частных экстремумов Q по каждому параметру.