3. Методы отыскания экстремума

Как правило, цель любого прикладного исследования — выявление оптимальных условий протекания процесса, повышения продуктивности, снижения материальных и энергетических затрат, достижения наивысшего качества продукции. При этом задача сводится к тому, чтобы найти значения факторов, обеспечивающих оптимальные значения выбранного критерия (экстремум целевой функции). Возможно два подхода к решению этой задачи. Один из них сводится к определению оптимума непосредственно на объекте. На этом подходе основан целый ряд методов статической оптимизации. В дальнейшем будем рассматривать только поиск максимума (минимума), учитывая, что при поиске минимума (максимума) необходимо сменить направление на противоположное.

Сущность «методов спуска» для решения задачи поиска минимума состоит в построении последовательности точек 1, 2, . . ., ,

. . ., opt, принадлежащих множеству управляемых параметров, монотонно уменьшающих значения функции ( ).

На первом этапе задают начальную точку 1, параметр окончания счета < 0, полагая = 1. На основном этапе в точке проверяют условие окончания счета; если оно выполняется, то полагаютopt = и расчет заканчивают. Если условие не выполняется, в точ-

Различные методы спуска отличаются друг от друга способом вы-

бора направления спуска ¯ и шага вдоль этого направления . Есте-

ственно, что трудоемкость вычисления величины следует согласо-

вывать с трудоемкостью определения направления спуска ¯ .

Методы решения задач безусловной оптимизации можно разделить на группы в зависимости от уровня используемой в методе информации о целевой функции, например:

1)методы нулевого порядка, или прямого поиска, основанные на нахождении (вычислении) только значений функции;

2)градиентные методы, в которых используются значения функции ( ) и ее градиента, т.е. вектора, компонентами которого являются частные производные первого порядка;

41

3)методы второго порядка, в которых используются первые и вторые производные функции ( );

4)методы оптимизации квадратичных функций.

Первые три группы методов различаются требованиями к степени гладкости целевой функции (разрывная, непрерывная, непрерывнодифференцируемая, дважды непрерывно-дифференцируемая), но не к виду функции, четвертая группа ориентирована на оптимизацию функции определенного вида.

Методы нулевого порядка используют только значения целевой функции ( ). Необходимость методов прямого поиска несомненна, особенно при решении практических задач, когда неизвестен вид целевой функции как детерминированной модели. Для снижения затрат времени на поиск оптимума необходимо рассмотрение методов, основанных на использовании первых и вторых производных функции.

3.1.Методы нулевого порядка

Рассмотрим некоторые методы, использующие поиск оптимума на объекте непосредственно.

Метод Зайделя – Гаусса

Рассмотрим сущность метода на примере двухфакторного эксперимента = ( 1, 2). Пусть эксперимент начинается в некоторой точке A, с варьированием фактора 1. Вначале выбирается направление изменения 1 (при неизменном 2), при котором будет увеличиваться целевая функция, например, увеличение 1 приводит к уменьшению(т. е. 1 < 0). Движение в выбранном направлении происходит до тех пор, пока не достигнет максимума в некоторой точке B. После этого направление движения меняется и оно происходит вдоль оси 2 таким образом, чтобы значение продолжало возрастать до некой точки C. После этого направление движения снова изменяется, оно продолжается до локального максимума в точке D и т.д. Таким образом, суть метода состоит в поочередном варьировании каждого фактора до достижения частного экстремума. Преимущество метода — его простота, а недостаток — низкое быстродействие.

42

Метод сканирования

Метод сканирования предусматривает полный перебор всех возможных вариантов. Чтобы их число было конечным, метод должен быть дискретным. Применительно к двухфакторному эксперименту= (1, 2) это означает, что факторы могут приобретать лишь определенные (лучше целочисленные) значения, которые могут характеризоваться просто номером. Иными словами, опыт может ставиться лишь в узлах решетки, создаваемой дискретными значениями факторов. Для полного перебора всех точек движение можно начать из начала координат и двигаться вдоль одного из факторов, например,1. При достижении граничной точки следующий опыт проводится в точке с той же координатой 1, значение 2 увеличивается на один шаг, дальше перемещаемся вдоль 1 в обратную сторону. Такого рода движение продолжается до полного перебора всех точек. Значения во всех точках сравниваются между собой, и выбирается наибольшее (наименьшее). Преимущество метода заключается в том, что он позволяет найти глобальный оптимум. Недостаток метода — малое быстродействие.

Метод случайного поиска

Известно несколько методик случайного поиска. В соответствии с одной из них, движение начинается из произвольной точки А. Задаются пробным r (3. . . 4 ошибкам опыта) и рабочим а (10 ошибок опыта) шагом. Пробный шаг делают в случайном направлении до точки B, где проводят второй опыт. Если в этой точке критерий оптимизации больше, чем в точке А (при условии, что имеется максимум), то направление выбрано удачно и в том же направлении делается рабочий шаг. В противном случае рабочий шаг делается в противоположном направлении. Движение в выбранном направлении (с рабочим шагом) продолжается до тех пор пока растет. Если дальнейшие шаги после точки C дают уменьшение , то в этой точке определяется новое направление движения. Такая процедура повторяется до тех пор, пока не начнется вращение вокруг какой-либо точки, что означает достижение оптимума.

43

3.2.Градиентные методы

Градиентные методы основаны на линейной аппроксимации целевой функции ( ) в окрестности точки , в которой требуется определить направление наискорейшего локального спуска или подъёма, т. е. наибольшего локального изменения значения функции. Известно, что наилучшим направлением движения к экстремуму целевой функции является направление градиента. Градиентом функции называется вектор, показывающий направление максимального возрастания функции в данной точке. Вектор направления максимального убывания называется антиградиентом.

∂

единичные векторы, совпадающие по направлению с координатными осями.

Найдем проекции вектора-градиента для линейного уравнения регрессии (1.6), взяв частные производные от целевой функции по фак-

торам

∂ ∂ = , = 1, . . . , .

Эти проекции равны коэффициентам регрессии. Следовательно, чтобы осуществить движение по градиенту, необходимо изменять значения факторов пропорционально полученным коэффициентам регрессии. Факторный эксперимент можно заменить шаговой процедурой, которая состоит в следующем. От исходной точки А делают шаг вдоль оси 1 в сторону уменьшения и шаг в сторону увеличения,

Движение в выбранном направлении продолжается до тех пор, пока растет. Как только этот рост прекращается, процедуру можно

44

повторить. Если при очередной процедуре уже не растет, значит оптимум найден.

Метод крутого восхождения (метод Бокса-Уилсона)

После выбора исходной точки, которая принимается за центр эксперимента, проводится полный или дробный факторный эксперимент. Интервал варьирования выбирается таким образом, чтобы в выбранном диапазоне функция была линейной. Шаги движения по градиенту не должны превышать соответствующие интервалы варьирования факторов. Для выполнения этого требования находим максимальный по абсолютному значению коэффициент регрессии , а шаг движения по градиенту для базового фактора выбираем равным ин-

тервалу варьирования = . Тогда остальные шаги опре-

деляем по формуле

Знаки шагов движения по градиенту совпадают со знаками соответствующих коэффициентов регрессии. Движение по градиенту, или крутое восхождение, начинаем из центра планирования. Для наглядности составляем таблицу движения по градиенту, в которой каждое последующее значение фактора отличается от предыдущего на шаг движения по градиенту.

Движение по градиенту продолжают до достижения частного экстремума целевой функции в данном направлении (рис. 3.1, точки 1 – 4). Обычно это значение не сразу совпадает с искомым экстремумом, поэтому точку экстремума принимают за новый центр планирования и все этапы моделирования и оптимизации повторяют, т. е. проводят новый ПФЭ и снова организуют движение по градиенту (рис. 3.1, точка 5). Метод, включающий моделирование объекта исследований с помощью ПФЭ и движения по градиенту с использованием линейной

45