5.3.3. Специальные методы

До сих пор, обсуждая задачи оптимизации, мы говорили об универсальных методах их решения. Однако во многих случаях из характера задачи вытекает какая-то дополнительная информация о свойствах целевой функции. Это может быть использовано для разработки специальных алгоритмов. Такой подход позволяет существенно сократить объем вычислений и получить ответ наиболее эффективным способом.

В качестве примера рассмотрим случай, когда нам известно заранее, что целевая функция y = f(x) имеет на отрезке [a, b] только один минимум. График такой функции показан на рисунке 5.3.

Рисунок 5.3.

Для решения задачи в этом случае можно воспользоваться следующим методом. Возьмем некоторый шаг h и будем последовательно вычислять значения функции f(x) в точках x₀ = a, x₁ = a + h, сравнивая получаемые числа y₀, y₁ ,…Сначала они будут убывать: y₀ > y₁ > y₂… Однако в дальнейшем найдется точка x_k = y₀ + kn, где будет справедливо неравенство y_k-1 < y_k, y_k+1 ≥ y_k. Это означает, что наименьшее значение функции достигается на отрезке [x_k-1, x_k+1] и его приближенно можно считать равным y_k = f(x_k). Если требуемая точность в решении задачи еще не обеспечена, то нужно уменьшить шаг h и повторить описанную процедуру для отрезка [x_k-1, x_k+1].

5.4. Многомерные задачи оптимизации

До сих пор мы обсуждали одномерные задачи оптимизации, в которых целевая функция зависела только от одного аргумента. Однако подавляющее большинство реальных задач оптимизации, представляющих практический интерес, являются многомерными: в них целевая функция зависит от нескольких аргументов, причем, иногда их число может быть, весьма большим.

Математическая постановка таких задач аналогична их постановке в одномерном случае: ищется наименьшее (наибольшее) значение целевой функции, заданное на некотором множестве Е возможных значений ее аргументов. В случае, когда целевая функция непрерывна, а множество Е является замкнутой ограниченной областью, остается справедливой теорема Вейерштрасса. Тем самым выделяется класс задач оптимизации, для которых гарантировано существование решения. В дальнейшем мы всегда будем предполагать, что все рассматриваемые задачи принадлежат этому классу.

Как и в одномерном случае, характер задачи и соответственно возможные способы решения существенно зависят от той информации о целевой функции, которая нам доступна в процессе ее исследования. В одних случаях целевая функция задается аналитической функцией. Тогда можно вычислять ее частные производные, получать явное выражение для градиента и использовать эту информацию для решения задачи. В других случаях никакой формулы для целевой функции нет, а имеется лишь возможность определить ее значения в любой точке рассматриваемой области (с помощью расчетов, в результате эксперимента и т. п.). В таких случаях в процессе решения мы фактически можем найти значения целевой функции лишь в конечном числе точек и по этой информации приближенно установить ее наименьшее значение для всей области.

Рисунок 5.4

Многомерные задачи, естественно, являются более сложными и трудоемкими, причем трудоемкости их решения возрастают при увеличении

их размерности. Для примера возьмем самый простой по идее приближенный метод поиска наименьшего значения. Покроем рассматриваемую область сеткой с шагом h (рисунок 5.4) и определим значения функции в ее узлах.

Сравнивая полученные числа между собой, найдем среди них наименьшее и примем его приближенно за наименьшее значение функции для всей области. Однако для задач большой размерности он практически непригоден из-за слишком большого времени, необходимого для проведения расчетов. Иногда сплошной перебор заменяют случайным поиском. В этом случае точки сетки просматриваются не подряд, а по случайному закону. В результате поиск наименьшего значения ускоряется, но теряет свою надежность.

Перейдем к обсуждению методов, позволяющих вести поиск наименьшего значения функции целенаправленно.