13.3.3. Градиентные методы

Важность прямых методов неоспорима, т.к. в практических задачах информация о значениях целевой функции является единственно надежной информацией, которой располагает инженер. Однако, если существует и непрерывна целевая функция W(x) и ее первые производные а также они могут быть записаны в аналитическом виде (или с достаточно высокой точностью вычислены при помощи численных методов), то целесообразно использовать методы, основанные на использовании градиента целевой функции.

Все методы основаны на итерационной процедуре, реализуемой в соответствии с формулой

x^k+1 = x^k + ^k s(x^k), (13.9)

где

x^k - текущее приближение к решению x^*;

^k - параметр, характеризующий длину шага,

s(x^k) - направление поиска в N - мерном пространстве управляемых переменных x_i, i = 1, 2,..., N.

Способ определения ^k и s(x^k) на каждой итерации связан с особенностями применяемого метода. Обычно выбор ^k осуществляется путем решения задачи минимизации W(x) в направлении s(x^k). Поэтому при реализации градиентных необходимо использовать эффективные алгоритмы одномерной минимизации.

Простейший градиентный метод

В основе метода лежит следующая итерационная модификация формулы (13.9):

x^k+1 = x^k -  W(x^k), (13.10)

где

 - заданный положительный коэффициент;

W(x^k) - градиент целевой функции первого порядка.

Недостатки:

• необходимость выбора подходящего значения ;

• медленная сходимость к точке минимума ввиду малости W(x^k) в окрестности этой точки.

Метод наискорейшего спуска

Свободен от первого недостатка простейшего градиентного метода, т.к. ^k вычисляется путем решения задачи минимизации W(x^k) вдоль направления W(x^k) с помощью одного из методов одномерной оптимизации

x^k+1 = x^k - ^k W(x^k). (13.11)

Данный метод иногда называют методом Коши.

Алгоритм характеризуется низкой скоростью сходимости при решении практических задач. Это объясняется тем, что изменения переменных непосредственно зависит от величины градиента, которая стремится к нулю в окрестности точки минимума и отсутствует механизм ускорения на последних итерациях. Поэтому, учитывая устойчивость алгоритма, метод наискорейшего спуска часто используется как начальная процедура поиска решения (из точек, расположенных на значительных расстояниях от точки минимума).

Метод Ньютона

Последовательное применение схемы квадратичной аппроксимации приводит к реализации оптимизационного метода Ньютона по формуле

x^k+1 = x^k - ²W(x^k)^-1 W(x^k). (13.12)

Недостатком метода Ньютона является его недостаточная надежность при оптимизации неквадратичных целевых функций. Поэтому его часто модифицируют:

x^k+1 = x^k - ^k ²W(x^k)^-1 W(x^k), (13.13)

где

^k - параметр, выбираемый таким образом, чтобы W(x^k+1)min.

13.4. Нелинейная условная оптимизация

13.4.1. Постановка задач условной нелинейной оптимизации

Рассмотрим конкретный пример задачи условного нелинейного программирования.

Пример 13.9. План выпуска мебели.

Предприятие может выпускать два вида корпусной мебели. На её изготовление идет древесина трех видов. Запасы древесины на предприятии, нормы их расхода a_ij (i=1,2,3; j=1,2), себестоимость с_j и оптовые цены указаны в табл. 13.3. Из-за брака в процессе производства расход древесины зависит от объема x_j производства изделий и в первом приближении выражается линейной функцией a_ij + x_j , а себестоимость продукции - функцией c_j + 0,1x_j . Изделия могут выпускаться в любых соотношениях, так как сбыт обеспечен. Предприятие обязано с целью изучения спроса населения выпустить не менее двух комплектов каждого вида мебели. Составить план выпуска изделий, обеспечивающий получение максимальной прибыли.

Таблица 13.3.

Порода	Запас сырья,	Нормы расхода на изделие вида
	м3	1	2
Сосна	200	10	20
Береза	120	20	20
Дуб	150	20	20
Себестоимость, тыс. руб.		5	10
Цена, тыс. руб.		7	13

Из-за брака в процессе производства расход ресурсов зависит от объема x_j (j=1,2) производства изделий и в первом приближении выражается линейной функцией a_ij + x_j, а себестоимость продукции - функцией c_{j +} 0,1x_j . Изделия могут выпускаться в любых соотношениях, так как сбыт обеспечен. Составить план выпуска изделий, обеспечивающий получение максимальной прибыли.

Постановка задачи.

1. В качестве показателя эффективности целесообразно взять прибыль предприятия за операцию (в тыс. руб.).

2. В качестве управляемых переменных задачи следует взять:

x₁ - количество комплектов корпусной мебели 1;

x₂ - количество комплектов корпусной мебели 2.

3. Целевая функция:

W = [7 - (5+0,1x₁)] x₁ + [13 - (10+0,1x₂)] x₂  max,

или

W = 2x₁ - 0,1x₁² + 3x₂ - 0,1x₂².

4. Ограничения:

4.1. По использованию сосны, м³:

(10+x₁)x₁ + (20+x₂)x₂  200.

4.2. По использованию березы, м³:

(20+x₁)x₁ + (10+x₂)x₂  120.

По использованию дуба, м³:

(20+x₁)x₁ + (10+x₂)x₂  150.

4.4. Обязательства по контракту, шт.:

x₁  2.

4.5. Областные ограничения:

x₂  0.

Задача сводится к нахождению неотрицательных x₁^* и x₂^*, удовлетворяющих нелинейным ограничениям и доставляющих максимум нелинейной целевой функции.

Задачи нелинейной оптимизации (условной многопараметрической оптимизации) подразделяют следующим образом:

• методы штрафных функций;

• методы прямого поиска;

• методы линеаризации.