3. Нелинейное программирование

Признаки задач нелинейного программирования:

1. Нелинейная целевая функция.

2. Нелинейные ограничения.

Если в задаче присутствует хотя бы один признак, то она относится к задачам нелинейного программирования.

3.1. Методы поиска безусловного экстремума функции одной переменной

В задачах на поиск безусловного экстремума отсутствуют ограничения.

3.1.1. Аналитический метод

Постановка задачи: f (x) – функция одной переменной, требуется найти точки экстремума и определить его вид.

Решение

1. Находится производная заданной функции и приравнивается нулю:

f  (x) = 0 .

2. Находятся корни полученного уравнениях_i , i = 1, n; n – порядок уравнения.

3. Определяется тип экстремума по второй производной:

 0, то функция в точке x_i имеет максимум;

еслиd²f

dx²

x=x_i

 0, то функция в точке x_i имеет минимум.

еслиd²f

dx²

x=x_i

Пример 3.1.

f (x) = х² + 5 х + 6,

f ( x) = 2 х + 5 = 0, x = -2,5, f ( x) = 2, тип экстремума – минимум.

3.1.2. Численные методы

В этих методах не требуется находить аналитическое значение производной.

3.1.2.1. Основные понятия и определения

Унимодальная функция – это функция, имеющая один экстремум, причем слева и справа от экстремума либо строго убывающая, либо строго возрастающая.

Отрезок а, b называется интервалом неопределенности, если внутри него функция имеет экстремум.

Точность нахождения экстремума () определяется следующим образом. Положим х₀ – точное значение экстремума, х₀ – приближенное. Тогда  х₀ - х₀   .

Постановка задачи поиска экстремума численными методами.

Дано: 1. Начальный интервал неопределенности а₀ , b₀.

2. Функция f (x), унимодальная на отрезке а₀ , b₀.

3. Точность нахождения экстремума ().

Требуется с заданной точностью  на отрезке а₀, b₀ найти экстремум функции f (x).

3.1.2.2. Метод ненаправленного поиска

1. Отрезок а₀, b₀ делится на N частей, где N = ( b₀ - а₀) /  .

2. Находятся координаты точек х_i, расположенных внутри интервала неопределенности:

х_i = а₀ + ( i - 1) , i = 1, (N+1).

3. Рассчитываются значения функции в точках f (х_i ).

4. Из полученных значений выбирается экстремальное

F₀ = min {f (x_i )}, i = 1, (N+1),

Точка х_i , соответствующая F₀, – точка экстремума.

Достоинство алгоритма – простота, недостаток – низкая производительность (для = 1% требуется рассчитать значения функции в 101 точке).

3.1.2.3. Методы направленного поиска

Метод дихотомии (деление отрезка пополам):

1. Интервал неопределенности делится пополам.

2. Находятся значения функции в двух точках, отстоящих от центра на /2.

3. По результату сравнения этих значений отбрасывается та часть интервала неопределенности, в которой экстремума быть не может. При этом интервал неопределенности сокращается приблизительно на половину.

4. На следующем интервале повторяются те же действия.

Рассмотрим более подробно этот метод. Пусть требуется найти минимум функции f (x) на интервале а₀ , b₀ (рис. 3.1) .

f (x)

a₀ x₀ x₀ x₀ b₀ x

a₁ b₁

Рис. 3.1. Метод дихотомии

Находим координату центра интервала неопределенности:

х₀ = (а₀ + b₀ ) / 2.

Находим точки, равноотстоящие от х₀ на /2:

х₀ = х₀ +  /2,

х₀ = х₀ -  /2.

Находим значения функции в точках х₀ и х₀, f ( х₀ ) и f ( х₀ ).

Отбрасываем часть отрезка левее х₀, т.к. там минимума нет.

l₁ = b₁ - а₁ – длина нового интервала неопределенности.

Если l₁   , то экстремум найден. За точку экстремума принимают

х₁ = (а₁ + b₁) / 2.

Если l₁   , то делается по крайней мере еще один шаг.

Анализ метода:

1. На каждом шаге приближения к экстремуму функция вычисляется дважды.

2. На начальных шагах интервал неопределенности уменьшается примерно на половину. По мере приближения к экстремуму, когда становится соизмеримо с интервалом неопределенности, уменьшается доля отбрасываемой части, т.е. отбрасываемая часть интервала неопределенности не постоянна, что является недостатком метода.

3. Достоинство метода – производительность выше, чем в методе ненаправленного поиска (для нахождения экстремума с  = 1% требуется  20 вычислений функции).

Пример 3.2. Найти максимум унимодальной функции:

e^{3x / 2}, 0  x  0,45

F(x) = 3-2,3x, 0,45 < x  0,7

-x² , 0,7 < x  1

а₀ , b₀ = 0 ,1 ,  = 0,04 .

Решение

1. х₀ = (а₀ + b₀ ) / 2 = 0,5.

2. х₀ = х₀ +  / 2 = 0,48, F( х₀ ) = 1,89,

х₀ = х₀ -  /2 = 0,52, F( х₀) = 1,80.

3. а₁ , b₁ = 0; 0,52

4. l₁ = b₁ - а₁ = 0,52

l₁  , следовательно, делаем еще шаг 

Метод «золотого сечения». Сечение отрезка называется золотым, если отношение всего отрезка к большей его части равно отношению большей части отрезка к меньшей. Пусть d – длина отрезка, х – длина большей части отрезка, тогда “золотое сечение”

. (3.1)

Примем d = 1, тогда

, (3.2)

1 - х = х²,

х = (-1  5 ) / 2,

Х = ( 5 - 1) / 2  0,618, (3.3)

1 - Х= (3 - 5) / 20,382.

Рассмотрим алгоритм метода. Введем обозначения: а_к , b_к – границы интервала неопределенности на к-м шаге.

Отметим на этом интервале точки Y_к, Z_к , причем Y_к ближе к левой границе, а Z_к ближе к правой границе интервала неопределенности. Точки Y_к и Z_к симметричны относительно центра и составляют золотое сечение

отрезка а_к , b_к :

0,38 0,24 0,38

а_к Y_к Z_к b_к

1. Определяются координаты точек Y₀ и Z₀:

Y₀ = а₀ + (3 - 5 ) / 2 (b₀ - а₀),

Z₀ = b₀ - (Y₀ - а₀ ) = а₀ + b₀ - Y₀.

2. Вычисляется функция в точках Y₀ и Z₀ .

3. Отбрасывается та часть интервала неопределенности, где экстремума быть не может.

Записываются новые координаты интервала (рис. 3.2).

f (x)

x

а₀ Y₀ Z₀ b₀

а₁ Y₁ Z₁ b₁

Рис. 3.2. Метод золотого сечения

Положим, отброшена левая часть интервала неопределенности (а₀, Y₀), тогда а₁ = Y₀, b₁ = b₀, Y₁ = Z₀, Z₁ = а₁ + b₁ - Y₁ (при отбрасывании правой части объекта Y₁ = а₁ + b₁ - Z ₁).

4. Находится длина нового интервала и сравнивается с :

l₁ = b₁ - а₁.

При l₁   решение найдено, при l₁   делается еще один шаг, причем на каждом последующем шаге значение функции вычисляется только в одной точке (либо в точке Y_к , либо в точке Z_к).

Анализ метода:

1. На каждом шаге приближения к экстремуму интервал неопределенности уменьшается на 38%.

2. На каждом шаге, кроме нулевого, функция вычисляется один раз.

3. Метод имеет высокую производительность (для нахождения экстремума с точностью = 1% требуется вычислить функцию 11 раз).

Пример 3.3. Найти минимум унимодальной функции f (x) = х² - 5х, а₀ , b₀ = 2; 4 ,  = 0,1.

Решение

1.Y₀ = а₀ + (3 - 5 ) /2 (b ₀ - а₀) = 2 + 0,382  2 = 2,764,

Z₀ = а₀ + b₀ - Y₀ = 3,236.

2. f (Y₀) = - 6,180, f (Z₀) = -5,708 – отбрасываем правую часть интервала неопределенности.

3. а₁ = а₀ = 2,

b₁ = Z₀ = 3,236,

Z₁ = Y₀ = 2,764,

Y₁ = а₁ + b₁ - Z₁ = 2,472.

4. l₁ = b₁ - а₁ = 1,236  , следовательно, требуется выполнить еще шаг.

5. f (Z₁) = f (Y₀ ) = - 6,180, f (Y₁ ) = - 6,249. . .

Метод Фибоначчи. Постановка задачи:

1. Начальный интервал неопределенности а₀, b₀.

2. Функция f (x), унимодальная на отрезке а₀, b₀.

3. Точность нахождения экстремума .

Требуется за n измерений функции найти экстремум с точностью .

Метод Фибоначчи считается самым эффективным. Этот метод имеет тот же алгоритм, что и метод «золотого сечения», отличия заключены в координатах начальных точек:

Y₀ = а₀ + (b₀ - а₀ ) F_n / F_n+2, (3.4)

F_n , F_n+2 – n-е и (n+2)-е числа Фибоначчи.

Z₀ = а₀ + b₀ - Y₀.

F₁ = 1, F₂ = 1, F_n = F_n-1 + F_n-2 , n = 3, 4, 

F₃ = 2, F₄ = 3, F₅ = 5, F₆ = 8, F₇ = 13, F₈ = 21, F₉ = 34, F₁₀ = 55, F₁₁ = 89, F₁₂ = 144, 

n определяется при помощи неравенства:

F_n+1  (b₀ - а₀ )/   F_n+2 . (3.5)

Пусть требуется найти экстремум с точностью 0,01. Тогда

( b₀ - а₀ )/  = 100, F₁₁ = 89  100  144 = F₁₂, n = 10,

Y₀ = а₀ + ( b₀ - а₀ ) 55 / 144.

Далее так же, как в методе “золотого сечения”.