§13. Методы оптимизации, основанные на классической математике

1. Экстремум функции одной переменной

=>Находится X_опт

2. Экстремум функции многих переменных

=> Находится X_опт

- матрица вторых производных.

Исследуем матрицу: если все элементы матрицы больше 0, то в точке наблюдается минимум.

3. Метод замены переменных

Применим, когда ограничения имеют вид неравенств, и число ограничений меньше числа переменных (неизвестных).

Выражаем m первых переменных:

через остальные. Получаем систему уравнений.

_{Система решается, находятся xm+1,…,xn , тогда ЦФ зависит от меньшего числа переменных : .}

_{Затем уже находятся все остальные переменные подстановкой.}

Достоинства:

1. позволяет избавиться от ограничений;

2. позволяет понизить размерность задачи.

Недостатки:

1. не всегда можно разрешить систему уравнений, относительно m - первых неизвестных (переменных).

2. Необходимо, чтобы функция была дифференцируема.

4. Метод неопределенных множителей Лагранжа.

Достоинства:

1. Нет ограничения на условие, что количество переменных

Задача с ограничениями сводится к задаче без ограничений.

m

^{Составляется функция Лагранжа :}

L



^,

где - неопределенные множители Лагранжа.

Находим производные:

(1)

Находим производные по каждой из :

(2)

Решая системы уравнений (1) и (2) находим x_i _i.

т.о. избавляемся от ограничений.

Недостатки:

1. функция должна быть дифференцируема;

2. трудность решения систем уравнений;

3. повышена размерность задачи.

Пример: Спроектировать термостат цилиндрической формы, т.о., чтобы он имел минимальную поверхность при заданном объеме.

r, h - ?

§14. Нелинейное программирование

Особенности задач нелинейного программирования:

1. Многошаговые итерационные процессы, в которых производится постепенное приближение к оптимальному решению. Точки друг от друга различаются на шаг.

,

где шаг, k - номер итерации, номер шага.

2. Большую трудность вызывает выбор шага (если большой – рискуем проскочить оптимум, но с большой скоростью; если маленький – существует возможность «утонуть» в вычислениях).

3. Заранее определить число шагов нельзя.

4. Эффективность методов зависит от результата, полученного на предыдущем шаге.

5. В алгоритме поиска необходимо иметь правило окончания работы. Оно заключается в достижении требуемой точности.

6. Некоторые задачи могут не иметь решения, а иметь лишь особые точки.

Классификация методов нелинейного программирования:

1. Градиентные методы:

- метод градиента и его модификации;

- метод релаксации;

- метод наискорейшего спуска;

- метод «тяжелого шарика» и др.

2. Безградиентные методы:

- метод общего поиска;

- метод дихотомии;

- метод «золотого сечения»;

- метод чисел Фибоначчи;

- метод сканирования;

- симплексный метод и др.

3. Методы случайного поиска:

- метод «слепого» поиска;

- метод случайных направлений и др.

Градиентные методы нелинейного программирования.