44. Численные методы оптимизации. Общая структура алгоритма. Привести примеры численных методов условной и безусловной оптимизации.

Численный метод представляет собой итерационную циклическую процедуру, на каждом цикле которой производится выбор нового значения переменной (согласно некоторому методу), вычисление значения оптимизируемой функции и проверка критерия сходимости. Циклы повторяются, пока не выполнен критерий сходимости.

Численные методы оптимизации:

• Безусловная оптимизация (функции одной переменной, функции нескольких переменных).

• Условная оптимизация (функции нескольких переменных).

Оптимизация функции одной переменной:

• Прямой поиск (безусловная оптимизация)

• Дихотомия

• Метод золотого сечения

• Метод чисел Фибоначчи

• Метод квадратичной интерполяции

Оптимизация функции нескольких переменных:

• Детерминированные методы:

  • Покоординатный спуск

• Метод Хука-Дживса

• Симплекс метод Нелдера-Мида

• Комплексный метод Бокса

• Метод штрафных функций

• Стохастические методы:

  • Слепой случайный поиск

  • Эволюционный метод (генетический алгоритм)

Поиск экстремума

Алгоритм поиска представляет собой много итерационную процедуру:

• На каждой итерации интервал поиска экстремума сужается путем исключения правого или левого отрезка .

• Правый отрезок исключается если .

• Левый отрезок исключается если .

• Итерации повторяются пока .

• Результат .

Формализация

(для реального кода):

ПОКА {

__

__

__ЕСЛИ

____

__ИНАЧЕ ЕСЛИ

____

__ИНАЧЕ {

____

____

__}

}

РЕЗУЛЬТАТ =

Получена последовательность: .

Её можно продлить:

Особенности ряда:

• Каждый следующий член ряда равен сумме двух предыдущих

• Каждый следующий член ряда равен предыдущему, умноженному на

Поиск экстремума

Алгоритм поиска представляет собой много итерационную процедуру:

• На каждой итерации интервал поиска экстремума сужается путем исключения правого или левого отрезка .

• Правый отрезок исключается если .

• Левый отрезок исключается если .

• Итерации повторяются пока .

• Результат .

Формализация

(для реального кода):

ПОКА {

__

__

__ЕСЛИ

____

__ИНАЧЕ ЕСЛИ

____

__ИНАЧЕ {

____

____

__}

}

РЕЗУЛЬТАТ =