24

3. Методы одномерной минимизации.

   1. Основные понятия

      1. Постановка задачи.

- числовая функция вещественной переменной . Под задачей одномерной минимизации на отрезкепонимается поисктакого, что

(3.1.0 )

- наименьшее значение на ;

, удовлетворяющее ( 3.1 .0 ) называется точкой минимума на ;

- множество точек минимума на ;

может быть пустым, содержать конечное или бесконечное число точек.

Замечание. Задача поиска максимума сводится к задаче поиска минимума :

Задача одномерной минимизации состоит из двух частей:

• локализации точек минимума, то есть указания отрезков, содержащих единственную точку минимума;

• поиска точки минимума на заданном отрезке при наличии информации о том, что на этом отрезке заведомо существует единственный минимум.

Задача локализации минимума обычно решается с помощью классического метода, основанного на дифференциальном исчислении.

Кроме того, существуют и некоторые вычислительные процедуры, позволяющие в определенных условиях такую задачу решать.

В основном, ниже рассматриваются численные методы, позволяющие решать локализованные задачи.

2. Классический подход.

Напомним 2 важные для данного рассмотрения теоремы из классического анализа.

Теорема Вейерштрасса. Если непрерывна на , то существует.

Теорема Ферма. Пусть дифференцируема в точке . Если доставляет локальный минимум , то

Определение. называется точкой локального минимума, если существует  > 0 такое, что для выполняется

Пусть кусочно-непрерывная и кусочно-гладкая на функция. Это означает, что наможет существовать лишь конечное число точек, где терпит разрыв I-го рода, либо непрерывна, но не имеет производной.

Тогда точками минимума могут быть такие точки, в которых:

- терпит разрыв;

- непрерывна, но не существует;

-

- либо , либо.

Рисунки ниже иллюстрируют эти 4 случая.

Рисунок 3.2.1

терпит разрыв в точке .

Рисунок 3.2.2

непрерывна, но производной не существует.

Рисунок 3.2.3

.

Рисунок 3.2.4

.

3. Методы решения задачи минимизации для унимодальных функций.

   1. Понятие унимодальной функции.

Определение. унимодальна на , если существуют такие, что

1. строго монотонно убывает на ,

2. строго монотонно возрастает на,

3. для

Если ,то строго унимодальна.

Унимодальная функция не обязательно должна быть непрерывной и дифференцируемой. Ниже представлены примеры унимодальных функций.

Рисунок 3.3.5

Строго унимодальная, непрерывная, дифференцируемая функция.

Рисунок 3.3.6

Нестрого унимодальная, непрерывная, дифференцируемая функция.

Рисунок 3.3.7

При имеет разрывI- го рода, при , производной у не существует.

2. Общие сведения о численных методах оптимизации, их классификация.

Определение 1. Под численным методом одномерной минимизации понимается процедура получения числовой последовательности приближений к точному решению задачи минимизации.

Определение 2. Под численным методом одномерной минимизации понимается процедура получения вложенных отрезков, покрывающих точное решение:

.

1. Порядок метода.

Метод имеет порядок k, если он использует информацию о производных до k - порядка включительно. Обычно применяются методы 0-го, 1-го и 2-го порядков.

2. Сходимость метода.

Численный метод сходится, если последовательность сходится к точному решению, то есть (скорость сходимости характеризуется ) или метод сходится, если ; (скорость сходимости характеризуется разностью ).