11. Понятие о численных методах оптимизации.

Определение

Это совокупность математических алгоритмов и численных подходов, используемых для поиска экстремумов (минимума или максимума) целевых функций в случае, когда аналитическое решение задачи затруднено или невозможно.

Основные понятия

1.​ Целевая функция: Это функция f(x), значение которой нужно минимизировать или максимизировать.

2.​ Ограничения: Заданные условия в форме равенств или неравенств, которым должен удовлетворять допустимый набор переменных.

3.​ Допустимая область: Множество решений, удовлетворяющих всем ограничениям. 4.​ Глобальный и локальный экстремум:

○​ Глобальный экстремум — это наилучшее значение функции на всей допустимой области.

○​ Локальный экстремум — это наилучшее значение функции в некоторой

окрестности.

Классификация численных методов

1.​ Методы безусловной оптимизации: Применяются, если отсутствуют ограничения.

○​ Градиентные методы: Используют производные для нахождения направления движения (например, метод градиентного спуска).

○​ Методы второго порядка: Учитывают информацию о кривизне (например, метод

Ньютона).

○​ Эвристические методы: Не используют производные (например, метод

случайного поиска).

2.​ Методы условной оптимизации: Применяются при наличии ограничений.

○​ Метод штрафных функций: Преобразует задачу условной оптимизации в безусловную.

○​ Метод проекций: Обеспечивает корректировку решений, чтобы они оставались в пределах допустимой области.

○​ Симплекс-метод: Используется для линейного программирования. 3.​ Эвристические методы: Подходят для задач с высокой размерностью и

нелинейностью.

○​ Генетические алгоритмы.

○​ Алгоритмы роя частиц. ○​ Методы отжига.

неопределенности,принцип минимакса.

Одномерный пассивный поиск Это метод решения поставленной задачи, в котором задается правило вычисления сразу

всех пробных точек x1, x2, xn. и за принимается та точка xk, для которой

. На графике:

Минимаксный метод­ поиска, в котором информация о значениях функции, вы­численных в предшествующих точках, не может быть использована, называют оптимальным пассивным поиском.

Унимодальность

Унимодальной на отрезке [a, b] называется функция f(x), непрерывная на этом отрезке и

имеющая единственный локальный экстремум (минимум или максимум) в некоторой точке c [a, b]

Существуют достаточные условия унимодальности:

●​ Функция выпукла на отрезке [a, b] → унимодальна на нем; ●​ Если f''(x) > 0 при всех x [a, b], то f(x) унимодальна.

Для непрерывной функции можно сузить интервал унимодальности:

●​ Построить график на отрезке [a, b];

●​ Если функция выпукла вниз, то это искомый отрезок.

Свойства:

●​ Любая точка локального минимума является и точкой глобального минимума

●​ Если функция унимодальна на [a, b], то унимодальна на любом подотрезке [c, d] [a, b]

Интервал неопределенности

Это промежуток, внутри которого, согласно текущим расчетам, находится минимум или максимум функции. Этот термин чаще всего используется в методах одномерной оптимизации, например, при поиске экстремума функции на определенном отрезке.