1. Классический метод оптимизации судовых систем. Метод множителей Лагранжа.

Классический метод оптимизации подходит когда:

• Нет ограничений

• Существует безусловный экстремум.

Пусть задано и мы должны найти максимум или минимум функции. Считаем, что у нас 1. функция гладкая; 2. Во всех точках имеет первую и вторую частные производные. В этом случае мы можем разложить эту функцию в ряд Тейлора до второго члена включительно:

В особой точке частные производные равны 0. Запишем в матричном виде . - матрица вторых производных (матрица Гессе). Эта матрица определяет max, min, седловые точки. Если матрица положительно определена, то min; если отрицательно – то max. Используем критерий Сильвестра:

Если все определители положительны, то квадратичная форма положительно определена, то min. Если знаки определителей меняются, причем нечетным соответствует «-», а четным «+», то квадратичная форма называется отрицательно определенной и имеет место max. Если ни то, ни другое, то тогда седловая точка.

Преимущества классического метода: Если что-то получилось, то получили решение в аналитическом виде. Недостатки: Большие допущения; Не учитываются ограничения; Сложность вычислений производных в аналитическом виде.

Метод множителей Лагранжа.

- ограничение третьего типа.

- множители Лагранжа. Такое допустимо, т.к. у нас вся вторая сумма образуется в 0.

После решения системы из m+n уравнений мы получаем значение q_{оптимальной} и λ. В общем случае здесь получается система нелинейных уравнений, решение которых затруднительно.

Преимущества метода Лагранжа: 1. По сравнению с классическим методом учитывает ограничения; 2. Возможность получить решение в явном аналитическом виде.

2. Градиентные методы оптимизации судовых систем.

2 допущения: Область должна быть выпуклой и замкнутая; Функция должна быть выпуклая или вогнутая. Сложность: неоднозначно стоит вопрос о точности полученного решения; выбор алгоритма решения.

Метод координатного спуска. Метод Гаусса-Зейделя.

Градиент - вектор частных производных.

В зависимости от метрики зависит выбор метода.

На первом этапе мы ранжируем параметры в порядке убывания производных. Ищем максимум k(q₁) при q_2…q_n=const. Фиксируем q₁ и двигаемся по q₂ и так пока не дойдем до q_n. Затем в точке, которую получили, меняем (вычисляем) производную, переранжируем и вычисляем заново. Заканчиваем считать, когда у двух последних циклов:

Иногда этот метод упрощается, и производные не вычисляются, а счет идет в определенном порядке.

Недостатки: плохая сходимость, особенно когда есть взаимозависимость.

Оптимизация судовых систем на основе градиентных методов первого и второго порядков.

Градиент первого порядка.

Если мы проведем касательную, то перпендикуляр к ней будет направление вектор градиента. Если решаем задачу на минимум, то вектор градиента направлен наружу, вектор антиградиента будет направлен внутрь области. Если решаем задачу на максимум, то метод называется методом крутого восхождения. Если минимум, то наискорейший спуск.

Выбираем шаг:

на максимум

на минимум

Направление градиента в Евклидовом пространстве – это и есть направление наискорейшего спуска или крутого подъема. Существует два варианта: θ – постоянна или меняться по какому-то закону. Если взять большой шаг, то можно проскочить экстремум, а если маленький, то долго. Задача выбора шага:

1. Пока у нас функция возрастает, мы двигаемся по этой области. Необходимо найти θ, которая соответствует max(min) k. Задачу многомерного поиска превращаем в задачу последовательных одномерных поисков.

2. В точке соответствующей максимуму вычисляем новый вектор градиент и двигаемся дальше.

Если k – квадратичная зависимость, то он должен сойтись за конечное число шагов.

Ограничения: Если оптимальный шаг выскочил за пределы области, то мы останавливаемся на границе.

Основная сложность в вычислении производных.

Преимущества: Высокая теоретическая сходимость (точно знаем максимум и производные). Наиболее эффективный и эталонный метод. Упрощаем задачу, сводя ее к задаче последовательного одномерного поиска, но одномерный поиск усложняется.

Недостатки: Двигаемся не к экстремуму, а к стационарной точке. Если попали в седловую точку, то выходить из нее надо другим способом, т.к. производные в «седле» равны 0.

Градиент второго порядка.

Дифференцируем по Δ

Если у нас функция K(q) – есть квадратичная форма, то θ=1 и мы за один шаг попадаем в оптимальную точку вне зависимости от того какая была точка q_r.