2.4.3. Метод координатного спуска

Метод координатного спуска применяется при многомерной оптимизации и заключается в сведении многомерной задачи к последовательным одномерным, которые решаются методами одномерной оптимизации, в частности, методом золотого сечения.

Рассмотрим сущность метода координатного спуска на примере минимизации функции двух переменных W (Р) = W (p1, p2).

Предположим, что известна прямоугольная область на плоскости Р= (p₁,p₂), где находится точка минимума функции , то есть. В начале в прямоугольной области выберем начальную точкуи зафиксируем координату, тогда функциябудет зависеть от одной переменной p1. Методом минимизации функции одной переменной определяем точкуминимума функции. Затем фиксируем координатуи определяем точкуминимума функцииотносительно координаты р2.

Аналогичным образом от точки переходим к точкеи т.д. Алгоритм определения точки максимума аналогичен.

В качестве критерия окончания итерационного процесса координатного спуска можно использовать выполнение неравенств:

На рис. 2.7 приведена блок-схема алгоритма поиска точки максимума функции W(P) методом координатного спуска.

Рис 2.7

2.4 Численные методы интегрирования дифференциальных уравнений.

С целью эффективного использования при интегрировании систем дифференциальных уравнений первого порядка, представленных в нормальной форме, средств вычислительной техники разработан целый ряд численных методов.

Пусть для системы дифференциальных уравнений первого порядка, записанных в нормальной форме , с начальными условиями Х(0) = X₀ требуется решить задачу Коши во временном интервал 0 ≤ t ≤ Т. Для применения численных методов необходимо перейти от непрерывной, или континуальной, формы записи системы дифференциальных уравнений к дискретной. С этой целью вся область интегрирования [0, T] разбивается на отрезки

0 = t₀<t₁<…<t_k<…<t_M = T.

Тем самым непрерывной области изменения аргумента t ставится в соответствие дискретная область изменения этого аргумента

(0 ≤ t ≤ Т) → (t₀, t₁, …, t_M).

Величину называют шагом дискретизации (шагом интегрирования), а саму дискретную область - сеточной областью. Будем далее полагать, что h_k = h = const. Сеточную область при этом называют равномерной. Моменты t_k носят название узлов сеточной области. Значения искомых функций в узлах сеточной области будем обозначать X(t_k) = Х_k. В k-ом узле сеточной области систему можно записать:

(2.29)

Предположим, что решение задачи Коши известно в узлах, предшествующих t_k+1. При достаточной гладкости вектор-функции G(t, X) (то есть существовании производных нужного порядка по всем переменным) используем разложение X(t) в ряд Тейлора в окрестности точки t_k:

(2.30)

Полагая t = t_k+1 = t_k + h, получим

(2.31)

Из (4.31) находим:

(2.32)

Подставляя это значение производной в (4.33), будем иметь

(2.33)

где

Выражение 0(h) называют обычно слагаемым порядка h и при h → 0 представляет собой бесконечно малую величину. Отбрасывая в (4.36) слагаемое порядка h, получаем

(2.34)

Система (4.37) является системой алгебраических, или, как обычно говорят, разностных уравнений и представляет собой дискретную форму записи системы дифференциальных уравнений . Так как системы (4.36) и (4.37) отличаются на слагаемое 0(h), то говорят, что система разностных уравнений аппроксимирует исходную систему дифференциальных уравнений с порядком 0(h) или с первым порядком (первая степень h).

Следует отметать, что X_k в (4.36) и (4.37) различны: в (4.36) - это решение системы дифференциальных уравнений в k-ом узле, а в (4.37) - решение системы разностных уравнений.

В случае h → 0 система (4.36) стремится принять вид (4.37). Естественно предположить, что при этом решения дифференциальных и разностных уравнений сближаются, и если h будет достаточно мало, то и решения этих уравнений будут мало различаться.

Разрешая уравнение (4.37) относительно X_k+1 получим

(2.35)

Эта реккурентная зависимость позволяет считать X_k+1 по известному X_k. Система разностных уравнений (4.38) представляет собой пример простейшей численной схемы, которая носит название явной схемы Эйлера. Название явная следует из того, что схема (4.38) разрешима явным образом относительно X_k+1.

Для математических моделей линейных электрических цепей с постоянными параметрами и постоянными задающими источниками явная схема Эйлера принимает вид:

(2.36)

Явная схема Эйлера получена с помощью аппроксимации производной разностью вперед, то есть приращение вектор - функции X(t) в k-ом узле получалось с использованием ее значения в последующем узле k+1. Если аппроксимировать производную разностью назад, получим неявную схему Эйлера:

(2.37)

которая тоже имеет первый порядок аппроксимации. Название неявная следует из того, что схема неразрешима явным образом относительно X_k+1:

(2.38)

Для линейных электрических схем с постоянными параметрами и постоянными задающими источниками неявная схема Эйлера имеет вид:

X_k+1 = X_k + h(AX_k+1 + BU). (2.39)

После преобразований будем иметь:

X_k+1 = (E – hA)^-1(X_k + hBU). (2.40)

Явная и неявная схемы Эйлера обладают наименьшей точностью из всех численных схем интегрирования дифференциальных уравнений. Можно построить более точные численные схемы, имеющие более высокий порядок аппроксимации. Для этого при дискретизации системы необходимо учесть большее количество членов разложения X_k+1 в ряд Тейлора (4.35). Так, использование двух членов этого разложения позволило получить явную схему Эйлера. Использование третьего члена позволит получить численную схему с порядком аппроксимации 0(h²), но для этого надо получить аппроксимацию производной с порядком 0(h). При этом возможны различные варианты.

1. Представим производную в виде

(2.41)

Учитывая, что , представим (4ю35)

в виде

(2.42)

Подставляя (4.44) в (4.45), получим:

(2.43)

Тогда

(2.44)

Данная численная схема носит название схемы трапеций.

Для моделей электрических цепей с постоянными параметрами и посто­янными задающими источниками численная схема трапеций после преобра­зований имеет следующий вид:

(2.45)

Как видно из (4.49), схема трапеций является неявной. С целью получения явных зависимостей ее можно модифицировать. Для этого надо найти аппроксимацию с порядкоми подставить ее в правую часть (4.49). При этом порядок аппроксимации численной схемы останется. Такому условию соответствует пара формул:

(2.46)

где для аппроксимации X_k+1 используется численная схема Эйлера (первая формула). полученную численную схему можно переписать в виде:

(2.47)

Численная схема (4.51) называется модифицированной схемой трапе­ций.

2. Представим теперь производную в виде

(2.48)

где .

Для аппроксимации порядком 0(h²) снова выберем явную схе­му Эйлера. Действуя аналогично предыдущему, находим:

,(2.49)

(2.50)

или

(2.51)

Численные схемы (4.51) и (4.53) относятся к семейству схем Рунге-Кутта. В обобщенном виде численные схемы Рунге-Кутта представляются как:

(2.52)

Здесь q- порядок аппроксимации, а параметры

подбираются таким образом, чтобы

(2.53)

При q=1 легко находится Р₁ = 1, и схема Рунге-Кутта совпадает с явной схе­мой Эйлера. При q>1 система уравнений относительно параметров имеет не­единственное решение, что означает неединственность схем Рунге-Кутта с одним и тем же порядком аппроксимации. С ростом q резко возрастает тру­доемкость проведения аналитических выкладок для определения параметров схемы. Численные схемы (4.51) и (4.53) соответствуют случаю q=2.

Одна из наиболее употребительных численных схем Рунге-Кутта с порядком аппроксимации 0(h⁴) (схема Рунге-Кутта четвертого порядка )имеет вид:

(2.54)