есть решением системы таким, что ||x − x0|| 6 2B0 6 H.
Модифицированный метод Ньютона
При построении процесса Ньютона (1.5) важным неудобством есть необходимость на каждом шаге сызнова вычислять обратную матрицу Якоби. Если эта матрица непрерывна в окрестности приближения к решению x0 довольно близкого к x , то приблизительно можно положить
W −1 ~x(p) ≈ W −1 ~x0
и мы приходим к модифицированному методу Ньютона
ξ~(p+1) = ξ~(p) − W −1 ~x0 |
f~ ξ~(p) |
|
|
.
Метод итераций
Пусть задана система нелинейных уравнений специального вида ~x = ϕ~ (~x), где функции ϕi действительные, определенные и непрерывные в некоторой области изолированного решения ~x этой системы.
Для определения вектора-корня ~x этой системы удобно пользоваться методом итерации
~x(p+1) = ϕ~ ~x(p) ,
где начальное приближение ~x0 ≈ ~x .
Теорема 2 Пусть область G замкнута и отображение ~y = ϕ~ (~x) является сжимающим в G, то есть выполнено условие ||y1 − y2|| 6 q||x1 − x2||. Тогда, если для итерационного процесса ~x(p) = ϕ~ ~x(p−1) все последовательные приближения x(p) G, то
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель
1)независимо от выбора начального приближения итерационный процесс сходится, то есть существует
~x = lim ~x(p) при p → ∞;
2)предельный вектор x есть единственным решением уравнения ~x = ϕ~ (~x) в G;
3)справедлива оценка
||~x − ~x(p)|| 6 |
qp |
||~x(1) |
− ~x0||. |
1 q |
|||
|
− |
|
|
Теорема 3 Пусть ϕ~ (~x) и ϕ~0 (~x) непрерывны в G, причем в G выполняется неравенство
||ϕ~0 (~x) || 6 q < 1, |
||
где q — константа. |
|
|
Если последовательные приближения |
|
|
~x(p+1) = ϕ~ ~x(p) |
||
не выходят из G, то процесс итерации сходится и |
предельный вектор |
|
|
|
|
~x = lim ~x(p) |
при |
p → ∞ |
есть в G единственным решением. |
|
|
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель
Метод наискорейшего спуска (метод градиента)
Пусть имеем систему уравнений
~ |
(4.7) |
f (~x) = 0. |
Предположим, что функции fi действительные и непрерывно дифференцируемые в их общей области определения. Рассмотрим функцию
n |
[fi (~x)]2 |
= f~(~x) , f~(~x) . |
(4.8) |
U (~x) = i=1 |
|||
X |
|
|
|
Очевидно, что каждое решение системы (5.1) превращает в нуль функцию U(x); наоборот, числа x1, x2, . . . , xn, для которых функция U(x) равняется нулю, есть решение системы (4.7).
Предположим, что система имеет лишь изолированное решение, которое представляет собой точку строгого минимума функции U(x) в n-мерном пространстве En = {x1, x2, . . . , xn}.
Пусть x - вектор системы (4.7) и x0 — его нулевое приближение. Через точку x0 проведем поверхность уровня функции U(x). Если точка x0 довольно близка к корню x, то при наших предположениях поверхность уровня
U(x) = U(x0)
будет похожа на эллипсоид, если пространство решений двухмерно.
Из точки x0 движемся по нормали к поверхности U(x) = U(x0) до тех пор, пока эта нормаль не затронет в некоторой точке x1 какой-то другой поверхности уровня U(x) = U(x1).
Потом, отправляясь от точки x1, снова движемся по нормали к поверхности уровня U(x) = U(x1) до тех пор, пока эта нормаль не затронет в некоторой точке x2 новой поверхности уровня U(x) = U(x2) и т.д.
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель
Поскольку U(x0) > U(x1) > U(x2) > . . ., то, двигаясь по такому пути, мы быстро приближаемся к точке с наименьшим значением U («дно ямы»), что отвечает искомому корню системы (4.7). Обозначим через
∂U
∂x1
rU (~x) = . . .
∂U
∂xn
градиент функции U(x).
Находить нужное решение за формулой:
~x(p+1) = ~x(p) − λprU ~x(p) .
Остается определить множители λp. Для этого рассмотрим скалярную функцию
Φ (λ) = U ~x(p) − λrU ~x(p) .
Функция Φ(λ) дает изменение уровня функции U вдоль соответствующей нормали к поверхности уровня в точке x(p). Множитель λ = λp надо выбрать так, чтобы Φ(λ) достигала минимума. Беря производную по λ и приравнивая ее нулю, получаем уравнение
d |
~x(p) − λrU ~x(p) = 0. |
(4.9) |
Φ‘ (λ) = dλU |
Наименьший положительный корень этого уравнения и даст нам значения λp.
Будем считать, что λ — маленькая величина, квадратом и высшими степенями которой можно пренебречь. Имеем:
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель
n
Φ (λ) = X fi ~x(p) − λrU ~x(p) 2.
i=1
Раскладывая функции fi по степеням λ с точностью до линейных членов, получим:
Φ (λ) = |
"fi ~x(p) |
− λ∂fi ∂~x |
|
rU ~x(p) |
# |
2 |
|
|
, |
||||||
n |
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|||
X |
|
|
~x(p) |
|
|
|
|
|
∂fi |
|
∂fi |
|
∂fi |
|
где |
|
= |
|
, . . . , |
|
. |
|
∂x |
|
∂x1 |
∂xn |
||
Отсюда
n
X
Φ0 (λ) = −2
i=1
Итак,
"fi |
~x(p) |
|
− λ |
|
i ∂~x |
|
rU ~x(p) |
|
# |
|
∂fi |
∂~x |
|
rU |
~x(p) |
= 0. |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
∂f |
~x(p) |
|
|
|
|
|
|
|
|
|
|
|
~x(p) |
|
|
|
|
|||
|
|
|
|
n |
|
(p) |
|
∂fi(~x(p)) |
~ |
(p) |
|
|
|
|
|
|
|
|
|
||||||
|
λp = iP n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
(~x |
|
~x(p) |
∂~x |
rU(~x |
|
2 |
|
) |
|
= |
|
|
|
|
|
|||||||||
|
|
|
|
fi |
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 "∂fi(∂~x |
)rU(~x(p))# |
|
|
|
|
|
|
, |
|
|
|
|
|||||||||
|
|
|
|
P |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(f(~x |
|
),W (~x |
|
)rU(~x |
|
)) |
~ |
(p) |
|
(p) |
|
(p) |
|
= (W (~x(p))rU(~x(p)),W (~x(p))rU(~x(p)))
где
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель
∂f1
∂x1
W (~x) =
∂fn ∂x1
Дале, имеем:
. . .
. . . . . .
. . .
∂f1 ∂xn
∂fn ∂xn
− матрица Якоби вектор-функцииf.
∂xj |
= ∂xj |
( =1 [fi (~x)]2) = 2 i=1 fi (~x) |
∂xi (j |
). |
|||||||||||
|
∂U |
|
∂ |
|
|
n |
|
|
|
n |
|
∂f ~x |
|
|
|
Отсюда |
|
|
|
|
Xi |
|
|
|
X |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
n |
∂x1 |
fi (~x) |
|
|
|
~ |
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
∂fi(~x) |
|
|
|
|
|
|
|
|
r |
U (~x) = 2 |
.P. . . . . |
|
|
= 2W 0 |
(~x) f (~x) , |
||||||||
|
|
|
|
|
|
n |
∂fi(~x) |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
fi (~x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
∂xn |
|
|
|
|
|
|||
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P |
|
|
|
|
|
|
|
|
где W ‘(x) — транспонированная матрица Якоби.
Поэтому окончательно µp = 2λp = |
(f~(p),WpWp0 f~(p)) |
|
, причем ~x(p+1) |
|
(WpWp0 f~(p),WpWp0 f~(p)) |
||||
|
|
|||
~
= ~x(p) − µpWp0f(p).
•Назад •Первая •Предыдущая •Следующая •Последняя •Перейти •Предметный указатель