Системы нелинейных уравнений
Рассмотрим систему m нелинейных алгебраических уравнений:
......0 = 0. f2(xi-x2......Xm) = 0,
f.(x ,.x ,..... xm) = 0.
Введем обозначения:
х,
X = | х2 1 e R ”
x,tn
Теперь задача о решении системы нелинейных алгебраических уравнений может быть сформулирована следующим образом: необходимо найти вектор X .
(3.9)
В общем случае итерационные методы решения системы нелинейных алгебраических уравнений могут быть представлены в канонической форме
|
(З.Ю) |
где Х(Н) - начальное приближение; числа г |
и матрицы В(п+,) имеющие обратные. - |
итерационные параметры. |
|
Метод простых итераций
Из выражения (3.10) можно получить систему линейных алгебраических уравнений относительно искомых неизвестных:
g (n + l)j^ (n + l) _ g (n + l)j £ (n ) _
В |
частном |
случае |
стационарного |
итерационного |
метода. |
когда |
В(п+,) = В = const. |
т(п+,) = т = const, последнее выражение преобразуется к виду |
|
||||
|
|
|
Х(п+И =Х (П. _ тВ-'р (Х<">)- |
|
|
|
Иначе говоря, исходная итерационная процедура сводится к схеме метода
простых итераций: |
|
|
|
|
|
|
|
|
|
|
|
Х(п+|) = ф (х (")), |
ф (х (п,)= Х(о) -TB“'F (x (n)). |
(3.11) |
|||||
Вектор X e R ra, для |
которого |
Х = ф (х ), |
называется |
неподвижной |
точкой |
||||
оператора Ф. Очевидно, что вектор X является решением уравнения X = Ф(Х) |
тогда и |
||||||||
только тогда, когда он является неподвижной точкой. |
|
|
|
||||||
Оператор |
Ф |
является сжимающим на |
множестве O e R m |
с коэффициентом |
|||||
сжатия С, если |
Vx,,x2 еП |
имеет место |
|
|
|
|
|
|
|
|
|
|
|Ф(Х2) ~ Ф(х,)|| 5 С • |(ха - |
X,| . |
|
|
|
||
Теорема 3.3. Пусть оператор Ф определен на множестве А = |х |
е Rm | ||Х - а|| < г} и |
||||||||
является сжимающим на этом множестве с коэффициентом сжатия С , причем |
|
||||||||
|
|
|
||ф(а) - а| £ (l - С) • г, |
0 < С < 1 . |
|
|
|
||
Тогда в |
А |
оператор Ф имеет единственную неподвижную точку |
X |
||||||
итерационный метод (3.11) сходится к X при любом начальном |
Х*0* еА . Имеет место |
||||||||
оценка погрешности: |
|
|
|
|
|
|
|
|
|
|x (N)- x | s c N|x <0,- x | .
Доказательство этой теоремы изложено в книгах [4. 9].
Метод релаксации
Положим в выражении (3.11) матрицу В = Е (тождественное преобразование), тогда Ф^Х<П)) = X<n) - TF^X1”1) . Метод сходится, если (ф'(х)||<1 VX еА . В этом
случае
'« .о |
«10 |
«10 |
dx, |
dx, |
дкт |
Ф'(Х) = E -tF '(X ). F’(X) = |
|
|
« ■ О |
« ■ ( ) |
« ■ О |
дх, |
дх: |
дкт |
М етод Ньютона |
|
|
|
|
|
|
Как и ранее, выберем в окрестности |
решения X вектор X и воспользуемся |
|||||
формулой Тейлора для функций ^(х,,х2,..мХт ), |
i = 1,т: |
|
||||
|
|
|
т |
яг/Мв> F(a) |
|
|
......xm) = f i(x|"»,x<->.......x<->)+z |
^ |
|
|
|||
C ’ |
|
|
|
|
|
|
где W - e A . |
|
|
|
|
|
|
c(n) |
|
|
|
|
|
|
.‘эт . |
|
|
|
|
|
|
С учетом того, |
что |
fj(x,,x2..... Хщ) = 0, |
i = l,m, итерационная процедура метода |
|||
Ньютона принимает форму |
|
|
|
|||
п> |
affx(n) т<“> |
Т<"Л |
|
|
|
|
Z |
' -'- |
J ......" к *"- x f )) +f>(x!”>’x<“)........ х" ) =0- |
i=1’ra- |
|||
В матричной записи последнее соотношение имеет вид |
|
|||||
|
|
F'(x(”))-(x<M,) - X(o,)+ F(x(n))= 0, |
(3.12) |
|||
где вид матрицы |
|
j определен выше. Сравнение формулы (3.12) с выражением |
||||
(3.10) позволяет определить итерационные параметры: |
|
|||||
|
|
|
g(n+o _ |
j, |
х(п+,) = 1. |
|
Соотношение (3.12) позволяет построить вычислительный итерационный алгоритм:
Х(«+1>=х<“>- |F'(X(“)))’, F(X(")).
Теорема 3.4. Пусть выполнены условия:
1.Оператор F(X) определен в замкнутом шаре |Х - Х (0)|^ г , дважды
дифференцируем там, при этом вторая производная ограничена И х )1<;М.
2. F'^X(0)j имеет обратный оператор, для нормы которого выполнена оценка
( F'(X<°>))"LD .
итерационный процесс строится так, что из каждого уравнения системы определяется значение только одной неизвестной . а значения остальных берутся с предыдущего шага
fi(x‘*\ х‘" ..... х!7, х':*". х',7...... Xlm"’) = 0. != 1.Ш.
При этом определение искомой величины х!"*'1 на очередной итерации производится с помощью какого-либо известного метода решения одного нелинейного
уравнения.
Нелинейный вариант метода Зейделя
В отличие от метода Якоби при определении неизвестной х1,"*1 на очередной
итерации используются уже найденные предыдущие неизвестные:
Г,(х<“+,,.х(2м,)..... х|"Г".хГ".х<;|...... х'т"’) = 0. i = Г т .
Пример 3.4. Решить систему нелинейных алгебраических уравнений
|х: +у- = 5. |у - х : =0.
Решение этой системы нелинейных уравнений с погрешностью ±5- КГ1" имеет вид
х, = 1,338390021, у, = 1J91287848,
х: = -1,338390021. |
у, = 1,791287848. |
х, = 1,6707147711. |
у, = 2,791287848, |
|х4 = -1,670714771 i. |
у4 = 2,791287848. |
где i = 4 - Т - комплексная единица.
Воспользуемся методом Ньютона для отыскания корней уравнений этой системы.
Г,(х,у) = х: + у: -5: ^(^У) = У -х2: af,
ах |
|
|
аг |
-2х: аг |
1. |
ах |
ду |
|
Представим итерационный процесс Ньютона в форме
F'(x(n>)-X(n+I) = F'(x(n))•X(n) - F(x(n));
(2х"”)-х ,0*,, |
= 2•(x(,,,)2 + 2• (у<‘”)2 - ( х |п,у -(у 11”)" |
(-2х<"'). х'"*1’ + у1"'" = -2 • (х(“’)г + у(п) + (х|л,)г - у'"’;
Г(2х<"')х«”*"+(2у,",) у ("*"=(x"”) 4 ( y " ”)J + 5;
(-2х(“,)-х<”*|)+y(D*" = -(х,п,)г
Теперь на каждом итерационном шаге необходимо решать полученную систему
линейных алгебраических уравнений относительно неизвестных х(п+|), у(п+,)
В явной форме решение полученной системы имеет вид
х(п+,) =
■>
у ( п .1 ) (у(11>)а +5 2у(п, + 1 *
Результаты расчетов приведены в табл. 3.4.
Таблица 3.4 Решение методом Ньютона системы нелинейных уравнений из примера 3.4
Номер |
Х<"> |
у(п) |
итерации |
1 |
1 |
I |
||
2 |
1 |
2 |
3 |
1,5 |
1.8 |
4 |
1,35 |
1,791304348 |
5 |
1,338446055 |
1,791287848 |
6 |
1,338390022 |
1,791287848 |
7 |
1,338390021 |
1,791287848 |
8 |
1,338390021 |
1,791287848 |
Контрольные вопросы и задания
♦Сформулируйте задачу о нахождении корней нелинейного уравнения.
♦Опишите метод половинного деления для вычисления корней нелинейного уравнения. Поясните геометрический смысл метода половинного деления.
♦Опишите метод простых итераций для вычисления корней нелинейного уравнения. Поясните геометрический смысл этого метода.
♦Сформулируйте критерии остановки итерационного вычислительного процесса при определении корней нелинейного уравнения. Сходимость (расходимость) итерационного решения.
♦Сформулируйте условия сходимости метода простых итераций для одного нелинейного уравнения.
♦Опишите метод Ньютона для вычисления корней нелинейного уравнения.
♦Поясните геометрический смысл метода Ньютона.
♦Сформулируйте условия сходимости метода Ньютона для нелинейного уравнения.
♦Приведите возможные модификации метода Ньютона для определения корней нелинейного уравнения.
♦Применение метода простых итераций для решения системы нелинейных уравнений.
♦Сформулируйте условия сходимости метода простых итераций для системы нелинейных уравнений.
♦Поясните порядок применение метода Ньютона для решения системы нелинейных уравнений.
♦Сформулируйте условия сходимости метода Ньютона для системы нелинейных уравнений.
♦Опишите решение системы нелинейных уравнений методом Якоби.
♦Опишите решение системы нелинейных уравнений методом Зейделя.
Пусть в качестве системы функций cp jx ) |
рассматриваются полиномы |
|||
|
|
Фк( х ) = \к, |
к=0.п. |
|
В этом случае Л принимает вид определителя Вандермонда1 |
||||
1 |
х0 |
х- |
|
|
1 |
х, |
х; |
|
|
причем Л *0, если среди множества точек |
хк, |
к = 0.п нет совпадающих. При этом |
||
алгебраический интерполяционный многочлен |
Рп(х) всегда существует и опре юлен |
|||
единственным образом. |
|
|
|
|
Интерполяционный многочлен Ньютона
Для произвольной функции у(х) определим раик'.пчтысразности:
- первая разделенная разность
вторая разделенная разность
- третья разделенная разность
и так далее.
Вандермонд Александр Теофиль [2K.2.173S |.|.|79ь] <|ip;iiiiiyICKHII математик, яплялся членом
Парижской академии наук с 1771 года
Рассмотрим геометрический смысл разделенных разностей. Очевидно, что y(x,,xj и y(xJfxk) являются аналогами первых производных функции у(х) на соответствующих
отрезках |
[x,,Xj] и [хг хк]. Вторая разделенная разность у(х,,хя хк) аппроксимирует |
вторую |
производную функции у(х) на отрезке [хихк]. Соответственно, третья |
разделенная разность - аналог третьей производной на отрезке [х;,х,]. и так далее.
Пусть Рп(х) - искомый интерполяционный многочлен. Запишем для него
разделенные разности:
|
Х - Х 0 |
ы |
. Р(х,х0)-Р (х 0,х,) |
Р(х, Хц,х,) = —-— ^ |
|
v |
х -х , |
P(x,x0,x „x 2> = P(x-X" X|)~ P(x»ix' :^ ) ,...
Отсюда получаем выражение для полинома в виде схемы Горнера1
(х)= Р„(х„) + Р(х.х,Хх - х„) =
=(х«) + (х - х„)[Р(х„. X,) + (х - X, )Р(х. Х„.X,)] =
=РДх0) + (х - х 0)[Р(х0.х |) + (х - х 1){Р(ха.х1,х: ) + ( х - х ;)Р(х,хп.х1.х. )}]=...
Иначе это выражение можно записать в такой форме: РпМ = Рп(х.1) + ( х - х п)Р(х,,.х1) +
+{х - х0Хх - X, )Р(х0,X,.х: ) +(х - хД х - X,Хх - X,)Р(х.Х„.X,.х; )+...
Эта цепочка конечна и содержит (п+1) слагаемое. В самом деле. Рп(х)- полином степени п; разность Рп(х )-Р п(х„) при х =. обращается в нуль, то есть хн является
1Горнер Уильям Джордж [1786 - 22.9.1837] - пнг.шйскин магематнк.
96
корнем выражения Рп(х)- Рщ(х0) , и следовательно, оно без остатка делится на разность (х - х„). Но в этом случае
|
|
X |
XQ |
|
|
|
|
оказывается полиномом степени (п-1). |
|
|
|
|
|
||
Соответственно, Р(х,х0,х,) |
полином |
степени |
(п-2), и так |
далее. |
В итоге, |
||
Р(х,х„......хп_,) |
полином степени (п-п) = |
0, |
то |
есть константа, и |
наконец, |
||
Р(х.х(.......х„) = 0. |
|
|
|
|
|
|
|
В силу условия (4.1) имеет место Рп(х() = у(, |
i = 0, п , откуда получаем |
|
|||||
|
Ра(х) = у(хо)+(х-х0)у(х0,х|)+ (х -х 0Х х-х|)у(х(„х1,х,)+..., |
|
|||||
либо по схеме Горнера |
|
|
|
|
|
|
|
|
р« (х) = у(х0) + (х - Х„)• [у(х„,х,)+ (х - X,)• {у(х„,х„ х,)+...}]. |
|
|||||
Пример 4.1. Построить аппроксимацию функции sin(x) на отрезке [0, л/2]. |
|||||||
|
|
|
|
|
|
Таблица 4.1 |
|
|
Таблица для интерполяции функции sin по 4 точкам |
|
|
||||
x i |
У М |
У (х (. х м ) |
|
У (х(. х (+, . х (« ) |
У (х * ,х ж |
, х 1+2 .х к з ) |
|
0 |
0 |
0,954929659 |
|
|
|
|
|
я/6 |
0,5 |
|
-0,244340364 |
|
|
||
0.699057028 |
|
-0,113871899 |
|||||
|
0,866025404 |
|
-0,423209925 |
||||
71/3 |
0,255872631 |
|
|
|
|||
л/2 |
! 1.0 |
|
|
|
|
|
|
|
|
|
|
|
|
||
Схема Горнера для аппроксимации заданной функции имеет вид
sin(x) = 0 + (х - 010,954929659 + ^х - 1 ]|-0,244340364 + (х - -|1(-0,113871899)
Для значения аргумента х = —, отсутствующего в таблице, значение построенного
полинома принимает значение, равное |
sin |
= 0,70588929. |
|
|
|
|
Вычисление функции |
sin |
с |
погрешностью |
не |
более |
5 10"10 дает |
sinf - ] = 0,707106781. Таким |
образом, |
относительная |
погрешность |
вычисления |
||
U , |
|
|
|
|
|
|
составляет 0,172 0/ |
|
|
|
|
|
|
Пример 4.2. Определение корня нелинейного уравнения |
y(x) = (l + х) -е5^2 - 2,5= 0 |
|||||
методом обратной интерполяции. |
|
|
|
|
|
|
Идея метода обратной интерполяции заключается в построении полинома Ньютона для функции х(у) по заданной зависимости у(х). Особенность данного случая - необходимость построения полинома Ньютона на сетке с переменным шагом по
координате уг |
|
|
|
||
|
|
|
|
Таблица 4.2 |
|
|
Таблица для построения обратной интерполяции функции х(у) |
||||
У. = у(хj) |
|
х(УнУы) |
*(УиУм.У*2) х(У*-У!*1-У|.2.У1ч) |
||
-1,083564434 |
0,25 |
0.490578385 |
|
||
-0,573961875 |
0.5 |
-0,077430171 |
|||
|
|||||
0,046234976 |
|
0,403097823 |
0,013912025 |
||
0,75 |
0,3327975 |
-0,051261555 |
|||
0.797442541 |
1,0 |
|
|||
|
|
||||
Интерполяционный полином Ньютона имеет вид |
|||||
х(у) = 0.25 + (у + 1.083564434)[0.490578385 + |
|
||||
|
+ (у + 0.573961875){-0.077430171 + (у - 0.046234976X0.013912025)}]. |
||||
Для |
у = 0 |
получаем: |
х(0) = 0,73301752. |
Точное решение х = 0,732941247 |
|
(невязка |
уравнения |
при этом |
корне равна 5 10-,°). Относительная погрешность |
||
вычисления корня равна 0,0104 % . |
|
||||
Идея записи интерполяционного полинома Лагранжа заключается в следующем:
P.(*) = £ c k(x).yk |
(4.4) |
|
|
k-o |
|
то есть в каждой точке х значение |
полинома Рп(х) определяется как линейная |
|
комбинация табличных значений. |
|
|
Воспользуемся условием (4.1): |
|
|
РпОО = Ё Ск(хО-Ук=Уи |
«= 0.п. |
|
Отсюда очевидно, что должно выполняться условие |
||
_ , ч [о. i* к |
— |
|
Ck W = |, |
j = k- >.k = 0.n. |
|
то есть на отрезке интерполяции [а, Ь] каждая из |
функций Ск(х) должна иметь п |
|
корней. |
|
|
Вполне естественно представить CL(x) в виде полиномов
Ck(x) = X k(x -x0) (x - x l).... (x -x k.1) (x -x u i).... (x -x„).
Xk - нормировочный коэффициент, определяемый из условия, что Сk(xk) I. то есть
(хк -Х 0) (хк - х ,) .... (хк - х к.,).(х к -X UI) ,...(хк -х „ )'
Теперь можно записать полином Лагранжа в общем виде:
р м - у |
( x - x „ ) ...( x - x k.,) ( x - x u ,).... |
(x -x „ ) |
(4.5) |
|
wi(Xk-Xo)-••• (xk - x k.,) (xk - x ktt) |
(хк - х п) 1' |
|||
|
||||
Погрешность полинома Ньютона (Лагранжа)
Погрешность представления функции полиномом оценим разностью,
г(х) = у(х)-р„(х). х е[а,Ь].
Очевидно, что в узлах хк, к = 0,п погрешность г(хк) = 0.
Для |
оценки |
погрешности выберем и зафиксируем произвольную |
точку |
х е [a,b], |
х ^ х к, |
к = 0,п . Рассмотрим вспомогательную функцию |
|
g(s) = y(s)-P„(s)-K(D(s)) s е[а,ь], (о(х) = (х-х„) (х -х ,)-... (х -х „), |
(4.6) |
||
К - константа. Очевидно, что g(xk) = 0, k = 0,n. Выберем константу К в выражении (4.6) так, чтобы для выбранного значения х функция g(x) = 0. то есть
|
|
„ у1 » )-р.М |
|
|
|
|
|
|
|
•(«) |
' |
|
|
Пусть функция у(х) |
имеет (п+1) |
производную, |
то есть |
является достаточно |
||
гладкой функцией. Согласно построению функция |
g(s) |
имеет не менее (п+2) нулей в |
||||
точках |
х, .............. В этом случае функция |
g'(s) |
на отрезке [а.Ь] имеет не менее (n+1) |
|||
нулей; |
g"(s) - не менее п |
нулей, и так далее. И. наконец. g'nw’(s) |
имеет хотя бы один |
|||
корень на отрезке [а,Ь]. Иначе говоря. |
e[a,b], g(n‘H,(fJ) = 0. |
В силу определения |
||||
функции g(s), |
|
|
|
|
|
|
|
|
g(n+,)(s) = у(,l+l)(s) - К • (n + 1)!, |
|
|||
и для точки ^ получаем |
|
|
|
|
|
|
Отсюда следует
у (х )-р ,1( х ) = 2Ы ^ “ (х )-
Окончательно. |
|
|
|
|
|
Мх) - |
рл(х)| - |
|
= ^ p j y - - ( x ) | • |
(4.7) |
|
В частном случае, |
когда у(х) |
является |
полиномом степени |
п. М п+1 - |
0 и |
У(х) = рп(х). Дополнительно можно |
подобрать |
такое распределение |
узловых |
точек |
|
хк, к =0.п, чтобы минимизировать выражение |
|
|
|
||
i«(x)| = Кх- Х„)■(х- х,).....(х- х„)] = || ■хп+| +а„х" +а^х"-1+...+a„j.
являющееся полиномом степени п со старшим коэффициентом, равным I. Иначе говоря, получена задача Чебышёва. рассмотренная ранее. Искомый полином имеет на отрезке [а.Ь] корчи
Ь+ а |
Ь - а cos 2к + 1 Я, к = 0,п. |
|
*к = 2~ |
2~ |
2(п + 1) |
Оценка модуля полинома, наименее уклоняющего от нуля.
( ь - * Г
х22л+1
Оценка погрешности полинома Ньютона (Лагранжа) при использовании узловых точек, соответствующих корням полинома Чебышева, имеет вид
|
Цу-ро| = тах(у(х)-Ра(х)|< |
м.„ |
(ь -)- |
|
|
(п + 1)! |
22"*1 |
Сходимость интерполяционного процесса |
|
|
|
Множество точек а < х0 <х, <... < xn < b |
назовем сеткой на отрезке [а. Ь] |
||
обозначим |
Пп. Рассмотрим последовательность сеток |
..... Пп,... Построим |
|
на отрезке |
[а.Ь] последовательность полиномов Рп(х), аппроксимирующих с помощью |
||
сеток £2Пфункцию у(х).
Интерполяционный процесс сходится в точке х* e[a.b], если существует предел lim Pn(x*) = у|х#j (определение поточечной сходимости).
Интерполяционный процесс сходится равномерно на отрезке [а, Ь], если
Ь - р.1= ^ у(х) - Р . И - т т ^ 0
Теорема 4.1 (Фабера1)- Какова бы ни была последовательность сеток Пп-, найдется непрерывная на [а.Ь] функция у(х) такая, что последовательность интерполяционных полиномов Рп(х) не сходится к у(х) равномерно на этом отрезке.
| Фабер Георг [5.4.1877 1966] - немецкий маюматпк. был профессором Высшей технической
школы в Мюнхене с 1916 года