Численные методы. Ч.2. Учебное пособие
.pdf
Лекция 14 
В этом случае
ρ = ρопт = |
λmax ( A) − λmin ( A) |
. |
|
λmax ( A) + λmin ( A) |
|||
|
|
При τ =τопт справедлива оценка

ε (k ) 
≤ ρоптk 
ε (0) 
.
14.7. МЕТОД РЕЛАКСАЦИИ
Метод релаксации является одним из наиболее эффективных и широко используемых методов для решения СЛАУ с симметричными положительно определенными матрицами A .
Метод релаксации является модификацией метода Зейделя. Сутьметода релаксации состоит в следующем:после вычисления i -ой компоненты (k +1) -го приближения по формуле Зейделя:
xi(k +1) = αi1 x1(k +1) + αi 2 x2(k +1) + ... + αii −1 xi(−k1+1) + αii +1 xi(+k1+1) + ... + αin xn(k +1) + βi
производят дополнительное смещение этой компоненты на величину
(ω −1)(xi(k +1) − xi(k ) ),
где ω – параметр, введенный для увеличения скорости сходимости, т.о. i -ая компонента (k +1) -го приближения вычисляется по формуле
xi(k +1) = x(i k +1) (xi(k +1) − xi(k ) )(ω −1)
где ω (0,2) . При ω (0,2) метод релаксации сходится x(0) . Выбор параметра релаксации довольно трудная задача и она
во многих случаях решается экспериментальным путем.
14.8. МЕТОД СКОРЕЙШЕГО СПУСКА
Пусть дана система Ax = B , где A – симметричная положительно определенная матрица. Рассмотрим явный итерационный процесс
x(k +1) = x(k ) −τ (Ax(k ) − b) |
(14.31) |
- 51 -
ЧИСЛЕННЫЕ МЕТОДЫ
и выберем итерационный параметр τ (k +1) из условия минималь-
ной нормы |
|
z(k +1) |
|
при заданном векторе z(k ) , где z(k +1) = x(k +1) − |
|
. |
|
|
x |
||||
|
|
|
|
A |
||
Здесь норма |
|
|
|
|
||
1

z 
A = ( Az,z ) = ( Az,z )2 .
Погрешность z(k ) удовлетворяет уравнению
z(k +1) = z(k ) −τ k +1 Az(k ) .
Формула (14.30) при указанных условиях определяет метод скорейшего спуска. Для его реализации на каждой итерации требуется:
1.Вычислить τ (k ) = Ax(k ) − b .
2.Вычислить параметр
τ k +1 = (Aτ (k ),τ (k ) ) .
3. Найти вектор следующего приближения к решению x(k +1) = x(k ) −τ k +1τ (k ) , k =0,1,2...
14.9. ПОНЯТИЕ КОРРЕКТНОСТИ И ОБУСЛОВЛЕННОСТИ МАТЕМАТИЧЕСКОЙ ЗАДАЧИ
При решении любой задачи необходимо знать входные (исходные) данные, начальные, граничные коэффициенты, правую часть уравнения и др.
Для каждой задачи ставятся вопросы: существуют ли решения? Является ли оно единственным? Как зависит ее решение от входных данных?
Возможны два случая:
I.Задача поставлена корректно (задача корректна):
1)задача разрешима при любых допустимых входных данных;
2)задача имеет единственное решение;
3)решение непрерывно зависит от входных данных (малому изменению входных данных соответствует малое изменение выходных данных, решения), иными словами, задача устойчива;
-52 -
Лекция 14 
II. Задача поставлена некорректно (задача некорректна),если ее решение неустойчиво относительно входных данных (малому изменению входных данных может соответствовать большое изменение решения).
Корректность исходной задачи еще не гарантирует хороших свойств численного метода ее решения. К вычислительным алгоритмам, предназначенным для широкого использования, предъявляют ряд жестких требований.
1. Корректность вычислительного алгоритма.
Вычислительный алгоритм называют корректным, если
а) |
он позволяет после конечного числа элементарных опе- |
|
раций преобразовать любое входное значение x X |
|
в результат y ; |
б) |
результат y устойчив по отношению к малым возмуще- |
|
ниям входных данных; |
в) |
результат y обладает вычислительной устойчивостью |
|
(малое накопление ошибок округлений). |
Если хотя бы одно из условий не выполнено, то алгоритм на-
зывают некорректным.
Понятие обусловленности математической задачи рассмо-
трим на примере решения СЛАУ. Рассмотрим систему |
|
Ax =b , |
(14.32) |
где detA ≠ 0, b ≠ 0. В этом случае система (14.32) имеет единственное решение x ≠ 0. На практике, при решении системы (14.32) любым методом, вычисления производятся с округлением, т. е. неточно. Погрешность вычисления можно интерпретировать как погрешность правой части.
Наряду с системой (14.32) рассмотрим систему
A(x + r ) = b +η , |
(14.33) |
где η ≠ 0 –погрешностьправойчасти,а r –погрешностьрешения. Имеем
A r =η , r = A−1 η .
Найдем отношение относительной погрешности решения к относительной погрешности правой части
- 53 -
ЧИСЛЕННЫЕ МЕТОДЫ
|
|
|
r |
|
|
|
/ |
|
|
|
x |
|
|
= |
|
|
|
|
b |
|
|
|
|
|
|
|
|
|
r |
|
|
|
|
|
= |
|
|
Ax |
|
|
|
A−1η |
≤ |
|
|
|
|
A |
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
A−1 |
|
|
η |
|
|
= |
|
|
|
A |
|
|
|
|
|
|
|
A−1 |
|
|
|
, |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
η |
|
|
|
/ |
|
|
|
|
b |
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
η |
|
|
|
|
|
x |
|
|
|
|
η |
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
η |
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
т. е. для отношения относительной погрешности решения к относительной погрешности правой части выполняется неравенство:
|
|
r |
/ |
|
x |
|
≤ |
ν ( A) = |
|
|
|
|
A |
|
|
|
|
|
|
|
|
A−1 |
|
|
|
, |
(14.34) |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
η |
|
/ |
|
b |
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
которое при некоторых b ↑0 |
, η ≠ 0 обращается в равенство. |
|||||||||||||||||||||||||||||||||||
Величина |
ν ( A) = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
A |
|
|
|
|
|
A−1 |
|
|
(14.35) |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||
называется числом обусловленности матрицы |
A . Она равна |
|||||||||||||||||||||||||||||||||||
максимально возможному коэффициенту усиления относительной погрешности от правой части к решению системы (14.35). Неравенство (14.34) запишем в наиболее употребляемой форме
δ ( x ) ≤ν ( A) δ (b) |
(14.36) |
Если число ν ( A) большое, то матрица |
A (система (14.32)) |
называется плохо обусловленной, а если число ν ( A) невелико, то хорошо обусловленной. Неравенство (14.36) – это на самом деле условие устойчивости задачи решения системы линейных уравнений.
Выводы
В лекции поставлены и освещены следующие вопросы, касающиеся задачи итерационных методов решения систем линейных скалярных уравнений: норма вектора и матрицы, итерационные методы решения систем линейных алгебраических уравнений, оценка погрешности методов. Для уточнения решений разобраны метод простой итерации, метод Зейделя, метод релаксации, метод скорейшего спуска. Для каждого метода выведены оценки погрешностей найденного решения. Рассмотренные в лекции методы могут быть применены для любых невырожденных систем линейных алгебраических уравнений т. е. являются универсальными.
- 54 -
Лекция 14 
Вопросы для самопроверки
1.Пусть дана система уравнений A*X=F:
|
1 3 2 |
х |
6 |
|
|||||
|
|
|
|
|
|
1 |
|
|
|
|
3 2 1 |
* |
|
х2 |
= 6 . |
||||
|
4 3 1 |
|
х |
8 |
|
||||
|
|
|
|
|
|
3 |
|
|
|
Найти: 1). Все нормы вектора F; |
|
||||||||
2). ||A||1, ||A||2. |
|
|
|
|
|
|
|||
2. Дана система уравнений |
|
|
|
|
|
|
|||
|
4х1 + 0.24х2 − 0.08х3 = 8, |
||||||||
|
|
|
3х2 |
− 0.15х3 |
= 9, |
||||
0.09х1 + |
|||||||||
0.04х |
− 0.08х |
2 |
+ |
4х |
= 20. |
||||
|
1 |
|
|
|
|
|
3 |
|
|
Для решения этой системы постройте итерационный процесс. Выполняются ли условия сходимости процесса итераций?
3.Систему из задания 2 решите методом итераций с точностью ε = 0.0001. Найдите критерий окончания итерационного процесса.
4.Систему из задания 2 решите методом итераций с точностью ε = 0.001. Оцените число необходимых итераций (шагов).
5.Укажите, чем отличается метод Зейделя от метода простой итерации?
Рекомендованная литература: 2–8, 13–16.
- 55 -
ЧИСЛЕННЫЕ МЕТОДЫ
Лекция 15. МЕТОДЫ РЕШЕНИЯ
СИСТЕМ НЕЛИНЕЙНЫХ УРАВНЕНИЙ
План
15.1.Метод простой итерации.
15.2.Метод Ньютона.
ВВЕДЕНИЕ
Система нелинейных уравнений с n неизвестными имеет вид:
f1 (x1, x2 ,..., xn ) = 0, |
|
||
|
(x1, x2 |
,..., xn ) = 0, |
|
f2 |
(15.1) |
||
|
|
|
|
|
|
||
fn (x1, x2 |
,..., xn ) = 0, |
|
|
где хотя бы одна функция fi , (i =1,2,...,n ) нелинейная. Запишем короче систему (15.1). Совокупность аргументов
{x1, x2 ,..., xn } можно рассматривать как n-мерный вектор:
x |
|
|
|
1 |
|
x = |
...x2 |
. |
|
|
|
xn |
|
|
Аналогично совокупность функций представляет собой век- тор-функцию:
|
f |
|
|
|
1 |
|
|
f = |
...f2 |
. |
|
|
|
|
|
fn |
|
|
|
Поэтому система (15.1) кратко записывается так: |
|
||
f ( x ) = 0 . |
(15.2) |
||
Для решения системы (15.1) в редких случаях можно применитьметодпоследовательногоисключениянеизвестных,который приводит решение системы к решению одного нелинейного уравнения с одним неизвестным с последовательной подстановкой.
- 56 -
Лекция 15 
Однако в большинстве случаев, нелинейные системы решаются итерационными методами. Мы будем предполагать существование изолированных решений нелинейных систем.
15.1. МЕТОД ПРОСТОЙ ИТЕРАЦИИ
Этот метод состоит в следующем: система уравнений (15.1) или (15.2) преобразуется к виду:
x1 |
= φ1 (x1, x2 ,.., xn ) , |
|
x2 |
= φ2 (x1, x2 ,.., xn ) , |
(15.3) |
…………………… |
|
|
xn = φn (x1, x2 ,.., xn ) |
|
|
или |
x = ϕ (x ) , |
(15.4) |
|
||
где функции ϕi (i =1,2,...,n ) действительны и непрерывны в некоторой окрестности решения
x1
x= ...x2 .
xn
Итерации проводятся по формуле
или |
x(k +1) = ϕ (x(k ) ), |
(15.5) |
= ϕ (xi(k ) ) (i =1,2,...,n ) |
|
|
xi(k +1) |
|
|
или |
|
|
x1(k +1) = ϕ1 (x1(k ), x2(k ),..., xn(k ) ) |
|
|
…………………………… |
|
|
xn(k +1) |
= ϕn (x1(k ), x2(k ),..., xn(k ) ) , |
|
где k =0,1,2,... .
Подойдем к изучению этого метода с более общих позиций.
Пусть |
H – полное метрическое пространство, а оператор |
y = ϕ (x ) |
отображает H в себя. |
- 57 -
ЧИСЛЕННЫЕ МЕТОДЫ
Рассмотрим итерационный процесс |
|
x(k +1) = ϕ (x(k ) ) |
(15.6) |
решения уравнения |
|
x = ϕ (x ) |
(15.7) |
Если при некотором q , 0 <q <1 отображение |
y = ϕ (x ) удов- |
летворяет условию |
|
ρ (ϕ (x1 ),ϕ (x2 )) = q ρ (x1, x2 ) |
(15.8) |
при всех x1 , x2 , то такое отображение называют сжимающим. Следующая теорема обосновывает метод простой итерации
решения системы нелинейных уравнений (15.7).
Теорема.Если отображение y = ϕ (x ) сжимающее, то уравнение x = ϕ (x ) имеет решение x и
ρ (x, x(k ) ) ≤ qk ρ (x(1), x(0) ) ,
1 − q
где ρ ( x, y) расстояние между x и y .
Доказательство.
Согласно (15.8) имеем:
ρ (x(k +1), x(k ) ) = ρ (ϕ (x(k ) ),ϕ (x(k −1) ))≤ q ρ (x(k ), x(k −1) ),
поэтому
ρ(x(k +1), x(k ) )≤ q ρ (x(k ), x(k −1) )≤
≤q2 ρ (x(k −1), x(k −2) )≤ ... ≤ qk ρ (x(1), x(0) )
При l > k имеем цепочку неравенств.
ρ(x(l ), x(k ) )≤ ρ (x(l ), x(l −1) )+ ... + ρ (x(k +1), x(k ) )≤
≤ql −1 ρ (x(1), x(0) )+ + qk ρ (x(1), x(0) ) =
=qk ρ (x(1), x(0) )(ql −k −1 + ql −k −2 + + q +1) =
= qk ρ (x(1), x |
(0) ) |
1 − ql −k |
= |
(15.9) |
|||||
1 − q |
|
||||||||
|
|
|
|
|
|
|
|
||
= ρ (x(1), x(0) ) |
qk − ql |
|
≤ |
|
qk |
ρ (x(1), x(0) ), |
|
||
1 − q |
|
1 |
− q |
|
|||||
|
|
|
|
|
|
||||
- 58 -
Лекция 15 
то есть неравенством (15.9) мы на самом деле показали, что последовательность x(k ) является фундаментальной последовательностью.
Согласно критерию Коши последовательность x(k ) имеет не-
который предел x .
Переходя к пределу в неравенстве (15.9) при l →∞ получаем
|
|
|
k |
|
||||
ρ ( |
|
, x(k ) ) ≤ |
q |
ρ (x(1), x(0) ) |
(15.10) |
|||
x |
||||||||
1 − q |
||||||||
Теперь осталось доказать, что предел |
x |
|
является решением |
|||||
системы x = ϕ (x ) , то есть надо доказать, что x = ϕ (x ) .
Вектор x являетсярешениемсистемы x = ϕ (x ) ,таккакпереходя к пределу при k стремящемся к бесконечности и учитывая непрерывность вектор-функции φ ( x ) будем иметь
limk →∞ϕ (x(k ) )= limk →∞ϕ (x(k −1) )= ϕ (limk →∞ x(k −1) ),
то есть x = ϕ (x ) .
Замечание: Если в n-мерном векторном пространстве стояние ρ (x, y) = x − y , то оценка (15.10) примет вид:
|
|
− x(k ) |
|
|
|
≤ |
qk |
|
|
|
|
x(1) − x(0) |
|
|
|
. |
|
x |
|
|
|
|
|
|
|||||||||
|
1 − q |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Имеет место следующая оценка:

x − x(k ) 
≤ 1 −q q 
x(k ) − x(k −1) 
.
Rn рас-
(15.11)
(15.12)
Сходимость метода итераций считается хорошей, еслиq < 1/2, тогда (15.12) примет вид:
|
|
− x(k ) |
|
|
|
≤ |
|
|
|
x(k ) − x(k −1) |
|
|
|
. |
(15.13) |
|
x |
|
|
|
|
|
|
Приведем достаточное условие, обеспечивающее неравенство (15.8) в норме 


∞ .
Предположим, что функции φi , i =1,2,...,n имеют непрерывные частные производные
∂ϕi , k =1,n .
∂xk
Неравенство (15.8) будет выполнено, если
- 59 -
ЧИСЛЕННЫЕ МЕТОДЫ
|
|
|
|
|
∂ϕi |
|
|
|
|
|
|
|
|
|
удовлетворяют в сфере |
∂xk |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
x − x(0) |
|
≤ δ |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|||||||
условию |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
∂ϕi |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
||||||
|
|
|
max0 |
|
∑ |
|
|
|
<1 |
(15.14) |
||||
q = max |
|
|
∂xk |
|
|
|||||||||
1≤i≤n |
x − x( ) |
≤δ k =1 |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||
На практике используют следующие положения о сходимо-
сти метода простой итерации: |
|
|
|
||||||
1) |
Процесс итерации сходится, если |
||||||||
|
n |
|
∂ϕ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
≤ qi |
<1 , i =1,n ; |
||||
|
∑k =1 |
|
|
i |
|||||
|
|
∂xk |
|
|
|
|
|||
2) |
Процесс итерации сходится, если |
||||||||
|
|
|
∑ |
∂ϕk |
≤ qi <1 . |
||||
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k =1 |
∂xi |
|
|
|
||
15.2. МЕТОД НЬЮТОНА
МетодНьютонаприменяетсякрешениюсистемуравненийвида
fi ( x1, x2 ,..., xn ) = 0 , (i = |
|
) |
(15.15) |
1,n |
|||
или в векторной форме |
|
||
f ( x ) = 0 . |
(15.16) |
||
Сущность метода Ньютона для решения систем нелинейных уравнений состоит в следующем. Пусть каким-либо образом нами
получено x(k) -е приближение к решению x . Мы можем k приравнятькнулю,тогдакаждуюфункцию fi , i =1,2,...,n представляютпо формуле Тейлора с остаточным членом в окрестности точки x(k) .
Пусть
x |
|
|
|
1 |
|
x = |
...x2 |
– текущий вектор, |
|
|
|
xn |
|
|
- 60 -
