Численные методы. Ч.2. Учебное пособие

Лекция 14

Лекция 14.

РЕШЕНИЕ СИСТЕМ ЛИНЕЙНЫХ УРАВНЕНИЙ (ИТЕРАЦИОННЫЕ МЕТОДЫ РЕШЕНИЯ)

План

14.1.Понятие нормированного пространства.

14.2.Метод простой итерации.

14.3.Некоторые способы приведения системы Ax =b к системе x = Cx + d .

14.4.Оценка погрешности метода простой итерации.

14.5.Метод Зейделя.

14.6.Метод простой итерации для симметричных положительно определенных матриц.

14.7.Метод релаксации.

14.8.Метод скорейшего спуска.

14.9.Понятие корректности и обусловленности математической задачи.

14.1. ПОНЯТИЕ НОРМИРОВАННОГО ПРОСТРАНСТВА

Линейное пространство H называется нормированным, если каждому элементу x H сопоставлено действительное число, называемое нормой вектора x (обозначается x ), так что выполнены следующие требования:

1)x ≥0 , причём x =0 , если x =0 ;

2) λx = λ x , где λ – действительное число;

3)x + y ≤ x + y .

Наиболее употребительны в пространстве векторов следующие нормы:

- 41 -

ЧИСЛЕННЫЕ МЕТОДЫ

Согласованными с нормами (14.1), (14.2), (14.3) в пространстве матриц являются соответственно нормы

Имеем

- 42 -

Лекция 14

14.2. МЕТОД ПРОСТОЙ ИТЕРАЦИИ

При большом числе неизвестных линейной системы в методе Гаусса начинают сильно сказываться погрешности округлений. В этих условиях для нахождения решений СЛАУ целесообразно пользоваться итерационными методами.

и пусть каким-либо образом система (14.9) приведена к эквива-

где C – квадратная матрица порядка n , d – вектор свободных членов.

Выбирается произвольный вектор x(0) (начальное приближение) и строится итерационная последовательность по формуле

x(k ) = Cx(k −1) + d ,

.............................

Если последовательность приближений (векторов)

x(0) , x(1) , x(2) ,...,x(k ) ,...

имеет предел

x = lim x(k ) ,

k →∞

то этот предел является решением системы (14.10). В самом деле, переходя к пределу в равенстве (14.11), будем иметь

x = C x + d ,

т. е. вектор x является решением системы (14.10), а, следовательно, и системы (14.9).

- 43 -

ЧИСЛЕННЫЕ МЕТОДЫ

Необходимые и достаточные условия сходимости итерационного процесса (14.12) даёт следующая теорема.

Теорема 14.1. Итерационный процесс

x(k ) = Cx(k −1) + d (k = 1,2,...)

сходится при любом начальном векторе x(0) тогда и только тогда,когдавсесобственныезначенияматрицы C помодулюменьше единицы, т. е.

λi (С ) < 1 , (i = 1,2,...,n) .

Однако эти условия сходимости неудобны для практических применений, т. к. в большинстве случаев собственные значения матрицы неизвестны, а отыскание их представляет более сложную задачу, чем решение СЛАУ.

Для практики важна следующая теорема, дающая достаточное условие сходимости метода простых итераций.

Теорема 14.2. Если C <1, то система (14.10) имеет единственное решение x и итерации (последовательные приближения) (14.12) сходятся к решению со скоростью геометрической прогрессии.

Доказательство.

1)Докажем единственность решения.

Допустим, что x – решение системы (14.10), т. е. выполняется равенство

Отсюда с помощью неравенства треугольника для нормы вектора и неравенства (14.5) получаем

Из этого неравенства вытекает единственность решения од-

нородной системы x =Cx , т. е. при d =0 , а, следовательно, существование и единственность решения системы (14.10) при

любом свободном члене d .

- 44 -

Лекция 14

2)Докажемсходимостьпоследовательностиитераций(14.12). Пусть r(k ) = x − x(k ) , где x – решение системы (14.10). Вычитая из равенства (14.13) равенство (14.11), получим

r(k ) = Ck r(0) ≤ Ck r(0) = C k r(0) .

т. е. норма погрешности r(k ) = x − x(k ) стремится к нулю при k →∞ не медленнее геометрической прогрессии со знаменателем q = C <1 .

Изтеоремы14.2вытекаетважноедляприложенийследствие. Следствие. Для системы

Ax =b

процесс итераций сходится, если выполнены неравенства:

т. е. матрица A является матрицей с диагональным преобладанием.

14.3.НЕКОТОРЫЕ СПОСОБЫ ПРИВЕДЕНИЯ СИСТЕМЫ Ax =b К СИСТЕМЕ x = Cx + d

- 45 -

ЧИСЛЕННЫЕ МЕТОДЫ

2) Пусть число τ ≠ 0 , тогда

Ax =b ; τ Ax =τ b ; x +τ Ax = x +τ b ;

x= x −τ Ax +τb ; x = Ex −τ Ax +τb ; x = (E −τ A)x +τ b .

Теперь

C= E −τ A , d =τ b

иполучаем систему x = Cx + d .

Число τ ≠ 0 надо подобрать таким образом, чтобы C <1.

14.4. ОЦЕНКА ПОГРЕШНОСТИ МЕТОДА ПРОСТОЙ ИТЕРАЦИИ

Пусть C <1. Тогда система (14.10) имеет единственное решение x , для которого выполняется равенство (14.13). Из равенств (14.11) и (14.13) вытекает равенство

x − x(k ) = C (x − x(k ) )

или

x − x(k −1) = x(k ) − x(k −1) + C (x − x(k −1) ).

- 46 -

Лекция 14

Отсюда получаем

Перемножив неравенства (14.16) и (14.17), получим окончательно

Неравенство (14.18) позволяет оценить норму погрешности k -ого приближения через норму разности двух последовательных приближений и норму матрицы C . Эта оценка широко используется на практике.

Из неравенства (14.18) можно получить для оценки погрешности

x − x(k )

ещё два неравенства:

- 47 -

ЧИСЛЕННЫЕ МЕТОДЫ

14.5. МЕТОД ЗЕЙДЕЛЯ

Метод Зейделя представляет собой модификацию метода простой итерации. Основная его идея состоит в том, что при вычислении (k +1) -ого приближения неизвестного xi учитываются уже вычисленные ранее приближения неизвестных

x1, x2 ,..., xi −1 .

Пусть система

x3(k +1) = α31 x1(k +1) + α32 x2(k +1) + α33 x3(k )... + α3n xn(k ) + β3 ;

……………………………………………………………..

xi(k +1) = αi1 x1(k +1) + αi 2 x2(k +1) + ... + αi,i −1 xi(−k1+1) + aii xi(k ) + ... + αin xn(k ) + βi ;

……………………………………….………………………….

xn(k +1) = αn1 x1(k +1) + αn2 x2(k +1) + ... + αn,n−1 xn(k−1+1) + αnn xn(k ) + βn .

Заметим, что теорема о достаточных признаках сходимости метода простой итерации остаётся верной для метода Зейделя.

Зейделя сходится со скоростью геометрической прогрессии, знаменатель которой q ≤ α .

Теорема 14.4. Пусть выполнено условие

α1 + α2 <1 ,

где

α1 +α2 = α .

- 48 -

Лекция 14

Тогда при любом выборе начального приближения x(0) метод Зейделя сходится.

Если для одной и той же системы методы простой итерации и Зейделя сходятся, то метод Зейделя предпочтительнее.

Приведём оценку погрешности приближений процесса Зей-

Замечание. Умножим левую и правую части системы (14.21) на матрицу AT :

где C – симметричная положительно определённая матрица. Теорема 14.5. Итерационный процесс Зейделя для системы

(14.25) всегда сходится к единственному решению этой системы при любом выборе начального приближения x(0) .

- 49 -

ЧИСЛЕННЫЕ МЕТОДЫ

14.6.МЕТОД ПРОСТОЙ ИТЕРАЦИИ ДЛЯ СИММЕТРИЧНЫХ ПОЛОЖИТЕЛЬНО ОПРЕДЕЛЕННЫХ МАТРИЦ

τAx =τ b

x +τ Ax = x +τ b x = x −τ Ax +τb x = (E −τ A)x +τ b

Пусть x(0) некоторое начальное приближение. Рассмотрим последовательность приближений (итерационный процесс)

(14.26), причем норма погрешности x − x(k ) убывает при возрастании k в соответствии с оценкой

где

ρ = ρ (τ ) = max{1 −τλmin (A) , 1 −τλmax (A)} , 1 −τλmin (A) <1 ,

1 −τλmax (A) <1 .

Число ρ = ρ (τ ) принимаетнаименьшеезначение ρопт = ρ (τопт ) если

- 50 -