75. Итерационные методы решения систем линейных уравнений. Методы Якоби и Зейделя. Исследование сходимости в случае матриц с диагональным преобладанием.

Общая идея итерационных методов решения системы линейных уравнений Ay=f (1) состоит в следующем. Начиная с некоторого заданного вектора y⁰, который называют начальным приближением, строят векторы y¹, y²,…, y^k,… по некоторой рекуррентной формуле y^k+1   =  F_k+1(y⁰,y¹,…,y^k), где F_k+1 - заданная функция, определяемая, в частности, матрицей A и вектором f. На практике наиболее часто используются линейные одношаговые методы, которые в самом общем случае могут быть записаны в виде y^k+1   =  S_k+1  y^k  +  C_k+1,     k=0,1,2,… здесь S_k+1 - матрица, а C_k+1 - вектор. В этих методах каждое последующее приближение определяется по одному предыдущему, причем связь между ними линейная. Можно сказать, что метод связывает два слоя, поэтому такие методы называют также - двухслойными. Если матрицы S_k+1 и векторы C_k+1 не зависят от k: S_k+1=S,  C_k+1=C, то метод называют стационарным.

Простейшим примерами стационарных двухслойных методов являются методы Якоби и Зейделя. При построении метода Якоби i-тое уравнение системы (1) записывают в следующем виде Опираясь на равенство (2), последовательность векторов y^k строят по правилу cправедлива Теорема 1 Пусть матрица A является матрицей с диагональным преобладанием, то есть Тогда метод Якоби для системы (1) сходится при любом начальном приближении. Док-во. Положим z^k=y^ky, z^k₁ = max_1in z_i . Вычитая по членно равенства (3), (2), получим Откуда, очевидно, вытекает следующая цепочка неравенств z^k+1₁q z^k₁ q²z^k-1₁  q^k+1  z⁰₁ Поскольку q < 1, то правая часть последнего неравенства стремится к нулю при k при любом векторе z⁰. Теорема доказана. Отметим, что полученное нами неравенство z^k₁  q^kz⁰₁ можно рассматривать как оценку погрешности метода Якоби. При построении метода Зейделя также используется равенство (2), но последовательность векторов y^k строят иначе: Нетрудно видеть, что отличие метода Зейделя от метода Якоби состоит в том, что при построении i-той компоненты k+1-ого приближения используются уже найденные первые  компоненты k+1 приближения. В некоторых случаях это обеспечивает более быструю сходимость, чем в методе Якоби. Отметим также, что в методе Зейделя память ЭВМ расходуется более экономно, так как вектор y^k+1 можно располагать на том же месте, что и y^k. Теорема 2 Если матрица A является матрицей с диагональным преобладанием, то метод Зейделя для системы (1) сходится при любом начальном приближении, причем не медленнее, чем метод Якоби. Док-во. Вычитая из (4) равенство (2), запишем уравнения для погрешности z^k+1: По условию теоремы _l+_l  q < 1. Тем более _l+q_l  q, то есть следовательно, z^k+1₁  qz^k₁ . Это означает, что метод Зейделя сходится, и имеет место оценка погрешности z^k₁     q^k  z⁰₁. Теорема доказана.