2. Проблема сходимости итерационного процесса.

Итерационный процесс может быть использован для решения СЛАУ только при условии сходимости. Для исследования его сходимости введем две характеристики. Первая из них – погрешность решения:

.

Смысл этого вектора ясен. Сходимость итерационного процесса согласно и означает, что

,, .

Вторая характеристика – невязка:

.

Она показывает, насколько хорошо или, наоборот, плохо член итерационной последовательности удовлетворяет исходной системе.

Установим связь между и:

.

Можно также написать обратное соотношение:

.

Из формул и вытекают оценки:

,.

Они показывают, что погрешность решения стремится к нулю тогда и только тогда, когда стремится к нулю невязка. Этот результат позволяет судить о сходимости или расходимости итерационного процесса по поведению невязки, которая доступна прямому вычислению и благодаря этому может контролироваться.

При исследовании сходимости итерационных методов большую роль играют свойства матриц и, в первую очередь такие как самосопряженность и знакоопределенность. Напомним, что в вещественном евклидовом пространстведля каждого линейного преобразования существует единственное сопряженное к нему линейное преобразование, определяемое тождественным равенством скалярных произведений:

, .

В частности,

, .

Преобразование называется самосопряженным, если

, .

Матрицы сопряженных преобразований в ортонормированном базисе связаны простым транспонированием:

, .

Свойство самосопряженности преобразования равносильно в этом случае выполнению условия совпадения матриц и:

, ,

Как известно, любая матрица представима в виде:

,

где

, .

Нетрудно видеть, что

В дальнейшем мы будем опираться на следующие важные свойства самосопряженных преобразований:

а) все собственные значения самосопряженного линейного преобразования (характеристические числа матрицы ) вещественны;

б) самосопряженное линейное преобразование всегда имеет полный набор линейно независимых собственных векторов, из которых можно образовать ортонормированный базис пространства . В этом базисе матрица линейного преобразования принимает диагональный вид, причем на диагонали стоят все собственные значения этого преобразования с учетом их кратности.

Наконец, матрица линейного преобразования называется положительно определенной, если для любого, отличного от нуля:

, , .

Для краткости, если это не вызывает недоразумений, будем часто писать .

Необходимым и достаточным условием положительной определенности самосопряженной матрицы является критерий Сильвестра, из которого в частности следует строгая положительность всех диагональных элементов:

,.

Условимся обозначать собственные векторы линейного преобразования с матрицей как, её характеристические числа как, координаты произвольного векторав ортонормированном базисе из собственных векторовкак.

Для дальнейшего рассмотрения будут полезны три леммы.

Лемма 1.

Для того, чтобы симметричная матрица была положительно определенной, необходимо и достаточно, чтобы все её характеристические числа были положительны:.

Необходимость. Выберем любой собственный вектор линейного преобразования с матрицей, тогда

.

Достаточность. Расположим для определенности все характеристические значения матрицы в порядке убывания:

.

Поскольку по условию леммы , то в ортонормированном базисе из собственных векторов преобразования с матрицейдля любогоимеем

, , .

Поэтому, очевидно, что .

Лемма 2.

Пусть , и- упорядоченный набор характеристических чисел этой матрицы, тогда

.

Доказательство предлагается провести самостоятельно.

Лемма 3.

Если , то всегда найдется постоянное число, такое что

,

Доказательство.

Если , то достаточно положить. В общем случае напомним, что согласно

,

где , поэтому согласно предыдущей лемме

,

где - минимальное характеристическое число матрицы. Полагая, что, приходим к требуемому неравенству .