26. Численные методы решения систем линейных алгебраических уравнений.

Традиционно эти методы делятся на точные (дающие точный ответ без учета ошибок округления) и итерационные (точное решение есть предел бесконечной последовательности приближений).

Итак, требуется решить уравнение

(1)

где -- квадратная матрица с элементами , а ,   -- -мерные векторы.

Обзор основных методов

Рассмотрим наиболее часто встречающиеся методы.

Метод последовательных приближений (метод Якоби).

Исходная система (1) преобразуется к виду где -- единичная матрица, и далее, Счет организуется по формуле

(2)

Таким образом , a . В компонентной форме рекуррентная формула метода выглядит так

Метод простой итерации.

Представим матрицу в виде суммы

(3)

где -- диагональная матрица с элементам и и   -- нижняя и верхняя треугольные матрицы, состоящие из соответствующих элементов исходной матрицы . Система (1) подвергается далее следующему преобразованию:

откуда получаем

(4)

Матрица , обратная диагональной матрице , вычисляется просто, поскольку также является диагональной с элементами . В компонентной форме рекуррентная формула метода такова

Метод Гаусса-Зейделя.

Снова запишем матрицу в виде (3), а систему (1) преобразуем к виду

Отсюда получаем рекуррентную формулу

Компонентную форму рекуррентной формулы метода можно получить так. Запишем

сначала в компонентной форме выражение . . Получим

Перенося, теперь, первое и третье слагаемые в правую часть, и нормируя на диагональный элемент, найдем выражение для

Метод последовательной релаксации

Пусть  -- число, которое мы будем называть параметром релаксации. Умножим на него число систему (1)

и преобразуем ее следующим образом:

В результате получаем рекуррентную формулу (запишите ее в компонентной форме)

Параметр релаксации используется для настройки метода на максимальную скорость сходимости и обычно подбирается эмпирически. При этом . Если , получаем метод верхней релаксации, если   -- метод нижней релаксации.

Метод Гаусса

Точные методы. Метод Гаусса Из точных методов рассмотрим один из лучших методов решения систем линейных уравнений -- метод Гаусса и некоторые его модификации. Метод Гаусса, или метод последовательных исключений, базируется на так называемой -теореме, согласно которой при определенных условиях (проверяемых, как правило, a posteriori) матрица в уравнении (1) может быть единственным образом представлена в виде произведения (факторизована) , где  -- нижняя треугольная матрица с единицами на главной диагонали, а  -- верхняя треугольная матрица.

Вэтом случае система (1) записывается как и сводится к двум системам с треугольными матрицами

Решая первую систему, находим промежуточный вектор (эта процедура носит название прямого хода, или исключения). Из второй системы (с помощью обратного хода, или подстановки) определяем решение . Обе системы решаются элементарно, так как матрицы и треугольные.

Часто метод Гаусса используется без предварительной факторизации. Матрица и вектор строятся без явного построения матрицы и решения соответствующей системы уравнений. Эта процедура состоит в том, что очередная строка (начиная с первой) используется для обнуления части столбца, стоящего под главной диагональю, для чего она умножается на некоторое число и вычитается из нижестоящих строк. Коэффициент выбирается таким, чтобы элемент в соответствующем столбце обратился в нуль. В результате такого преобразования (прямого хода) мы сразу получаем уравнение

Обратным ходом, начиная с последней компоненты вектора , мы восстанавливаем решение . В таком виде метод Гаусса работает лишь при условии, что главная диагональ матрицы не содержит нулевых элементов. В противном случае применяют его модификацию -- метод Гаусса с выбором главного (ведущего) элемента -- которая состоит в том, что перед обнулением очередного столбца нижележащие уравнения переставляются так, чтобы на главной диагонали оказался максимальный по модулю (главный или ведущий) элемент.