Тема 4. Вычислительные задачи линейной алгебры. Решение систем линейных алгебраических уравнений.

1. Постановка задачи. Правило Крамера.

Системой n линейных уравнений с n неизвестными называется система следующего вида

(1)

Система (1) компактно записывается в виде AX=B (1'), где A – матрица коэффициентов, X – вектор-столбец неизвестных, а B – вектор-столбец правых частей.

A= , X= , B=

Перемножение матриц осуществляется по правилу "строка на столбец", т. е. элемент матрицы-произведения равен сумме произведений элементов соответствующей строки первой матрицы на соответствующие элементы столбца второй матрицы.

Решить систему (1) или (1') – значит найти вектор X, при умножении на который матрицы A получается вектор B.

Существует теорема, согласно которой система (1) имеет единственное решение, если det(A)≠0.

Существуют формулы Крамера, согласно которым x_i= (A), где Δ_i – определитель, полученный из Δ=det(A) заменой i-того столбца столбцом правых частей.

Формулы Крамера имеют важное теоретическое значение, но практически малоценны, т. к. требуют вычисления (n+1)-ого определителя (слишком долго и неточно (из-за вычислительной погрешности)).

Методы решения делятся на точные (Крамера, Гаусса, оптического исключения, Жордана, квадратного корня) и приближенные (итераций, Зейделя).

2. Метод исключения Гаусса (схема единственного деления).

Пусть дана система вида (1). Предположим, что a₁₁≠0 и преобразуем первое уравнение системы (1) к виду x₁+a₁₂⁽¹⁾x₂+…+a_1n⁽¹⁾x_n=b₁⁽¹⁾ (2), где a_1j⁽¹⁾= ; b₁⁽¹⁾= (j=2, 3…n). Умножим (2) на коэффициенты 1, a₂₁, a₃₁…a_n1 и вычтем из соответствующих уравнений системы (1). Получим новую систему (3). Здесь a_ij⁽¹⁾=a_ij-a_1j⁽¹⁾•a_i1; b_i⁽¹⁾=b_i-b₁⁽¹⁾•a_i1 (i, j=2, 3…n).

Система (3) содержит (n-1)-но уравнение с (n-1)-ним неизвестным.

Предположим, что a₂₂≠0 и преобразуем первое уравнение системы (3) к виду x₂+a₂₃⁽²⁾x₃+…+a_2n⁽²⁾x_n=b₂⁽²⁾ (4), где a_2j⁽²⁾= ; b₂⁽²⁾= (j=2, 3…n). Умножим (4) на коэффициенты 1, a₃₂, a₄₂…a_n2 и вычтем из соответствующих уравнений системы (3). Получим новую систему (5). Здесь a_ij⁽²⁾=a_ij⁽¹⁾-a_2j⁽²⁾•a_i2⁽¹⁾; b_i⁽²⁾=b_i⁽¹⁾-b₂⁽²⁾•a_i2⁽¹⁾ (i, j=3, 4…n).

На k-том этапе получим уравнение x_k+a_kk+1^(k)x_k+1+…+a_kn^(k)x_n=b_k^(k) (6), где a_kj^(k)= ; b_k^(k)= (j=k, k+1…n) и систиему (5). Здесь a_ij^(k)=a_ij^(k-1)-a_kj^(k)•a_ik^(k-1); b_i^(k)=b_i^(k-1)-b_k^(k)•a_ik^(k-1) (i, j=k+1, k+2…n).

Эти формулы не очень удобны, т. к. в правой части есть результаты текущего шага. Более удобными являются формулы a_ij^(k)=a_ij^(k-1)- •a_ik^(k-1); b_i^(k)=b_i^(k-1)- •a_ik^(k-1).

В результате (n-1) исключений объединим в систему уравнения (2), (4)…(6)… Получим систему с треугольной матрицей (8).

Получение системы с треугольной матрицей, т. е. сведение системы к виду (8) называется прямым ходом метода Гаусса. Неизвестные получаются последовательно, начиная с x_n и заканчивая x₁. Это будет обратный ход. Недостатком метода является условие a_kk^(k-1)≠0, которое нельзя предсказать заранее.

Метод Гаусса плох, если на каком-то этапе коэффициент a_kk^(k-1) станет малым. При делении больших чисел на малые теряется точность, поэтому метод Гаусса не применяется для систем с n≥20. В этом случае применяется метод Гаусса с выбором главного элемента. Он состоит в том, что на каждом этапе прямого хода в оставшейся системе выбирается наибольший коэффициент и порядок значений и неизвестных меняется таким образом, чтобы наибольший коэффициент оказался на главной диагонали. В этом случае условие применимости метода выполняется автоматически. Недостатком метода является громоздкость, связанная с вычислением коэффициентов. Существуют и другие точные методы (оптического исключения, Жордана, квадратного корня)

3. Метод простой итерации.

Пусть дана система вида (1). Предположим, что a_ii≠0 разрешим первое уравнение этой системы относительно x₁, второе – относительно x₂ и так далее. Получим систему (9), где β_i= (i=1, 2…n), α_ij= (i≠j=1, 2…n); α_ij=0 (i=j)

X=Β-ΑX (10), где X= , Β= , Α= – нормированная матрица коэффициентов.

Зададим начальное приближение X₀= . По (10) X₁=Β-ΑX₀ найдем X₁= , затем найдем X₂ и так далее. Получим последовательность векторов {X_k}. Если эта последовательность сходится к какому-либо вектору, то этот вектор будет решением системы (1). Это сходимость по норме.

Рабочие формулы метода имеют вид:

В качестве начального приближения целесообразно использовать "неправильные" значения, найденные по методу Гаусса. Обычно полагают X₀=Β

Свойства метода таковы, что если сходимость есть при каком-то значении X₀, то она есть при любом значении X₀. Метод самонаправляющийся.

Теорема 8.

Процесс итераций системы (10) X⁽ⁱ⁺¹⁾=Β-ΑXⁱ сходится к единственному решению, если какая-либо норма матрицы Α меньше единицы. Норма – число, ставящееся в соответствие матрице. Норму можно вычислить тремя способами. ||A||₁= α_ij| – максимальная сумма модулей коэффициентов по строкам. ||A||₂= α_ij| – максимальная сумма модулей коэффициентов по столбцам. ||A||₃= .

В таком виде эту теорему применять неудобно, поэтому на практике используют следствие из этой теоремы: для системы вида (1) AX=B достаточным условием сходимости итерационного процесса будет выполнение одного из двух неравенств _i≠j |a_ii|> a_ij|; _i≠j |a_ii|> a_ij|. т. е. модуль диагональных элементов любой строки (столбца) должен быть больше суммы модулей остальных элементов этой строки (столбца). Любую систему вида (1), если det(A)≠0, можно свести к сходящемуся виду, рассматривая линейные комбинации уравнений.

Существуют разновидности метода итераций, в частности, метод Зейделя. Условия сходимости остаются такими же, исходные предпосылки тоже. Рабочие формулы метода Зейделя имеют вид:

Метод квадратного корня.

Это точный метод, предназначенный для решения систем вида (1) AX=C, матрицы которых симметричны, т. е. A=A^T или a_ij=a_ji. В курсе линейной алгебре доказывается, что любая симметричная матрица может быть представлена в виде произведения верхней и нижней треугольных матриц, т. е. A=B•B^T, где B= . Систему (1) можно заменить другой системой B^T•B•X=C. Обозначим B•X=Y. Получим новую систему B^T•Y=C, решение которой может быть получено методом, аналогичным обратному ходу метода Гаусса . Вычислив вектор Y, определим вектор X из системы B•X=Y методом, аналогичным обратному ходу метода Гаусса

Поэтому основная проблема заключается в разложении симметричной матрицы A на две треугольных B и B^T. • =A. По правилу умножения матриц, a₁₁=b₁₁²b₁₁= ; a_1j=b₁₁•b_1jb_1j= j=2, 3…n. Для второй строки a₂₂=b₁₂²+b₂₂² b₂₂= ; a_2j=b₁₂b_1j+b₂₂b_2j b_2j= j=3, 4…n. Значение a₂₁ не следует рассматривать отдельно, т. к. a₂₁=a₁₂. Для i-той строки a_ii=b_1i²+b_2i²+…+b_ii²b_ii= ; a_ij= _kib_kj j=i+1, i+2…n. Таким образом, рабочие формулы метода имеют вид b₁₁= ; b_1j= k=2, 3…n; b_ii= ; b_ij= 1<i<j≤n