- •Глава 3 основы численных методов
- •§ 3.1. Основные понятия линейной алгебры
- •3.1.1. Линейное пространство. Евклидово пространство.
- •3.1.2. Арифметическое пространство. Векторы и операции над ними. Линейная зависимость векторов. Базис.
- •3.1.3. Матрицы и операции над ними. Некоторые виды матриц.
- •3.1.4. Скалярное произведение векторов.
- •3.1.5. Норма вектора. Некоторые свойства векторных норм. Абсолютная и относительная погрешности. Сходимость.
- •3.1.6. Норма матрицы. Некоторые свойства матричных норм.
- •3.1.7. Число обусловленности матрицы.
- •§ 3.2. Прямые методы решения систем линейных алгебраических уравнений
- •3.2.1. Общий вид системы линейных алгебраических уравнений (слау). Понятие о прямых методах решения слау.
- •3.2.2. Метод Гаусса.
- •3.2.3. Вычисление определителя матрицы коэффициентов системы. Некоторые свойства определителей.
- •3.2.4. Выбор главного элемента.
- •3.2.6. Итерационное уточнение.
- •3.2.7. Метод Гаусса для ленточной слау.
- •3.2.8. Слау с несколькими правыми частями.
- •3.2.9. Вычисление обратной матрицы .
- •§ 3.3. Итерационные методы решения систем линейных алгебраических уравнений
- •3.3.1. Понятие об итерационных методах решения слау.
- •3.3.2. Метод Зейделя и метод простой итерации.
- •3.3.3. Общий вид итерационного процесса.
- •§ 3.4. Методы вычисления собственных значений и собственных векторов матриц
- •3.4.1. Основные определения.
- •3.4.2. Характеристическое уравнение.
- •3.4.3. Понятие о методах решения проблемы собственных значений.
- •3.4.4. Определение максимального по модулю собственного числа степенным методом.
- •3.4.5. Собственные значения обратной матрицы.
- •3.4.6. Обобщенная проблема собственных значений.
- •3.4.7. Вычисление минимального собственного числа степенным методом.
- •§ 3.5. Методы численного интегрирования
- •3.5.1. Понятие о формулах численного интегрирования.
- •3.5.2. Формула прямоугольников (формула средних).
- •3.5.3. Формула трапеций.
- •3.5.4. Формула Симпсона.
- •3.5.5. Точность квадратурных формул.
- •3.5.6. Вычисление интеграла с заданной точностью.
- •3.5.7. О современных методах численного интегрирования.
- •§ 3.6. Методы решения нелинейных уравнений
- •3.6.1. Уравнения с одним неизвестным (скалярные).
- •3.6.2. Решение систем нелинейных уравнений.
- •§ 3.7. Метод наименьших квадратов
- •3.7.1. Понятие о методе наименьших квадратов (мнк).
- •3.7.2. Применение мнк для решения переопределенных систем линейных алгебраических уравнений.
3.2.6. Итерационное уточнение.
Используя схему
выбора главного элемента по столбцу,
можно вычислить разложение (3.2.19). Положив
начальный вектор
будем повторять следующий процесс:
1. Вычисляется (с двойной точностью) вектор
.
(3.2.20)
2. Решается относительно
система
.
(3.2.21)
3. Решается относительно
система
.
(3.2.22)
4. Решение системы (3.2.3) уточняется путем присваивания
.
(3.2.23)
Этот процесс называется итерационным
уточнением со смешанной точностью
[18]. Подчеркнем, что матрица
должна быть использована в вычислениях
вектора
с двойной точностью.
3.2.7. Метод Гаусса для ленточной слау.
Во многих приложениях, матрица
коэффициентов СЛАУ является ленточной.
Матрица
называется ленточной, если
при
либо
.
Величина
называется шириной ленты. В частном
случае, когда
матрица называется трехдиагональной.
Общие формулы прямого и обратного ходов метода Гаусса (3.2.6) и (3.2.8), разумеется, остаются справедливыми и для ленточных матриц, но объем вычислений по ним может быть сокращен при учете структуры матрицы . Скорректированные формулы прямого хода имеют вид:
(3.2.24)
Ширина ленты системы (3.2.7), получающейся
после прямого хода, равна
.
В этой связи в формуле обратного хода
(3.2.8) надо учитывать только
слагаемых.
Заметим, что количество арифметических операций при решении ленточной СЛАУ методом Гаусса составляет
,
(3.2.25)
тогда в общем случае при реализации формул (3.2.6) и (3.2.8) число арифметических операций определяется оценкой
.
(3.2.26)
3.2.8. Слау с несколькими правыми частями.
При решении практических задач часто приходится решать несколько систем уравнений с одной и той же матрицей, но с разными правыми частями:
(3.2.27)
Совокупность таких систем с общей матрицей и разными правыми
частями называется СЛАУ с m-правыми
частями. Обозначим
и составим расширенную матрицу
Для получения решения осуществляется общий прямой ход и обратный по каждой правой части.
3.2.9. Вычисление обратной матрицы .
По определению обратной матрицы имеем:
,
где
– единичная матрица.
Следовательно, определение элементов обратной матрицы
(3.2.28)
сводится к решению систем вида
(3.2.29)
где
– единичные векторы. (3.2.30)
Матрицы этих систем одинаковы. Поэтому вычисление элементов обратной матрицы сводится к решению системы с n правыми частями со следующей расширенной матрицей:
.
(3.2.31)
§ 3.3. Итерационные методы решения систем линейных алгебраических уравнений
3.3.1. Понятие об итерационных методах решения слау.
Итерационные методы используются для решения систем уравнений
(3.3.1)
тогда, когда прямые методы типа метода Гаусса требует слишком много машинного времени или памяти. В самом деле, для реализации метода Гаусса решения системы n уравнений с n неизвестными требуется (3.2.26) арифметических операций, а при реализации метода Гаусса с выбором главного элемента по всей матрицы число действий и вовсе возрастает до
.
(3.3.2)
В этой связи, становится очевидным, что метод Гаусса не является удобным с практической точки зрения для решения больших СЛАУ [8-9,11,21,67].
В отличие от прямых методов, итерационные методы обычно не дают точного ответа за конечное число шагов, однако на каждом шаге уменьшают ошибку на какую-то долю. Итерации прекращают, когда ошибка становится меньше допуска, заданного вычислителем (пользователем). Величина финальной ошибки зависит от количества итераций, а также от свойств метода и СЛАУ. Другими словам, итерационные методы дают решение СЛАУ в виде предела последовательности некоторых векторов, построение которых осуществляется посредством единообразного процесса, называемого итерационным процессом.
Существенную часть работы по исследованию и повышению эффективности итерационных методов составляет использование связи решаемой СЛАУ с математической или физической постановкой задачи, которая ее породила.
В современной литературе описано большое количество итерационных методов, основанных на разных принципах. Многие методы удобны при использовании вычислительной техники, некоторые еще и достаточно просты. Однако каждый итерационный метод имеет свою ограниченную область применимости, так как, во-первых, итерационный процесс может оказаться расходящимся для данной системы и, во-вторых, сходимость процесса может быть настолько медленной, что практически оказывается невозможным достигнуть удовлетворительной близости к решению. Одним из наиболее предпочтительных современных итерационных методов является метод сопряженных градиентов c предобуславливанием [8,21,48].
Отметим, что хотя задача обращения матрицы эквивалентна решению n СЛАУ с одной и той же матрицей, итерационные методы относительно редко используются для этой цели.
Настоящий параграф посвящен краткому описанию двух простейших итерационных методов – метода простой итерации и метода Зейделя.
Итак, итерационные методы решения системы уравнений (3.3.1) состоят в построении последовательности векторов
(3.3.3)
по какому-либо алгоритму, такому, что
из
следует
.
При этом
где
– точное решение системы. (3.3.4)
Вычисления ведутся до тех пор, пока не станет
,
(3.3.5)
где – малое положительное число (заданная точность). С точностью до решение принимается равным .
