- •Глава 3 основы численных методов
- •§ 3.1. Основные понятия линейной алгебры
- •3.1.1. Линейное пространство. Евклидово пространство.
- •3.1.2. Арифметическое пространство. Векторы и операции над ними. Линейная зависимость векторов. Базис.
- •3.1.3. Матрицы и операции над ними. Некоторые виды матриц.
- •3.1.4. Скалярное произведение векторов.
- •3.1.5. Норма вектора. Некоторые свойства векторных норм. Абсолютная и относительная погрешности. Сходимость.
- •3.1.6. Норма матрицы. Некоторые свойства матричных норм.
- •3.1.7. Число обусловленности матрицы.
- •§ 3.2. Прямые методы решения систем линейных алгебраических уравнений
- •3.2.1. Общий вид системы линейных алгебраических уравнений (слау). Понятие о прямых методах решения слау.
- •3.2.2. Метод Гаусса.
- •3.2.3. Вычисление определителя матрицы коэффициентов системы. Некоторые свойства определителей.
- •3.2.4. Выбор главного элемента.
- •3.2.6. Итерационное уточнение.
- •3.2.7. Метод Гаусса для ленточной слау.
- •3.2.8. Слау с несколькими правыми частями.
- •3.2.9. Вычисление обратной матрицы .
- •§ 3.3. Итерационные методы решения систем линейных алгебраических уравнений
- •3.3.1. Понятие об итерационных методах решения слау.
- •3.3.2. Метод Зейделя и метод простой итерации.
- •3.3.3. Общий вид итерационного процесса.
- •§ 3.4. Методы вычисления собственных значений и собственных векторов матриц
- •3.4.1. Основные определения.
- •3.4.2. Характеристическое уравнение.
- •3.4.3. Понятие о методах решения проблемы собственных значений.
- •3.4.4. Определение максимального по модулю собственного числа степенным методом.
- •3.4.5. Собственные значения обратной матрицы.
- •3.4.6. Обобщенная проблема собственных значений.
- •3.4.7. Вычисление минимального собственного числа степенным методом.
- •§ 3.5. Методы численного интегрирования
- •3.5.1. Понятие о формулах численного интегрирования.
- •3.5.2. Формула прямоугольников (формула средних).
- •3.5.3. Формула трапеций.
- •3.5.4. Формула Симпсона.
- •3.5.5. Точность квадратурных формул.
- •3.5.6. Вычисление интеграла с заданной точностью.
- •3.5.7. О современных методах численного интегрирования.
- •§ 3.6. Методы решения нелинейных уравнений
- •3.6.1. Уравнения с одним неизвестным (скалярные).
- •3.6.2. Решение систем нелинейных уравнений.
- •§ 3.7. Метод наименьших квадратов
- •3.7.1. Понятие о методе наименьших квадратов (мнк).
- •3.7.2. Применение мнк для решения переопределенных систем линейных алгебраических уравнений.
3.3.2. Метод Зейделя и метод простой итерации.
Пусть задана система уравнений:
.
(3.3.6)
Выразим xi через остальные члены i-го уравнения:
.
(3.3.7)
Полученная запись СЛАУ приводит к двум итерационным процессам.
Метод простой итерации.
,
.
(3.3.8)
Метод Зейделя.
,
.
(3.3.9)
При этом
задается (
),
– номер итерации.
Процесс ведется до выполнения условия
.
Норму
вектора
можно вычислять по формулам, приведенным
в предыдущем параграфе настоящей Главы.
Разница методов состоит в том, что в
методе простой итерации новые значения
учитываются лишь после вычисления их
для всех
,
а в методе Зейделя они учитываются сразу
же после вычисления их для каждого
.
Достаточный признак сходимости обоих методов состоит в выполнении условия «диагонального преобладания»:
,
,
(3.3.10)
где
и, по крайней мере, одно неравенство
является строгим ( < ).
3.3.3. Общий вид итерационного процесса.
Пусть для задачи (3.3.1) метод Зейделя или
метод простой итерации либо не сходятся,
либо сходятся плохо. Что можно сделать
в таких случаях? Можно умножить обе
части равенства на
,
где
и
специально подобранные число и матрица,
улучшающие сходимость. Получим систему
,
(3.3.11)
решение которой совпадает с решением
исходной. Добавим далее к каждой части
этого равенства вектор
,
получим также эквивалентную систему
или
.
(3.3.12)
Построим общий итерационный процесс вида
,
(3.3.13)
что может быть представлено в виде
(3.3.14)
или
,
(3.3.15)
где имеют место следующие обозначения: – итерационный параметр;
;
(3.3.16)
– вектор невязки;
.
(3.3.17)
Легко видеть, что
определяется из системы уравнений
(3.3.18)
т.е. для определения не требуется обращать матрицу , поскольку этого не требуют алгоритмы решения системы уравнений.
Процесс (3.3.15) ведется до тех пор, пока не будет выполнено условие
.
(3.3.19)
Искусство вычислителя состоит в подборе и таких, чтобы про-
цесс сходился быстро и при этом задача
(3.3.18) легко решалась (т.е.
какая-либо «удобная матрица»: диагональная,
треугольная, имеющая известную обратную
матрицу и т.д.). Обозначим
,
тогда
.
(3.3.20)
Аналогично
можно представить как
.
(3.3.21)
Вычитая сторонами это уравнение из предыдущего, получим
.
(3.2.22)
Из (3.2.22) можно получить, что для сходимости итерационного процесса достаточно, чтобы норма матрицы была меньше единицы, т.е.
или
,
(3.3.23)
где величина
характеризует скорость сходимости.
Общее число итераций
определяется формулой
или
.
(2.3.24)
Если известны минимальное и максимальное
собственные числа матрицы
(
и
,
соответственно), то оптимальный параметр
и величина
определяются по формулам
,
.
(2.3.25)
Из этого следует, что сходимость тем
лучше, чем ближе соотношение
к единице.
Покажем, что метод Зейделя и метод простой итерации являются частными случаями итерационного процесса (3.3.13). Представим матрицу в виде
,
(3.3.26)
где
– нижняя треугольная матрица;
– верхняя треугольная матрица;
– диагональная матрица;
– сумма верхней и нижней треугольных
матриц;
;
(3.3.27)
;
(3.3.28)
;
(3.3.29)
.
(3.3.30)
Тогда простая итерация имеет вид
(3.3.31)
или
(3.3.32)
Аналогично можно представить метод Зейделя в виде
(3.3.33)
или
,
(3.3.34)
где
(3.3.35)
– нижняя треугольная матрица с главной диагональю.
Итак, в случае метода простой итерации
;
,
(3.3.36)
а в случае метода Зейделя
;
.
(3.3.37)
Покажем, что условие диагонального преобладания (3.3.10) является достаточным для сходимости как метода простой итерации, так и метода Зейделя. Обозначим
(3.3.38)
или
,
где
.
(3.3.39)
Тогда условие диагонального преобладания можно представить в виде
.
(3.3.40)
Воспользуемся нормой вектора, определенной как
.
(3.3.41)
Ассоциированная с нею норма матрицы имеет вид
,
(3.3.42)
откуда следует, что условие диагонального преобладания соответствует условию
.
(3.3.43)
Для метода простой итерации
,
тогда условие диагонального преобладания
приводит к выполнению достаточного
условия сходимости итерационного
процесса, т.е.
. (3.3.44)
В случае метода Зейделя итерационный процесс можно представить в виде
.
(3.3.45)
Пусть
– точное решение исходной задачи
(3.3.1). В этом случае
.
Вычитая сторонами это равенство из предыдущего для каждого , получим
,
(3.3.46)
где
– компоненты вектора погрешности,
,
.
(3.3.47)
Тогда
,
,
или
,
где
,
.
(3.3.48)
Следовательно, для всех выполняется неравенство
.
(3.3.49)
Из условия
,
(3.3.50)
следует, что
,
из чего вытекает, что
.
С другой стороны
поскольку
.
Получаем двойное неравенство
,
которое приводит к неравенству
.
(3.3.51)
Кроме того, из условия (3.3.50) также следует, что
.
(3.3.52)
Учитывая полученные выше оценки, можем записать
,
(3.3.53)
откуда
.
(3.3.54)
Точно также можно оценить
,
,
…,
,
что позволяет записать следующую цепочку
неравенств
.
(3.3.55)
Поскольку
,
то
.
(3.3.56)
