Министерство образования и науки Российской Федерации

Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования

«ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ»

(ТУСУР)

Кафедра телевидения и управления

(ТУ)

УТВЕРЖДАЮ

Заведующий кафедрой ТУ, профессор

_________________И.Н. Пустынский

«______»___________________2012 г.

Итерационные методы решения системы линейных алгебраичесKких уравнений с плотной матрицей

Учебное пособие

РАЗРАБОТАЛ

_________ Т.Р. Газизов

_________ С.П. Куксенко

«______»_________2012 г.

2012

Газизов Т.Р., Куксенко С.П. Итерационные методы решения системы линейных алгебраических уравнений с плотной матрицей: Учебное пособие. – Томск: кафедра ТУ, ТУСУР, 2012. – 159 с.

Излагаются основы теории менеджмента и маркетинга. Рассматриваются проблемы взаимодействия людей в организации, соотносится эволюция концепций маркетинга в России и за рубежом, раскрывается содержание комплекса маркетинга, особое внимание уделяется историческим этапам развития рекламы, процессам формирования рекламного обращения.

© Газизов Т.Р., Куксенко С.П., 2012

© Кафедра Телевидения и управления, ТУСУР, 2012

ОГЛАВЛЕНИЕ

Введение 5

1. Учет погрешностей приближенных вычислений 8

1.1. Источники и классификация погрешностей результата численного решения

задачи 8

1.2. Приближенные числа. Абсолютная и относительная погрешности 9

1.2.1. Абсолютная и относительная погрешности 9

1.2.2. Правила записи приближенных чисел 11

1.2.3. Округление 13

1.3. Погрешности арифметических операций над приближенными числами 14

1.4. Особенности машинной арифметики 16

1.4.1. Системы счисления 17

1.4.2. Представление целых чисел 18

1.4.3. Представление вещественных чисел 18

1.4.4. Арифметические операции над числами с плавающей точкой 21

1.4.5. Удвоенная точность 22

1.4.6. Вычисление машинного эпсилон 23

2. Прямые методы решения систем линейных алгебраических уравнений 24

2.1. Постановка задачи 24

2.2. Норма вектора 25

2.3. Скалярное произведение 26

2.4. Абсолютная и относительная погрешность вектора 26

2.5. Сходимость по норме 27

2.6. Норма матрицы 27

2.7. Обусловленность задачи решения системы линейных алгебраических

уравнений 29

2.8. Метод Крамера 35

2.9. Матричный метод 36

2.10. Метод Гаусса 38

2.10.1. Схема единственного деления 39

2.10.2. Метод Гаусса с выбором главного элемента по столбцу (схема

частичного выбора) 44

2.10.3. Метод Гаусса с выбором главного элемента по всей матрице (схема

полного выбора) 47

2.10.4. Случай, когда выбор главных элементов не нужен 48

2.10.5. Масштабирование 49

2.11. LU-разложение матриц 49

2.12. Решение СЛАУ с помощью LU-разложения 52

2.13. Обращение матриц с помощью LU-разложения 56

2.14. Разложение симметричных матриц. Метод Холецкого (метод квадратных

корней) 56

2.15. Метод прогонки 59

2.16. Метод исключения Жордана (Гаусса–Жордана) 63

2.17. QR-разложение матрицы 65

2.17.1. Метод вращений 66

2.17.2. Метод отражений 68

2.18. Итерационное уточнение 72

2.19. Сингулярное разложение матрицы 74

2.19.1. Переопределенная система 74

2.19.2. Сингулярное разложение матрицы 75

3

2.19.3. Использование сингулярного разложения для решения

переопределенных систем 76

2.19.4. Дополнительная информация о сингулярном разложении 76

2.20. Дополнительные замечания 77

3. Итерационные методы 79

3.1. Классические итерационные методы и релаксация 80

3.1.1. Методы Якоби и Гаусса–Зейделя 80

3.1.2. Ускорение сходимости релаксационных методов 84

3.2. Проекционные методы и подпространства Крылова 86

3.2.1. Общий подход к построению проекционных методов 86

3.2.2. Случай одномерных подпространств K и L 87

3.2.3. Два выбора подпространств 89

3.2.4. Подпространства Крылова 89

3.2.5. Базис подпространства Крылова. Ортогонализация Арнольди 91

3.2.6. Биортогонализация Ланцоша 93

3.3. Предобусловливание 94

3.3.1. Виды предобусловливания 96

3.3.2. Выбор структуры разреженности 101

3.4. Методы крыловского типа 105

3.4.1. Метод полной ортогонализации 105

3.4.2. Метод обобщенных минимальных невязок 109

3.4.3. Метод бисопряженных градиентов 111

3.4.4. Свободный от транспонирования метод квази-минимальных невязок 114

3.4.5. Стабилизированный метод бисопряженных градиентов 115

3.4.6. Метод квази-минимальных невязок 116

3.4.7. Квадратичный метод сопряженных градиентов 118

3.4.8. Симметричный случай 119

3.4.9. О других итерационных методах 122

4. Использование итерационных методов при решении СЛАУ с плотной матрицей

в анализе проводных антенн 124

4.1. Сравнение итерационных методов без использования предобусловливания 124

4.2. Сравнение итерационных методов при использовании предобусловливания 125

4.3. Оптимизация допуска обнуления при решении СЛАУ итерационным

методом BiCGStab с предобусловливанием 129

4.4. Ускорение решения СЛАУ за счет снижения точности вычисления 133

4.5. Сравнение способов предфильтрации 134

ЗАКЛЮЧЕНИЕ 147

ЛИТЕРАТУРА 148

ПРИЛОЖЕНИЕ. Коды программ на C++ 151

4

ВВЕДЕНИЕ

Решение системы линейных алгебраических уравнений (СЛАУ) имеет большое значение, поскольку к нему сводится решение широкого круга сложных практических задач. В линейной алгебре эту задачу называют первой основной задачей. Так, около 75% всех расчетных математических задач приходится на решение СЛАУ. Хотя эта задача сравнительно редко представляет самостоятельный интерес для приложений, от умения эф-фективно решать такие системы часто зависит сама возможность матема-тического моделирования самых разнообразных процессов с применени-ем компьютера. Как известно, значительная часть численных методов решения различных (в особенности − нелинейных) задач включает в себя решение СЛАУ как элементарный шаг соответствующего алгоритма.

Необходимость решения СЛАУ возникает при решении многомерных анизотропных краевых задач, в задачах вычислительной гидродинамики, в теории электрических цепей, при решении уравнений балансов и со-хранения в механике, гидравлике и т.п. В геомеханике матрица СЛАУ имеет чрезмерно большие размеры и является плохо обусловленной. По-этому обычные методы решения СЛАУ здесь оказываются неэффектив-ными. Задача нахождения устойчивых приближенных решений СЛАУ является определяющей задачей для гравиметрии и магнитометрии. Не-обходимость решения трехдиагональных СЛАУ возникает и в физике (оптика, теория теплопроводности, газовая динамика и др.), и в математи-ке (теория разностных схем, проекционные и вариационные методы). Также проблема решения СЛАУ существует в задачах управления и кон-троля, которые предъявляют высокие требования к скорости получения результатов, пусть даже приближенных. Среди них можно выделить класс задач оценки и предсказания критических ситуаций, связанных, например , с измерением температуры и вычислением плотности теплово-го потока на поверхности спускаемого летательного аппарата и др.

Задача решения СЛАУ имеет незапамятную историю. Так, самый из-вестный и уже ставший классическим метод исключения, развиваемый и изучаемый даже в наши дни, был предложен К. Гауссом в 1849 г. Однако еще до н.э. в Китае были изданы «Девять книг о математическом искус-стве», где этот алгоритм был изложен в характерной для своего времени «натуральной» форме, но фактически с использованием матричных пре-образований.

Становление современных вычислительных методов линейной алгеб-ры можно считать состоявшимся после выхода в 1963 г. книги Фадеевых (Фадеев Д.К., Фадеева В.Н. Вычислительные методы линейной алгебры).

5

Необходимо подчеркнуть, что актуальные проблемы вычислительной ал-гебры имеют фундаментальный характер не только потому, что текущая компьютеризация различных областей знаний в значительной степени сводится к векторно-матричным процедурам. Изучение матриц, являю-щихся операторами в простейших конечномерных пространствах, позво-ляет обнаружить наиболее глубокие и тонкие свойства математических объектов, имеющие свое значение для функционального анализа, теории аппроксимации, дифференциальных уравнений и т.д.

• настоящее время имеется значительное число учебников и моно-графий, посвященных вычислительным методам. Однако в них методам решения СЛАУ уделено, как правило, недостаточное внимание и не от-ражена вся совокупность этих методов. Кроме того, большинство этих книг ориентировано на студентов-математиков или на специалистов по вычислительной математике. В то же время практически отсутствует отечественная учебная литература, в которой доступным для студента технического вуза языком были бы изложены основы методов решения линейных систем, применяемых для решения практических задач. Осо-бенно острой, по мнению авторов, является потребность в книге, которая давала бы представление о реально используемых в вычислительной практике алгоритмах. Данная работа призвана в определенной степени восполнить этот пробел. Кроме того, книга содержит результаты вычис-лительных экспериментов, проведенных авторами на практических зада-чах, а также листинг работающих и используемых кодов на C++. Таким образом, работа включает не только уникальный обзор, но и органично дополняющие его оригинальные материалы с конечными результатами.

Дадим краткое изложение содержания книги.

• гл. 1 наряду с введением в элементарную теорию погрешностей со-держится изложение основных особенностей машинной арифметики. Понимание этих особенностей необходимо тем, кто заинтересован в эф-фективном применении ЭВМ для решения прикладных задач. Данная глава основана на [1], поскольку эта работа включает все необходимые сведения для усвоения дальнейшего материала.

• гл. 2 рассмотрены прямые (точные) методы решения СЛАУ. Основ-ное внимание уделяется методу Гаусса и его различным модификациям. Рассматриваются использование LU-разложения матриц для решения СЛАУ, метод Крамера, матричный метод, метод прогонки, метод Гаусса– Жордана, метод квадратного корня, методы вращений и отражений. Об-суждается алгоритм итерационного уточнения. Некоторые из этих мето-дов используются в схемах итерационных методов, а также для повыше-ния быстродействия итерационного процесса. Так, например, очень часто

6

LU-разложение используется при формировании матрицы предобуслов-ливания.

• гл. 3 рассмотрены итерационные методы решения СЛАУ, начиная с классических (Якоби, Гаусса–Зейделя, релаксации и др.). Особое внима-ние уделено построению так называемых проекционных методов и, в ча-стности, того их класса, который связан с проектированием на подпро-странства Крылова. Так, детально рассмотрены методы бисопряженных градиентов, квази-минимальных невязок, сопряженных градиентов и др.

• гл. 4. показано уменьшение времени решения СЛАУ итерационны-ми методами за счет использования предфильтрации и предобусловлива-ния. Также приведены результаты вычислительных экспериментов по сравнению способов предобусловливания и предфильтрации, проведен-ных авторами на примере вычисления токов в проводной антенне.

• приложении приведен листинг файлов, содержащих функции, по-зволяющие решать СЛАУ итерационными методами с несколькими спо-собами предобусловливания и предфильтрации, а также прямыми мето-дами. Данные файлы используются в модуле MATRIX системы TALGAT

• показали свою работоспособность.

Монография может быть использована в высшем профессиональном образовании в качестве учебного пособия по естественнонаучным и спе-циальным дисциплинам, связанным с вычислительной математикой, ма-тематическим моделированием, автоматизированным проектированием. Так, материалы монографии в течение нескольких лет используются ав-торами в Томском государственном университете систем управления и радиоэлектроники в образовательной программе высшего профессио-нального образования для студентов специальностей 201500 – «Бытовая радиоэлектронная аппаратура», 201400 – «Аудиовизуальная техника », 230700 – «Сервис» по дисциплинам: «Электромагнитная совместимость и безопасность радиоэлектронной аппаратуры»; «Основы компьютерного проектирования и моделирования РЭС»; «Системы автоматизированного проектирования в сервисе»; «Учебно -исследовательская работа», а также студентами и аспирантами в ходе научно-исследовательской работы, учебно-научного проектирования и группового проектного обучения по направлению «Электромагнитная совместимость».

Авторы выражают большую признательность за помощь и поддержку в этой работе А.О. Мелкозерову, Т.Т. Газизову, А.М. Заболоцкому, И .С. Костареву, С. Т. Сивцеву и за ряд ценных замечаний А. Г. Дмитренко и Н.Д. Малютину. Авторы благодарят ректорат ТУСУРа за помощь в из-дании этой монографии.

7