Белорусский государственный университет

В.М.Волков

Численные методы линейной алгебры

теоретический минимум для студентов 5-го курса

механико-математического факультета

(заочное отделение)

Минск 2009

В.М.Волков. Численные методы линейной алгебры.

Теоретический минимум для студентов 5-го курса механико-математического факультета

Численные методы алгебры играют ключевую роль в современных методах вычислений, поскольку практически все актуальные задачи современной вычислительной математики в конечном итоге замыкаются на решение задач алгебраического плана. Наиболее важные задачи алгебры, ассоциируемые с компьютерными вычислениями, состоят в решении систем алгебраических уравнений и сопутствующих им проблем (обращение матриц, проблемы собственных значений и собственных векторов, минимизации функционалов и т.п.).

Данное пособие дает краткое изложение основных концепций и алгоритмов численного анализа алгебраических задач, получивших широкое распространение в практике вычислений и давших начало современным вычислительным технологиям. Особенность данного пособия состоит в том, что рассмотренные алгоритмы приводятся в формате алгебраических операций над векторами и матричных без детализации структуры алгоритма на уровне поэлементной арифметики. Предполагается при этом, что практические занятия проводятся с использованием среды программирования Matlab, где отсутствует необходимость такой детализации.

Введение

Численные методы линейной алгебры, несмотря на их многообразие и кажущуюся на первый взгляд разобщенность, имеют общую алгоритмическую особенность – решение задачи может быть выражено последовательностью алгебраических операций над матрицами и векторами. Если использование алгоритма решения задачи позволяет получить решение за фиксированное число операций, то алгоритм называется прямым. Если метод основывается на повторяющейся вычислительной процедуре, каждый цикл которой дает более точное приближение искомого решения, то такой метод принято называть итерационным.

Суть большинства прямых и итерационных численных методов линейной алгебры заключается в достаточно прозрачной идее. Существуют матрицы специального вида, для которых задачи решения систем ЛАУ и проблема собственных значений в известной мере тривиальны (например, диагональные матрицы, матрицы треугольного вида и т.п.). В силу этого, имея дело с матрицей произвольного вида, естественно попытаться произвести редукцию исходной задачи к эквивалентной или контролируемо приближенной задаче с матрицей, удобной для последующего анализа. Ответ на вопрос о том, всегда ли осуществима и технически реализуема подобного рода редукция, отсылает нас к фундаментальным теоремам линейной алгебры и теории матриц. Здесь, однако, важно отметить отличие методов линейной алгебры и вычислительные аспекты соответствующих проблем. Выводы линейной алгебры базируются на том, что все вычисления выполняются точно. Компьютерные расчеты, в силу приближенности представления действительных чисел и операций с ними, вносят возмущения в вычислительный процесс. При определенных обстоятельствах, если метод имеет тенденцию к вычислительной неустойчивости или матрица задачи имеет плохую обусловленность, данные возмущения могут испытывать неконтролируемый рост, способный приводить к полной потере точности конечного результата или даже к выходу за пределы стандартного представления действительных чисел с плавающей запятой. По этой причине, наряду с алгоритмическими аспектами численных методов неотъемлемой проблемой является анализ устойчивости и вычислительной погрешности.

1. Задачи линейной алгебры.

1.1 Основные понятия

Векторы и матрицы, сложение и умножение матриц, обратная матрица, разреженные матрицы (диагональные треугольные и ленточные матрицы), симметричные матрицы, транспонирование, скалярное умножение векторов.

Как отмечалось выше, численные алгоритмы линейной алгебры сводятся к последовательности арифметических операций с векторами и матрицами – элементами конечномерных векторных пространств и операторами. Напомним, что под вектором понимается конечная упорядоченная последовательность чисел ( . В векторном пространстве определены следующие операции:

– сложение;

– умножение на скаляр;

– скалярное умножение¹.

Матрицей называется совокупность чисел , упорядоченных в виде прямоугольной таблицы размера :

Матрицу можно рассматривать также как упорядоченную совокупность векторов, образующих ее строки или столбцы. Индексы элемента определяют его позицию в k-той строке и m-том столбце (изменениям первого индекса соответствует изменению положения в столбце, а второго – положения в строке). Размерность матрицы указывает на то, что матрица имеет строк и столбцов соответственно. Если , то матрица называется квадратной и определяет оператор в N-мерном векторном пространстве.

Матрицы, существенная часть элементов которых равны нулю, принято называть разреженными. Существует несколько классов разреженных матриц специального вида, обладающих рядом полезных свойств с точки зрения матричных вычислений.

1. диагональные матрицы: , ;

2. нижние (левые) треугольные матрицы: , ;

3. верхние (правые) треугольные матрицы: , . ;

4. ленточные матрицы: , ;

5. матрицы перестановок, вращений и отображений.

Операции умножения матрицы на скаляр и сложение матриц одинаковой размерности определяются аналогично соответствующим векторным операциям.

Операция умножения матриц сводится к вычислению скалярных произведений вектор-строк первого сомножителя на вектор-столбцы второго. В частности, произведением матрицы на матрицу является матрица , элементы которой вычисляются следующим образом

, , .

Произведение матрицы на вектор определяется аналогично умножению матриц соответствующих размерностей:

.

В матричном анализе часто фигурируют также операции обращения и транспонирования матриц. Матрица обратная заданной матрице называется такая матрица , для которой выполняется тождество

,

где – единичная матрица, все элементы которой, за исключением единичных значений на главной диагонали, равны нулю: . Матрицы, для которых существуют обратные, называются невырожденными. Матрица , транспонированная по отношению к заданной матрице , получается из исходной матрицы заменой ее строк на столбцы: . Если транспонированная матрица совпадает с исходной, то такие матрицы называют симметричными (симметрическими).

Основные задачи линейной алгебры состоят в решении систем линейных алгебраических уравнений и вычислении собственных векторов и собственных значений матриц. Решение системы линейных алгебраических уравнений состоит в вычислении неизвестного вектора удовлетворяющего равенству , для заданных вектора и матрицы . Проблема собственных векторов и собственных значений матрицы состоит в нахождении чисел , и соответствующих им векторов , для которых удовлетворяется равенство или . Множество всех собственных значений называется спектром матрицы, а максимальное по абсолютной величине собственное значение – спектральным радиусом.