num-meth

ξ= λmin(B−1A) , λmax(B−1A)

Вкачестве нормы · M выбирается норма:

√

zˆ M = (Mz,ˆ zˆ)

1.2.2.6Метод минимальных невязок.

Методом минимальной невязки называется итерационный процесс

Метод минимальных невязок сходится с такой же скоростью, как и метод простых итераций.

Оценка погрешности осуществляется по формуле:

A(ˆx(k+1) − xˆ) E = ρk0 A(ˆx(0) − xˆ) E

1.2.2.7Метод минимальных поправок.

Пусть матрица M > 0 и матрица A – невырождена. Тогда итерационный процесс

xˆ(k+1) − xˆ(k)

(k) ˆ

M + Axˆ = b

τ

приводится к виду

xˆ(k+1) = xˆ(k) − τk+1B−1rˆk, k = 0, 1, 2, . . .

Вектор wˆk = B−1rˆk называется поправкой. А сам итерационный процесс называется

итерационным процессом минимальных поправок, если параметр τk+1 выбирается из соображения минимума нормы:

√

wˆ(k+1) M = (Mwˆ(k+1), wˆ(k+1))

Примем без доказательства, что искомое значение параметра τk+1 вычисляется по формуле:

(Awˆk, wˆk)

τk+1 = (B−1Awˆk, Awˆk)

Оценка погрешности записывается следующим образом:

1.2.2.8Метод скорейшего спуска.

ˆ

Явным методом скорейшего спуска решения системы Axˆ = b с положительно определенной матрицей A называется итерационный процесс

поскольку при симметрической матрице A произведение

(A2zˆk, zˆk) = (Azˆk, Azˆk).

Отсюда следует, что норма zˆk+1 A достигает своего минимума при

(Azˆk, Azˆk)

τk+1 = (A2zˆk, Azˆk),

т.е. в точке τk+1, где производная функции (1.28) равна нулю. Так как вектор zˆk = xˆ(k) −xˆ неизвестен, заметим, что вектор

Таким образом, при проведении явного метода скорейшего спуска для перехода от k-й итерации к (k + 1)-й итерации следует по найденному вектору xˆ(k) вычислить вектор-

ˆ

невязку rˆk = Axˆ(k) − b и по формуле (1.29) вычислить значение τk+1. Затем из соотношения (1.27) вычислить xˆ(k+1).

Таким образом, при переходе в неявном методже скорейшего спуска от k-й итерации к

Неявный метод скорейшего спуска сходится с такой же скоростью, как и метод простой итерации. Для погрешности выполняется оценка

xˆ(k) − xˆ A ≤ ρk0 xˆ(0) − xˆ A, k = 0, 1, 2, . . . ,

1.3Проблема собственных значений и собственных векторов матриц

Решение многих задач вовлекает необходимость анализа квадратных матриц, в частности, вычисления или оценки ее собственных значений. Например, при решение системы дифференциальных уравнений при построении фундаментальной системы решений требуется вычислить собственные значения матрицы коэффициентов при неизвестных.

В зависимости от того, требуется ли вычислить все собственные значения матрицы или только некоторые, выделяют, соответственно, полную и частичную проблемы собственных значений.

Методы решения проблемы собственных значений подразделяются на две большие группы – прямые и итерационные. Т.к. определение собственных значений матрицы связано с вычислением определителя матрицы |A −λE|, а непосредственное раскрытие этого определителя связано с громоздкими вычислениями, то такого непосредственного раскрытия стараются избегать.

1.3.1Локализация собственных значений

Квадратная матрица A порядка n имеет доминирующую главную диагональ, если каждый ее диагональный элемент по модулю превосходит сумму модулей остальных элементов той же строки:

Если матрица обладает доминирующей главное диагональю, то говорят, что для этой матрицы выполнено условие диагонального преобладания.

Лемма 1.3.1. Если матрица A имеет доминирующую главную диагональ, то ее определитель отличен от 0.

Доказательство. Предположим, что |A| = 0. Тогда однородная система Axˆ = 0 имеет невырожденное решение xˆ0. Допустим, что x0i – максимальная по модулю компонента этого решения. Подставим это решение в i-е уравнение однородной СЛАУ:

∑n

aijx0j = 0

j=1

Или, перенося все слагаемые, кроме i-го, в правую часть:

Т.к. x0i – это максимальный по модулю элемент вектора xˆ0, а значит, максимальный по модулю среди x01, . . . , x0n, то приходим к неравенству:

что противоречит условию теоремы о преобладающей диагонали матрица A. J

Теорема 1.3.1. Все характеристические числа λ1, . . . , λn матрицы A содержатся в объединении кругов

Доказательство. Предположим обратное, и какое-то характеристическое число матрицы A не содержится в объединении кругов 1.3.1. Легко видеть, что в этом случае все равенства в условии 1.3.1 обращаются. В результате приходим у условию диагонального преобладания в матрицах A − λiE, что означает их невырожденность, т.е. неравенство 0 определителя, а это противоречит условию существования характеристических чисел.J

Круги 1.3.1 называются локализационными кругами матрицы A.

Пусть λ1, . . . , λn – характеристические числа матрицы A. Тогда число λA = max |λi|

i

называется спектральным радиусом этой матрицы.

Теорема 1.3.2. Спектральный радиус λA матрицы A не превосходит любой нормы этой матрицы: λA < A .

Доказательство. Пусть характеристические числа матрицы A занумерованы так, что λA = λ1. Пусть далее, xˆ – собственный вектор, отвечающий этому характеристическому числу.

Axˆ = λ1xˆ

ˆ ˆ

Возьмем квадратную матрицу X = (ˆx, 0, . . . , 0). Очевидно, любая норма этой матрицы больше нуля. Очевидно также, что

(α′) b21x1 + · · · + b2nxn = λ2x1,

∑n

p=1

Далее уравнение (α′) домножим на λ и снова выразим λxi через xi. Придем к еще одному уравнению:

(α′′) b31x1 + · · · + b3nxn = λ3x1,

∑n

где b3k = b2papk.

p=1

Выполняя описанный процесс (n − 1) раз, перейдем к системе:

ский многочлен этой системы ϕ1(λ) имеет тот же вид, что и для системы 1.36, отличаясь от последнего только множителем:

Первая строка совпадает с определителем 1.36. Теперь, учитывая, что определитель не меняется, если к какой-либо его строке прибавить линейную комбинацию других его строк, прибавим к второй строке первую, умноженную на λ. Вторая строка тогда примет вид:

b21 − λ2 b22 . . . b2n

Теперь уже две первые строки приобретают такой же вид, как у 1.36. Продолжая аналогично, приводим весь полученный определитель к виду 1.36. Таким образом установлено, что 1.35 и 1.36 эквивалентны. Из уравнения ϕ1(λ) = 0 находим коэффициента характеристического многочлена:

pi = (−1)n−1Ai , c

где Ai – алгебраические дополнения элементов определителя 1.36, содержащих λn−1. Существует модификация метода Крылова, позволяющая избежать подсчета миноров.

Согласно теореме Гамильтона-Кэли, матрица A обращает в нуль свой характеристический многочлен:

(β) An − p1An−1 − · · · − pn−1A − pnE = 0

Сам характеристический полином записывается при этом в виде:

ϕ(λ) = (−1)n(λn − p1λn−1 − · · · − pn−1λ − pn)

Возьмем произвольный вектор: yˆ(0). Запишем, домножая справа равенство (β) на этот вектор:

Anyˆ(0) − p1An−1yˆ(0) − · · · − pn−1Ayˆ(0) − pnEyˆ(0) = 0

Выполним замену: yˆ(k) = Akyˆ(0) = Ayˆ(k−1), k = 1, n. Приходим к равенству:

p1yˆn−1 + · · · + pnyˆ(0) = yˆ(n)

Это в точности СЛАУ относительно вектора pˆ коэффициентов характеристического многочлена.

Если оказывается, что система векторов yˆ(0), . . . , yˆ(n) – линейно зависима (это соответствует случаю, когда c = 0), то в данной системе выбирается максимальная линейно независимая подсистема, и для нее применяется описанный метод. В этом случае степень характеристического многочлена оказывается равной рангу системы векторов yˆ(0), . . . , yˆ(n).

Для вычисления всех коэффициентов характеристического многочлена методом Крылова требуется порядка n4 операций деления и умножения.

В процессе вычисления коэффициентов характеристического многочлена и собственных значений матрицы можно также получить собственные векторы этой матрицы. Пусть коэффициенты p1, . . . , pn и собственные значения λ1, dots, λn определены, а собственные значения все различны. Найдем собственные векторы матрицы A.

Возьмем рассмотренную выше систему векторов yˆ(0), . . . , yˆ(n−1), которая использовалась в процессе вычисления коэффициентов p1, . . . , pn. Собственные векторы xˆ1, . . . , xˆn линейно независимы и поэтому образуют базис, в котором можно разложить векторы yˆ(0), . . . , yˆ(n−1). В частности, имеем:

∑n

yˆ(0) = ckxˆk

k=1

Учитывая, что векторы yˆ(0), . . . , yˆ(n−1) задаются, по построению, рекуррентно, получа-

ем:

∑n

yˆ(i) = Aiyˆ(0) = ckAixˆk

k=1

Так как векторы xˆ1, . . . , xˆn – это собственные векторы матрицы A, то Axˆi = λixˆi, откуда приходим к системе равенств:

∑n

yˆ(i) = ckλixˆk, i = 0, n − 1

k=1

Используя эту систему равенств, нетрудно показать, что линейная комбинация векторов yˆ(0), . . . , yˆ(n−1), при подходящем выборе коэффициентов, дает собственный вектор матрицы A. Легко видеть, что:

β10 = 1, β1i = λ1β1,n−1 − pi, i = 1, n − 1

В итоге имеем:

Таким образом, действительно, линейная комбинация векторов yˆ(0), . . . , yˆ(n−1) позволяет определить собственные векторы матрицы A.

1.3.2.2Метод Данилевского.

Метод Данилевского относится к числу самых эффективных, он значительно менее трудоемок по сравнению с методом Крылова. Общее число операций деления и умножения составляет порядка n3.

Суть метода заключается в приведении исходной матрицы к подобной ей вида:

Элементы первой строки приведенной матрицы как раз и являются коэффициентами характеристического многочлена:

ϕ(λ) = (−1)n(λn − p1λn−1 − · · · − pn−1λ − pn)

Упражнение 1.3.1. Проверить данное утверждение !

Замечание 1.3.1. Приведенная форма матрицы называется нормальной формой Фробениуса.

Приведение матрицы к нормальной форме Фробениуса заключается в следующем процессе. На первом этапе необходимо последнюю строку исходной матрицы привести к виду:

0, то выполним перестановку столбцов и строк матрицы. В результате этой операции последняя строка примет вид:

Далее, из каждого i-го столбца, кроме (n−1)-го, вычтем (n−1)-й столбец, домноженный на элемент ani. В результате, последняя строка матрицы примет требуемый вид.

Выполнение проделанной операции равносильно умножению исходной матрицы A на следующую матрицу:

Однако оказывается, что матрица B = AMn−1 не будет подобна исходной матрице.

Чтобы подобие имело место, необходимо матрицу B дополнительно домножить слева на

Mn−−11:

В результате, получим подобную матрицу:

Mn−−11AMn−1 A

Последующие матрицы Mn−k строятся аналогично, с той лишь разницей, что за основу в них берется строка с номером n − k. Всего таких матриц потребуется n − k.

Таким образом, преобразование исходной матрицы к нормальной форме Фробениуса записывается в виде:

P = M1−1 . . . Mn−−11AMn−1 . . . M1

Метод Данилевского также позволяет отыскивать собственные векторы. Рассмотрим систему:

(P − λE)ˆy = 0

Определитель этой системы равен 0, следовательно, система имеет бесконечное число решений. С точностью до произвольной постоянной, ее решения можно найти так. Пусть yn = 1. Тогда обратным ходом метода Гаусса по матрице P − λE получим:

yn−1 = λ yn−2 = λ2

. . . . . . . . .

y1 = λn−1

Таким образом, получаем собственный вектор матрицы P . Вспомним, что P = S−1AS. Тогда собственный вектор матрицы A:

xˆ = Syˆ = Mn−1 . . . M1yˆ