1. Решение матричных уравнений.

Рассмотрим систему n линейных алгебраических уравнений относительно n неизвестных х₁, х₂, …, х_n:

a₁₁x₁ + a₁₂x₂ + … + a_1nx_n = b₁,

a₂₁x₁ + a₂₂x₂ + … + a_2nx_n = b₂,

………………………….

a_n1x₁ + a_n2x₂ + … + a_nnx_n = b_n

Эта система в свёрнутом виде может быть записана в виде

, i = 1, 2, …, n.

В соответствии с правилом умножения матриц, рассмотренная система линейных уравнений может быть записана в матричном виде , где

, ,.

Матрица А, столбцами которой являются коэффициенты при соответствующих неизвестных, а строками – коэффициенты при неизвестных в соответствующем уравнении, называется матрицей системы; матрица-столбец , элементами которой являются правые части уравнений системы, называетсяматрицей правой части или просто правой частью системы. Матрица-столбец , элементы которой – искомые неизвестные, называется решением системы.

Таким образом система линейных алгебраический уравнений может быть записана в матричном виде – в виде простейшего матричного уравнения (коэффициенты и неизвестные которого – прямоугольные матрицы соответствующей размерности) .

Если матрица системы невырождена (т.е. её определитель отличен от нуля), то у неё существует обратная матрица и тогда решение системы легко получить, умножив обе части уравнения слева на матрицу А^-1: А^-1(А) = А^-1, а посколькуА^-1А = Е и Е =, то= А^-1.

2. Решение линейной системы методом Гаусса.

Методы решения систем линейных алгебраических уравнений можно разделить на точные и приближённые.

Метод решения задачи относят к классу точных, если в предположении отсутствия округлений с его помощью можно найти решение в результате конечного числа операций.

Например, метод Крамера – точный метод.

Метод Гаусса (методом гауссовых исключений) – точный метод решения системы линейных алгебраических уравнений. Он состоит в том, что систему n линейных алгебраических уравнений относительно n неизвестных х₁, х₂, …, х_n

a₁₁x₁ + a₁₂x₂ + … + a_1nx_n = b₁,

a₂₁x₁ + a₂₂x₂ + … + a_2nx_n = b₂,

………………………….

a_n1x₁ + a_n2x₂ + … + a_nnx_n = b_n

приводят последовательным исключением неизвестных к эквивалентной системе с треугольной матрицей

x₁ + c₁₂x₂ + … + c_1nx_n = d₁,

x₂ + … + c_2nx_n = d₂,

…………….

x_n = d_n,

решение которой находят по рекуррентным формулам

_{, ,} i = n - 1, n - 2, …, 1.

В матричной записи это означает, что сначала (прямой ход метода Гаусса) элементарными операциями над строками приводят расширенную матрицу системы к ступенчатому виду:

,

а затем (обратный ход Гаусса) эту ступенчатую матрицу преобразуют так, чтобы в первых столбцах получилась единичная матрица:

1 0 ….. 0 х₁

0 1 ….. 0 х₂

……………….

0 0 ..… 1 х_n

Последний, (n + 1)-й столбец этой матрицы содержит решение системы.

В Mathcad прямой и обратный ходы метода Гаусса выполняет функция rref(А).

3. Решение системы линейных алгебраических уравнений методом простых итераций.

Данный метод часто применяется для систем с разреженными матрицами, т.е. большинство элементов которых – нули. Рассмотрим простейший итерационный метод решения линейной системы – метод простых итераций.

Метод состоит в том, что система уравнений C=d преобразуется к виду =+A и её решение вычисляется как предел последовательности

x^(k) = +A ^(k-1), k = 1, 2,….

Преобразовать систему C=d к виду = + A можно, выделив диагональные элементы:

, i=1, 2,…, n.

Для того, чтобы сформулировать достаточное условие сходимости метода, напомним определения норм, наиболее часто употребляемых при исследовании линейных систем. Понятие нормы позволяет оценить степень близости двух векторов. В частности, если норма разности точного и приближённого решений системы мала, то, по-видимому, приближённое решение хорошо аппроксимирует точное решение.

Существует много способов введение нормы вектора. Чаще всего используются следующие три нормы:

1. 

2. 

3. 

где х=(х₁, х₂,…,х_n).

Эти нормы эквивалентны: когда некоторая последовательность векторов по одной из этих норм стремиться к нулю, то она стремиться к нулю и по другой норме.

Для сходимости метода простых итераций ^(k) = +A ^(k-1) достаточно, чтобы выполнялось условие < 1 по какой-либо норме матрицы, согласованной с нормой векторов. В качестве условия окончания итерационного процесса можно взять условие

,

где - заданная погрешность приближённого решения.

Приложение D

Общая теория линейных систем

Рассмотрим систему m линейных алгебраических уравнений относительно n неизвестных х₁, х₂, …, х_n:

a₁₁x₁ + a₁₂x₂ + … + a_1nx_n = b₁,

a₂₁x₁ + a₂₂x₂ + … + a_2nx_n = b₂,

……………………………………

a_m1x₁ + a_m2x₂ + … + a_mnx_n =b_m.

Решением системы называется совокупность n значений неизвестных

́, х₂ = х₂́, …, х_n = x_ń,

при подстановке которых все уравнения системы обращаются в тождества.

Система, имеющая хотя бы одно решение, называется совместной, система, не имеющая ни одного решения, - несовместной.

Система линейных уравнений может быть записана в матричном виде: , где А – матрица системы, – правая часть, – искомое решение, А_р – расширенная матрица системы:

, ,,

.

1. Однородные системы линейных алгебраических уравнений.

Однородной системой линейных уравненийназывается система, правая часть которой равна нулю:

a₁₁x₁ + a₁₂x₂ + … + a_1nx_n = 0,

a₂₁x₁ + a₂₂x₂ + … + a_2nx_n = 0,

…………………………………

a_m1x₁ + a_m2x₂ + … + a_mnx_n = 0.

Однородная система всегда совместна, поскольку имеет по крайней мере одно решение: х₁ = 0, х₂ = 0, …, х_n = 0.

Если однородная система имеет единственное решение, то это единственное решение – нулевое, и система называется тривиально совместной. Если же однородная система имеет более одного решения, то среди них есть ненулевые и в этом случае система называется нетривиально совместной. Доказано, что при m=n для нетривиальной совместимости необходимо и достаточно, чтобы определитель матрицы системы был равен нулю.

Применив к матрице системы алгоритм гауссовых исключений, приведём матрицу системы к ступенчатому виду

1. с₁₂ …с_1r … c_1n

0. 1 … c_2r … c_2n

……………………………

0 0 … 1 … c_rn

0 0 … 0 … 0

…… ………………………

0 0 … 0 … 0

Число r ненулевых строк в ступенчатой форме матрицы называется рангом матрицы, обозначается r=rg(A) или r=Rg(A).

Для того, чтобы однородная матрица была нетривиально совместна, необходимо и достаточно, чтобы ранг r матрицы системы был меньше числа неизвестных n.

Пример исследования на совместимость однородной системы:

Исходная система:

2x₁ + x₂ + 4x₃ + 3x₄ = 0

3x₁ - 4x₂ + 7x₃ + 5x₄ = 0

4x₁ - 9x₂ + 8x₃ + 5x₄ = 0

-3x₁ + 2x₂ - 5x₃ + 3x₄ = 0

В Mathcad ранг матрицы можно вычислить с помощью функции rank(A).

Система тривиально совместна, имеет только нулевое решение.

Если однородная система нетривиально совместна, то она имеет бесконечное множество решений, среди которых можно выделить ровно n-r линейно независимых. Совокупность таких решений называется фундаментальной системой решений. Таким образом, если ранг r матрицы А однородной линейной системы А=0меньше числа неизвестных n и векторы е₁, е₂, …, е_n-r образуют её фундаментальную систему решений (Ае_i = 0, i = 1, 2, …, n - r), то любое решение х системы А=0можно записать в виде

x = с₁е₁ +с₂е₂ + … + с_n-re_n-r,

где с₁, c₂, …, c_n-r – произвольные постоянные.

Выражение

x = с₁е₁ + с₂е₂ +… + с_n-re_n-r,

называется общим решением однородной системы.

Исследовать однородную систему – это значит установить, является ли она нетривиально совместной, и если является, то найти фундаментальную систему решений и записать выражение для общего решения системы.

Исследуем однородную систему методом Гаусса.

Пусть

- матрица исследуемой однородной системы, ранг которой r<n.

Такая матрица гауссовыми исключениями приводится к ступенчатому виду

1 0 … 0 c_{1, r+1} … c_1n

0 1 … 0 c_{2, r+1} … c_2n

……………………………

0 0 … 1 c_{r, r+1} … c_rn

0 0 … 0 0 …… 0

……………………………

0 0 … 0 0 …… 0

Соответствующая эквивалентная система имеет вид

x₁ + c_{1, r+1}x_r+1 + … + c_1nx_n = 0

x₂ + c_{2, r+1}x_r+1 + … + c_2nx_n = 0

……………………………………

x_r + c_{r, r+1}x_r+1 + … + c_rnx_n = 0

Отсюда легко получить выражения для переменных x₁, x₂, …, x_r через x_r+1, x_r+2, …, x_n. Переменные x₁, x₂, …, x_r называют базисными переменными, а переменные x_r+1, x_r+2, …, x_n – свободными переменными.

Перенеся свободные переменные в правую часть, получим формулы

x₁ = - c_{1, r+1}x_r+1-…- c_1nx_n

x ₂= -c_{2, r+1}x_r+1-…- c_2nx_n

_{…………………………………………..}

x_r = -c_{r, r+1}x_r+1-…- c_rnx_n

которые определяют общее решение системы.

Положим последовательно значения свободных переменных равными:

x_r+1 = 1 x_r+2 = 0 x_r+3 = 0 ….. x_n = 0

x_r+1 = 0 x_r+2 = 1 x_r+3 = 0 ….. x_n = 0

………………………………………..........

x_r=1 = 0 x_r+2 = 0 x_r+3 = 0 ….. x_n = 1

и вычислим соответствующие значения базисных переменных. Полученные n - r решений линейно независимы и, следовательно, образуют фундаментальную систему решений исследуемой однородной системы:

, , …, , .

2. Неоднородные системы линейных алгебраических уравнений

Рассмотрим неоднородную систему m линейных алгебраических уравнений относительно n неизвестных х₁, х₂, …, х_n:

a₁₁x₁ + a₁₂x₂ +… + a_1nx _n= b₁,

a₂₁x₁ +a₂₂x₂ + … + a_2nx_n = b₂,

…………………………………

a_m1x₁ + a_m2x₂ + … + a_mnx_n = b_m.

Такая система совместна не всегда. Справедливо следующее утверждение (теорема Кронекера – Капели): для того, чтобы неоднородная система линейных алгебраических уравнений была совместна, необходимо и достаточно, чтобы ранг расширенной матрицы системы совпадал с рангом матрицы системы.

Исследовать неоднородную систему– значит установить, является ли она совместной, и если является – найти выражение для общего решения системы.

Исследуем неоднородную систему методом Гаусса.

Пусть

- расширенная матрица исследуемой системы, ранг которой r равен рангу матрицы системы и r < n.

Такая матрица гауссовыми исключениями приводится к ступенчатому виду

1 0 … 0 c_{1, r+1} … c_1n d₁

0 1 … 0 c_{2, r+1} … c_2n d₂

…………………………………

0 0 … 1 c_{r, r+1} … c_rn d_r

0 0 … 0 0 … 0 0

…………………………………

0 0 … 0 0 … 0 0

Соответствующая эквивалентная система имеет вид

x₁ + c_{1, r+1}x_r+1 + … + c_1nx_n = d₁

x₂ + c_{2, r+1}x_r+1 + … + c_2nx_n = d₂

……………………………………

x_r + c_{r, r+1}x_r+1 + … + c_rnx_n = d_r

Из этой системы легко получить выражения базисных переменных x₁, x₂, …, x_r через свободные переменные x_r+1, x_r+2, …, x_n. Формулы

x₁ = d₁- c_{1, r+1}x_r+1-…- c_1nx_n

x₂ = d₂ -c_{2, r+1}x_r+1-…- c_2nx_n

_{……………………………………………}

x_r = d_r -c_{r, r+1}x_r+1-…- c_rnx_n

определяют общее решение системы. Положив свободные переменные равными нулю, x_r+1 = 0, x_r+2 = 0, ….., x_n = 0, и вычислив соответствующие значения базисных переменных, получим частное решение исследуемой системы:

x₁ = d₁, x₂ = d₂, …, x_r = d_r, x_r+1 = 0, x_n = 0.

Приложение Е

Пусть М – множество элементов произвольной природы, для которых определены сложения и умножения на действительное число:

• Паре элементов хМ, уМотвечает элемент х + уМ,называется суммой элементов х и у;

• Паре х, , гдехМи - любое действительное число, отвечает элементхМ,называемый произведением числа и элементах.

Множество М называется линейным пространством, если для всех его элементов определены операции сложения и умножения на действительное число и для любых элементов х, у, zМ и произвольных чисел ,справедливо:

1. x + y = y + x, сложение коммутативно;

2. x + (y + z) = (x + y) + z, сложение ассоциативно;

3. существует нулевоу элемент 0М такой, что х + 0 = х;

4. для каждого элемента существует противоположный элемент – х такой, что х + (-х) = 0;

5. , умножение на число ассоциативно;

6. 1;

7. , умножение на число дистрибутивно относительно сложения элементов;

8. , умножение вектора на число дистрибутивно относительно сложения чисел.

Эти равенства называют аксиомами линейного пространства.

Линейное пространство часто называют векторным пространством, а его элементы – векторами.

1. Базис и размерность линейного пространства.

Координаты вектора в заданном базисе.

Элемент (вектор) линейного пространства L линейно выражается через элементы (векторы) е₁, е₂, .., е_nL, если его можно представить в виде линейной комбинации этих элементов, т.е. представить в виде x = ₁e₁ + ₂e₂ + … + _ne_n.

Если хотя бы один вектор системы е₁, е₂, .., е_n векторов линейного пространства L линейно выражается через остальные векторы системы, то система векторов называется линейно зависимой. Система векторов, которая не является линейно зависимой, называется линейно независимой.

Справедливо следующее утверждение.

Система е₁, е₂, .., е_n векторов линейного пространства L линейно независима тогда и только тогда, когда из равенства ₁e₁ + ₂e₂ + … + _ne_n = 0 следует равенство нулю всех коэффициентов: ₁ = 0, ₂ = 0, …, _n = 0.

Если в линейном пространстве L существует линейно независимая система из n векторов, а любая система из (n+1)-го вектора линейно зависима, то число n называется размерностью пространства L и обозначается n = dim(L). В этом случае пространство L = L_n называют n-мерным линейным пространством или n-мерным векторным пространством.

Любая упорядоченная линейно независимая система n векторов е₁, е₂, .., е_n n-мерного линейного пространства L образует базис пространства, и любой вектор хL единственным образом выражается через векторы базиса: x = ₁e₁ + ₂e₂ + … + _ne_n.

Числа х₁, х₂, …, х_n называют координатами вектора х в базисе е₁, е₂, .., е_n и обозначают х = ( х₁, х₂, …, х_n). При этом для любых двух произвольных векторов n-мерного линейного пространства х = ( х₁, х₂, …, х_n), у = (у₁, у₂, …, у_n) и произвольного числа справедливох + у = (x₁ + y₁, x₂ + y₂, …, x_n + y_n) и x = (x₁, x₂, …, x_n).

Поэтому линейные пространства X и Y называются изоморфными, если между их элементами можно установить такое взаимно однозначное соответствие, что если векторам х и х ́ из Х соответствуют векторы у и у ́ из Y, то вектору х + х ́ соответствует вектор у + у ́ и при любом векторухХ соответствует вектор уY.

Изоморфизм n-мерных линейных пространств пространству Rⁿ означает, что соотношения между элементами n-мерного линейного пространства и операции с ними можно изучать как соотношения между векторами из Rⁿ и операции с ними и что всякое утверждение относительно векторов из Rⁿ справедливо для соответствующих элементов любого n-мерного линейного пространства.

Например, доказано, что система векторов е₁, е₂, .., е_n из Rⁿ

, , …,

образует базис в Rⁿ тогда и только тогда, когда отличен от нуля определитель матрицы со столбцами е₁, е₂, .., е_n:

.

Для векторов е₁, е₂, .., е_n из L_n это означает, что они образуют базис в L_n тогда и только тогда, когда отличен от нуля определитель матрицы, столбцами которой являются компоненты векторов е₁, е₂, .., е_n.

Пусть е₁, е₂, .., е_n и f₁, f₂, … f_n – два базиса в L_n.

Матрицей перехода от базиса е₁, е₂, .., е_n к базису f₁, f₂, … f_n называется матрица С, столбцами которой являются координаты векторов f₁, f₂, … f_n в базисе е₁, е₂, .., е_n:

f₁ = f₁₁e₁ + f₂₁e₂ + … + f_n1e_n f₁ = (f₁₁f₂₁ … f_n1)^T

f₂ = f₁₂e₁ + f₂₂e₂ + … + f_n2e_n f₂ = (f₁₂f₂₂ … f_n2)^T

_{…………………………………………….… .........................................}

f_n = f_1ne₁ + f_2ne₂ + ... + f_nne_n f_n = (f_1nf_2n … f_nn)^T

C=, detC.

Вектор линейно выражается через векторы обоих базисов. Тогда, если x=х₁e₁+х₂e₂+…+х_ne_n= y₁f₁+y₂f₂+..+y_nf_n , то координаты х₁, х₂, …, х_n вектора в базисе е₁, е₂, .., е_n и его координаты у₁, у₂, …, у_n в базисе f₁, f₂, … f_n связаны соотношениями

,

или x_e = Cx_f, x_f = C^-1x_e, если ввести обозначения x _e= (x₁ x₂ … x_n)^T и x _f= (y₁ y₂ … y_n)^T для векторов-столбцов координат вектора х в соответствующих базисах.

2. Исследование линейной зависимости. Ранг матрицы

Пусть А – прямоугольная матрица размерности m×n:

.

Столбцы матрицы можно рассматривать как векторы из R^m:

, j=1, 2, …, n,

И исследовать их на линейную зависимость. Исследовать систему на линейную зависимость – это значит установить, является система векторов линейно зависимой или нет.

Доказано, что ранг матрицы равен максимальному числу линейно независимых столбцов матрицы. Это утверждение позволяет исследовать систему векторов Rⁿ на линейную зависимость следующим образом. Пустьf₁, f₂, … f_k – исследуемая система векторов. Запишем матрицу F, столбцами которой являются векторы f₁, f₂, … f_k : , j = 1, 2, …, k, и вычислим её ранг: r = Rg(F). Еслиr = k, то исследуемая система векторов линейно независима, если же r<k, то она линейно зависима.

Если же матрица F приведена к ступенчатому виду элементарными операциями со строками

1 0 … 0 _{1, r+1} … _1k

0 1 … 0 _{2, r+1} … _2k

_{……………………………………………}

0 0 … 1 _{r, r+1} … _rk =F

0 0 … 0 0 … 0

……………………………

0 0 … 0 0 … 0

то векторы-столбцы f₁, f₂, … f_r , входящие в базисный минор, образуют линейно независимую подсистему, а векторы f_r+1, f_r+2, …, f_k следующим образом линейно выражаются через базисные векторы:

f_r+1 = _{1, r+1}f₁ + _{2, r+1}f₂ + … + _{r, r+1}f_r

f_r+2 = _{1, r+2}f₁ + _{2, r+2}f₂ + … + _r,r+2f_r

………………………………………………

f _k = _1,kf₁ + _2,kf₂ + … + _r,kf_r

Приложение G

Элементарная теория линейных операторов

Пусть заданы линейные пространства X и Y. Правило, по которому каждому элементу хХставится в соответствие единственный элемент yY, называется оператором, действующим в линейных пространствах Х, Y. Результат действия оператора А на элемент х обозначают у=Ах или у = А(х). Если элементы х и у связаны соотношением у=Ах, то у называют образом элемента х, а х – прообразом у.

Множество элементов линейного пространства Х, для которых определено действие оператора А, называют областью определения оператора А и обозначают D(A).

Множество элементов линейного пространства Y, которые являются образами элементов из D(A), называют образом оператора А и обозначают Im(A). Если у=Ах, то хD(A), yIm(A).

Оператор А, действующий в линейных пространствах Х, Y, называется линейным оператором, если

A(u + v) = A(u) + A(v)иA(u) =A(u)

для любых u, v из Х и для любого числа .

Если пространства X и Y совпадают, то говорят, что оператор действует в пространстве Х.

1. Линейный оператор и его матрица. Переход к другому базису

Рассмотрим линейный оператор А, действующий в конечномерном линейном пространстве Х, dim(X) = n, и пусть е₁, е₂, .., е_n – базис в Х. Обозначим через

Ае₁ = (а_11, a₂₁, …, a_n1), Ae_n = (a_12, a₂₂, …, a_n2), …, Ae_n = (a_1n, a_2n, …, a_nn)

Образы базисных векторов е₁, е₂, .., е_n.

Матрица ,

столбцами которой являются координаты образов базисных векторов, называется матрицей линейного оператора в заданном базисе.

Доказано, что каждому линейному оператору, действующему в n-мерном линейном пространстве Х, отвечает единственная квадратная матрица n; и обратно – каждая квадратная матрица порядка n задаёт единственный линейный оператор, действующий в этом пространстве. При этом соотношения

у=Ах, ,

с одной стороны, связывают координаты у=Ах с координатами прообраза х, с другой стороны, описывают действие оператора, заданного матрицей А. При изменении базисного линейного пространства матрица оператора изменяется. Пусть в пространстве Х произошёл переход от базиса к базису. Связь между матрицей е и матрицейэтого оператора в базисезадаётся формулой=,.

Здесь и- матрица перехода от базисае к базису и обратная к ней.

2. Образ и ядро линейного оператора

Рассмотрим линейный оператор А, действующий в конечномерном линейном пространстве Х. Доказано, что образ Im(A) линейного оператора А – линейное пространство. Размерность образа линейного оператора называется рангом оператора, обозначается Rg(A): r = Rg(A) =dim(Im(A)).

Ядром линейного оператора называется множество элементов из Х, образом которых является нулевой элемент. Ядро оператора обозначают Ker(A): Ker(A) = {xX: Ax=0}. Ядро линейного оператора – линейное пространство; размерность ядра линейного оператора называется дефектом оператора, обознается Def(A): d = Def(A) = dim(Ker(A)).

Для линейного оператора А, действующего в n-мерном линейном пространстве Х_n, справедливы следующие утверждения:

• Сумма ранга и дефекта оператора А равна размерности пространства, в котором действует оператор: Def(A) +Rg(A) = n;

• Ранг оператора равен рангу его матрицы;

• Ядро оператора совпадает с множеством решений линейной однородной системы, матрицей которой является матрица оператора; размерность пространства решений этой системы равна дефекту оператора, а её фундаментальная система решений образует базис в ядре оператора;

• Столбцы, входящие в базисный минор матрицы оператора, образуют базис в образе оператора.

3. Собственные значения и собственные векторы линейного оператора

Пусть А - линейный оператор, действующий в линейном пространстве.

Число λ называется собственным значением, а ненулевой вектор х – соответствующим собственным вектором линейного оператора А , если они связаны между собой соотношением Ах = λх.

Пусть А – матрица оператора в некотором базисе. Собственные значения оператора и соответствующие им собственные векторы связаны соотношением (А- λI)х = 0, где I – единичный оператор, а 0 – нулевой элемент пространства Х. Это означает, что собственный вектор оператора является ненулевым решением линейной однородной системы (А- λЕ)х =0, которое существует тогда и только тогда, когда det(А- λE) = 0. Следовательно, собственные значения линейного оператора могут быть вычислены как корни уравнения (А- λЕ) = 0, а собственные векторы – как решение соответствующих однородных систем.

Уравнение det(А- λE) = 0 называется характеристическим уравнением оператора, а многочлен det(А- λE) – характеристическим многочленом оператора.

Для собственных значений и собственных векторов линейного оператора справедливы следующие утверждения:

• Характеристический многочлен det(А- λE) оператора, действующего в n-мерном линейном пространстве, является многочленом n-й степени относительно λ;

• Линейный оператор, действующий в n-мерном линейном пространстве, имеет не более n различных собственных значений;

• Собственные векторы, отвечающие различным собственным значениям, линейно независимы;

• Если линейный оператор, действующий в n-мерном линейном пространстве Х, имеет n различных собственных значений, то в пространстве Х существует базис из собственных векторов оператора; этот базис называют собственным базисом оператора; матрица оператора в базисе из его собственных векторов имеет диагональную форму с собственными значениями на диагонали.

Литература