Евклидовы пространства.

(окончание)

Проекция вектора на подпространство.

Пусть U подпространство евклидова пространства V, имеющее ортогональное дополнение U^{^}. Тогда любой вектор xÎV однозначно представляется в виде x = y+z, где yÎU, z ^ U. В этом случае вектор y обозначается pr_Ux и называется проекцией x на подпространство U.

Теорема (свойства проекции).

Отображение проектирования pr_U: V® V является линейным оператором и имеет следующие свойства:

1. .

2. .

3. "uÎU, "xÎV:x×u = (pr_Ux)×u.

Доказательство.

Если pr_Ux = y, то x = y+z, где yÎU, z ^ U. Так как lx = ly+lz, то pr_U(lx) = ly. Аналогично проверяется, что pr_U(x₁+x₂) = pr_Ux₁+pr_Ux₂. Следовательно, отображение проектирования является линейным.

Поскольку yÎUÞ pr_Uy = y, то 1) очевидно.

Условия yÎU, z ^ U можно записать в виде: zÎU^{^}, y ^ U^{^}. Поэтому . Следовательно, pr_Ux+= y+z = x, что и утверждается в 2).

Наконец, x×u = y×u+z×u = y×u, поскольку z ^ u.

Теорема(минимальное свойство проекции).

Пусть вектор xÎV фиксирован. Наименьшее значение функции f(u) = |x-u| на подпространстве U достигается тогда и только тогда, когда u = pr_Ux.

Доказательство.

Пусть x = y+z, где y = pr_Ux. Тогда по теореме Пифагора |x-u|² = |y-u|²+|z|²³|z|² и равенство имеет место в точности тогда, когда u = y.

Замечание.

Имея в виду минимальное свойство проекции, длину вектора z часто называют расстоянием от вектора x до подпространства U.

Способ нахождения проекции.

Теорема.

Пусть (a₁,a₂,…, a_n) – порождающая система векторов подпространства UÌV, G – ее матрица Грама, bÎV – произвольный вектор и pÎCⁿ – вектор с координатами p_i = b×a_i. Система уравнений всегда совместна и для всякого ее решения справедливо равенство: pr_Ub = Sx_ia_i.

Доказательство.

По условию подпространство U конечномерно и потому pr_Ub существует. Запишем: pr_Ub = Sx_ja_j с неизвестными коэффициентами x_j. Умножим обе части этого равенства скалярно на вектор a_i. Учитывая, что pr_Ub×a_i = b×a_i, получаем: b×a_i = Sx_jg_ji = .

Замечание.

Особенно просто находится проекция, если система (a₁,a₂,…, a_n) является ортонормированным базисом подпространства. В этом случае G = E и потому x_i = p_i так что pr_Ub = .

Расстояние от вектора до подпространства.

Теорема.

Пусть e = (e₁, …, e_n) – базис подпространства U евклидова пространства V, bÎV – произвольный вектор. Тогда расстояние от b до U может быть найдено по формуле: .

Доказательство.

Применим процесс ортогонализации к системе (e, b). Пусть в результате получается система (f, h). Тогда h ^ <f>, а поскольку <f> = <e>, h ^ <e>. Кроме того, b-hÎ<e>. Следовательно, d² = |h|². Остается заметить, что detG(e, b) = detG(f, h) = |f₁|²…|f_n|²|h|², а detG(e) = detG(f) = |f₁|²…|f_n|².

Пример.

Пусть U – одномерное подпространство с базисным вектором v. В этом случае detG(v, b) = |v|²|b|² -|v×b|² и потому d² = |b|²-|v×b|²/|v|². Предоставляем читателю убедиться, что в случае эта формула превращается в известное выражение для расстояния от точки до прямой в пространстве.

Метод наименьших квадратов.

Метод наименьших квадратов – один из наиболее распостраненных способов приближенного решения несовместной системы линейных уравнений. Пусть дана система Ax = b, где AÎMat_m´n(C ), xÎCⁿ. Матрица A задает линейное отображение j: Сⁿ®C^m, действующее по формуле j(x) = Ax. Чтобы решить систему мы должны подобрать вектор x так, чтобы j(x) = b. Если x пробегает все пространство Cⁿ, то j(x) меняется в подпространстве ImjÌC^m. Следовательно, если bÏImj, то система не имеет решений. В этом случае встает вопрос о ее приближенном решении. Для каждого вектора x и каждого уравнения системы рассмотрим разность между левой и правой частью этого уравнения: . Если x удовлетворяет этому уравнению, то d_i(x) = 0. Вектор dÎС^m с компонентами d_i(x) назовем вектором ошибок. (Иногда его называют вектором невязок). Чем “меньше” этот вектор, тем “лучше” приближенное решение x. Если величину вектора ошибок измерять его длиной |d| = (|d₁|²+…+|d_m|²)^0,5, то вектор x_mls, для которого |d| принимает наименьшее значение, называется решением системы по методу наименьших квадратов (method of least squares).

Из минимального свойства проекции вытекает, что следует положить: . Применим теперь теорему о способе нахождения проекции. Заметим, что подпространство Imj порождается векторами c₁(A), …, c_n(A) и потому матрица Грама этой системы равна . Вектор с координатами b×c_i(A) = равен = . Следовательно, x_mls находится из системы: .

Пример

Пусть требуется найти прямую, проходящую через точки A(0; 1), B(1; 2) и C(2; 4). Если искомая прямая имеет уравнение y = kx+p, то получаем систему уравнений: с расширенной матрицей . Поскольку система несовместна, решим ее методом наименьших квадратов. Для этого надо составить матрицу . Приводя ее к главному ступенчатому виду, находим: k = 3/2; p = 5/6. При этом вектор ошибок равен: и имеет длину 6^-0,5 » 0,408.

Замечание.

При выполнении элементарного преобразования строк в расширенной матрице системы, матрица преобразуется в матрицу, которая, вообще говоря, не будет эквивалентна исходной. Поэтому при таких преобразованиях решение x_mls может измениться. Так, например, если в только что рассмотренном примере обе части первого уравнения (p = 1) системы умножить на 2 (2p = 2), то решение по методу наименьших квадратов изменится. Новое решение имеет вид: k = 10/7; p = 20/21.