ной комбинации векторов
Дополнение к лекции 25
55.1Потеря ортогональности при вычислениях
Попробуйте реализовать процесс ортогонализации Грама Шмидта на компьютере. По завершении вычислений законно желание проверить, насколько ортогональными бу-
äóò вычисленные векторы qe1, . . . , qen Cn.
В силу ошибок округления они, конечно, отличаются от точных ортонормированных векторов q1, . . . , qn. Однако, проверка может Вас и удивить: в большом числе случаев
скалярные произведения вычисленных векторов (qi, qj) ïðè i 6= j совсем не похожи на |
Причину понять нетрудно. Допустим, что все |
e e |
k |
|
|
|
íóëè. 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
хорошо на первых |
|
шагах: |
|
|
|
(qi, qi) ≈ 1, |
(qi, qj) ≈ 0, i 6= j, |
|
1 ≤ i, j ≤ k. |
|
|
|
|
Далее, пусть |
e e |
e e |
|
hk+1 таков, что |
|
|
|
|
|
вычисленный перпендикуляр |
|
|
|
|
|
|
|
|
|
|
(hk+1, qi) =eε, |
ε |
|
0. |
|
( |
|
) |
После нормировки, тем не менее,e |
e |
|
|
≈ |
|
|
|
|
|
|
(qk+1, qi) = (ehk+1, qi)/|ehk+1| = ε/|ehk+1|. |
|
|
|
|
|
e e |
|
e |
|
|
|
|
|
|
|
Отсюда видно, что ортогональность утрачивается при достаточно малой длине при- ближенного перпендикуляра ehk+1. Последнее означает, что вектор ak+1 близок к линей-
a1, . . . , ak.
Что же делать? Хороший рецепт задержаться на k + 1-м шаге и повторить p
раз вычисления k + 1-го шага с заменой ak+1 íà hk+1. Это так называемая процедура |
p- |
В результате величина |
|
в соотношениях типа |
e |
|
уменьшается и может быть сделана |
|
кратной реортогонализации. |
|
|
|
|
|
|
|
|
|
|
|
|
ε |
|
|
|
( ) |
|
|
Qek = [q1, . . . , qk]. Тогда |
сколь угодно малой. |
Действительно, пусть |
Qkk= [q1 |
, . . . , qk] |
, |
|
k |
|
|
|
|
|
X |
|
|
|
Xi |
|
|
|
|
e |
e |
|
hk+1 = ak+1 − qi (qi ak+1) = ak+1 − (qi qi )ak+1 = (I − QkQk)ak+1 |
|
|
|
i=1 |
|
|
|
=1 |
|
|
|
|
|
|
|
"(hk+1. . ., q2)# |
= Qkhk+1 = Qk(I − QkQk)ak+1 = (Ik − QkQk) Qkak+1. |
|
|
(hk+1, q1) |
|
|
|
|
|
|
|
|
|
|
|
|
|
(hk+1, qk) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1Например, при n ≥ 10 попробуйте применить процесс ортогонализации к столбцам невырожденной |
n × n-матрицы с элементами aij |
= 1/(i + j). |
|
|
|
|
|
|
|
Здесь I единичная матрица порядка n, à Ik единичная матрица порядка k. Если погрешности имели место только при вычислении первых k векторов, а на k + 1-м шаге их не было, то для вычисленных векторов получаем
Qekehk+1 = (Ik − QekQe) Qekak+1.
Пусть реортогонализация повторяется p раз без нормировки перпендикуляра и в результате получается вектор h(p). Тогда
Qekh(p) = (Ik − QekQe)p Qekak+1.
Легко проверить, что в случае достаточно малых элементов матрицы Ik − QekQek (òî есть, в случае приемлемой ортогональности первых k векторов)
(Ik − QekQek)p → 0 ïðè p → ∞.
Поэтому Qekh(p) → 0 ïðè p → ∞.
Замечательно то, что метод реортогонализации позволяет добиться хорошей ор-
тогональности вектора qek+1 к векторам qe1, . . . , qek даже том случае, когда они сами ортогональны с существенно меньшей точностью.
55.2Обобщение теоремы о перпендикуляре
Теорему о перпендикуляре можно доказать с помощью совершенно другой техники менее конструктивной, но работающей также в случае бесконечномерного подпространства L.
Теорема. Пусть V гильбертово пространство, а L его замкнутое подпространство. Тогда для любого вектора x существуют и единственны перпендикуляр h L и проекция z0 L такие, что x = z0 + h. Ïðè ýòîì
|
|h| = |x − z0| < |x − z| z L, z 6= z0. |
|
|
x 6= L |
|
γ = z L |
| |
x |
− |
z |
| |
расстояние между x è L. Рассмотрим последова- |
Доказательство. Пусть |
|
|
|
è |
inf |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
тельность zn L со свойством γ2 ≤ |x − zn|2 ≤ γ2 + 1/n. В силу тождества параллелограмма, |
|
1 |
(zm − zn)|2 + 2|x |
|
1 |
(zn + zm)|2 |zn |
− zm|2 ≤ 2(1/n + 1/m). |
|x − zn|2 + |x − zm|2 |
= 2| |
|
− |
|
2 |
2 |
Таким образом, последовательность zn является фундаментальной и, в силу полноты гильбертова пространства, сходится к какому-то вектору z0 V . Из замкнутости L вытекает, что z0 L. При этом элемент наилучшего приближения z0 äëÿ x определен однозначно: пусть z1 L è |x − z1| = γ, тогда, применяя тождество параллелограмма, находим |z1 −z0|2 = 2|x−z1|2 +2|x−z0|2 −4|x−(z1 +z0)/2|2 ≤ 0
z1 = z0.
Докажем теперь, что y = x − z0 L.
Возьмем любой вектор z L и запишем (y, z) = a + ib, a, b R. Åñëè a 6= 0, то пусть τ = a/|a|. Для любого ε > 0 находим
γ2 ≤ |x − z0 − ετz|2 = |y − ετz|2 ≤ |y|2 − 2ε|a| + ε2|z|2 = γ2 − 2ε|a| + ε2|z|2 |a| ≤ ε|z|2/2.
В силу произвольности ε должно быть a = 0. Аналогичная выкладка (с заменой z íà iz) позволяет доказать, что и b = 0. 2
Замечание. Доказано, по существу, что элемент наилучшего приближения z0 существует и единст- вен для произвольного замкнутого выпуклого множества L. Знание о том, что L подпространство, требуется лишь для доказательства ортогональности x − z0 L.
выпуклой комбинацией точек
Дополнение к лекции 26
56.1Строение выпуклых множеств
Существование опорных гиперплоскостей позволяет утверждать, что в Rn любое за-
мкнутое выпуклое множество является пересечением (возможно, бесконечного) числа замкнутых полупространств. Примечателен также следующий факт.
Теорема. Любая точка замкнутого ограниченного выпуклого множества M Rn
является выпуклой комбинацией какой-то конечной подсистемы угловых точек множества M.
Доказательство. Пусть заданное выпуклое множество содержится в линейном многообразии размерности n. Утверждение очевидно, если n = 1. Проведем индукцию по
n. Начнем с произвольной граничной точки x0 M. Рассмотрим проходящую через
нее опорную гиперплоскость π : (x, h) = (x0, h). Пересечение N = M ∩ π åñòü çà-
мкнутое ограниченное выпуклое множество, принадлежащее линейному многообразию размерности n − 1. По индуктивному предположению, любая точка N0 будет выпуклой
комбинацией его угловых точек.
Можно проверить, что угловые точки N являются также угловыми точками множества M. В самом деле, пусть точка x N является внутренней точкой отрезка, соединяющего a, b M, a 6= b. Очевидно, a è b должны принадлежать опорной гиперплоскости π. А это означает, что x не является угловой точкой для N.
Далее, пусть x0 внутренняя точка множества M. Проведем через нее прямую, пересекающуюся с границей множества M в точках x1 è x2. Очевидно, x0 является x1 è x2, а они, в свою очередь, являются выпуклыми комбинациями угловых точек для пересечений M с проходящими через них опорными
гиперплоскостями. 2
Замечание. Разные точки M суть выпуклые комбинации, вообще говоря, разных подсистем угловых точек.
Следствие. Минимальное значение линейной функции f(x) = c>x = c1x1 + . . . + cnxn, c, x Rn, на замкнутом ограниченном выпуклом множестве M Rn достигается в
некоторой угловой точке.
Доказательство. Пусть минимальное значение f(x) достигается в точке x0 M. Êàê
и любая точка M, |
x0 является выпуклой комбинацией конечного числа угловых точек: |
x0 = s1x1 + . . .m xm, si ≥ 0, s1 + . . . + sm = 1. Отсюда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
f |
( |
x |
0) = |
s |
f |
( |
x |
1) + |
. . . |
+ |
s |
m |
f |
x |
s |
1 + |
. . . |
+ |
s |
m) |
1 |
min f |
( |
x |
1 |
min f |
( |
x |
i) |
. 2 |
|
|
1 |
|
|
|
|
|
( |
m) ≥ ( |
|
|
i |
≤ |
m |
i) = |
i |
≤ |
m |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
≤ |
|
|
|
|
≤ |
|
|
|
|
|
x = x0,
для некоторых
(x, ak) ≤ γk,
56.2Линейные неравенства
Вопросы о системах линейных неравенств являются, по существу, вопросами о свойствах пересечений полупространств 1 ≤ k ≤ m. При этом важно, конечно,
знать, в каких случаях какие-то неравенства являются следствием других неравенств. Основой для ответа на данный вопрос является следующий результат.
Теорема Фаркаша. Пусть a, a1, . . . , am Rn, и предположим, что неравенство (x, a) ≤ 0 является следствием системы неравенств (x, ak) ≤ 0, 1 ≤ k ≤ m. Это возможно в том и только том случае, когда a = s1a1 + . . . + smam неотрицательных чисел s1, . . . , sm.
Доказательство. Если a = s1a1 + . . . + smam ïðè si ≥ 0, то неравенство (x, a) ≤ 0 следует из неравенств (x, ak) ≤ 0 очевидным образом. Рассмотрим множество
m |
|
Xk |
≤ k ≤ m}. |
M = {v Rn : v = skak, sk ≥ 0, 1 |
=1 |
|
Это выпуклое и замкнутое множество (докажите!). Поэтому если a / M, то существует
элемент наилучшего приближения z0 M: |
|a − z0| ≤ |a − z| |
z M. Положим |
x0 = a − z0. Тогда (x0, z − z0) ≤ 0 z M |
(x0, ak) ≤ 0, |
1 ≤ k ≤ m. Кроме |
òîãî, (x0, z) ≤ (x0, z0) = (x0, a − x0) < (x0, a) |
|
z M. Поскольку 0 M, находим |
0 < (x0, a). Таким образом, неравенство (x, a) ≤ 0 нарушается для вектора который удовлетворяет системе неравенств (x0, ak) ≤ 0, 1 ≤ k ≤ m. 2
56.3Поиск точки в пересечении гиперплоскостей
Гиперплоскость в Cn это линейное многообразие размерности n − 1. Пусть задано m гиперплоскостей
a11x1 + . . . + a1nxn |
= b1, |
|
|
( ) |
|
. . . |
|
|
am1x1 + . . . + amnxn |
= bm. |
|
|
|
Обозначим i-ю гиперплоскость через Mi. Очевидно, их пересечение M = M1 |
. . . Mm |
состоит из векторов [x1, . . . , xn]>, удовлетворяющих системе линейных |
алгебраических |
|
∩ ∩ |
|
уравнений ( ). Следовательно, если пересечение m гиперплоскостей не пусто, то оно является линейным многообразием размерности n − r, ãäå r ранг матрицы коэффициентов системы ( ).
Пусть в Cn введено естественное скалярное произведение. Тогда Mi можно задать уравнением (x, ai) = bi, ãäå ai = [ai1, . . . , ain]>, а систему ( ) записать в виде
(x, a1) = b1, . . . , (x, am) = bm.
Направляющее подпространство для Mi имеет вид Li = {x : (x, ai) = 0} ai Li. Предположим, что пересечение гиперплоскостей M не пусто. Ясно, что M = xe + L,
ãäå xe M частное решение системы ( ), à L = L1 ∩ . . . ∩ Lm линейное подпрост- ранство всех решений соответствующей однородной системы.
Для приближенного вычисления частного решения системы ( ) попробуем использовать простую геометрическую идею. Возьмем произвольный вектор x0 Cn, найдем ближайший к нему вектор x1 M1, затем ближайший к x1 вектор x2 M2, и так далее.
Получив xm Mm, будем повторять те же действия циклически: найдем ближайший к |
xm вектор xm+1 M1, и так далее. |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Обозначим через xˆ ближайший к x0 вектор из L, и пусть zk ≡ xk − xˆ. Очевидно, |
|
|
|
|
|
|
|
|
|
zk Lk, |
|
|
|
zk − zk−1 = xk − xk−1 Lk. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Таким образом, xk = xk−1 + tak, ãäå t определяется условием (xk, ak) = bk |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xk = xk−1 + |
bk − (xk−1, ak) |
ak. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(ak, ak) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Будем считать, что |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Mj = Mkm+j, Lj = Lkm+j, aj = akm+j, |
|
|
1 ≤ j ≤ m, k = 1, 2 . . . . |
|
|
|
|
|
Утверждение. xk → xˆ ïðè k → ∞. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k−1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Доказательство. По теореме Пифагора, |z |
|
|
|
|
|
|
|
|
|
|
|
|
|
− zj|2. Отсюда |
|
|
|
|
0|2 = |zk|2 + j=0 |zj+1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
m |
|
|
|
|
|
|
|
|
|
|
|
|
P |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ρ(zk, L |
|
) |
|
|
inf |
|
| |
zk |
− |
y |
|
|
|
zk+j+1 |
− |
zk+j |
| → |
0, |
|
k |
→ ∞ |
. |
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
≡ y |
|
Li |
|
|
|
| ≤ | |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Xj |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Функция ρ v, L |
|
inf |
| |
v |
− |
|
y |
| |
непрерывна по v: пусть p |
, p |
2 |
|
L |
i |
, v |
− |
p |
1 |
L |
, w |
− |
p |
2 |
L |
; |
( |
|
i) = y |
|
li |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
i |
|
|
i |
|
тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|ρ(v, Li) − ρ(w, Li)| = | |v − p1| − |w − p2| | ≤ |(v − w) − (p1 − P2)| ≤ |v − w|. |
|
|
|
|
Поэтому если zk |
, òî ρ |
z, L |
i)1 |
= 00 |
ïðè |
1 ≤ |
|
i |
≤ |
m. Следовательно, z |
|
L. |
|
|
|
|
|
|
|
|
|
|
1→ z0 |
|
|
|
|
( |
|
|
|
|
|
|
|
|
|
|
0 |
L, находим z |
1 |
|
|
0 |
|
1 |
|
0 |
) L. |
Кроме того,k z −z |
L1 z |
−z |
|
L. Поскольку z |
|
= z |
+(z |
−z |
|
Аналогично, z L äëÿ âñåõ k. Значит, z L. |
Таким образом, |
z = 0 |
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ясно, что числовая последовательность |
|
|
|
монотонно убывает и поэтому сходится. |
Последовательнось векторов |
|
zk |
ограничена|zè| |
поэтому, в силу конечной размерности |
пространства, имеет сходящуюся подпоследовательность. Если |
|
z ее предел, то, со- |
гласно предыдущему, z = 0. Значит, |zk| → 0 |
|
|
|
zk → 0. |
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
56.4Линейные функционалы и скалярные произведения
Пусть V произвольное пространство со скалярным произведением. Фиксируем любой вектор z V и рассмотрим функцию f(x) = (x, z). Из неравенства Коши Буняковского Шварца вытекает, что f(x) ограниченный линейный функционал на V . Замечательно, что данный пример имеет обший характер.
Теорема Рисса. Если V гильбертово пространство, то для любого ограниченного линейного функционала f существует вектор h V такой, что
f(x) = (x, h) x V è ||f|| = |h|.
Доказательство. Рассмотрим в V линейное подпространство
L = {x V : f(x) = 0}
1Метод описан в работе польского математика Качмажа (1937 г.).
L 6= V , òî
322 Лекция 56
и его ортогональное дополнение M = L>.
Предположим сначала, что в M имеется ненулевой вектор h0. Тогда f(h0) 6= 0 (иначе h0 L è h0 L h0 = 0). Åñëè h произвольный вектор из M è α = f(h)/f(h0), òî z ≡ h − αh0 L è
одновременно z L z = 0. |
|
|
|
x V допускает единственное разложение x = αh0 + z, |
Следовательно, dim M = 1 è |
|
2 |
|
|
любой вектор |
|
ãäå z L. Положим α = f(h0)/|h0| |
|
è h = αh0. Тогда f(x) = αf(h0) = (x, h). Кроме того, |f(x)| ≤ |h||x| |
è f(h/|h|) = |h| ||f|| = |h|. |
|
|
|
|
Заметим, что полнота гильбертова пространства пока еще не использовалась. Она нужна лишь для того, чтобы рассмотреть особый случай, когда подпространство M нулевое, и доказать, что в
этом случае L = V f(x) = 0 = (x, 0) x V . Для этого достаточно заметить, что L
замкнутое подпространство и воспользоваться обобщением теоремы о перпендикуляре. Таким образом, åñëè L> содержит ненулевой вектор. 2
56.5Дуальные нормы
 Cn любой линейный функционал имеет вид f(x) = z x, ãäå z некоторый фиксированный вектор из Cn. В силу взаимно-однозначного соответствия f ↔ z сопряженное пространство в данном случае естественным образом отождествляется с Cn. Пусть в Cn задана какая-то векторная норма || · ||. Тогда норма линейного функционала f может рассматриваться как норма вектора z и, таким образом, является векторной нормой на том же пространстве Cn:
||z||0 = sup |z x|.
||x||=1
Норма || · ||0 называется дуальной для нормы || · ||.
Утверждение. В пространстве Cn с гельдеровской нормой || · ||p, p ≥ 1, дуальная норма есть || · ||q, ãäå 1/p + 1/q = 1.
Доказательство. Из неравенства Гельдера |z x| ≤ ||z||q||x||p следует, что ||z||0 ≤ ||z||q. В то же время,
равенство легко получается при выборе x âèäà x = αz. |
2 |
|
|
|
|
|
|
Интересно отметить, что норма || · ||00, дуальная к дуальной норме |
|| · ||0, совпадает с исходной |
нормой || · ||. По определению, |
|
||x||00 = |
sup |
|y x| ≤ ||x||. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||y||0=1 |
|
|
|
|
|
|
|
|
|
Åñëè n = 1, òî ||x|| = c|x| |
для какого-то c > 0. Поэтому |
|
|
|
|
|
|
|
|| |
y |
|| |
0 = sup |
|y||x| |
= |
|y| |
|| |
x |
|| |
00 |
= sup |
|y||x| |
= c x |
= |
x . |
|
x=0 |
x |
|
c |
|
|
y=0 |
|| |
y |
0 |
| | |
|| |
|| |
|
|
|
6 |
|| || |
|
|
|
|
|
|
6 |
|
|| |
|
|
|
Ïðè n > 1 рассмотрим произвольный базис x1, . . . , xn. Пусть f1(x) линейный функционал на одномерном пространстве L(x1), выбранный таким образом, что f1(x1) = ||x1||00. Заметим, что ||f1|| = ||x1||00/||x1||. Оказывается, f1 можно продолжить на двумерное пространство L(x1, x2) с сохранением
нормы: существует линейный функционал f2(x), x L(x1, x2), такой, что f2(x) = f1(x) ïðè x L(x1) è ||f2|| = ||f1||. Далее, из f2 можно получить f3 с более широкой областью определения L(x1, x2, x3) и той же нормой, и так далее. В итоге получается линейный функционал fn(x), определенный на всем
Cn, имеющий норму ||fn|| = ||x1||00 |
и такой, что fn(x1) = f1(x1) = ||x1||00. Значит, |
|
|
|
|
|
|
|
|| |
x |
1|| |
00 |
= sup |
|f(x1)| |
≥ |
|fn(x1)| |
= |
x |
. |
|
|
|
|
|
|
|
||f|| |
|
|
|
|
|
|
|
|
|
|
f6=0 |
||fn|| |
|| 1|| |
|
|
Отсюда x |
00 |
= |
|| |
x |
|| |
. Остается заметить, что базис можно начинать с любого вектора x |
= 0. |
|| |
1|| |
|
1 |
|
|
|
|
|
|
|
|
|
|
1 |
6 |
Возможность продолжения линейного ограниченного функционала с сохранением нормы в достаточно общем случае глубокий и не очень простой результат. Он относится к совокупности фактов, которые принято называть теоремами Хана Банаха.
Теорема Хана Банаха. Пусть V нормированное пространство, L его подпространство, w / L è Le = L+L(w). Тогда любой линейный ограниченный функционал f : L → C íà L можно продолжить
Е. Е. Тыртышников |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
323 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ïðè ýòîì ||f|| = ||f||. |
|
|
fe: Le |
→ C |
íà Le |
|
|
|
|
|
|
|
fe(x) = f(x) |
x L è |
до линейного ограниченного функционала |
|
|
|
таким образом, что |
|
|
|
|
|
e |
Пусть u L è α C |
|
|
f(u + αw) = f(u) + αc, ãäå c = f(w) |
|
|
f |
Доказательство. |
|
|
|
. Тогда |
e |
|
|
|
|
|
|
|
|
e |
. Таким образом, |
e |
нужно найти такое |
|
, чтобы |
|
|
|
ïðè âñåõ |
|
|| |
f |
|| |
è |
. |
|
|
определяется числом c. Будем считать, что ||f|| = 1. ßñíî, ÷òî |
|
|
≥ 1 при любом выборе c. Поэтому |
Рассмотрим сначала более простой случай, когда все |
|
u |
|
e |
|
|
|
|
|
|
|
|
c |
|
|f(u) + αc| ≤ ||u + αw|| |
|
|
L α C |
|
|
|
|
|
|
щественными. 2 |
пространства и функционалы являются ве- |
Все получается из вполне элементарного наблюдения: |
|
f(u) − f(v) ≤ ||u − v|| ≤ ||u + w|| + ||v + w|| u, v L. |
Но его нужно правильно проинтерпретировать. Запишем его в виде
f(u) − ||u + w|| ≤ f(v) + ||v + w||,
где левая часть зависит только от u, а правая только от v. Поэтому все числа слева и справа разделяются каким-то одним числом:
f(u) − ||u + w|| ≤ −c ≤ f(v) + ||v + w|| u, v L.
Теперь уже ясно, |f(u) + c| |
≤ ||u + w|| для всех u L. Для любого вещественного s 6= 0 находим |
|f(u) + sc| = |s||f(u/s) + c| ≤ |s|||u/s + w|| = ||u + sw||. То же верно, конечно, и для |
s = 0. Èòàê, |
вещественный линейный функционал f(x) можно доопределить с помощью равенства |
f(w) = c íà |
более широком пространстве L таким образом, что |
|
|
|
|
|
e |
|
sw) = f(u) + sc |
u + sw |
u L, |
s |
|
R |
. |
|
f(u + e |
| | |
| ≤ || |
|| |
|
|
|
|
| e |
|
|
|
|
Перейдем к общему случаю, когда пространства и функционалы комплексные. Выделив вещественную и мнимую части f(x) = g(x) + ih(x), заметим, что вещественные функционалы g(x) и h(x)
уже не будут линейными. Тем не менее, g(x) является вещественным линейным функционалом, если L рассматривать как линейное пространство над полем вещественных чисел. Выполнив подряд два
описанных выше шага продолжения, получим вещественный линейный функционал ge(x) на прост-
ранстве векторов вида u + sw + t(i w), ãäå u L è s, t R. При этом будет выполняться неравенство
|g(u+sw +t(i w))| ≤ ||u+sw +ti w||. Отсюда понятно, что g(x) можно рассматривать как вещественный |
e |
L и такой, что |
|
e |
|
|
|
|
функционал, определенный на |
e |
|
|
|
|
|
|
|
|
|
g(x) |
| ≤ || |
x |
x |
L. |
( |
|
) |
|
|
|e |
|| |
|
e |
|
|
Функционал ge(x) обладает свойством линейности лишь при умножении на вещественные числа. Однако, с его помощью можно определить функционал
|
|
|
|
|
|
f(x) = g(x) − ig(ix), x L, |
|
|
|
|
который, как можно убедиться, уже |
e |
e |
e |
|
e |
|
|
|
L. Ê òîìó æå, |
|
|
|
|
|
|
является комплексным линейным функционалом на |
eи, очевидно, |
|
Остается доказать, что |
|
|
|
|
ïðè âñåõ |
|
. Пусть |
|
|
, ãäå |
|
при всех x L его вещественная часть re(f(x)) совпадает с g(x), а при всех x L |
имеем f(x) = f(x). |
ξ |
= 1. |
e |
|
( ) |
|
|
e |
|
e |
f(x) = |f(x)|ξ |
|
|
e |
| | |
|
|
|f(x)| ≤ ||x|| |
|
x L |
|
ξ C |
|
|
e |
|
|
|
|
e |
|
e |
e |
|
|
|
|
|
Согласно неравенству |
|
, находим |
|
|
|
|
|
|
|
|fe(x)| = |fe(ξx)| = |ge(ξx)| ≤ ||ξx|| = ||x||. 2
2Независимо друг от друга, Хан и Банах рассмотрели именно это случай.
Дополнение к лекции 27
57.1Выбор базиса
С точки зрения точной математики все базисы равноправны. Но при проведении вы- числений разница между базисами огромна!
Пусть e = {e1, . . . , en} стандартный базис в Cn, à g = {g1, . . . , gn} какой-то другой базис. Пусть j-й столбец матрицы P состоит из координат вектора gj в стандартном базисе e. Тогда координаты одного и того же вектора в базисах e è g связаны равенст- âîì x = P z, ãäå x Cn содержит координаты разложения вектора по стандартному базису e, à z Cn координаты разложения того же вектора по базису g.
z = P −1x.
Типична ситуация, когда в ходе вычислений вместо x возник слабо возмущенный
|
|
|
вместо |
|
будет получен вектор |
|
|
|
|
вектор xe = x + δ. Тогдаz ≡ z + z |
|
= P −1(x + δ) |
|
|
|
= P −1δ. |
|
= e |
|
|
|
= 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Предположим, что x |
6 |
0 (тогда и z |
6 |
|
|
). Используя спектральную норму, находим |
|
|
|
|
|
|
|
= ||P −1δ||2 |
|
P z |
|
|
|
|
|
||P −1||2||δ||2 P |
|
z 2 |
|| ||2 |
|
|
||x||2 |
|
|| |
|
||2 |
≤ |
|
|
||x||2 |
|
|| |
||2|| |
|| |
|
|
|
|
|| |
||2 |
≤ |
( |
|| |
P −1 |
||2|| |
P |
||2 |
) |
||δ||2 |
. |
|
(#) |
|
|
|
|
||z||2 |
|
|
|
|
||x||2 |
|
|
Таким образом, относительная погрешность || |
|
||2/||z||2 |
в векторе z не больше, чем |
относительная погрешность ||δ||2/||x||2 в векторе x, умноженная на число
γ(P ) ≡ ||P −1||2||P ||2.
Величина γ(P ) называется спектральным числом обусловленности матрицы P .
Êсожалению, число обусловленности может оказаться очень большим, а неравенство
(#)для некоторых векторов x è δ может превращаться в равенство. В самом деле, пусть
P = V ΣU сингулярное разложение матрицы P ,
u1 è v1 первые столбцы матриц U è V , à un è vn последние столбцы тех же матриц. Тогда
P u1 = σ1v1, P un = σnvn.
326 Лекция 57
Âçÿâ x = v1 è δ = εvn, находим
|| ||2 |
= |
|ε|/σn |
= ε |
| |
σ1 |
= |
|| |
P −1 |
P |
|
||δ||1 |
. |
|
1/σ1 |
|
|
||z||2 |
| |
σn |
|
||2|| |
||2 ||x||2 |
В отличие от произвольных базисов, ортонормированные базисы обладают замеча- тельным достоинством. Для них матрица P унитарная, а для любой унитарной матрицы
спектральное число обусловленности равно 1 (докажите!).
По этой причине математики-вычислители предпочитают, если возможно, иметь дело с ортонормированными базисами.
57.2Базисы в пространстве многочленов
Пусть Pn линейное пространство вещественных многочленов порядка n (степени n − 1 и ниже). Естественный базис в Pn образуют одночлены 1, x, . . . , xn−1.
С точки зрения вычислений это очень плохой базис. Пусть, например, нужно найти много- член p(x) Pn, принимающий в заданных точках a ≤ x1 < x2 < . . . < xn ≤ b заданные значения
f1, f2, . . . , fn. Это могут быть значения какой-то функции f(x) на отрезке [a, b] в этом случае p(x) можно рассматривать как некоторое приближение к f(x) на данном отрезке, выбираемое из условия совпадения значений f(x) è p(x) в точках xi. Такая задача называется задачей интерполяции, à p(x)
интерполяционным многочленом для функции f(x) в узлах xi. Решение вроде бы очевидно: если p(x) = a0 + a1x + . . . + an−1xn−1, òî
|
1 |
x1 |
. . . x1n−1 |
|
a0 |
|
|
f1 |
. |
1 |
x2 |
. . . |
x2n−1 |
a1 |
= |
f2 |
. |
1. . .x. . .. .. .. |
x.n. .1 |
a. . . |
|
|
.f. . |
|
|
n |
|
n− |
|
n−1 |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
Однако, ìàòðèца коэффициентов данной системы имеет спектральное число обусловленности не меньше 2n−2/√n независимо от выбора узлов xi. 1 Поэтому даже малые погрешности в значениях
fi могут привести к недопустимым погрешностям в коэффициентах интерполяционного многочлена p(x).
Строить вычисления на основе коэффициентов интерполяционного многочлена дело почти безнадежное. Но это не означает, что нужно отказаться от использования интерполяционных многочленов. Нужно лишь выбрать другой базис для их представления!
Одна из возможностей записать p(x) следующим образом:
f |
Yj |
x − xj |
. |
( |
) |
i 1 |
n xi − xj |
|
|
|
≤ ≤ |
|
|
|
|
|
j 6= i |
|
|
|
|
В данном случае для разложения p(x) используется базис из так называемых элементарных много- членов Лагранжа
l |
(x) = |
|
Yj |
x − xj |
. |
i |
|
1 |
n xi − xj |
|
|
|
≤ ≤ |
|
|
|
|
|
j 6= i |
|
|
Легко проверить, что
li(xk) = n |
1, |
i = k, |
0, |
i 6= k. |
Поэтому p(x) действительно удовлетворяет условиям p(xk) = fk, 1 ≤ k ≤ n. Формула ( ) называется
интерполяционной формулой Лагранжа .
1Простое доказательство (все же требующее техники, которую мы еще не успели развить), можно найти в статье: E. E. Tyrtyshnikov, How bad are Hankel matrices?, Numer. Math., no. 67, 1994, pp. 261 269.