1.Регуляризация Тихонова

Если матрица А плохо обусловлена или вырождена, то вместо СЛАУ (5) можно рассмотреть следующую вариационную задачу V:

Найти μ = inf||Ax-b||²и минимизирующий векторx⁰.(6)

Лемма Решение задачи (6) всегда существует.

Доказательство

Обозначим как F(x) функцию вида:F(x)= ||Ax-b||². Это квадратичная функция.

Исследуем ее свойства: .

Таким образом, и он достигается в

некоторой точке x¹.

Причем, если матрица А – вырожденная, то

точка x¹не единственна.

Для нахождения можно использовать необходимый признак экстремума, т.е. рассмотреть следующую систему:

.

После преобразований получим систему: A^TAx=A^Tb. (7)

Задача Доказать, что система (7) всегда разрешима, т.е. разрешима при любой матрице А и правой частиb.

Если задача (5) плохо обусловлена, то можно также рассмотреть вариационную задачу T(α<<1, α>0):

Найти μ = inf( ||Ax-b||²+α||x||²) и минимизирующий вектор.(8)

Лемма Решение задачи (8) существует, причем единственно при α>0.

Доказательство

Необходимый признак экстремума приводит к следующей системе:

(α+A^TA)x = A^Tb (9)

Т.к. A^TA– симметричная, неотрицательно определенная матрица, то её собственные числа Λ_i≥0.

Тогда собственные числа матрицы α+A^TAλ_i≥α, а значит эта матрица невырождена.

Получим:

При этом, если α<<1, то решение задачи (9) близко к решению задачи (7), т.е. оно может быть принято в качестве приближения задачи (5). Таким образом решение задачи (5) сводится к решению задачи (9). Заметим, что однако требуются эксперименты по выбору α.

2.Svd-регуляризация

Рассмотрим систему (5), где А и bизвестны, необходимо найти решение х.

Возьмем сингулярное разложение оператора А: A=USV, где матрицыU,V– ортогональные матрицы,S– диагональная.

Получим систему вида:

.

Обозначим y=Vx,z=U^Tb, получим:

(10)

Отсюда x=Vy^Tявляется решением задачи (5), еслиy_kне мало.

Заметим, что если задача (5) плохо обусловлена, то и задача (10) – тоже. Т.е. некоторые s_kблизки к нулю.

Для определенности будем считать, что s_k≥s_k+1≥0. Значит задача (10) плохо обусловлена, если последниеs_kлибо равны 0, либо близки к нему, а последниеz_kдостаточно отличаются от нуля.

Идея регуляризации состоит в замене правого столбца системы так, что z_kполагаются равными нулю, если соответсвующиеs_k≈0.

SVD-регуляризация более точная по сравнению с регуляризацией Тихонова, но требует сложных операцию по преведению матрицы к сингулярному разложению.

3.Регуляризация методом простой итерации

Рассмотрим интегральное уравнение первого рода:

Нормальное уравнение K^TKu=K^Tgили:

разрешимо всегда.

Таким образом, регуляризующее уравнение:

(α + K^*K)u=K^*gразрешимо всегда.

Если || K||≤q<α, то может быть применен метод простой итерации:uⁿ⁺¹(x)=uⁿ(x)+K^TKg.

Глава3. Обыкновенные дифференциальные уравнения

Постановка задачи

Общее дифференциальное уравнения n-ого порядка имеет вид:

f(x,y(x),y’(x)..y⁽ⁿ⁾(x))=0.

Важный класс таких уравнений – уравнения, разрешенные относительно старшей производной: y⁽ⁿ⁾(x)=f(x,y(x),y’(x)..y^(n-1)(x)).

Для изучения методов решения дифференциальных уравнений достаточно рассмотреть уравнения первого порядка: y’(x)=f(x,y(x)), гдеy(x) может быть в том числе и вектор-функцией.

Обозначим и.

Тогда получим систему линейных уравнений первого порядка в следующем виде: .

Говорят, что функция f(x) удовлетворяетусловиюЛипшица, если, константаLне зависит от.

Говорят, что функция f(x,y) удовлетворяетусловиюЛипшица по второй переменной, если, константаLне зависит от.

Общая теорема

Рассмотрим задачу вида: , гдеf(x,y) определена на некоторой областиD.

Если f(x,y) определена в некоторой окрестности точки (x₀,y₀) и удовлетворяет условию Липшица по у, торешениеy≡y(x) дифференциального уравнения в этой окрестности:y(x₀) =y₀.

Для доказательство данной теоремы используется метод Пикара.

ЗамечаниеЕсли функцияf(x,y) непрерывна по обоим аргументам, то елинственности, вообще говоря, нет.

Основные задачи для рассмотрения

1) задача Коши (1)

2) краевая задача (2)