3. Матрицы специального вида (ленточные матрицы). Алгоритм прогонки для систем с трехдиагональной матрицей.

Ленточная матрица - Квадратная матрица, все ненулевые элементы которой примыкают к главной диагонали.

Метод прогонки

Для решения систем A x = b с трехдиагональной матрицей наиболее часто применяется метод прогонки, являющийся адаптацией метода Гаусса к этому случаю.

Запишем систему уравнений

в матричном виде: A x = b где

A=

Выпишем формулы метода прогонки в порядке их применения.

Метод прогонки можно применять, если нигде в формулах знаменатели не равны нулю. В [2, стр.134] доказано следующее

УТВЕРЖДЕНИЕ 1.1 Для применимости формул метода прогонки достаточно выполнения условий диагонального преобладания у матрицы A, то есть :

| d_i| ≥ | c_i| + | e_i|

4. Алгоритм разложений матрицы системы для решения линейных систем алгебраических уравнений. LU-разложение. Преимущества LU-разложения. Количество операций на различных этапах. Простейший алгоритм LU-разложения (без выбора ведущего элемента).

5. Алгоритм разложений матрицы системы для решения линейных систем алгебраических уравнений. Метод Холецкого для систем с симметричной, положительно определенной матрицей. Алгоритм нахождения соответствующего разложения, устойчивость алгоритма и количество операций.

В линейной алгебре, положи́тельно определённая ма́трица — это эрмитова матрица, которая во многом аналогична положительному вещественному числу. Это понятие тесно связано с положительно определённой симметрической двулинейной формой (или полуторалинейной формой в случае с комплексными числами).

Эрми́това (или самосопряжённая) ма́трица — квадратная матрица, элементы которой являются комплексными числами, и которая, будучи транспонирована, равна комплексно сопряжённой: . То есть, для любого столбца i и строки j справедливо равенство

6.Итерационные методы решения слау. Сходимость. Векторные и матричные нормы. Норма Фробениуса и p-нормы, совместимость и эквивалентность норм. Простейшие итерационные методы решения слау.

Итерационные методы: Схема Якобы (он же метод простых итераций), метод Зейделя и метод релаксаций (не проходили его)

Рассматривается система Ax = b. Для применения итерационных методов система должна быть приведена к эквивалентному виду x=Bx+d. Затем выбирается начальное приближение к решению системы уравнений и находится последовательность приближений к корню. Для сходимости итерационного процесса достаточно, чтобы было выполнено условие . Критерий окончания итераций зависит от применяемого итерационного метода.

 

Метод Якоби.

Самый простой способ приведения системы к виду удобному для итерации состоит в следующем: из первого уравнения системы выразим неизвестное  x₁, из второго уравнения системы выразим  x₂, и т. д. В результате получим систему уравнений с матрицей B, в которой на главной диагонали стоят нулевые элементы, а остальные элементы вычисляются по формулам:

  ,    i, j = 1, 2, ... n.

Компоненты вектора d вычисляются по формулам:

  ,   i = 1, 2, ... n.

Расчетная формула метода простой итерации имеет вид

,

или в покоординатной форме записи выглядит так:

,  i = 1, 2, ... m.

Критерий окончания итераций в методе Якоби имеет вид:

,   где    .

Если   , то можно применять более простой критерий

окончания итераций

Метод Зейделя.

Метод можно рассматривать как модификацию метода Якоби. Основная идея состоит в том, что при вычислении очередного (n+1)-го приближения к неизвестному  x_i при i >1 используют уже найденные (n+1)-е приближения к неизвестным  x₁, x₂, ..., x_{i - 1}, а не n-ое приближение, как в методе Якоби. Расчетная формула метода в покоординатной форме записи выглядит так:

,

 i = 1, 2, ... m.. Условия сходимости и критерий окончания итераций можно взять такими же как в методе Якоби. 

Сходимость – это свойство метода, при котором итерации этого метода должны сходиться к решению задачи. Для сходимости итерационного процесса достаточно, чтобы было выполнено условие

Областью сходимости метода называется множество начальных условий, при которых итерации по данному методу сходятся к решению задачи.

Нормы:

Матричная норма - это функция удовлетворяющая следующим свойствам:        f ( A ) ≥ 0        f ( A + B ) ≤ f ( A ) + f ( B )        f ( α * A ) = | α | * f ( A ) где A и B - это матрицы, α - скаляр.

Некоторые свойства матричных норм:        | A |₂ ≤ | A |_F ≤ √ n | A |₂        max | a_ij | ≤ | A |₂ ≤ √ mn max | a_ij |        | A |₁ / √ m ≤ | A |₂ ≤ √ n | A |₁        | A |_∞ / √ n ≤ | A |₂ ≤ √ m | A |_∞        | A |₂ | A |₂ ≤ | A |₁ | A |_∞

Норма n-мерного вектора - это функция удовлетворяющая следующим свойствам:

f ( x ) ≥ 0

f ( x + y ) ≤ f ( x ) + f ( y )

f ( a * x ) = | a | * f ( x )

где x и y - это векторы, а - скаляр.

Некоторые свойства векторных норм:

| x |₂ ≤ | x |₁ ≤ √n | x |₂

| x |_∞ ≤ | x |₂ ≤ √n | x |_∞

| x |_∞ ≤ | x |₁ ≤ n | x |_∞

Чаще всего используют норму Фробениуса:        | A |_F = √ сумма квадратов всех элементов

Полезный класс векторных норм - это p-нормы:

| x |_p = ( | x₁ |^p + ... + | x_n |^p )^1/p

где p ≥ 1. Наиболее важными из p-норм являются 1, 2 и ∞-нормы:

| x |₁ = | x₁ | + ... + | x_n |

| x |₂ = ( | x₁ |² + ... + | x_n |² )^1/2

| x |_∞ = max | x_i |

Две нормы p и q на пространстве V называются эквивалентными, если существует две положительные константы C₁ и C₂ такие, что для любого выполняется . Эквивалентные нормы задают на пространстве одинаковую топологию. В конечномерном пространстве все нормы эквивалентны.

8.Аппроксимация функции полиномиальной интерполяцией. Интерполяция и экстраполяция. Линейная поточечная интерполяция полиномами, базисные функции, единственность интерполяционного полинома. Два подхода к нахождению интерполянта – построение многочлена Лангранжа и алгоритм Нэвилла

Аппроксима́ция, или приближе́ние — научный метод, состоящий в замене одних объектов другими, в том или ином смысле близкими к исходным, но более простыми.

Интерполя́ция, интерполи́рование — в вычислительной математике способ нахождения промежуточных значений величины по имеющемуся дискретному набору известных значений.

Экстраполяция, экстраполирование — особый тип аппроксимации, при котором функция аппроксимируется вне заданного интервала, а не между заданными значениями. То есть экстраполяция — приближённое определение значений функции f(x) в точках x, лежащих вне отрезка [x₀,x_n], по её значениям в точках x₀ < x₁ < ... < x_n.

Полиномиальная интерполяция – это один из способов нахождения аппроксимации функции. Ее суть состоит в том, что для этого используют полином степени n.

Линейная интерполяция

Лине́йная интерполя́ция — интерполяция алгебраическим двучленом P₁(x) = ax + b функции f, заданной в двух точках x₀ и x₁ отрезка [a, b]. В случае, если заданы значения в нескольких точках, функция заменяется кусочно-линейной функцией.

Уравнение такой прямой имеет вид:

отсюда для

Это и есть формула линейной интерполяции, при этом

где R₁(x) — погрешность формулы:

Справедлива оценка

Полином единственен, когда матрица, составленная из системы уравнений (полинома) невырождена.

В случае линейной полиномиальной интерполяции базисные функции имеют следующий вид: ₀(x)= x⁰=1,  ₁(x)= x¹=x,   ₂(x)= x², … ,  _m(x)= x^m. (тут Фи это P-полином, просто обозначение другое)

Многочлен Лагранжа:

где правая часть от y это

где - коэффициент, который находится из условия .

Основная идея метода состоит в том, что полином представлен в виде суммы двух линейных функций, независящих от ординат, умноженных на ординаты и обладающих свойством:

Достоинства интерполяционного полинома Лагранжа является простота конструкции. Недостаток – добавление (n+1)-ого узла требует перерасчета всех слагаемых.

9.Аппроксимация функции полиномиальной интерполяции. Интерполяция и экстраполяция. Линейная поточечная интерполяция полиномом, базисные функции, единственность интерполирующего полинома. Точность аппроксимации и форма остаточного члена. Зависимость ошибки интерполяции от выбора узлов интерполяции, теорема Чебышева о минимальной амплитуде. Нули полинома Чебышева и узлы Чебышевской сетки

Аппроксима́ция, или приближе́ние — научный метод, состоящий в замене одних объектов другими, в том или ином смысле близкими к исходным, но более простыми.

Интерполя́ция, интерполи́рование — в вычислительной математике способ нахождения промежуточных значений величины по имеющемуся дискретному набору известных значений.

Экстраполяция, экстраполирование — особый тип аппроксимации, при котором функция аппроксимируется вне заданного интервала, а не между заданными значениями. То есть экстраполяция — приближённое определение значений функции f(x) в точках x, лежащих вне отрезка [x₀,x_n], по её значениям в точках x₀ < x₁ < ... < x_n.

Полиномиальная интерполяция – это один из способов нахождения аппроксимации функции. Ее суть состоит в том, что для этого используют полином степени n.

Линейная интерполяция

Лине́йная интерполя́ция — интерполяция алгебраическим двучленом P₁(x) = ax + b функции f, заданной в двух точках x₀ и x₁ отрезка [a, b]. В случае, если заданы значения в нескольких точках, функция заменяется кусочно-линейной функцией.

Уравнение такой прямой имеет вид:

отсюда для

Это и есть формула линейной интерполяции, при этом

где R₁(x) — погрешность формулы:

Справедлива оценка

Полином единственен, когда матрица, составленная из системы уравнений (полинома) невырождена.

В случае линейной полиномиальной интерполяции базисные функции имеют следующий вид: ₀(x)= x⁰=1,  ₁(x)= x¹=x,   ₂(x)= x², … ,  _m(x)= x^m. (тут Фи это P-полином, просто обозначение другое)

Для оценки точности аппроксимации, характеристики объекта управления, математической моделью определяют среднеквадратичную погрешность аппроксимации ( ):

 

 

где y _и yx- значение  реальной функции и полинома в определенном узле, n-количество узлов

Удовлетворительной аппроксимация считается, если погрешность d  не превышает 3%.

Остаточный член — разность между заданной функцией и функцией ее аппроксимирующей. Тем самым оценка остаточного члена является оценкой точности рассматриваемой аппроксимации.

Остаточный член определяется через ряд Тейлора, вот общая форма ряда Тейлора с общей формой остаточного члена :

,

Где точка при x < a или при x > a

Зависимость ошибки аппроксимации от узлов интерполяции – чем больше узлов, тем меньше ошибка, т.к. там 1/n

Многочле́ны (полином) Чебышева — две последовательности ортогональных многочленов T_n(x) и U_n(x),

Многочлен Чебышева первого рода T_n(x) характеризуется как многочлен степени n со старшим коэффициентом 2^{n − 1}, который меньше всего отклоняется от нуля на интервале [ − 1,1].

Многочлен Чебышева второго рода U_n(x) характеризуется как многочлен степени n со старшим коэффициентом 2ⁿ, интеграл от абсолютной величины которого по интервалу [ − 1,1] принимает наименьшее возможное значение.

Многочлены Чебышева первого рода могут быть также определены с помощью равенства:

Многочлены Чебышева второго рода U_n(x) могут быть также определены с помощью равенства:

Из последнего тождества также следуют явные формулы:

Нули полиномов Чебышева являются оптимальными узлами в различных интерполяционных схемах.

А узлами чебышевской сетки являются нули функции, которые определяются через , где N-степень (порядок) полинома

10. Аппроксимация функции полиномиальной интерполяции. Интерполяция и экстраполяция. Линейная поточечная интерполяция полиномом, базисные функции, единственность интерполирующего полинома. Прямой подход нахождения интерпеллянта с использованием полинома Чебышева, их ортогональность в сетке. Дифференцирование, интегрирование и возможность усечения интерпеллянта в подобном представлении

Аппроксима́ция, или приближе́ние — научный метод, состоящий в замене одних объектов другими, в том или ином смысле близкими к исходным, но более простыми.

Интерполя́ция, интерполи́рование — в вычислительной математике способ нахождения промежуточных значений величины по имеющемуся дискретному набору известных значений.

Экстраполяция, экстраполирование — особый тип аппроксимации, при котором функция аппроксимируется вне заданного интервала, а не между заданными значениями. То есть экстраполяция — приближённое определение значений функции f(x) в точках x, лежащих вне отрезка [x₀,x_n], по её значениям в точках x₀ < x₁ < ... < x_n.

Полиномиальная интерполяция – это один из способов нахождения аппроксимации функции. Ее суть состоит в том, что для этого используют полином степени n.

Линейная интерполяция

Лине́йная интерполя́ция — интерполяция алгебраическим двучленом P₁(x) = ax + b функции f, заданной в двух точках x₀ и x₁ отрезка [a, b]. В случае, если заданы значения в нескольких точках, функция заменяется кусочно-линейной функцией.

Уравнение такой прямой имеет вид:

отсюда для

Это и есть формула линейной интерполяции, при этом

где R₁(x) — погрешность формулы:

Справедлива оценка

Полином единственен, когда матрица, составленная из системы уравнений (полинома) невырождена.

В случае линейной полиномиальной интерполяции базисные функции имеют следующий вид: ₀(x)= x⁰=1,  ₁(x)= x¹=x,   ₂(x)= x², … ,  _m(x)= x^m. (тут Фи это P-полином, просто обозначение другое)

Ортогональность

(из ортогональности с весом следует обычная ортогональность)

11.Интерполяция сплайнами. Глобальная и локальная аппроксимации, их преимущества и недостатки. Кусочно-полиномиальная интерполяция, сплайны. Естественные кубические сплайны и системы линейных уравнений для их нахождения. Специфика матриц таких систем.

Кусочно-полиномиальная интерполяция – отрезок [a, b] делится на еще меньшие отрезки и для каждого «мини-отрезка» используется свой полином. Этот метод при использовании полинома степени m имеет (m+1)-ый порядок точности

Кубический сплайн

екоторая функция f(x) задана на отрезке [a,b], разбитом на части [x_{i − 1},x_i], a = x₀ < x₁ < ... < x_N = b. Кубическим сплайном дефекта 1 называется функция S(x), которая:

• на каждом отрезке [x_{i − 1},x_i] является многочленом степени не выше третьей;

• имеет непрерывные первую и вторую производные на всём отрезке [a,b];

• в точках x_i выполняется равенство S(x_i) = f(x_i), т. е. сплайн S(x) интерполирует функцию f в точках x_i.

Для однозначного задания сплайна перечисленных условий недостаточно, для построения сплайна необходимо наложить какие-то дополнительные требования.

Естественным кубическим сплайном называется кубический сплайн, удовлетворяющий также граничным условиям вида:

S''(a) = S''(b) = 0.

Система уравнений для кубического сплайна

Обозначим: h_i = x_i − x_{i − 1}

На каждом отрезке [x_{i − 1},x_i] функция S(x) есть полином третьей степени S_i(x), коэффициенты которого надо определить. Запишем для удобства S_i(x) в виде:

тогда

Условия непрерывности всех производных до второго порядка включительно записываются в виде а условия интерполяции в виде

Отсюда получаем формулы для вычисления коэффициентов сплайна:

Глобальная аппроксимация – аппроксимация на всем отрезке [a, b]

Локальная аппроксимация – аппроксимация на части отрезка [xi, xi-1]

Специфика матрицы в том, что она ленточная трехдиагональная.

12. Аппроксимация по методу наименьших квадратов. Поточечное квадратичное аппроксимирование функции полиномами. Минимизируемый функционал и система нормальных уравнений. Специфика матриц нормальных уравнений. Использование ортогональных полиномов.

Суть аппроксимации методом наименьших квадратов (МНК) состоит в том, чтобы найти обобщенный многочлен, для которого среднеквадратичное отклонение минимально.

(это и есть минимизируемый функционал)

Такой многочлен называется многочленом наилучшего квадратичного приближения

Система нормальных уравнений

Используя необходимое условие экстремума, , k=0,1,-m получаем так называемую нормальную систему метода наименьших квадратов: , k=0,1,…m.

Полученная система есть система алгебраических уравнений относительно неизвестных

Запишем нормальную систему наименьших квадратов для двух простых случаев: m=0 и m=2. При m=0 многочлен примет вид: . Для нахождения неизвестного коэффициента имеем уравнение: . Получаем, что коэффициент есть среднее арифметическое значений функции в заданных точках.

Если же используется многочлен второй степени , то нормальная система уравнений примет вид:

Специфика матриц – числа на всех диагоналях, параллельных неглавной и ее самой, равны. Пример:

Использование ортогональных полиномов

Было сказано, что чтоб нормальная система решалась, система базисных функций Фи0, Фи1…Фиn должна быть линейно независима, но часто линейная независимость бывает «плохой» и из-за этого машина сталкивается с проблемами при их вычислении (независимость маленькая, погрешность вычислений большая, как следствие 2 уравнения могут показаться машине линейно зависимыми). Поэтому «лучшей» системой базисных функций является ортогональная система (ортогональные полиномы)

13. Нелинейные уравнения. Итерационные методы нахождения решений нелинейных уравнений, их отличие от прямых методов, специфика и классификация. Интервал локализации, начальное приближение и сходимость. Простейшие подходы и лабораторная работа 3 «нахождение корней нелинейного уравнения: метод бисекции, метод простой итерации, метод ньютона. Априорная и апостериорная оценки для этих методов, скорость сходимости. Абсолютная и относительная погрешности решения и невязка. Интервал неопределенности и правило Гарвика прекращения итераций.

Под нелинейными уравнениями понимаются (см. [1] - [3]) алгебраические и трансцендентные уравнения вида где х- действительное число, - нелинейная функция, а под системой нелинейных уравнений - система вида

не являющаяся системой линейных алгебраич. уравнений; решением системы (2) является N-мерный вектор

Методы решения нелинейных уравнений делятся на прямые (аналитические, точные) и итерационные. Прямые методы позволяют записать решение в виде некоторого соотношения (формулы). Однако подавляющее большинство нелинейных уравнений, встречающихся на практике, не удается решить прямыми методами. Во всех таких случаях приходится обращаться к численным методам(итерационные), позволяющим получить приближенные значения корней с любой заданной точностью.

Решение итерационной задачи разбивается на два этапа: на первом этапе осуществляют локализацию корней, на втором этапе производят итерационное уточнение корней. На этапе локализации корней находят достаточно узкие отрезки ( или отрезок, если корень единственный, тут есть критерии, типа если значения на концах функции разные, то функция имеет по крайне мере 1 корень), которые содержат один и только один корень уравнения .

Уточнение корней. На данном этапе задача состоит в получении приближенного значения корня, принадлежащего отрезку , с заданной точностью (погрешностью) . Это означает, что вычисленное значение корня должно отличаться от точного не более чем на величину :

 

.

 

Процедура численного определения приближенных значений корней нелинейных уравнений, как правило, состоит в выборе начального приближения к корню и вычислении по некоторой формуле последующих приближений , и т.д. Каждый такой шаг называется итерацией (от латинского iteratio – повторение), а сами методы уточнения – итерационными методами. В результате итераций получается последовательность приближенных значений корня , которая называется итерационной последовательностью. Если эти значения с ростом k стремятся к точному значению корня :

 

то говорят, что итерационный процесс сходится.

Сходимость итерационного процесса означает, что погрешность каждого последующего приближения должна быть меньше погрешности предыдущего приближения, т.е. погрешность приближенных значений с каждым шагом должна уменьшаться: