численные методы / метод простой итерации

Численное решение уравнений и их систем состоит в приближённом определении корня или корней уравнения или системы уравнений и применяется в случаях, когда точное значение вычислить невозможно или очень трудоёмко.

Постановка задачи

Рассмотрим методы численного решения уравнений и систем уравнений:

или

Численное решение задачи можно проводить как непосредственно (используя одноимённые методы), так и с применениемоптимизационных методов, приведя задачу к соответствующему виду. Последним посвящена статья Градиентные методы.

Численные методы решения уравнений

Покажем, как можно решить изначальную систему уравнений, не прибегая к оптимизационным методам. В случае, если наша система представляет собой СЛАУ, целесообразно прибегнуть к таким методам, как метод Гаусса или метод Ричардсона. Однако мы всё же будем исходить из предположения, что вид функции нам неизвестен, и воспользуемся одним из итерационных методов численного решения. Среди большого разнообразия таковых выберем один из наиболее известных —метод Ньютона. Этот метод в свою очередь основывается на принципах метода простой итерации. Поэтому сначала будет изложена суть последнего.

Метод простой итерации

В основе метода заложено понятие сжимающего отображения. Определим терминологию:

Говорят, что функция  осуществляет сжимающее отображение на , если

1. 

2. 

Тогда основная теорема будет выглядеть так:

Теорема Банаха (принцип сжимающих отображений). Если  — сжимающее отображение на , то:  — корень; итерационная последовательность  сходится к этому корню; для очередного члена  справедливо .

Поясним смысл параметра . Согласно теореме Лагранжа имеем:

Отсюда следует, что . Таким образом, для сходимости метода достаточно, чтобы 

1. 

.........

и так далее, пока 

Применительно к СЛАУ

Рассмотрим систему:

Для неё итерационное вычисление будет выглядеть так:

Сходимость метода будет осуществлять 

Следует отметить, что для оценки сходимости вычисляется не определитель матрицы, а норма матрицы. Поэтому в данном случае поставлены двойные вертикальные черты, а не одинарные.

Решение уравнения cos(x)=x по методу простой итерации, очередная итерация: x_n+1=cos x_n, начальное приближение: x₁ = -1

Алгоритм

1. Условие  преобразуется к виду , где  — сжимающая

2. Задаётся начальное приближение и точность 

3. Вычисляется очередная итерация 

• Если , то  и возврат к шагу 3.

• Иначе  и остановка.

Решение уравнения f(x)=0 по методу Ньютона, начальное приближение: x₁=a.

Метод Ньютона(метод касательных)

Основная статья: Метод Ньютона

Одномерный случай

Для того, чтобы решить уравнение , пользуясь методом простой итерации, необходимо привести его к виду , где  — сжимающее отображение. Чтобы отображение было наиболее эффективно, необходимо, чтобы в точке очередной итерации  выполнялось . Будем искать решение данного уравнения в виде , тогда:

Воспользуемся тем, что , и получим окончательную формулу для :

С учётом этого сжимающая функция примет вид:

Тогда алгоритм нахождения численного решения уравнения  сводится к итерационной процедуре вычисления:

Многомерный случай

Обобщим полученный результат на многомерный случай.

Выбирая некоторое начальное приближение , находят последовательные приближения  путем решения систем уравнений:

,

где .