1.Итерационные методы решения систем нелинейных уравнений (метод Ньютона, Зейделя, простой итерацией).
Пусть рассматривается
уравнение 
. Корнем уравнения
называется значение 
,
при котором 
.
Корень
называется простым,
если
,
в противном случае корень называется
кратным. Целое число m называется
кратностью корня
,
если 
для
k=1,2,3-,m-1 и
.
Постановка
задачи вычисления приближенного
значения корня с точностью 
:
найти такое значения 
,
что 
.
Решение задачи разбивается на два этапа: на первом этапе осуществляют локализациюкорней, на втором этапе производят итерационное уточнение корней. На этапе локализации корней находят достаточно узкие отрезки ( или отрезок, если корень единственный), которые содержат один и только один корень уравнения . На втором этапе вычисляют приближенное значение корня с заданной точностью. Часто вместо отрезка локализации достаточно указать начальное приближение к корню.
ПРИМЕР 1. Локализация корней.
Метод
бисекции. Пусть [a,b] v отрезок
локализации. Предположим, что функция
f(x) непрерывна на [a,b] и на концах принимает
значения разных знаков 
.
Алгоритм метода
бисекции состоит в построении
последовательности вложенных отрезков,
на концах которых функция принимает
значения разных знаков. Каждый последующий
отрезок получают делением пополам
предыдущего. Опишем один шаг итераций
метода. Пусть на k-ом шаге найден
отрезок 
такой,
что 
.
Найдем середину отрезка 
.
Если 
,
то 
-
корень и задача решена. Если нет, то из
двух половин отрезка выбираем ту, на
концах которой функция имеет противоположные
знаки:
, 
,
если 
, 
,
если 
Критерий окончания итерационного процесса: если длина отрезка локализации меньше 2 , то итерации прекращают и в качестве значения корня с заданной точностью принимают середину отрезка.
Теорема о сходимости
метода бисекций. Пусть функция f(x)
непрерывна на [a,b] и на концах принимает
значения разных знаков
.Тогда
метод сходится и справедлива оценка
погрешности : 
Пример 2. Решение уравнения методом бисекции |
|
|
Метод бисекции |
|
|
|
|
Начальные значения |
|
|
|
|
|
Простой корень, найденный с точностью за 30 итераций, равен -0.4900726384. |
|
ПРИМЕР 2. Решение уравнения методом бисекции.
Метод Ньютона (метод касательных) . Расчетная формула метода Ньютона имеет вид:
.
Геометрически метод Ньютона означает,
что следующее приближение к корню 
есть
точка пересечения с осью ОХ
касательной, проведенной
к графику функции y=f(x) в точке 
.
Теорема о
сходимости метода Ньютона. Пусть
-
простой корень уравнения
,
в некоторой окрестности которого функция
дважды непрерывно дифференцируема.
Тогда найдется такая малая 
-
окрестность корня
,
что при произвольном выборе начального
приближения 
из
этой окрестности итерационная
последовательность метода Ньютона не
выходит за пределы окрестности и
справедлива оценка
,
где 
, 
.
Критерий окончания
итерационного процесса. При заданной
точности
>0
вычисления следует вести до тех пор
пока не окажется выполненным неравенство 
.
Пример 3. Решение уравнения методом Ньютона
Метод Ньютона
Начальные
значения
Простой
корень, найденный с точностью
за
5 итераций, равен
-0.4900726385 .
При
другом начальном приближении корень
найден за 3 итерации с той же точностью
ПРИМЕР 3. Решение уравнения методом Ньютона.
Как указано в теореме, метод Ньютона обладает локальной сходимостью, то есть областью его сходимости является малая окрестность корня . Неудачный выбор может дать расходящуюся итерационную последовательность.
Пример 4. Чувтвительность метода Ньютона к выбору начального приближения |
|
|
Очевидно, что корень равен 1.3 |
|
Метод Ньютона |
|
|
Зададим
точность
|
|
Зададим начальное приближение |
|
|
|
Метод разошелся |
|
Зададим начальное приближение |
|
|
|
Метод разошелся |
|
Зададим начальное приближение |
|
|
|
Корень найден за 5 итераций |
|
ПРИМЕР 4. Чувствительность метода Ньютона к выбору начального приближения.
Метод простой
итерации (метод последовательных
повторений). Для применения метода
простой итерации следует исходное
уравнение
преобразовать
к виду, удобному для итерации 
.
Это преобразование можно выполнить
различными способами. Функция 
называется
итерационной функцией. Расчетная формула
метода простой итерации имеет вид: 
.
Теорема о
сходимости метода простой итерации. Пусть
в некоторой
-
окрестности корня
функция
дифференцируема
и удовлетворяет неравенству 
,
где 
-
постоянная . Тогда независимо от выбора
начального приближения из указанной
-
окрестности итерационная последовательность
не выходит из этой окрестности, метод
сходится
со скоростью
геометрической последовательности и
справедлива оценка погрешности:
, 
.
Критерий окончания
итерационного процесса. При заданной
точности
>0
вычисления следует вести до тех пор
пока не окажется выполненным неравенство 
.
Если величина 
,
то можно использовать более простой
критерий окончания итераций:
.
Ключевой момент в
применении метода простой итерации
состоит в эквивалентном преобразовании
уравнения. Способ, при котором выполнено
условие сходимости метода простой
итерации, состоит в следующем: исходное
уравнение приводится к виду 
.
Предположим дополнительно, что
производная 
знакопостоянна
и 
на
отрезке [a,b]. Тогда при выборе итерационного
параметра 
метод
сходится и значение
Пример 5. Приведение уравнения к виду, удобному для итераций
Будем
искать простой корень уравнения ,
находящийся на отрезке локализации
[-0.4,0]
Найдем
корень с помощью встроенной функции
root:
1 способ. Приведем
уравнение к виду x=f(x) , где 
Проверим
условие сходимости: 
График
производной
Макимальное
по модулю значение производной
итерационной функции достигается в
левом конце отрезка
Выполним 3 итерации
по расчетной формуле x= f(x)1
итерация
2
итерация 
3
итерация
Погрешность
найденного значения:
2 способ. Приведем
уравнение к виду x=x-af(x) , где итерационная
функция f(x)=x-af(x), a-итерационный
параметр.
График
производной f1(x)Макимальное и минимальное
значения производной достигаются на
концах отрезка
Выполним 3 итерации
по расчетной формуле x= f(x)=x - af(x))
1
итерация
2
итерация
3
итерация
Погрешность
найденного значения:
.
ПРИМЕР 5. Приведение уравнения к виду, удобному для итераций.
1.3 Общая формулировка методов Рунге-Кутты
Рунге и Хойн построили новые методы, включив в указанные формулы один или два добавочных шага по Эйлеру. Но именно Кутта сформулировал общую схему того, что теперь называется методом Рунге-Кутты.
Пусть
– целое положительное число (число
стадий, этапов) и
– вещественные коэффициенты. Тогда
метод
(2.3.1)
называется -стадийным явным методом Рунге-Кутты для исходной задачи Коши (2.1.1)
Обычно коэффициенты
удовлетворяют условиям
.
(2.3.2)
Эти условия были
приняты Куттом без каких-либо комментариев.
Смысл их заключается в том, что все
точки, в которых вычисляется
,
являются приближениями первого порядка
к решению. Эти условия сильно упрощают
вывод условий, определяющих порядок
аппроксимации для методов высокого
порядка. Однако для методов низких
порядков эти предположения необходимыми
не являются.
Метод Рунге-Кутты
имеет порядок
,
если для достаточно гладких задач
(2.1.1) справедливо неравенство
,
(2.3.3)
то есть ряды Тейлора
для точного решения
и для
совпадают до члена
включительно.
|
|
|
|
Метод Рунге-Кутты второго порядка точности.
Согласно этому методу, для решения задачи Коши используется семейство разностных схем вида
.
Все эти схемы при
любом параметре 
имеют
порядок аппроксимации 
.
В частности, при 
численное
решение исходной задачи Коши принимает
вид:
1.4 Обсуждение методов порядка 4
Подойдем теперь
вплотную к определению 4-стадийных
методов Рунге-Кутты (2.3.1) с таким расчетом,
чтобы они имели порядок 4. Для этого
необходимо вычислить производные
порядков 1, 2, 3 и 4 от
при
и сравнить их с производными точного
решения. Теоретически при известных
правилах дифференциального исчисления
это совершенно тривиальная задача.
Однако с использованием (2.3.2) получаются
следующие условия:
Эти вычисления очень утомительны и емки. Их громоздкость очень быстро растет для более высоких порядков.
Лемма 1.
Если
(2.4.2)
то уравнения d), g) и h) являются следствием остальных.
Доказательство.
Покажем это для g). C помощью уравнений c) и e) получим:
Для уравнений d) и h) процедура аналогична.
Покажем, что в нашем случае условие
является и необходимым.
Лемма 2.
При
(2.4.2) следует из уравнений (2.4.1) и уравнений
(2.3.2).
Для доказательства потребуется следующая лемма 3.
Лемма 3.
Пусть
и
суть 3x3-матрицы, такие что
,
(2.4.3)
тогда либо
,
либо
,
где
.
Доказательство.
Если
,
то из
следует
.
Если же
,
то существует вектор
,
такой, что
,
и поэтому
.
Но тогда из (2.4.3) следует, что
должен быть пропорционален вектору
.
Докажем теперь
предыдущую лемму. Введем величины
для
.
Итак, надо доказать, что
.
Введем теперь матрицы
(2.4.4)
Перемножение этих матриц с использованием условий (2.4.1) дает
,
(2.4.5)
причем
Далее последний
столбец
не может быть нулевым, так как из того,
что
,
следует
в силу условия h).
Таким образом, из последней леммы
следует, что
.
Последнее тождество
вытекает из равенства
,
которое является следствием условий
a) и b).
Теорема.
Если выполнены предположения , то уравнения (2.4.1) эквивалентны следующим:
(2.4.6)
Доказательство.
Из j) и h) следует, что
.
(2.4.7)
Отсюда, в частности,
вытекает, что в силу k)
.
Решение уравнений
(2.4.6). Уравнения a)-e)
и k) выражают тот факт, что
коэффициенты
и
являются весами и узлами квадратурной
формулы четвертого порядка при
и
.
В силу (2.4.7) возможны следующие четыре
случая:
1)
.
(2.4.8)
Тогда уравнения a)-e)
образуют невырожденную линейную систему
для определения
.
Эта система имеет решение:
Остальные три случая с двойными узлами основаны на правиле Симпсона:
2)
;
3)
;
4)
.
После
того, как выбраны
и
,
получаем
из уравнения j), и тогда
два уравнения f) и i)
образуют линейную систему для определения
и
.
Определитель этой системы
,
согласно (2.4.7) не равен
нулю. Наконец, из того, что
находим
,
и
.
Особенно популярными
стали два варианта, которые выбрал Кутта
в 1901 году. Это случай 3) при
и случай 1) при
.
Оба метода обобщают классические
квадратурные формулы, сохраняя их
порядок. Первый из них более популярен,
однако второй более точен.
Правило 3/8
|
|
|
|
Классический метод Рунге-Кутты
|
|
|
|