Метод простой итерации

Для использования этого метода исходное нелинейное уравнение записывается в виде:

x = f(x) (1)

Пусть известно начальное приближение корня . Подставляя это значение в правую часть уравнения (1), получаем новое приближение:

Далее, подставляя каждый раз новое значение корня в (1), получаем последовательность значений

Итерационный процесс прекращается, если результаты двух последовательных итераций близки: . Достаточным условием сходимости метода простой итерации является условие .

Метод Ньютона

Если известно хорошее начальное приближение решения уравнения f(x)=0, то эффективным методом повышения точности является метод Ньютона (метод касательных). Метод состоит в построении итерационной последовательности , сходящейся к корню уравнения f(x)=0.

Сформулируем достаточные условия сходимости метода.

Пусть f(x)=0 определена и дважды дифференцируема на [a,b], причем , а производные сохраняют знак на этом отрезке. Тогда, исходя из начального приближения , удовлетворяющего неравенству , можно построить последовательность , сходящуюся к единственному решению уравнения f(x)=0.

Метод Ньютона эффективен, если известно хорошее начальное приближение для корня, и в окрестности корня график функции имеет большую крутизну. В этом случае процесс быстро сходится. Если же численное значение первой производной вблизи корня мало, то процесс вычисления корня может быть очень долгим.

Задание

Написать программу для решения уравнений вида (x)=0 итерационными методами

Контрольные вопросы

Лабораторная работа №8 МИНИМИЗАЦИЯ ФУНКЦИИ

Цель работы: Написать программу для минимизации функции одной переменной методом золотого сечения и функции двух переменных методами Хука–Дживса и градиентного спуска.

Теоретические основы

Одномерная минимизация

Метод золотого сечения

Одним из наиболее эффективных методов, в которых при ограниченном количестве вычислений f(x) достигается наилучшая точность, является метод золотого сечения. Он состоит в построении последовательности отрезков [а₀, b₀], [а₁, b₁], …, стягивающихся к точке пересечения графика функции f(x) с осью x. На каждом шаге, за исключением первого, вычисление значения функции f(x) проводится лишь один раз. Эта точка, называемая золотым сечением, выбирается специальным образом.

Рисунок 2 – Метод золотого сечения

Поясним сначала идею метода геометрически, а затем выведем необходимые соотношения. На первом шаге процесса внутри отрезка [а₀, b₀] (рис. 2а) выбираем две внутренние точки х₁ и х₂ и вычисляем значения целевой функции f(x₁) и f(x₂). Поскольку в данном случае , очевидно, что решение расположено на одном из прилегающих к x₁ отрезков [а₀, x₁] пли [x₁, x₂]. Поэтому отрезок [x₂, b₀] можно отбросить, сузив тем самым первоначальный интервал неопределенности.

Второй шаг проводим на отрезке [а₁, b₁] (рис. 2б), где а₁ = а₀, b₁ = х₂. Нужно снова выбрать две внутренние точки, но одна из них (x₁) осталась из предыдущего шага, поэтому достаточно выбрать лишь одну точку х₃, вычислить значение f(х₃) и провести сравнение. Поскольку здесь , ясно, что решение находится на отрезке [х₃, b₁]. Обозначим этот отрезок [а₂, b₂], снова выберем одну внутреннюю точку и повторим процедуру сужения интервала неопределенности. Процесс повторяется до тех пор, пока длина очередного отрезка [а_n, b_n] не станет меньше заданной величины .

Теперь рассмотрим способ размещения внутренних точек на каждом отрезке [а_k, b_k]. Пусть длина интервала неопределенности равна l, а точка деления делит его на части l₁, l₂: . Золотое сечение интервала неопределенности выбирается так, чтобы отношение длины большего отрезка к длине всего интервала равнялось отношению длины меньшего отрезка к длине большего отрезка:

Из этого соотношения можно найти точку деления, определив отношение :

Поскольку нас интересует только положительное решение, то

Отсюда:

Поскольку заранее неизвестно, в какой последовательности (l₁ и l₂ или l₂ и l₁) делить интервал неопределенности, то рассматриваются внутренние точки, соответствующие двум этим способам деления.

На рис. 3а точки деления x₁, x₂ выбираются с учетом полученных значений для частей отрезка. В данном случае имеем:

После первого шага оптимизации получается новый интервал неопределенности – отрезок [а₁, b₁] (рис. 2). Точка x₁ делит этот отрезок в требуемом отношении, при этом

Вторая точка деления х₃ выбирается на таком же расстоянии от левой границы отрезка, т. е. . И снова интервал неопределенности уменьшается до размера:

Тогда координаты точек деления у и z отрезка.[a_k, b_k] на k+1–м шаге оптимизации (у < z):

При этом длина интервала неопределенности равна:

Процесс заканчивается при выполнении условия .