5. Неполная релаксация

Вместо полной минимизации функции ошибки на каждом отдельном шагу процесса можно заботиться лишь об уменьшении функции ошибки. Процессы, построенные исходя из этого принципа, назы­ваются процессами неполной релаксации.

При неполной релаксации функция ошибки изменяется по формуле

На каждом отдельном шагу процесса метод полной релаксации является наивыгоднейшим, так как он обеспечивает максимальное уменьшение функции ошибки за один шаг. Однако при проведении большого числа шагов может оказаться, что неполная релаксация дает лучший результат.

Число при неполной релаксации может изменяться от шага к шагу. Если процесс неполной релаксации берется циклическим при постоянном или циклически меняющемся , то процесс можно рассматривать как частный случай общего одношагового цикличе­ского процесса, примененного к системе

где .

Формулы для вычисления компонент результата -го цикла будут

Эта формула определяет итерационный процесс и для систем с не положительно-определенными матрицами.

6. Градиентный метод с минимальными невязками

Пусть положительно-определенная матрица, начальное приближение к решению системы . Следующее приближение ищется по формуле

параметр выбирается так, что бы минимизировалась длина вектора невязки . После выполнения первого шага процесс повторяется.

Формулы, связывающие соседние приближения:

7. Градиентные методы с неполной релаксацией

Пусть положительно-определенная матрица и имеется решение системы .

Рассмотрим итерационный процесс, в котором каждое последующее приближение получается из предыдущего изменением в направлении, противоположному градиенту функции ошибок, причем так, что на каждом шаге функция ошибок уменьшается. Формулы для получения последовательных приближений:

Пусть , где соответствующий коэффициент в методе наискорейшего спуска.

Для того, чтобы , было бы меньше, чем , необходимо и достаточно выполнение для множителей релаксации неравенств

Будем называть группу методов, в которых не все равны 1, методами неполной градиентной релаксации. Если все множители релаксация , но не все равны единице, метод называется методом нижней релаксации , если все , но не все ,- методом верхней релаксации.

8. Метод Якоби

Исходную систему АХ=В (1.8.1)

преобразуем к виду:

(1.8.2)

где i=1,2,...,m; a_ii0.

Первая сумма равна нулю, если верхний предел суммирования меньше нижнего.

Так (1.8.2) при i=1 имеет вид

По методу Якоби (метод простых итераций) (n+1 приближение х_i) ищем по формуле

(1.8.3)

где n – номер итерации (0,1,…,); i= .

Итерационный процесс (1.8.3) начинается с начальных значений , которые в общем случае задаются произвольно, но предпочтительнее, если за взять свободные члены исходной системы.

Условие окончания счета:

,

где i= .

Исходную матрицу системы (1.8.1) представим в виде суммы трёх матриц

A=A₁+D+A₂,

где D - диагональная матрица;

D =diаg[а₁₁а₂₂…а_mm];

A₁ - нижняя треугольная матрица;

A₂ - верхняя треугольная матрица.

Тогда исходную систему (1.8.1) можно записать в виде

Х=-D^-1A₁ Х– D^-1A₂ Х+D^-1 В.

Тогда метод Якоби можно записать в виде:

или

. (1.8.4)