1.1.8. Решение преопределенных систем линейных алгебраических уравнений
Во многих приложениях
возникает необходимость решения
преопределенных систем уравнения, т.е.
таких, в которых число уравнений m
больше числа неизвестных n.
Система уравнений имеет ранг не выше
n,
и точное решение невозможно, поэтому
ищут решение, удовлетворяющее некоторому
критерию качества, причем такое решение,
как правило, не является точным решением
системы. Наиболее широко используется
критерий минимума суммы квадратов
невязок
,
являющихся элементами вектора невязок
R=AX-B
размерности m.
Подход к решению переопределенных систем на основе минимизации суммы квадратов невязок получил собирательное название метода наименьших квадратов
Пусть решение
соответствует минимуму суммы квадратов
невязок
т.е достигает минимума. Такое решение называют нормальным псевдорешением.
Найдем
,
приравнивания нулю производную
по
x.
При этом необходимо использовать правила
дифференцирования векторов и матриц и
следующие свойства операции
транспонирования:
где a – скаляр;A,B, - матрицы или векторы.
В результате преобразований получим:
|
Полученная система уравнений
называется нормальной
системой уравнений. Матрица
является
нормальной симметричной неотрицательно
неопределенной, причем
.
Нормальная система уравнений может быть решена любым прямым методом. Следует иметь ввиду, что необходимо выполнить большое число операций при перемножении матриц и последующем решении, это может привести к заметному росту ошибок округления.
Для решения предопределенных систем ранга n могут быть использованы численно более устойчивые методы ортогональных вращений и отражений. Алгоритмы решения соответствуют описанным выше алгоритмам для систем полного ранга, однако ортогональные матрицы имеют размерность m x m.
Для использования, например, метода вращения, достаточно в приведенном выше алгоритме перебор по i осуществлять до последний m-й строки матрицы A, а перебор столбцов выполнить для всех столбцов, т.е. для k = 1,2,…,n.
Отметим без доказательства, что в результате решения предопределенных систем методом вращений или отражений получается нормальное произведение.
1.2 Решение систем нелинейных алгебраических уравнений
В подовляющем большинстве случаев математические модели реальных объектов содержат нелинейные функции, их отсутствие в математической модели говорит, как правило, о наличии упрощений.
Решение СНАУ является сложной задачей, необходимо глубокое знание как физических свойств исследуемого объект, так и особенностей СНАУ, используемых для его описания.
Наибольшее распространение получили методы ньютоновского типа, но могут применяется разные варианты последовательных приближений, градиентные методы и.т.п.
СНАУ будем представлять
как приравненную к нулю вектор-функцию
W(x)=0
размерности n,
элементами которого являются функции,
где
x –
вектор искомого решения размерности
n.
Например
|
При решении СНАУ,
как правило, возникает проблема
существования и единственности решения,
выбора подходящего решения из множества
решений, удовлетворяющих тождеству
W(X)
0,
если решение существует.
Для большинства задач точное аналитическое решение не может быть получено, необходимо выполнение последовательности итераций. Важным является способ задания начального приближения, а так же вопрос о том, будет ли сходиться, выбраны метод к одному из решений и насколько быстро.
Говорят, что
последовательность
сходится
к
,
если
при
.
Если существует
константа
и
целое
,
такие, что для всех
,
то говорят, что
последовательность
линейно
сходится к
Если данное
неравенство выполняется для некоторых
последовательности
,
сходящей к нулю, то говорят что
сходитьсясверхлинейнок
Если
сходится
к
и
существуют постоянные
и
,
такие , что для всех
то говорят, что последовательность сходится к с порядком, по меньшей мере равным p. При p=2 говорят о квадратичной скорости сходимости.
Итерационный метод, сходящийся с определенной скоростью к истинному решению при условии, что он стартует в достаточной близости от этого решения, называется локально сходящимися,
Под глобально сходящимися часто понимают методы, в которых обеспечивается сходимость к некоторому решению системы нелинейных уравнений почти из любой начальной точки.