Аппроксимация таблично заданной функции методом наименьших квадратов

Этот алгоритм часто используется в прикладных задачах, когда необходимо представить некоторый массив экспериментальных или наблюдательных данных какой-нибудь функциональной зависимостью. При этом вид аппроксимирующей функции задается заранее, а ее числовые коэффициенты подбираются таким образом, чтобы функция наилучшим образом аппроксимировала имеющиеся данные. Мы изучим способ аппроксимации алгебраическим полиномом. Пусть заданы массивы значений аргумента {x_j} j=1,...,m и функции {y_j} j=1,...,m и требуется аппроксимировать данную функцию алгебраическим полиномом степени n :

.

Коэффициенты полинома ищутся из условия минимума функционала

.

Каждая из величин P(x_j)-y_j называется невязкой в точке x_j, а величина , очевидно, есть сумма квадратов невязок. Таким образом, нашей задачей является выбор таких коэффициентов a₀,a₁,...,a_n, при которых сумма квадратов невязок достигает наименьшего значения - отсюда и название метода. Очевидно, что функционал достигает минимума при выполнении условий:

.

Введем для удобства записи обозначения

и перепишем систему уравнений в виде:

.

Это система линейных алгебраических уравнений относительно коэффициентов a_j; ее решение можно найти одним из известных методов.

{ Аппроксимация методом наименьших квадратов }

CONST m=10; n=2;

TYPE VectorType = ARRAY[1..n+1] OF Real;

MatrixType = ARRAY[1..n+1] OF VectorType;

DataType = ARRAY[1..m] OF Real;

XType = ARRAY[0..2*n] OF Real;

YType = ARRAY[0..n] OF Real;

{ Используем функцию Gauss из предыдущего пункта }

CONST x : DataType = (1,2, 3, 4, 5, 6, 7, 8, 9, 10);

y : DataType = (4,9,16,25,36,49,64,81,100,121);

VAR i,j,k : Byte; XX : Xtype; YY : Ytype; A : MatrixType; B,Coeff : VectorType; p : Real;

BEGIN { Вычислим величины X и Y }

FOR k:=0 TO 2*n DO XX[k]:=0;

FOR i:=1 TO m DO BEGIN p:=1; k:=0;

WHILE k<=2*n DO BEGIN XX[k]:=XX[k]+p; p:=p*x[i]; Inc(k); END;

END;

FOR k:=0 TO n DO YY[k]:=0;

FOR i:=1 TO m DO BEGIN p:=y[i]; k:=0;

WHILE k<=n DO BEGIN YY[k]:=YY[k]+p; p:=p*x[i]; Inc(k); END;

END;

{ сформируем матрицу системы }

FOR i:=1 TO n+1 DO FOR j:=1 TO n+1 DO A[i,j]:=XX[i+j-2];

FOR i:=1 TO n+1 DO B[i]:=YY[i-1];

{ вычислим коэффициенты полинома }

IF Gauss(n+1,A,B,Coeff) THEN;

{ выведем результаты }

WRITELN('Коэффициенты полинома :');

FOR k:=1 TO n+1 DO WRITELN('a[',k-1,']=',Coeff[k]);

END.

Численное интегрирование

Существует большое количество методов приближенного вычисления определенных интегралов. Алгебраическая формула, дающая приближенное значение определенного интеграла, называется квадратурной формулой. Одной из простейших квадратурных формул является формула трапеций:

,

где h = (b-a)/n ; n - некоторое целое положительное число, называемое числом разбиений отрезка [a,b] .

Квадратурная формула Симпсона записывается в виде:

.

Число разбиений n для формулы Симпсона должно быть четным. Относительная погрешность вычисленного значения оценивается по формуле:

.

Здесь J_n и J_2n - значения, вычисленные для числа разбиений n и 2n соответственно, r=3 для квадратурной формулы трапеций и r=12 для квадратурной формулы Гаусса. Чтобы начать вычисления, берут n=1 или n=2 и удваивают его до тех пор, пока относительная погрешность не станет меньше некоторого наперед заданного маленького числа.

Непосредственное использование квадратурных формул крайне неэффективно, поскольку приходится многократно повторять вычисление подынтегральной функции в тех точках, где она уже посчитана. Наиболее эффективный алгоритм вычислений по формуле трапеций можно записать в виде:

.

Для квадратурной формулы Симпсона наиболее эффективный алгоритм можно записать в виде:

.

Квадратурная формула Симпсона точнее, чем формула трапеций, и в большинстве случаев вычисление интеграла по формуле Симпсона происходит намного быстрее.

TYPE FuncType = FUNCTION (x:Real):Real;

FUNCTION Trapezia(a,b:Real; f:FuncType; Epsilon:Real):Real;

{ Квадратурная формула трапеций }

VAR i,n : LongInt; J1,J2,d,h,s : Real;

BEGIN J1:=(f(a)+f(b))/2; n:=1;

REPEAT n:=n ShL 1; h:=(b-a)/n; s:=0;

FOR i:=1 TO n DIV 2 DO s:=s+f(a+(2*i-1)*h);

J2:=J1/2+s/n; d:=Abs(J1/J2-1)/3; J1:=J2;

UNTIL d<Epsilon;

Trapezia:=J2*(b-a);

END;

FUNCTION Simpson(a,b:Real; f:FuncType; Epsilon:Real):Real;

{ Квадратурная формула Симпсона }

VAR i,n : LongInt; J2,Jn,Q2,Qn,d,h,s : Real;

BEGIN Q2:=f(a)+2*f((a+b)/2)+f(b); J2:=(Q2+2*f((a+b)/2))/6; n:=2;

REPEAT n:=n ShL 1; h:=(b-a)/n; s:=0;

FOR i:=1 TO n DIV 2 DO s:=s+f(a+(2*i-1)*h);

s:=s*2; Qn:=Q2+s; Jn:=(Qn+s)/3/n;

d:=Abs(J2/Jn-1)/12; J2:=Jn; Q2:=Qn;

UNTIL d<Epsilon;

Simpson:=Jn*(b-a);

END;

FUNCTION F(x:Real):Real; FAR; BEGIN F:=Sqr(Sqr(x)); END;

BEGIN WRITELN(Trapezia(1,2,F,1E-6));

WRITELN(Simpson(1,2,F,1E-6));

END.