2.13.2 Метод наименьших квадратов в нелинейном случае

Как быть в том случае, когда поведение экспериментальных точек, для которых мы хотим построить аппроксимирующую функцию, не похоже на поведение многочленов 1-ой, 2-ой и т.д. степени? Или, более того, тот физический процесс, который мы изучаем в эксперименте, по теоретическим соображениям должен описываться некоторой функцией F(x, c₀, c₁, ... ,c_m) с коэффициентами, нелинейным образом входящими в функциональную зависимость?

Если применять метод наименьших квадратов в традиционном виде, то получающаяся система уравнений для нахождения с_i будет нелинейная:

.

Способы решения систем нелинейных уравнений известны (см. главу 5), но это сложные и трудоемкие способы. Но можно облегчить себе задачу: с помощью подходящей замены переменных постараться линеаризовать задачу, а затем уже в линеаризованной задаче для аппроксимации использовать многочлен (аналогичная идея применялась в нелинейной интерполяции).

Примечание 3. Обработка экспериментальных данных: подбор эмпирических формул.

Процесс подбора аппроксимирующей формулы для найденной из опыта функциональной зависимости y=f(x) состоит из двух этапов. Сначала выбирается вид формулы (причем стараются не перегружать ее коэффициентами: чем проще формула, тем она понятнее, тем яснее физический смысл входящих в нее параметров). Затем с помощью метода наименьших квадратов определяются численные значения параметров, для которых приближение к данной функции оказывается наилучшим.

В таблице 2.1 приведены некоторые простейшие эмпирические формулы, допускающие линеаризацию, то есть приведение к виду

=+,

где =(х,у), =(х,у), а  и  – числовые коэффициенты.

Таблица 2.1 – Формулы линеаризации

Эмпирическая формула
y=axb	=lg(y)	=lg(x)	b	lg(a)
y=abx	= lg(y)	=x	lg(b)	lg(a)
y=a+b/x	=y	=1/x	b	a
y=1/(ax+b)	=1/y	=x	a	b
y=x/(ax+b)	=x/y	=x	a	b
y=alg(x)+b	=y	=lg(x)	a	b

Конец примечания 3.

Приведем несколько примеров, иллюстрирующих метод наименьших квадратов.

Пример 1. Пусть табличная зависимость y=f(x) напоминает график квадратного трехчлена, то есть в качестве аппроксимирующей функции можно выбрать P(x,a,b,c)=ax²+bx+c. Тогда квадратичное отклонение имеет вид

Система уравнений для определения коэффициентов a,b,c:

После преобразований

Все суммы – числовые константы, определяемые по табличным значениям.

Полученная система линейных алгебраических уравнений решается методами, которые будут рассмотрены в главе 4.

Пример 2. Аппроксимировать функцию у=х^1/2 на отрезке x[0;4] обобщенным полиномом второй степени, построенном на полиномах Лежандра.

Сделаем замену переменных t=x/2–1 и перейдем к отрезку t[–1;1].

Аппроксимируемая функция примет вид . Аппроксимирующая – F(t)=c₀P₀(t)+ c₁P₁(t)+ c₂P₂(t), где P_i(t) – полиномы Лежандра:

P₀(t)=1; P₁(t)=t; P₂(t)=(3t²–1)/2.

Тогда

Таким образом, аппроксимирующая функция имеет вид

или

.

Пример 3. Методом наименьших квадратов провести аппроксимацию табличной функции

x	1	2	3	4	5
y	0,20	0,28	0,33	0,37	0,39

В качестве аппроксимирующей функции взять F(x)=x/(ax+b).

Сделаем замену переменных =x/y; =х и пересчитаем таблицу в новых переменных:

	1	2	3	4	5
	5,0	7,14	9,09	10,81	12,82

Аппроксимирующая функция примет вид ()=a+b.

Тогда квадратичное отклонение

.

Минимизируя его, получаем систему линейных уравнений

откуда

Вычисляя суммы по табличным значениям {_k ,_k}, находим а=1,93; b=3,18.

Таким образом, аппроксимирующая функция имеет вид:

.

1 approximo (лат.) - приближаюсь

1 Доказывается, что в общем случае не существует способа вычисления алгебраического многочлена n-ой степени менее, чем за 2n арифметических действий.

1 Полиномы Чебышева имеют еще одно замечательное свойство - ортогональность, но о нем поговорим позже.

1 inter (лат.) – между; pole (лат.) – узел

1 Пусть f(x)-непрерывная и дифференцируемая на [a,b] функция. Если f(a)=f(b), то найдется по крайней мере одна точка x₀ [a,b], в которой f(x₀)=0. Следствие: между двумя нулями многочлена находится по крайней мере один нуль производной этого многочлена.

1 Для нахождения трех коэффициентов полинома P₁(x,y) необходимо решить три уравнения: Главный определитель , если узлы лежат на одной прямой.

1 spline (англ.) гибкая линейка. Будучи деформирована и проходя через фиксированные точки, линейка приобретает форму, при которой запасенная в ней упругая энергия минимальна. Это механическая интерпретация сплайн-интерполяции.

1 Сплайн построенный таким образом обычно называют естественным кубическим сплайном.

2 Это следует из (2.11) и (2.12).

1 Каждую непрерывную функцию можно приблизить в метрике С как угодно хорошо алгебраическим многочленом достаточно высокой степени.

1 Линейная зависимость: ₀₀+₁₁+₂₂+...+_m_m=0, где ₀,...,_m - не равные одновременно нулю числа.

54