2. Аппроксимация. Метод наименьших квадратов

2.1. Постановка задачи

В процессе поиска закономерностей протекания явлений и процессов в инженерной практике возникает задача отыскания по данным наблюдений аналитических зависимостей одного параметра от другого. Общая постановка этой задачи может иметь следующий вид.

Известно, что между х и у существует функциональная зависимость. В результате эксперимента получена таблица значений

x	x₀	x₁	x₂		x_n
y	y₀	y₁	y₂		y_n

Требуется найти функцию, приближенно описывающую связь между х и y.

Задание экспериментальных данных в такой задаче есть табличное задание функции, которую требуется аппроксимировать некоторой аналитической функцией. Уравнение такой функции является уравнением связи, которое называют также уравнением регрессии. Регрессионный анализ заключается в определении аналитического выражения связи, в котором изменение одной величины обусловлено влиянием одного или нескольких независимых факторов. Регрессия может быть однофакторной (парной) и многофакторной (множественной). По форме зависимости различают:

линейную регрессию;
нелинейную регрессию, которая выражается уравнениями степенной, показательной, экспоненциальной функций, а также уравнениями гиперболы и параболы.

Построение формулы включает два этапа:

выяснение общего вида зависимости;
определение наилучших параметров зависимости.

Подбор уравнения регрессии в значительной степени зависит от опыта и искусства составителя. При известном навыке по геометрическому расположению экспериментальных данных можно с достаточной точностью определить вид аппроксимирующей функции. Во многих случаях выбирается (когда нет других явных признаков) полином вида . Однако, каков бы ни был вид аппроксимирующей функции, возникает задача определения таких ее параметров, которые бы наилучшим образом согласовывались с экспериментальными данными. Одним из таких эффективных методов является метод наименьших квадратов.

2.2. Метод наименьших квадратов

Сущность данного метода заключается в том, что имеется зависимость , близкая к заданной совокупности значений в смысле минимума квадратичного отклонения

а отклонение аппроксимирующей функции от экспериментальных значений

Тогда задача состоит в выборе такой совокупности параметров , при которых значение критерия R является минимальным. При этом всегда n > m, так как при n=m получается задача интерполяции, в которой R может быть сведено к нулю. Необходимым условием минимума критерия является равенство нулю всех частных производных функции R по .