Среднеквадратичное приближение

5. Функция F, для которой сумма (1) является минимальной среди всех функций за­данного класса, называется наименее уклоняющейся от f или наилучшей в смысле среднеквадратичного приближения в данном классе.

6. Задача нахождения наименее уклоняющейся функции является, как правило, кор­ректной. Она решается методом наименьших квадратов. В случае поиска наилучшей функции в классе алгебраических полиномов метод наименьших квадратов является точным.

7 . Величина , где S задано равенством (1), называется среднеквадратичным уклонением данной приближающей функции F. Она характеризует среднее отклонение значений F от f в узлах таблицы.

Пусть дана таблица, полученная экспериментальным путем и содержащая n узлов. Если требуется найти наилучший полином степени не выше m, то эта задача всегда корректна при выполнении неравенства m  n - 1. Причем при m = n - 1 наилучшим полиномом окажется интерполяционный полином Лагранжа. При выборе степени m сле­дует руководствоваться следующими двумя соображениями:

1). Желательно, чтобы m было сравнительно невелико, т.е. m << n или хотя бы m < n/2. В противном случае наилучший полином будет напоминать по своим свой­ствам полином Лагранжа.

2). Если средняя ошибка измерения известна и равна , то m надо взять по воз­можности меньшим, но таким, чтобы среднеквадратичное уклонение соответствующего наилучшего полинома выло близко к величине  или меньше ее.

Если два данных принципа совместить не удается, то это служит указанием на то, что в классе полиномов хорошей приближающей функции нет и искать ее следует среди функций другого класса.

Метод наименьших квадратов

Рассмотрим теперь метод наименьших квадратов для нахождения наилучшего алгеб­раического полинома заданной степени. Итак, пусть дана таблица, состоящая из n точек: (х₁ ,у₁), (х₂ ,у₂), ... , (х_n,у_n). Требуется найти полином степени не выше m, где m < n :

р(х) = A₀ + А₁х + А₂Х² + ... + А_mх^m,

у которого сумма квадратов невязок (1) была бы наименьшей. Сумма S является, очевидно, функцией, зависящей от коэффициентов А _j т.е. S = S(А₀, А₁, ... , А_m).

Так как k-ая невязка имеет вид

_k = A₀ + А₁х_k + А₂х²_k + ... + А_mx^m_k - у_k ,

то сумму квадратов невязок можно представить в виде

(2)

Функция S ограничена снизу (S  0), причем S   а при |А_k|  . Следовательно, функция S должна иметь минимум. Далее, по виду формулы (2) видно, что S дифференцируема по всем своим аргументам. Поэтому минимум она может иметь лишь там, где все ее частные производные (первого порядка) равны нулю. Дифференцируя S по каждому аргументу и приравнивая полученные выражения к нулю, получаем систему уравнений:

(3)

Д ля упрощения результирующих уравнений, Гаусс ввел следующие обозначения:

Используя их, преобразуем систему (3) к более удобному виду:

(4)

Таким образом, нахождение полинома р(х) свелось к решению системы (4), называ­емой нормальной. Коэффициенты этой системы (т.е. [х], [ху] и т.д.) иногда назы­вают коэффициентами Гаусса. Определитель системы (4) является частным случаем определителя Грама; в данном случае он не равен нулю. Поэтому задача нахождения наилучшего полинома степени не выше m имеет единственное решение (разумеется, при m < n). Следует, однако, иметь ввиду, что при больших m система (4) часто оказывается плохо обусловленной. Поэтому на практике либо ограничиваются прибли­жениями невысоких степеней (m  4), когда обусловленность системы еще удовлетво­рительна, пиво применяют специальные методы решения таких систем.