Глава 3 Метод наименьших квадратов

3.1. Общие положения

Если набор экспериментальных данных получен со значительной погрешностью, то не имеет смысла использовать интерполяцию по­линомами Лагранжа и сплайнами для обработки результатов. В этом случае необходимо провести аппроксимирующую кривую, которая не проходит через экспериментальные точки, но в то же время отража­ет исследуемую зависимость, сглаживает возможные выбросы за счет погрешности эксперимента.

Обозначим узлы исходной таблицы данных через x_j, где 0 ≤ j ≤ n – номер узла. Считаем известными значения эксперимен­тальных данных в узловых точках ƒ(x_j) = ƒ_j. Введем непрерывную функцию φ (х) для аппроксимации дискретной зависимости f(x_j). В узлах функции φ(х)и f(x)будут отличаться на величину ε _j= φ(x_j) – f(x_j). Отклонения ε _jмогут принимать положительные и отрица­тельные значения. Чтобы не учитывать знаки, возведем каждое откло­нение в квадрат и просуммируем квадраты отклонений по всем узлам:

n n

Q = ∑ ε _j ² = ∑[φ(x_j) - ƒ(x_j)]² (3.1)

j=0 j=0

Метод построения аппроксимирующей функции φ (х)из условия минимума величины Q получил название метода наименьших квадра­тов (МНК).

Наиболее распространен способ выбора функции φ(х)в виде ли­нейной комбинации

φ(х) = c₀ φ ₀ (x)+ c₁ φ ₁ (x) + ... + c_m φ_m(x), (3.2)

где φ ₀ (х), φ ₁ (x),...,φ _m(х) — базисные функции; m ≤ n;

c₀(x), c₁ (x),…,c_m (x)- коэффициенты, определяемые при минимизации величины Q.

Математически условия минимума квадратов отклонений Q запи­шем, приравнивая к нулю частные производные от Q по коэффициентам 0≤k≤ m:

n

∂ Q⁄∂ c₀ = 2∑ [c₀ φ ₀ (x_j) + c₁ φ ₁(x_j) +…+

j=0

+ c_m φ _m(x_j) - ƒ_j] φ ₀ (x_j) = 0,

n

∂

(3.3)

Q⁄∂ c₁ = 2∑ [c₀ φ ₀ (x_j)+c₁φ₁(x_j) +…+

j=0

+ c_m φ _m(x_j) - ƒ_j] φ ₁ (x_j) = 0,

…………………………………….

n

∂ Q⁄∂ c_m = 2∑ [c₀ φ ₀ (x_j) + c₁ φ ₁(x_j) +…+

j=0

+ c_m φ _m(x_j) - ƒ_j] φ _m(x_j) = 0.

Из системы линейных алгебраических уравнений (3.3) определя­ются все коэффициенты с_k. Система (3.3) называется системой нор­мальных уравнений. Матрица этой системы имеет следующий вид:

(3.4)

и называется матрицей Грамма. Элементы матрицы Грамма являются скалярными произведениями базисных функций:

n

(φ _j, φ _k) = ∑ φ _j(x_j) φ _k(x_j). (3.5)

j=0

Расширенная матрица системы уравнений (3.5) получится добав­лением справа к матрице Грамма столбца свободных членов

, (3.6)

где скалярные произведения, являющиеся элементами столбца, опре­деляются аналогично (3.5):

n

(φ _j, ƒ) = ∑ φ _j(x_j) ƒ _j, (3.7)

j=0

Отметим основные особенности матрицы Грамма, полезные при про­граммной реализации алгоритмов МНК:

1. Матрица симметрична, т.е. a _{i j} = a _ji, что позволяет сократить объем вычислений при заполнении матрицы.

2. Матрица является положительно определенной, следовательно, при решении системы нормальных уравнений методом исключе­ния Гаусса можно отказаться от процедуры выбора главного эле­мента.

3. Определитель матрицы будет отличен от нуля, если в качестве базиса выбраны линейно независимые функции φ_k(x), при этом система (3.3) имеет единственное решение.

При обработке экспериментальных данных, определенных с погреш­ностью εв каждой узловой точке обычно начинают с аппроксима­ции функцией φ_k(x), представимой одной-двумя базисными функци­ями. После определения коэффициентов c_kвычисляют величину Q по формуле(3.1). Если получится, что , то необходимо расширить базис добавлением новых функций φ_k(x).Расширение базиса необхо­димо осуществлять до тех пор, пока не выполнится условие .

Выбор конкретных базисных функций зависит от свойств аппрок­симируемой функции ƒ(x), таких как периодичность, экспоненциаль­ный или логарифмический характер, свойства симметрии, наличие ассимптотики и т.д.[8]