2. Метод наименьших квадратов (мнк)

При эмпирическом (экспериментальном) изучении функциональной зависимости одной величины у от другой величины х производят ряд измерений величины у при различных значениях величины х. Результаты

могут быть представлены в виде таблицы

Х	Х1	Х2	…	Хк	…	ХN
У	У1	У2	…	Ук	…	УN

или графически

Задача заключается в аналитическом представлении искомой функциональной зависимости, т.е. в подборе формулы, описывающей результаты эксперимента. Особенность задачи состоит в том, что наличие случайных ошибок измерения (или, как говорят, наличие «шума» в эксперименте) делает неразумным подбор такой формулы, которая точно описывала бы все опытные значения. Другими словами, график искомой функции не должен проходить через все точки, а должен по возможности сглаживать «шум».

Эмпирическую формулу обычно выбирают из формул определенного типа, например,

у= а х+b, у= а х²+ b х+с, у= а е^bх+с, у= а +h sin (ωx+φ), …

Другими словами, задача сводится к определению параметров а, в, с, … формулы, в то время как вид формулы известен заранее из каких-либо теоретических соображений или из простоты аналитического представления эмпирического материала.

Обозначим выбранную функциональную зависимость через

у=f(х, а₁, а₂, …, а _n) (1)

с явным указанием всех параметров подлежащих определению.

Эти параметры а₁, а₂, …, а_n нельзя определить точно по эмпирическим значениям функции у₁, у₂, …, у_n, т.к. последние содержат случайные ошибки. Речь идет только о получении «достаточно хороших» оценок искомых параметров. МНК позволяет получить несмещенные и состоятельные оценки всех параметров а₁, а₂, …, а_n. В наиболее часто встречающемся случае, когда эти параметры входят в формулу (1) линейно, оценки параметров, получаемые по МНК, являются также и эффективными.

Оценки параметров а₁, а₂, …, а_n определяются из условия, чтобы сумма квадратов отклонений измеренных значений у_к от расчетных f(x_k, а₁, а₂, …, а_n), т.е. величина

(2)

(где w_к веса измерений) принимала наименьшее значение.

Отыскание тех значений параметров а₁, а₂, …, а_n, которые доставляют наименьшее значение функции

S=S(а₁, а₂, …, а_n),

Сводится к решению системы уравнений

. (3)

Допустим, что эмпирическая функция ищется в виде

у=f(х, а, b)=ах+ b.

При определении параметров а и b по МНК эта прямая проходит через точку ( ), координаты которой являются средними значениями координат данных точек:

(4)

Поэтому уравнение прямой целесообразно записать в виде

. (5)

Параметр а определяется по формуле:

(6)

где (7)

Если все измерения производятся с одинаковой точностью (т.е. все веса w_к=1), то формула для параметров упрощаются следующим образом:

, , , .

Наиболее простой расчет получается в том случае, когда значения аргумента выбираются равноотстоящими:

(к=1, 2, …, N-1),

а измерения значений функции у_к производятся с одинаковой точностью.

В этом случае ,

а линейную функцию записывают в виде

(8)

где параметр аh вычисляется по формуле:

(9)

Пример 2.1.

Экспериментально получены восемь значений функции у=f(x) при восьми значениях аргумента, которые записаны в таблице:

Х	1	2	3	4	5	6	7	8
У	7,6	5,6	6,6	4,4	5,4	3,9	1,9	2,4

Методом наименьших квадратов (МНК) найти функцию вида у=ах+b, выражающую (аппроксимирующую) функцию у=f(х). Сделать чертеж, на котором в декартовой прямоугольной системе координат построить экспериментальные точки и график полученной функции у= ах+b.

М( x, y)

Решение. Значения аргумента х равноотстоящие: х_к+1-х_к=h=1 и значения у_n заданы одинаковой точностью, поэтому искомую линейную функцию записываем в виде (8)

Вычислим: ;

;

параметр аh=а вычисляется по формуле (9)

.

Тогда по формуле (8) имеем

или

на рисунке указаны экспериментальные точки, а прямая

у=-0,738х+8,06 проведена по точкам М(4,5; 4,725) и К(0; 8,046).