2. ОЦЕНКА НЕИЗВЕСТНЫХ ПАРАМЕТРОВ РЕГРЕССИОННОЙ МОДЕЛИ

2.1. Точечная оценка коэффициентов регрессии

Исходным материалом для получения точечных оценок параметров регрессионной модели (1) являются матрица X и матрица-столбец отклика Y:

где xij — значение j-го фактора в i-м опыте; yi — значение отклика в i-м опыте. Численные значения всех базисных функций могут быть представлены в матричной форме следующим образом:

в i-м опыте.

Для определения точечных оценок неизвестных коэффициентов регрессии могут быть использованы различные методы. Наиболее часто применяют метод наименьших квадратов (МНК).

Согласно МНК наилучшими оценками коэффициентов регрессии считают такие значения переменных z0, z1, ..., zd, при которых достигает минимума сумма квадратов отклоне-

7

ний значений отклика yi, от значений yi , полученных с помощью уравнения регрессии

yi = z0 fi0 + z1 fi1 +...+ zd fid ,

т. е. наилучшие оценки определяются из условия минимума функции

Если функция Q (z0 , z1 , ..., zd ) имеет локальный минимум при z0 = b0 , z1 = b1 , …, zd = bd , то справедливы равенства

Тогда, решая полученную систему линейных алгебраических уравнений, можно определить искомые точечные оценки b0, b1, ..., bd, при которых функция Q (z0 , z1, ..., zd ) достигает своего минимума.

Систему (4) называют системой нормальных уравнений и ее можно представить в матричной форме

где B = (b0 b1 ... bd )T . Матрица F T F — симметрическая матрица порядка d +1. Если выполняется условие 4 регрессион-

8

ного анализа, то эта матрица является невырожденной. Тогда решение уравнения (5) можно записать в виде

где C = (F T F )−1 .

Пример 1. Исполнительный механизм движется поступательно с постоянной скоростью. Результаты измерения приращения координаты центра масс механизма за время t приведены в табл. 1. Очевидно, что регрессионная модель имеет вид

s =βt +e ,

где s — приращение координаты за время t; e — случайная величина. Требуется найти оценку неизвестного коэффициента регрессии β.

Для рассматриваемой регрессионной модели F0 = t, следовательно, система нормальных уравнений (4) в этом случае имеет вид

где ti — значение параметра t в i-м опыте; si — значение отклика в i-м опыте. Это позволяет записать формулу для определения оценки неизвестного коэффициента регрессии:

9