21. Множественная регрессия

Множественная регрессия является линейной относительно пара­метров моделью

, (18)

где независимые, а зависимая случайные переменные.

Выборочную случайную величину можно записать как

, (19)

где – случайные ошибки с одинаковой дисперсией, причем не обязательно .

Используя выборочные значения , образуем систему линейных относительно параметров уравнений

(20)

Применяя МНК - концепцию, получим МНК - оценки

, (21)

с тем отличием, что матрица имеет вид

. (22)

Заметим, что для корректной разрешимости системы (20) в форме оценок (21) необходимо существование матрицы , а значит и полный ранг матрицы .

Практика регрессионного моделирования

1.Оценивание параметров модели

Следуя МНК - процедуре, оценить параметры регрессионной модели

.

2.Проверка адекватности модели

С учетом числа степеней свободы оценить:

• стандартную ошибку модели

;

• стандартную ошибку остатков модели

;

• коэффициент детерминации и коэффициент множественной корреляции

, ;

• -статистику значимости коэффициента детерминации

.

Если - тест значимости коэффициента детерминации

выполняется, то коэффициент детерминации статистически значим и модель можно считать адекватной с априори выбранным уровнем значимости .

В случае, когда - тест не выполняется, имеются объективные основания считать модель неадекватной объекту при уровне значимости . Моделирование следует продолжить.

3.Проверка значимости оценок параметров

Оценим:

• ковариационную матрицу оценок параметров

,

размерности , т.к. она содержит дисперсию постоянного члена и элементами ;

• вектор стандартных ошибок оценок параметров

.

Если - тест значимости МНК - оценки параметра

выполняется, то параметр считается статистически значимым и включение в регрессионную модель переменной или статистически обосновано при уровне значимости .

В случае, когда критерий не выполняется, включение в модель переменной или статистически не обосновано при уровне значимости . Поэтому переменная или из модели может быть исключена. После такого исключения процедуры оценивания параметров, адекватности модели и значимости оценок параметров должны быть повторены.