5. Линейная модель множественной регрессии, основные предположения. Метод наименьших квадратов как основной метод оценивания параметров регрессии.

Линейная модель множественной регрессии формулируется следующим образом:

- не зависит от номера наблюдения

Для множественной регрессии более удобна матричная форма:

- вектор столбца параметров

– единичная матрица размерностью

Метод наименьших квадратов:

Требуется подобрать такие оценки параметров регрессии , при которых регрессионные (сглаженные) значениякак можно меньше от соответствующих статистических (наблюдаемых)

В качестве меры расхождения выбирается разность:

- невязки

Значения надо выбрать такими, чтобы минимизировать интегрирующий характер невязок(по всем имеющимся наблюдением).

В методе наименьших квадратов за такую характеристику принимается следующая величина:

Таким образом, задача ставится так:

Выбрать величины так, чтобы невязка была минимальной:

6. Парная регрессия. Оценка значимости отдельных параметров уравнения регрессии.

Оценка производится по t-критерию Стьюдента.

По таблице Стьюдента с уровнем значимости α и степенями свободы k находим

t_табл(n-m-1;α/2), где m = 1 – количество объясняющих переменных.

,

Если t_b> t_табл, то статистическая значимость коэффициента регрессии b подтверждается (отвергаем гипотезу о равенстве нулю этого коэффициента).

Если t_a> t_табл, то статистическая значимость коэффициента регрессииa подтверждается (отвергаем гипотезу о равенстве нулю этого коэффициента).

:b=0 (линейная связь между переменнымиxиyотсутствует);

:b≠0 (линейная связь присутствует)

Предполагается гипотеза Н₀

То гипотеза Н₀о несущественности коэффициентов регрессии b отклоняется. Значит коэффициент b статистически значим.

Стандартная ошибка коэффициента регрессии определяется по формуле:

где – остаточная дисперсия на одну степень свободы.

Доверительный интервал для коэффициента регрессии определяется как . Поскольку знак коэффициента регрессии указывает на рост результативного признакапри увеличении признака-фактора, уменьшение результативного признака при увеличении признака-фактораили его независимость от независимой переменной, то границы доверительного интервала для коэффициента регрессии не должны содержать противоречивых результатов, например, . Такого рода запись указывает, что истинное значение коэффициента регрессии одновременно содержит положительные и отрицательные величины и даже ноль, чего не может быть.

7. Парная регрессии. Оценка значимости уравнения регрессии.

Проверить значимость уравнения регрессии – значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной.

Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, определяют среднюю ошибку аппроксимации:

.

Средняя ошибка аппроксимации не должна превышать 8–10%.

Оценка значимости уравнения регрессии в целом производится на основе -критерия Фишера:

Н₀:

Н₁:

Предполагается гипотеза Н₀

Если

_{то гипотеза Н0 отвергается, т.е. в этом случае уравнение регрессии считается статистически значимым.}

8. Фиктивные переменные, учет взаимодействия сопутствующих качественных переменных.

Может оказаться необходимым включить в модель два или более качественных уровня. Это могут быть разного рода атрибутивные признаки. Чтобы ввести в модель такие переменные им нужно присвоить те или иные цифровые (количественные) мерки.

Такого рода сконструированные переменные называют фиктивными(структурными) переменными.

Учет влияния таких переменных обычно осуществляют с помощью введения в уравнение регрессии определенного числа бинарных (булевых) переменных.

Фиктивные переменные, несмотря на свою относительную простоту, являются гибкими инструментами при <…>.