1. F-качества спецификации регрессионной модели: выдвигаемая статистическая гипотеза, процедура ее проверки, формула для расчета статистики

Статистикой обсуждаемого ниже критерия гипотезы H0: R2=0 (гипотеза о том что модель абсолютно плохая) против альтернативы H1:   служит случайная переменная:

 (1)

Здесь k — количество регрессоров в модели множественной регрессии, n — объ­ем обучающей выборки (у, X), по которой оценена МНК-модель.

В ситуации, когда гипотеза H0 справедлива, а слу­чайный остаток и в модели обладает нормальным законом распределения, случайная переменная Fтест имеет распределение Фишера с количествами степеней сво­боды ν1 и ν2, где ν1=k и ν2=n-(k+1) (2)

Данное утверждение положено в основу F-теста. Вот этапы выполнения этой процедуры.

1) вычислить величину (1);

2) задаться уровнем значимости а ? (0, 0,05] и при помощи функции FPACПOБP Excel при количествах степеней свободы (2) отыскать (1-α)-квантиль распределения Фишера Fкрит

3) проверить справедливость неравенства F<Fкрит

Если оно справедливо, то принять гипотезу H0 и сделать вывод о неудовлетворительном качестве регрессии, т.е. об отсутствии какой-либо объясняющей способности регрессоров в рамках линейной модели.

Напротив, когда неравенство F<Fкрит несправедливо —следует от­клонить гипотезу H0 в пользу альтернативыH1. Другими словами, сделать вывод о том, что качество регрессии удовлетвори­тельно, т.е. регрессоры в рамках линейной модели обладают способностью объяснять значения эндогенной переменной у.

Алгоритм проверки адекватности множественной регрессионной модели.

1шаг:

Деление выборки на две части: обучающую и контролирующую

· Обучающая выборка - 90÷95% наблюдений

· Контролирующая выборка - 5÷10% наблюдений

2шаг:

Настройка модели по обучающей выборке (оценка параметров МНК)

3шаг:

· Построение прогноза эндогенной переменной из контролирующей выборки

· Построение интервальной оценки эндогенной переменной из контролирующей выборки

4шаг:

Выполнение проверки.

Если неравенство верно, то модель адекватна, если не верно, то модель является неадекватной.

Гетероскедастичность случайного возмущения: определение, причины, последствия, количественные характеристики вектора случайных возмущений в условиях гетероскедастичности.

В соответствии со второй предпосылкой теоремы Гаусса-Маркова нужно соблюдение условия гомоскедастичности (одинаковый разброс), или однородности дисперсий случайных возмущений во всех наблюдениях. То есть независимость дисперсии возмущения от номера наблюдений является вторым условием Гаусса Маркова для классической регрессионной модели. Гетероскедастичность (неодинаковый разброс) является нарушением данного условия Гаусса-Маркова для классической регрессионной модели.

Гетероскедастичность – ситуация, когда дисперсия ошибки в уравнении регрессии изменяется от наблюдения к наблюдению. В этом случае приходится подвергать определенной модификации МНК (иначе возможны ошибочные выводы).

При наличии гетероскедастичности количественные характеристики вектора возмущений равны:

 E{ε}=0,

 

Сεε =  где , t = 1,…..,n - значения дисперсии возмущений.

Причины гетероскедастичности

- Неоднородность исследуемых объектов (напр, при анализе зависимости спроса от дохода потребителя выясняется, что чем больше доход, тем больше индивидуальное значение спроса колеблется относительно ожидаемого значения)

- Характер наблюдений (напр, данные временного ряда)

Последствия гетероскедастичности

Последствия нарушения условия гомоскедастичности случайных возмущений:

1. Потеря эффективности оценок коэффициентов регрессии, т.е. можно найти другие, отличные от МНК и более эффективные оценки.

2. Смещенность стандартных ошибок коэффициентов в связи с некорректностью процедур их оценки. Это, в свою очередь, может привести к некорректности результатов тестирования статистической значимости параметров линейной модели.

При наличии гетероскедастичности МНК (метод наименьших квадратов) обеспечивает несмещенные оценки параметров, но оценка дисперсии возмущений – смешенная, то есть:

 

Это приводит к неадекватным оценкам:

- Автоковариационной матрицы оценок параметров: Сββ =s2(XTX)-1;

- Границ доверительных интервалов параметров модели и значений зависимой переменной, т.е. последствия такие же, как и от автокорреляции.

2. Автокорреляция случайных возмущений: определение, причины, последствия, количественные характеристики вектора случайных возмущений в условиях автокорреляции

Автокорреляция случайного возмущения – невыполнение 3 предпосылки теоремы Гаусса-Маркова о независимости случайных переменных в уравнениях наблюдений (ковариация 2 случайных переменных = 0). Если же предпосылка выполняется, то идет речь об отсутствии автокорреляции.

Причины автокорреляции:

• Ошибки спецификации моделей (пропуск важного регрессора, неправильный вид функции регрессии);

• Ошибки измерения переменных модели;

• Некорректный характер наблюдений.

Если причиной автокорреляции является ошибка спецификации моделей, то такую автокорреляцию называют ложной.

Последствия автокорреляции случайных возмущений в регрессионной модели сводятся к тому, что стандартная ошибка оценок параметров моделей теряет свойство несмещенности. Ее значение, как правило, заниженное. Но оценки параметров остаются несмещенными, так как первая предпосылка теоремы Гаусса-Маркова выполняется в силу МНК.

Статистические свойства оценок параметров парной регрессионной модели. 25

К оценкам параметров предъявляются 2 основных свойства:

-несмещенности

-эффективности

Оценка параметра является несмещенной, если ее математическое ожидание совпадает со значением параметра, то есть мат. ожидание остатков равно 0.(5.3)

Оценка параметра считается эффективной, если она имеет минимальную дисперсию. Выбирается та процедура оценки, которая дает минимальный разброс значений оценки.

Далеко не всегда удается подобрать процедуру, обеспечивающую получение несмещенных и эффективных оценок при небольшом объеме выборки. Поэтому вводится понятие асимптотически несмещенных и асимптотически эффективных оценок, для которых свойство несмещенности и эффективности достигается при неограниченном увеличении объема выборки. Однако такие оценки получаются не всегда. Нас будут удовлетворять оценки, обладающие свойством несмещенности при большом объеме выборки. Такие оценки называют состоятельными (несмещенные при большом объеме выборки).

3.Алгоритм проверки адекватности множественной регрессионной модели

Проверка качества или адекватности множественной модели регрессии состоит из следующих этапов:

 Проверка качества уравнения регрессии;

 Проверка значимости уравнения регрессии;

 Анализ статистической значимости параметров модели;

 Проверка выполнения предпосылок МНК.

Для проверки качества уравнения регрессии вычисляют коэффициент множественной корреляции R и коэффициент детерминации R²:

Чем ближе к единице значение этих характеристик, тем выше качество модели. В многофакторной регрессии добавление дополнительных объясняющих переменных увеличивает коэффициент детерминации. Следовательно, коэффициент детерминации должен быть скорректирован с учетом числа независимых переменных. Скорректированный R² рассчитывается так:

Для проверки значимости уравнения регрессии используется F-критерий Фишера, вычисляемый по формуле:

Если расчетное значение с v₁ = k и v₂ = n – k – 1 степенями свободы, где k – количество факторов, включенных в модель, больше табличного при заданном уровне значимости α, то модель считается значимой.

Анализ статистической значимости параметров модели (коэффициентов регрессии) проводится с использованием t-статистики Стьюдента:

, где Sa_j – это стандартное (среднеквадратическое) отклонение коэффициента уравнения регрессии а_j.

Если расчетное значение t-критерия с (n-k-1) степенями свободы больше его табличного значения при заданном уровне значимости α, коэффициент регрессии считается значимым. В противном случае фактор, соответствующий этому коэффициенту, следует исключить из модели (при этом ее качество не ухудшится).

Условия, необходимые для получения несмещенных, состоятельных и эффективных оценок, представляют собой предпосылки МНК:

 Мат. ожидание случайной составляющей в любом направлении должно быть равно 0;

 Зависимая переменная y_i есть величина случайная, а объясняющая переменная x_i– величина неслучайная => теоретическая ковариация между независ. переменной и случ. членом равна нулю;

 В любых двух наблюдениях отсутствует систематическая связь между значениями случайной составляющей;

 Дисперсия случайной величины должна быть постоянна для всех наблюдений.