Модель парной регрессии.

Простая регрессия представляет собой регрессию между двумя переменными y и x, т.е. . Множественная регрессия, соответственно, представляет собой регрессию результативного признака с двумя и большим числом факторов, т.е. т.е. модель вида .

В качестве примера простейшей зависимости возьмем уравнение , здесь - неслучайная составляющая, u – случайный член.

Для существования случайного члена имеется несколько причин:

1) Невключение объясняющих переменных. Соотношение между y и x почти наверняка является очень большим упрощением. В действительности существуют другие факторы, влияющие на y, не учтенные в формуле. Так, например, существуют факторы (психологические), которые не могут быть включены в регрессионное уравнение, в силу невозможности измерения. Или есть поддающиеся измерению факторы, но оказывающие очень слабое влияние. Могут быть факторы, которые являются существенными, но не включены нами.

2) Агрегирование переменных. Рассматриваемая зависимость во многих случаях – объединение некоторого числа микроэкономических соотношений. При этом некоторые соотношения имеют разные параметры. Возникает необходимость аппроксимации.

3) Неправильное описание структуры модели. В качестве примера можно рассмотреть следующий. Допустим, зависимость относится к данным о временном ряде. За исходную была взята зависимость y от фактического значения x, а необходимо было взять значение, ожидавшееся в предыдущем периоде. Если ожидаемое и фактическое значение при этом тесно связаны, то будет казаться, что зависимость подобрана верно.

4) Неправильная функциональная спецификация. То есть зависимость подобрана неверно.

5) Ошибки измерения.

Остаточный член является проявлением всех этих факторов.

В парной регрессии выбор вида математической функции может осуществляться тремя методами: графическим, аналитическим, экспериментальным.

Линейная регрессионная модель

Пусть имеется набор значений двух переменных . Можно отобразить пары точками на плоскости. Предположим, нашей задачей является подобрать функцию из параметрического семейства функций, наилучшим образом описывающую зависимость Y от X . В качестве меры отклонения функции от набора наблюдений можно взять

1. сумму квадратов отклонений ;

2. сумму модулей отклонений

3. или функционал , где g – «мера», с которой отклонение входит в функционал F. Примером такой меры служит функция Хубера, которая при малых отклонениях квадратична, а при больших линейна:

Рассмотрим положительные стороны и недостатки приведенных методов.

Сумма квадратов отклонений:

«+»: - легкость вычислительной процедуры;

- хорошие статистические свойства, простота математических выводов делают возможным построить развитую теорию, позволяющую провести тщательную проверку различных статистических гипотез.

«-»: - чувствительность к «выбросам».

Сумма модулей отклонений:

«+»: - нечувствительность к выбросам, «робастность».

«-»: - сложность вычислительной процедуры;

- возможно, большим отклонениям надо придавать больший вес (лучше два отклонения по 1, чем одно – 0, а другое – 2);

- неоднозначность, т.е. разным значениям параметра могут соответствовать одинаковые суммы модулей.

Функция Хубера.

Является попыткой совместить достоинства обоих функционалов.