6. Парная лин регрессия: спецификация модели и расчет параметров модели.

Линейная регрессия - выраженная в виде прямой зависимость среднего значения какой-либо величины от некоторой другой величины.

О парной линейной регрессии говорят, когда установлена зависимость между двумя переменными величинами (x и y). Парная линейная регрессия называется также однофакторной линейной регрессией, так как один фактор (независимая переменная x) влияет на результирующую переменную (зависимую переменную y).

Спецификация модели – формулировка вида модели, исходя из соответствующей теории связи между переменными. Со спецификации модели начинается любое эконометрическое исследование.

Пусть исследуется статистическая зависимость экономического показателя У (объясняемая зависимая переменная) от экономического показателя Х (фактора, объясняющей или независимой переменной). Предположим, что зависимость носит линейный характер, тогда ее можно описать уравнением У=a+bx+E , где Х – неслучайная величина, У и Е – случайные величины. Случайная величина Е отражает воздействие на зависимую переменную У неучтенных и случайных факторов и называется ошибкой регрессии. Это уравнение называют истинным (теоретическим) уравнением регрессии или линейной регрессионной моделью.

На основе реальных статистических данных об экономических показателях Х и У (выборке данных из генеральной совокупности) оцениваются параметры регрессии α и β и строится выборочное уравнение регрессии ,где а, b, - коэффициенты регрессии. Это уравнение называют еще эмпирическим уравнением регрессии. После построения выборочной регрессии обычно производится верификация модели — проверка статистической значимости и адекватности построенной парной регрессии имеющимся эмпирическим данным.

Параметры генеральной совокупности оценивают при помощи соответствующих параметров соответствующей выборки: свободный член прямой парной линейной регрессии выборки а и коэффициент направления прямой парной линейной регрессии выборки b. Одним из методов нахождения коэффициентов регрессии а и b является метод наименьших квадратов (МНК).

Метод наименьших квадратов (МНК) - метод оценивания параметров линейной регрессии, минимизирующий сумму квадратов отклонений наблюдений зависимой переменной от искомой линейной функции.

где уi- статические значения зависимой переменной; f (х) - теоретические значения зависимой переменной, рассчитанные с помощью уравнения регрессии.

Упрощенными формулами МНК для нахождения a и b являются

Параметр b показывает среднее изменение результата у с изменением фактора х на единицу. Параметр а = у, когда х = 0. Если х не может быть равен 0, то а не имеет экономического смысла. Интерпретировать можно только знак при а: если а > 0. то относительное изменение результата происходит медленнее, чем изменение фактора, т. е. вариация результата меньше вариации фактора, и наоборот.

7. Метод наименьших квадратов.

Метод наименьших квадратов (МНК) - метод оценивания параметров линейной регрессии, минимизирующий сумму квадратов отклонений наблюдений зависимой переменной от искомой линейной функции.

Пусть из генеральной совокупности выбраны данные об экономических показателях У: ( у1, у2, …, уn) и Х: ( х1, х2,…, хn). Если в выборочное уравнение регрессии подставить наблюдаемое выборочное значение хi, то получим расчетное значение зависимой переменной у:

Разность между фактическими и расчетными значениями зависимой переменной обозначим ei и назовем остатком, т.е.:

Суть МНК заключается в следующем: коэффициенты а и в должны быть такими, чтобы сумма квадратов остатков была минимальна:

где уi и xi – известные величины, а а и в – неизвестные.

Запишем необходимые условия экстремума функции S относительно а и в:

Данная система является системой двух уравнений относительно двух неизвестных а и в. Она легко преобразовывается в систему вида:

Разделим оба уравнения системы на n:

Параметр b показывает среднее изменение результата у с изменением фактора х на единицу. Параметр а = у, когда х = 0. Если х не может быть равен 0, то а не имеет экономического смысла.