Парная линейная регрессионная модель: графическая интерпретация мнк.
М
НК
позволяет получить оценки параметров
а и b,
при кот. сумма квадратов отклонения
факт. значений результативного признака
(у) от расчетных (
)минимальна:
Т
о
есть из всего множества линий линия
регрессии на графике выбирается так,
чтобы сумма квадратов расстояний по
вертикали между точками и этой линией
была бы минимальной:
=
-
.
Следовательно,
→min
Чтобы найти минимум функции
надо
вычислить частные производные по каждому
из параметров а и b
и приравнять их к нулю. Обозначим
через S,
тогда:
Преобразую получим
Решив ее получим искомые оценки параметров a и b.
Готовые
формулы:
Парная линейная регрессионная модель: доказать несмещенность мнк-оценок коэффициентов регрессии.
Оценка коэффициента называется несмещенной оценкой данного коэффициента, если ее выборочное мат. ожидание равно оцениваемому параметру генеральной совокупности.
,
,(1)
– объясняющая
(независимая) переменная,
– объясняемая (зависимая) переменная,
– случайное отклонение,
и
– коэффициенты регрессии. Отметим, что
и
– случайные величины,
может быть как случайной, так и неслучайной
(детерминированной) величиной.
что в силу (1):
.(18)
В силу (11) и (18): (
,
(11),)
(19)
Из (18), (19):
(20)
В силу (13), (10):
.(13)
и
(10))
(21)
В силу (16), (21):
(
,(16))
(22)
Следовательно,
оценка
– несмещенная
В силу (17), (19), (22):
(
. (17))
. (23)
Следовательно,
оценка
– несмещенная.
Парная линейная регрессионная модель: эффективность мнк-оценок коэффициентов регрессии.
Свойство эффективности оценок неизвестных параметров модели регрессии, полученных методом наименьших квадратов, доказывается с помощью теоремы Гаусса-Маркова.
Сделаем следующие предположения о модели парной регрессии:
1) факторная переменная xi– неслучайная или детерминированная величина, которая не зависит от распределения случайной ошибки модели регрессии i;
2) математическое ожидание случайной ошибки модели регрессии равно нулю во всех наблюдениях:
3) дисперсия случайной ошибки модели регрессии постоянна для всех наблюдений:;
4) между значениями случайных ошибок модели регрессии в любых двух наблюдениях отсутствует систематическая взаимосвязь, т. е. случайные ошибки модели регрессии не коррелированны между собой (ковариация случайных ошибок любых двух разных наблюдений равна нулю):
Это условие выполняется в том случае, если исходные данные не являются временными рядами;
5) на основании третьего и четвёртого условий часто добавляется пятое условие, заключающееся в том, что случайная ошибка модели регрессии – это случайная величина, подчиняющейся нормальному закону распределения с нулевым математическим ожиданием и дисперсией
Если выдвинутые предположения справедливы, то оценки неизвестных параметров модели парной регрессии, полученные методом наименьших квадратов, имеют наименьшую дисперсию в классе всех линейных несмещённых оценок, т. е. МНК-оценки можно считать эффективными оценками неизвестных параметров.
Если выдвинутые предположения справедливы для модели множественной регрессии, то оценки неизвестных параметров данной модели регрессии, полученные методом наименьших квадратов, имеют наименьшую дисперсию в классе всех линейных несмещённых оценок, т. е. МНК-оценки можно считать эффективными оценками неизвестных параметров