Парная регрессия и корреляция в эконометрических исследованиях. Смысл и оценка параметров
у f ( x)
часть значения у, |
необъясненная |
которая объяснена |
часть значения у |
уравнением |
(или возмущение) |
регрессии |
|
Экономический смысл
Невключение объясняющих переменных в уравнение. На самом деле на переменную Y влияет не только переменная X, но и ряд других переменных, которые не учтены в модели по следующим причинам:
•мы знаем, что другая переменная влияет, но не можем ее учесть, потому как не знаем, как измерить
(психологический фактор, например);
•существуют факторы, которые мы знаем, как измерить, но влияние их на Y так слабо, что их не стоит учитывать;
•существенные переменные, но изза отсутствия опыта или знаний мы их таковыми не считаем.
Неправильная функциональная спецификация.
Функциональное соотношение между Y и Х может быть определено неправильно. Например, мы предположили линейную зависимость, а она может быть более сложной.
Ошибки наблюдений и измерений.
Построение уравнения регрессии 1. Постановка задачи
Данные наблюдений
x 
y
1 x1 y1
2 |
2 |
y |
2 |
|
x |
|
|
… |
… |
… |
|
n |
n |
y |
n |
|
x |
|
|
Зависимости |
ŷ = f(x) |
||
соответствует |
некоторая |
||
кривая на плоскости. И по форме облака наблюдений можно определить вид регрессионной функции.
Y
Y
Поле корреляции
8
6
4
2
0
0 |
5 |
10 |
15 |
20 |
X
8
6
4
2
0
0 |
5 |
10 |
15 |
20 |
X
Степенная Гиперболическая
Y e X
80
60
40
Y |
Y |
20
0
-20
0 |
5 |
10 |
15 |
X
Y
X
0.4
0.3
0.2
0.1
0.0
0 |
5 |
10 |
15 |
X
Y
Показательная
Y X
4
3
2
1
0
0 |
5 |
10 |
15 |
X
X и Y независимы
|
14 |
|
12 |
|
10 |
Y |
8 |
|
6 |
4
2
0 |
5 |
10 |
15 |
X
Парная линейная регрессионная модель
Y
Y X
Yi 
i
Yi 
X i 
X
Для формализации рассмотрим разность между расчетными (теоретическими) и наблюдаемыми значениями у:
i yi yˆi
Наилучшей считается такая зависимость, для которой сумма квадратов отклонений принимает минимальное значение, т. е.
S ( yi yˆi )2 min
2.Спецификация модели
Впарной регрессии выбор вида аналитической зависимости может быть осуществлен тремя методами:
–графическим (на основе анализа поля корреляции);
–аналитическим (на основе изучения теоретической природы связи между исследуемыми признаками);
–экспериментальным (построение нескольких моделей различного вида с выбором наилучшей, согласно применяемому критерию качества).
3.Оценка параметров модели
3.1.Оценка параметров линейной парной регрессии – метод наименьших квадратов (МНК)
|
|
|
|
|
|
|
ˆ |
|
|
2 |
min или |
|
2 |
|
min |
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
S ( yi yi ) |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
ˆ |
) |
2 |
|
( y a bx) |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
S ( yi yi |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
Sa 2 y 2na 2b x 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
Sb 2 yx 2a x 2b x2 |
0 |
Разделим оба уравнения на |
|||||||||||||||||||||||||||||||||||
Отсюд |
|
|
|
|
|
|
|
|
|
n: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
а |
|
|
|
|
|
|
|
|
|
b |
x |
|
|
|
y |
|
|
|
|
|
|
|
|||||||||||||
получаем |
na b |
x |
y, |
|
na |
|
|
|
|
|
|
|
, |
|
|
|
|
|
|||||||||||||||||||
|
|
|
n |
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|||||||||||||
систему |
|
|
|
|
|
|
2 |
|
yx |
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|||||||||
уравнений |
a x b x |
|
|
|
|
|
b x |
|
yx |
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
a x |
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
: |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
n |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
a |
y |
|
|
b x |
y bx |
|
Подставляем во второе |
|
b |
|
xy |
|
x y |
||||||||||||||||||||||||
|
|
|
|
|
|
уравнение: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
n |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
x |
2 x 2 |
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
3.2. Оценка параметров нелинейных моделей
Зависимость Формула Линеаризующее Зависимость преобразование между
параметрами
Гиперболическая |
y a b |
|
|
|
x |
Логарифмическая
y a b ln x
Экспоненциальная
y ea bx
Степенная
y a xb
Показательная
y a b x
y1=y |
а1=а |
X=1/x |
b1=b |
y1=y |
а1=а |
X=ln x |
b1=b |
Y=ln y |
а1=а |
х1=х |
b1=b |
Y=ln y (Y=lg y) |
ln a=C (lg a=C) |
X=ln x (X=lg x) |
b1=b |
Y=ln y (Y=lg y) |
ln a=C (lg a=C) |
х1=х |
ln b=B (lg b=B) |
Оценка параметров внутренне нелинейных моделей:
1.Задаются некоторые «правдоподобные» начальные (исходные) значения параметров а и b.
2.Вычисляются теоретические значения ŷi = f(xi) с использованием этих значений параметров.
3.Вычисляются остатки еi = ŷi – yi и сумма квадратов остатков S.
4.Вносятся изменения в одну или более оценку
параметров.
5.Вычисляются новые теоретические значения ŷi, остатки еi и S.
6.Если произошло уменьшение S, то новые значения оценок используются в качестве новой отправной точки.
7.Шаги 4, 5 и 6 повторяются до тех пор, пока не будет достигнута ситуация, когда величину S невозможно будет улучшить (в пределах заданной точности).
8.Полученные на последнем шаге значения параметров
аи b являются оценками параметров нелинейного
уравнения регрессии.