Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Эконометрика. Парный регрессионный анализ. Практикум
.pdf
Будем иметь
2
(|
)
=
(0)
3
+ 2
(1)
.
Проверим, что для найденной случайной величины вы-
полнено свойство (2.2):
2
3
= 0
(0)
2
1
4
(1)
+ 1
=
1
+ 2
2
2
(= 0) 2(= 1
3
1
2
3
4
3
4
2
1
4
= 0.
)
=
Пусть принимает все значения, которые может при-
нять случайная величина X, регрессией будем называть
f(X
) = E(Y |
X
= ).
Случайную величину Y можно представить в виде
Y
= f(X) + ε, (2.3)
где случайное возмущение ε = Y – E(Y | X).
Заметим, что из (2.2) следует, что Eε = 0.
Выражение (2.3) называют моделью регрессии, а
функцию f(X) — функцией регрессии.
Переменную Y будем называть зависимой, или объяс-
няемой, или эндогенной, или результирующей, или откликом; переменную X — независимой, или объясняющей, или факторной, или регрессором, или экзогенной.
31
2.2. Линейная регрессия
Если f() =
Коэффициент a называется коэффициентом регрессии.
Обозначим y = E(Y | X = ) — среднее значение случайной
величины Y при условии, что X = . Из (2.3) следует, что для
линейной регрессии
тметим экономический смысл коэффициентов a и b.
О
Значение |a| показывает, на сколько единиц изменится
среднее значение случайной величины Y при изменении
случайной величины X на одну единицу.
При этом, если a > 0, то y увеличится, если a < 0, то y
уменьшится.
Коэффициент b не имеет четкой экономической интерпретации, но можно считать, что он показывает, чему будет
равно среднее значение случайной величины Y, если случайная величина X примет значение 0.
Если a > 0, то будем говорить, что линейная зависимость
прямая, если a < 0, то линейная зависимость обратная.
Оценки коэффициентов линейной регрессии методом наименьших квадратов. К сожалению, мы не знаем и
никогда не узнаем, чему равны коэффициенты a и b. Но если
у нас есть выборка объема n, состоящая из пар случайных
величин (X
1,Y1
как эти коэффициенты оценить.
Элементы выборки, изображенные на координатной
п
лоскости, называются корреляционным полем (рис. 5).
Корреляционное поле используется на начальном этапе
для выбора вида функции регрессии. Глядя на рис. 5, можно
предположить, что данные выборки расположены вдоль некоторой прямой линии, то есть мы имеем дело с линейной
регрессией.
+
b, то регрессия называется линейной.
y
= +
.
), (X2,Y2), …, (Xn,Yn), то можно подумать над тем,
32
Рис. 5. Корреляционное поле
Предположим, что найдены оценки a* и b* для коэффи-
циентов a и b.
Обозначим
y* = a* + b*
выборочное уравнение линейной регрессии.
На рис. 6 приведено корреляционное поле с построен-
ной линией y* = a* + b*.
Одним из естественных способов получения оценок a* и
b* является поиск минимума следующей функции двух переменных:
(, )= (
) min,
т. е. мы минимизируем сумму квадратов разностей между
истинными значениями случайной величины Y и их оцен-
ками (на рис. 6 модули этих разностей — это длины отрезков, параллельных оси 0Y, соединяющие элементы выборки
с прямой). Такой метод оценивания параметров называется
методом наименьших квадратов (МНК).
33
Рис. 6. Выборочное уравнение линейной регрессии
Найдем минимум функции L(a, b). Будем иметь систему
= 2
= 2
(
Откуда следует, что
+ =
+ =
Решив систему, получим
=
34
(
=
)
= 0.
.
)
= 0;
(2.4)
;
(,)
=
. (2.5)
Подставляя найденное значение a* в нижнее уравнение
системы, получаем
=
=
.
(2.6)
Из равенства (2.6) следует, что выборочная прямая ре-
грессии проходит через точку с координатами (,
=
+
. (2.7)
), т. е.
Обозначим
=
= , = 1,
остатки регрессии.
Остатки регрессии — это разности между истинными
значениями случайной величины Y и их оценками, полученными с помощью выборочного уравнения линейной
регрессии.
Так как найденные a* и b* удовлетворяют системе (2.4),
то из первого уравнения системы следует, что
(
)
=
= 0,
(2.8)
из второго уравнения следует, что
(
)
=
= 0.
(2.9)
Так как Y
выборочными оценками случайных возмущений ε
= aXi + b + ε, то остатки регрессии являются
i
.
i
Пример 2.1. Для анализа зависимости ежемесячного
объема потребления домохозяйств от располагаемого дохода рассматриваются сведения о 15 домохозяйствах, приведенные в табл. 2.1.
35
Таблица 2.1.
Домохозяйство
Располагаемый доход
(тыс. р.)
Объем потребления
(тыс. р.)
1
29,3
26,6
2
30,3
27,2 3 22
19,4 4 23,3
22,5
5
24,6
22,5 6 25,9
24,1 7 21,6
20,7 8 22,4
20,1 9 31,5
28,3
10
32,2
30
11
32,8
25,4
12
24,2
19,1
13
24,5
22
14
28,2
23,2
15
28
26,3
Задание:
1. Построить корреляционное поле и на основе его визуального анализа выдвинуть гипотезу о виде зависимости
объема потребления от располагаемого дохода. Записать
эту гипотезу в виде регрессионной модели.
2. Оценить параметры линейного уравнения регрессии с
помощью метода наименьших квадратов.
Решение:
1. Обозначим: Y — ежемесячный объем потребления домохозяйств, тыс. р., X — располагаемый доход домохозяйств,
тыс. р.
Построим корреляционное поле по имеющимся данным
(рис. 7).
На рис. 7 точки корреляционного поля наиболее близки
к графику некоторой прямой y = + b. Следовательно, мы
можем выдвинуть гипотезу о линейной зависимости между
располагаемым доходом и объемом потребления.
36
i
Xi
Yi
XiYi
1
29,3
26,6
779,38
858,49
2
30,3
27,2
824,16
918,09
3
22
19,4
426,8
484
4
23,3
22,5
524,25
542,89
5
24,6
22,5
553,5
605,16
6
25,9
24,1
624,19
670,81
7
21,6
20,7
447,12
466,56
8
22,4
20,1
450,24
501,76
9
31,5
28,3
891,45
992,25
10
32,2
30
966
1036,84
11
32,8
25,4
833,12
1075,84
12
24,2
19,1
462,22
585,64
13
24,5
22
539
600,25
Рис. 7. Корреляционное поле для располагаемого дохода и
ежемесячного объема потребления домохозяйств
2. Найдем оценки коэффициентов линейной модели регрессии между располагаемым доходом и объемом потребления. Для этого предварительно рассчитаем необходимые
суммы (последняя строка табл. 2.2).
Таблица 2.2.
37
14
28,2
23,2
654,24
795,24
15
28
26,3
736,4
784
Σ
400,8
357,4
9712,07
10917,82
Вычислим значения a* и b*. Для этого предварительно
вычислим:
=
400,8 = 26,72;
=
357,4 = 23,827;
=
9712,07 = 647,471;
=
10917,82 = 727,855.
Тогда
(
, )= 647,471 26,72 23,827 = 10,823;
= 727,855 26,72
= 13,896.
Тогда по формулам (2.5) и (2.6):
,
=
,
= 0,779;
= 23,827 0,779 26,72 = 3,016.
Итак, линейное уравнение регрессии имеет вид
= 0,779+ 3,016. (2.10)
На рис. 8 приведено корреляционное поле и показана
линия регрессии.
Дадим содержательную интерпретацию коэффициентов
уравнения (2.10):
• a* = 0,779 означает, что при увеличении располагае-
мого дохода на 1 тыс. р. объем потребления в среднем увеличится на 779 р.;
• b* = 3,016 означает, что при отсутствии доходов
средний объем потребления составит 3016 р.
38
Рис. 8. Корреляционное поле и выборочное уравнение
линейной регрессии «доход — потребление»
Следует заметить, что коэффициент b* имеет в данном
случае содержательную интерпретацию, так как отдельные
домохозяйства могут в течение кратковременного промежутка не иметь доходов, а расходовать, например, накопления. В случае, когда объектам выборки были бы федеральные образования, такая ситуация не была бы возможной, и
коэффициент b* не имел бы содержательной интерпретации.
2.3. Предпосылки линейного
регрессионного анализа.
Теорема Гаусса–Маркова
Метод наименьших квадратов позволяет получить
оценки неизвестных коэффициентов уравнения линейной
регрессии. Для нас важно, чтобы эти оценки были близки к
неизвестным истинным значениям a и b. Рассмотрим доста-
39
точные условия для эффективного применения метода
наименьших квадратов.
Предположим, что
Y = aX + b +ε,
т. е. регрессия является линейной.
Тогда для элементов выборки справедливы уравнения
= + + , = 1, .
Сформулируем основные предпосылки линейного ре-
грессионного анализа.
(I
) Будем считать, что значения Xi не являются случай-
0
ными и сумма
(
)
=
стремится к бесконечности при n → ∝. Это условие можно
понимать следующим образом: с ростом объема выборки
разброс значений X
Условие (I
является «достаточно большим».
i
) является техническим и на практике, как
0
правило, считается априори выполненным. Поэтому всюду в
дальнейшем мы будем предполагать, что условие (I
) вы-
0
полнено.
) Математические ожидания случайных возмущений
(I
1
равны нулю
ε
i
= 0, = 1, .
Это условие можно понимать следующим образом: слу-
чайное возмущение в среднем не влияет на результат.
) Дисперсия случайных возмущений постоянна:
(I
2
40
= , = 1, .
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]