14. Пример использования метода наименьших квадратов.
Имеются численные значения двух показателей: количество продавцов и розничного товарооборота по четырем выборочным однородным филиалам одной фирмы, представленных в таблице 7.
Таблица 7 - База данных по четырем филиалам одной фирмы
-
i
Хi
Уi
1
1
4
2
3
6
3
2
7
4
4
10
5
5
?
Где i - номер филиала фирмы,
Х - количество продавцов (чел.),
У - величина розничного товарооборота (тыс. руб.).
Необходимо определить такие оптимальные значения коэффициентов а0 и а1 регрессионной модели Уi = а0 + а1*Хi + ei, при которых сумма квадратов остатков будет минимальной ∑еi2 -> min.
Решение.
Представим уравнение Уi= a0 + a1*Xi + еi
в развернутом виде:
4= 1*a0 + 1*a1 + е1
6= 1*a0 + 3*a1 + е2
7= 1*a0 + 2*a1 + е3
10= 1*а0 + 4*а1 + е4
Представим полученную систему уравнений в матричном виде:
У= XА + е,
где
,
,
,
.
Метод наименьших квадратов заключается в том, что он позволяет определить такие значения коэффициентов а0 и а1, при которых сумма квадратов остатков будет минимальной:
∑е2 = е'е min, где е = У – ХА.
е'е= (У - ХА)'(У - ХА)= (У' - А'X')(У- ХА)= = У'У - А'Х'У - У'XА + А'X'XА= =У'У - 2*А'Х'У +А'Х'ХА= = У'У - 2*Х'УА + Х'Х(А)2.
Так как справедливы тождественные преобразования:
А'X'У= X'УА, А'Х'XA= X'XA2, У'XА= А'X'У.
Возьмем первую производную от е'е по А, приравняем ее к нулю и определим оценки параметров модели.
d(e'e)/ dА = -2*Х'У + 2*Х'ХА= 0.
После несложных преобразований можно получить.
Х'ХА= Х'У - система нормальных уравнений, представленная в матричном виде.
А = (Х'Х)-1Х'У
А = (Х'Х)-1Х'У- расчетная формула коэффициентов линейной модели или - оценка параметров модели для генеральной совокупности.
(Х'Х)-1- обратная матрица, полученная от матрицы Х'Х, является матрицей ошибок оценок параметров модели.
Х'- транспонированная матрица, полученная от матрицы Х.
Расчетную формулу коэффициентов модели следует запомнить, так как она будет применяться на протяжении всего курса эконометрии.
Представим систему нормальных уравнений в развернутом виде:
Х'ХА= Х'У или
Решим систему уравнений и получим формулы расчета коэффициентов, представленных в скалярном виде:
a0= Уc - a1*Хc,
где Хc, Ус - средние значения переменных Х и У.
Приводим расчеты коэффициентов в скалярном виде.
a 0= Уc - a1*Хc
|
Хi |
Уi |
Хi-Хс |
Уi -Ус |
(Хi-Хс)*(Уi -Ус) |
(Хi-Хс)2 |
|
1 |
4 |
-1,5 |
-2,75 |
4,125 |
2,25 |
|
3 |
6 |
0,5 |
-0,75 |
-0,375 |
0,25 |
|
2 |
7 |
-0,5 |
0,25 |
-0,125 |
0,25 |
|
4 |
10 |
1,5 |
3,25 |
4,875 |
2,25 |
Суммы |
|
|
|
|
8,5 |
5 |
Средние |
2,5 |
6,75 |
|
|
|
|
а1 = |
1,7 |
а0 = |
2,5 |
У=2,5+1,7*Х+е
Произведем расчеты коэффициентов линейного уравнения с помощью матричных операций.
Расчетная формула коэффициентов, представленная в матричном виде:
А = (Х'Х)-1Х'У
читается следующим образом: вектор столбец значений коэффициентов уравнения регрессии равен транспонированной матрице, умноженной на исходную матрицу Х, от результата умножения ищется обратная матрица, которая умножается на транспонированную матрицу Х, полученный результат умножается на исходную матрицу У.
Выполним действия в той последовательности, как была прочитана формула расчета значений коэффициентов уравнения регрессии.
Исходные значения матриц Х и У
|
1 |
1 |
|
4 |
Х = |
1 |
3 |
У = |
6 |
|
1 |
2 |
|
7 |
|
1 |
4 |
|
10 |
|
1 |
1 |
1 |
1 |
Х' = |
1 |
3 |
2 |
4 |
Х'Х = |
4 |
10 |
|
10 |
30 |
(Х'Х)-1 = |
1,5 |
-0,5 |
|
-0,5 |
0,2 |
(Х'Х)-1Х' = |
1 |
0 |
0,5 |
-0,5 |
|
-0,3 |
0,1 |
-0,1 |
0,3 |
А = (Х'Х)-1Х'У = |
2,5 |
= а0 |
|
|
|
1,7 |
= а1 |
Ур = а0+а1Х = |
2,5 |
+ |
1,7 |
*Х |