3. Оценка параметров модели
ˆ |
|
3.1. МНК |
|
|
|
2 |
min |
или |
2 |
min |
|
S ( yi yi ) |
|
|
|||
S ( yi a |
b1 x1 b2 x2 |
... bp xp )2 S(a, b1 ,...,bp ) |
|||
Отсюд
а
получаем
систему
уравнений
:
Sa |
2 ( yi a b1x1 |
b2 x2 |
... bp xp ) 0 |
|||
Sb1 |
2b1 ( yi a b1x1 |
b2 x2 |
... bp xp ) 0 |
|||
... |
|
|
|
|
|
|
Sbp |
2bp ( yi a b1x1 b2 x2 ... bp xp ) 0 |
|||||
|
y na b1 x1 b2 x2 ... |
bp xp , |
|
|||
|
yx1 a x1 b1 x12 b2 x1 x2 |
bp xp x1 , |
||||
|
||||||
|
|
|
|
|
|
|
................................................................................... |
||||||
|
yxp a xp b1 x1 xp b2 x2 xp |
2 |
||||
|
bp xp . |
|||||
Решение системы уравнений с помощью метода определителей:
|
a |
a |
, |
b |
|
|
b |
, |
..., b |
|
|
bp |
|
|
|
||
|
|
|
1 |
|
p |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
где ∆ – определитель |
|
|
n |
|
x1 |
|
|
x2 |
... |
x p |
|||||||
|
|
|
|
|
|||||||||||||
системы: |
|
|
|
|
|
|
|
||||||||||
|
|
|
x1 |
|
x12 |
|
|
x2 x1 |
... |
xp x1 |
|||||||
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
x2 |
|
x1 x2 |
|
x22 |
... |
xp x2 |
||||||
|
|
|
|
|
|
|
... ... |
|
|
... ... ... |
|||||||
|
|
|
|
|
|
xp |
x1 xp |
x2 xp |
... |
x2p |
|||||||
∆a, ∆b1, ∆bp – частные определители (∆j) , которые получаются из основного определителя путем замены jго столбца на столбец свободных членов
|
|
y |
|
|
|
|
|
|
yx1 |
|
|
|
... |
|
|
|
|
|
|
|
|
||
|
|
|
|
|
yx p |
||
3.Оценка параметров модели
3.2.Метод оценки параметров через стандартизованные коэффициенты β
Уравнение регрессии в стандартизованном (нормированном) масштабе:
|
ty 1tx |
2tx |
... ptx |
p |
|||
|
|
|
1 |
|
2 |
|
|
где |
|
y y |
, |
|
x x |
стандартизованные |
|
ty |
|
|
txi |
|
i i |
переменные |
|
|
y |
||||||
|
xi |
||||||
β стандартизованные коэффициенты регрессии.
βкоэффициенты показывают, на сколько сигм (средних квадратических отклонений) изменится в среднем результат за счет изменения соответствующего фактора xi на одну сигму при неизменном среднем уровне других факторов.
Взаимосвязь bi и β
Связь коэффициентов «чистой» регрессии bi с
коэффициентами βi описывается соотношением: |
||||||||
bi i |
y |
или |
|
|
b |
|
xi |
(i 1,2,..., p) |
xi |
|
|
||||||
|
|
|
||||||
|
|
|
i |
i y |
|
|||
Коэффициенты β определяются при помощи МНК из следующей системы уравнений методом
r |
|
r |
|
r |
... |
r |
, |
|||
определителей: yx |
1 |
2 |
x x |
3 |
|
x x |
|
p x x |
|
|
1 |
|
|
2 1 |
|
|
3 1 |
|
|
p 1 |
|
ryx2 |
1rx2 x1 |
2 |
|
3rx3 x2 |
... p rxp x2 , |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
r |
r |
r |
|
r |
... |
p |
|
|||
yxp |
1 xp x1 |
2 |
xp x2 |
|
3 x3xp |
|
|
|||
Параметр a определяется как:
a y b1x1 b2 x2 ... bp xp
4. Проверка качества уравнения регрессии
Н0: уравнение статистически не значимо
yi |
= |
ŷi |
+ |
εi |
D(y) |
= |
D(ŷ) |
+ |
D(ε) |
1 |
|
|
2 |
1 |
|
|
|
|
1 |
|
|
2 |
|
|
|
|
|
|
|
|
|||||
( y y) |
ˆ |
y) |
2 |
|
ˆ |
|||||||
n |
|
n |
( y |
|
n |
( y y) |
|
|||||
полная (общая) = |
|
сумма |
|
|
+ (остаточная) |
|
||||||
|
сумма |
|
|
квадратов |
|
|
сумма |
|
||||
|
квадратов |
|
отклонений, |
|
|
квадратов |
|
|||||
|
отклонений |
|
объясненная |
|
отклонений, |
|
||||||
|
|
|
|
|
регрессией |
|
|
|
не |
|
||
|
|
|
|
|
|
|
|
|
объясненная |
|
||
|
|
|
|
|
|
|
|
|
|
регрессией |
|
|
|
|
Fкритерий Фишера: |
|
|||||
|
|
ˆ |
|
|
|
|
|
|
|
|
D( y) |
|
|
|
R2 |
n m 1 |
|
F |
|
k |
|
или |
|
|||
|
|
|
|
|
|
m |
||
|
D( ) |
|
1 R2 |
|||||
n m 1
где m – число независимых переменных в уравнении
регрессии;
n – число единиц совокупности.
Если Fфакт > Fтабл, то Н0 о случайной природе связи отклоняется и признается статистическая значимость и
надежность уравнения.
Если Fфакт < Fтабл, то Н0 не отклоняется и признается статистическая незначимость уравнения регрессии.
|
|
Частный Fкритерий: |
|
|
|
|
R2 |
R2 |
|
F |
|
yx1...xi...x p |
yx1...xi 1xi 1...x p |
n m 1 |
|
R2 |
|||
частxi |
|
1 |
1 |
|
|
|
|
yx1...xi...x p |
|
оценивает статистическую значимость присутствия каждого из факторов в
уравнении.