
3 КУРС (5 И 6 СЕМЕСТРЫ) / 6 СЕМЕСТР / Основы теории принятия решений / Теория принятия решений Орлов
.pdfxij0 = (xij − x j ) / s(x j ), yi0 = ( yi − y) / s( y),
где
x j |
= |
1 |
å xij , s2 (x j ) = |
1 |
å (xij |
− x j )2 , |
y = |
1 |
å yi , s2 (y) = |
1 |
å (yi − y)2 . |
|||
|
|
n |
1≤ i≤ n |
|
|
n |
1≤ i≤ n |
|
|
n |
1≤ i≤ n |
|
n |
1≤ i≤ n |
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x 0j = 0 |
s |
2 (x0j ) = |
1 |
å (xij0 − |
x 0j |
)2 = 1, |
y 0 = 0 |
s2 ( y0 ) = 1 |
å ( yi0 − y0 )2 = 1, j = 1,2,..., m.. |
|||||
|
|
|
|
n |
1≤ i≤ n |
|
|
|
|
|
n |
1≤ i≤ n |
|
|
В дальнейшем изложении будем считать, что рассматриваемые переменные пронормированы описанным образом, и верхние индексы 0 опустим. Для облегчения демонстрации основных идей примем достаточно естественные предположения.
1. Для рассматриваемых переменных существуют следующие пределы:
lim |
1 |
å xij xik = 0, j, k = 1,2,..., m. |
n→ ∞ |
n |
1≤ i≤ n |
2.Количество опытов n таково, что можно пользоваться асимптотическими результатами, полученными при n → ∞ .
3.Погрешности измерения удовлетворяют одному из следующих типов ограничений:
Тип 1. Абсолютные погрешности измерения ограничены согласно (48):
Тип 2. Относительные погрешности измерения ограничены:
| xij |≤ δ jx | xij | (i = 1,2,..., n, j = 1,2,..., m), ,| yi |≤ δ y | yi | (i = 1,2,..., n).
Тип 3. Ограничения наложены на сумму погрешностей:
m |
|
å | |
xij |≤ α x (i = 1,2,...,n, j = 1,2,...,m), | yi |≤ α y (i = 1,2,...,n)). |
j= 1 |
|
(поскольку все переменные отнормированы, т.е. представляют собой относительные величины, то различие в размерности исходных переменных не влияет на возможность сложения погрешностей).
Перейдем к вычислению нотны оценки МНК. Справедливо
D b* = b*R - |
|
1 å∞ |
|
|
(- D × 1)P (nb*R + D X T YR + X RT D Y + D X T D Y) = |
|
|
|
||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
n P= 0 |
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
= b*R - |
|
1 |
å∞ |
|
(- (X RT D X + D X T X R + D X T D X )× ( |
1)P (nb*R + D X T YR + X RT D Y + D X T D Y) = |
||||||||||||||||||||||||||||||||||||||
|
|
|
|
n P= 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
||||||
= b*R - |
|
1 |
(E - (X RT D X + D X T X R |
|
+ D X T D X ) 1 + (X RT D X + D X T X R + D X T D X )2 (1)2 )× |
|||||||||||||||||||||||||||||||||||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
× (nb*R + D X T Y + X T D Y + D X T D Y). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
R |
|
|
|
|
|
|
|
R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Выразим Δb* относительно приращений ΔХ, ΔY до 2-ro порядка |
|
|||||||||||||||||||||||||||||||||||||||||||
D b* = b*R - 1 |
(E - (X RT D X + D X T |
X R + D X T D X ) 1 + (X RT D XX RT D X + D X T X RD X T X R + |
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ D X T X |
|
X T D X + X T D XD X T X |
|
|
)(1)2 )× (nb*R + D X TY + X T D Y + D X T D Y); |
|
||||||||||||||||||||||||||||||||||||||
|
|
|
|
R |
|
R |
|
|
|
|
|
R |
|
|
|
|
|
|
|
R |
n |
|
|
|
|
|
|
|
|
R |
|
|
R |
|
|
|
|
|||||||
D b* = b*R - 1 (E - (X T D X + D X T |
X |
R |
+ D X T D X ) 1)× (nb*R |
+ D X TY + X T D Y + D X T D Y); |
||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
n |
|
|
|
|
|
|
R |
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
R |
R |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
D b* = 1 (X T D X + D X T X |
R |
+ D X T D X )b*R - 1 (D X TY + X T D Y + D X T D Y ) = |
|
|
||||||||||||||||||||||||||||||||||||||||
|
|
n |
|
|
|
R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
R |
|
|
|
R |
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
= |
1 [(X T D X + D X T X |
R |
+ D X T D X )b*R - (D X TY + X T D Y + D X T D Y )]. |
|
|
|
||||||||||||||||||||||||||||||||||||||
|
n |
R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
R |
|
R |
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Перейдем от матричной к скалярной форме, опуская индекс (R): |
|
|||||||||||||||||||||||||||||||||||||||||||
|
bk |
* = |
1 |
{åm ån |
(xik |
|
|
xij + xik xij )bj *− ån |
( xik yi + xik |
yi )}; |
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
n |
|
j |
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
bk |
* = |
1 |
{2ån xik xik bk *+ åm ån |
(xik xij + xik xij )bj *− ån |
|
( xik yi + xik |
yi )} = |
|
|||||||||||||||||||||||||||||||||||
|
|
|
n |
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
j¹ k |
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
||
= |
1 |
{2ån xik |
|
xik bk *+ åm ån |
[(xik |
xij + xik xij )bj *− |
|
1 |
|
|
|
xik yi ] − ån xik |
yi } = |
|
||||||||||||||||||||||||||||||
n |
|
m − |
1 |
|
||||||||||||||||||||||||||||||||||||||||
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
j¹ k |
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
||||||||
= |
1 |
{åm ån |
[ |
|
2 |
|
|
xik |
|
|
xik bk *+ (xik |
|
xij + xik xij )bj |
*− |
|
1 |
|
|
|
xik yi ] − ån xik yi } = |
||||||||||||||||||||||||
n |
m − 1 |
|
|
|
m − 1 |
|||||||||||||||||||||||||||||||||||||||
|
j¹ k |
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|||||||||||
= |
1 |
{åm ån |
[( |
2 |
|
|
|
|
xik bk *+ xijbj *− |
|
|
1 |
|
yi ) xik − xik bj * xij ] − ån xik |
yi } |
|
||||||||||||||||||||||||||||
n |
m − |
1 |
|
m − 1 |
|
|||||||||||||||||||||||||||||||||||||||
|
j¹ k |
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|||||||||
|
|
Будем искать max(|Δbk*|) по |
xij и |
|
|
|
|
yi (i=1,…, п ;j=1,…, m). Для |
||||||||||||||||||||||||||||||||||||
этого рассмотрим все три ранее введенных типа ограничений на |
||||||||||||||||||||||||||||||||||||||||||||
ошибки измерения. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
Тип 1 (абсолютные погрешности измерения ограничены). Тогда: |
||||||||||||||||||||||||||||||||||||||||||
|
|
max(| |
bk *|) = |
|
1 |
{åm |
ån |
[| ( |
|
2 |
|
|
xikbk |
*+ xijbj *− |
|
|
|
1 |
yi ) | |
xk + | xikbj *| |
xj ]− ån |
| xik | y}. |
||||||||||||||||||||||
|
|
|
n |
m − |
1 |
|
m − 1 |
|||||||||||||||||||||||||||||||||||||
|
|
D x,D y |
|
|
|
|
|
|
|
|
j¹ k |
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
Тип 2 (относительные погрешности измерения ограничены). Аналогично получим:
m |
|
|
|
|
|
å | |
xij |
|< α x (i = 1,2,...,n, j = 1,2,...,m), |
| |
yi |< α y |
(i = 1,2,...,n)). |
j= 1 |
|
|
|
|
|
Тип |
З |
(ограничения наложены |
на |
сумму |
погрешностей). |
Предположим, что |Δbk*| достигает максимального значения при таких значениях погрешностей Δxij и Δyi, которые мы обозначим как:
|
{ x* , |
|
i = |
|
|
|
; j = 1,2,...,m}, { |
y*, |
i = 1,2,...,n}. |
|||||||
|
|
1,2,...,n |
||||||||||||||
|
ij |
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
тогда: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
max(| |
bk *|) = |
1 |
{åm |
ån |
[( |
2 |
|
|
xikbk *+ xijbj *− |
1 |
|
yi )xik* + |
xikbj * xij* ]− ån xik yi*}. |
|||
n |
m − |
1 |
m − 1 |
|||||||||||||
D x,D y |
|
j¹ k |
i |
|
|
|
|
|
i |
Ввиду линейности последнего выражения и выполнения ограничения типа 3:
max(| D bk *|) = |
|
1 |
{åm ån |
[| |
2 |
|
|
xik bk *+ xijb*j - |
1 |
|
|
yi | × | D xik* | + |
| xik bj *| × | D xij* |]- ån |
| xik | × | D yi* |}, |
||||||
|
n |
m - |
1 |
m - |
1 |
|||||||||||||||
D x,D y |
|
j¹ k i |
|
|
|
|
|
|
|
|
i |
|
||||||||
åm |
| D xij* | = α x |
|
|
( j = 1,2,...,m), |
| D yi* |= α |
y . |
|
|
|
|
|
|
|
|
||||||
j |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Для простоты записей выкладок сделаем следующие замены: |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
| D xij |= α ij ³ 0, |
Ck = nå | xik | × | D yi* | ³ 0, |
||||||||||||||||||
|
Kik = å | |
|
2 |
|
|
|
|
|
|
|
i |
1 |
|
yi | ³ 0, |
||||||
|
|
|
|
|
xik bk * + xij bj * - |
|
||||||||||||||
|
|
|
|
m |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
j ¹ k |
m - 1 |
|
|
|
|
|
|
|
m - 1 |
|
|
|
||||
|
| x b |
j |
* |= Rk |
³ 0. |
|
|
|
|
|
|
|
|
|
|||||||
|
ik |
|
|
|
ij |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Теперь |
|
для |
|
|
достижения |
|
|
поставленной |
цели можно |
сформулировать следующую задачу, которая разделяется на m типовых задач оптимизации:
fk |
({α ij }) → |
max |
(i = 1,2,..., n; j = 1,2,..., m;k = 1,2,..., m), |
|||||||
|
|
|
α ij |
|
|
|
|
|
|
|
где |
|
|
|
|
|
|
|
|
|
|
fk |
({α ij }) = |
1 {ån |
Kikα ik + |
åm |
ån |
Rijkα ij }+ Ck , |
|
|||
|
|
|
n |
i |
|
j¹ m |
i |
|
|
|
при ограничениях |
|
|
|
|
|
|
|
|
||
|
|
|
|
åm |
α ij = α x |
|
|
( j = 1,2,...,m). |
|
|
|
|
|
|
j |
|
|
|
|
|
|
Перепишем минимизируемые функции в следующем виде: |
||||||||||
|
|
n |
|
|
m |
|
|
|
|
n |
fk = |
1 |
å (Kikα ik + å |
Rijkα ij ) + Ck |
= 1 å fi k + Ck . |
||||||
|
n |
i |
|
|
j¹ m |
|
|
|
n |
i |
Очевидно, что fik > 0. |
|
|
|
|
|
|
|
|||
Легко видеть, что |
|
|
|
|
|
|
||||
n × max( fk ) = max( f1k ) + |
max( f2k ) + ...+ |
max( fnk ) + |
Ck = ån |
max( fik ) + Ck , |
||||||
α ij |
|
α i1 |
|
|
α i 2 |
|
|
α in |
i |
α ii |
|
|
|
|
|
|
|
|
|
|
|
где |
i = 1,2,...,n; j = |
1,2...,m. |
|
|
|
|
|
Следовательно, необходимо решить nm задач
{ fik }→ |
max |
(i = |
1.2.,,,.n; j = 1.2,...,.m; |
k = 1,2,...,m) |
|
|
α ij |
|
|
|
|
при ограничениях "типа равенства": |
|
||||
m |
|
|
|
|
|
å α ij = α x |
(i = 1,2,..., n), |
|
|||
j |
|
|
|
|
|
|
|
|
|
m |
m |
где |
fi k |
= Kikα ik |
+ å Rijkα ij = å Sijkα ij , |
||
|
|
|
|
j ¹ m |
j |
|
|
k |
ì K k , если |
j = k, |
|
причем |
ï |
i |
|
||
Sij |
= í |
k |
j ¹ k. |
||
|
|
|
ï Rij , если |
||
|
|
|
î |
|
|
Сформулирована типовая задача поиска экстремума функции. Она легко решается. Поскольку
max( fi k ) = max(Sijk ) ×α x , |
|
aij |
j |
|
то максимальное отклонение МНК-оценки k-ого параметра равно
^ |
|
1 |
n |
max(Sijk ) + |
1 Ck , (i = 1,2,..., n; j = 1,2,..., m). |
max(| bk |) = |
max( fk ) = |
α x å |
|||
X , Y |
α ij |
n |
i |
j |
n |
Кроме рассмотренных выше трех видов ограничений на погрешности могут представлять интерес и другие, но для демонстрации типовых результатов ограничимся только этими тремя видами.
Оценивание линейной корреляционной связи. В качестве примера рассмотрим оценивание линейной корреляционной связи случайных величин у и х1 , х2..., хm с нулевыми математическими ожиданиями. Пусть эта связь описывается соотношением:
m
y = åbj x j + e,
j =1
где b1 , b2 ,..., bm - постоянные, а случайная величина е некоррелирована с х1 , х2..., хm. Допустим, необходимо оценить неизвестные параметры b1 , b2 ,..., bm по серии независимых испытаний:
m
yi = å bj xij + ei , (i = 1,2,..., n).
j=1
Здесь при каждом i = 1,2,…,n имеем новую независимую реализацию рассматриваемых случайных величин. В этой частной схеме оценки наименьших квадратов b1*R , b2*R ,…, bm*R параметров b1, b2 ,..., bm являются, как известно, состоятельными [45].
Пусть величины х1 , х2..., хm в дополнение к попарной независимости имеют единичные дисперсии. Тогда из закона больших
чисел [45] следует существование следующих пределов (ср. предположение 1 выше):
lim{ |
1 |
ån |
xijR } = M{x j } = 0 |
( j = |
|
), |
|
|
|
|
|
1, m |
|
|
|
|
|
||||||
n→ ∞ |
n |
i |
|
|
|
|
|
|
|
|
|
lim{ |
1 |
ån |
(xijR − M{x j })2} = |
D{x j } = 1 |
( j = |
|
), |
|
|
||
1, m |
|||||||||||
n→ ∞ |
n |
i |
|
|
|
|
|
|
|
|
|
lim{ |
1 |
ån |
(xijR − M{x j })(xikR |
− M{xk })} = 0 |
( j, k = |
|
), |
||||
1, m |
|||||||||||
n→ ∞ |
n |
i |
|
|
|
|
|
|
|
|
|
lim{ |
1 |
ån |
yiR } = M{y} = b1M{x1}+ ...+ bm M{xm}+ M{e} = 0, |
||||||||
n→ ∞ |
n |
i |
|
|
|
|
|
|
|
|
|
lim{ |
1 |
ån |
( yiR − M{y})2} = |
D{y} = b12 + ...+ bm2 + σ 2 , |
|||||||
n→ ∞ |
n |
i |
|
|
|
|
|
|
|
|
|
где σ - среднее квадратическое отклонение случайной величины е.
Пусть |
измерения |
производятся |
с |
погрешностями, |
удовлетворяющими ограничениям типа 1, тогда максимальное приращение величины |Δb*k|, как показано выше, равно:
max(| D b*k |) = |
1 |
{åm |
ån |
[| |
2 |
|
|
xikRb*k + xijRb*j - |
1 |
|
yir | ×D xk + | xikRb*j | ×D xj ]+ ån |
| xikR | ×D y}. |
|
n |
m - |
1 |
m - 1 |
||||||||||
D x,D y |
j¹ k |
i |
|
|
i |
|
Перейдем к предельному случаю и выпишем выражение для нотны:
Nk = |
lim{max(| D b*k |
|)} = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
n® ¥ |
D x,D y |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
= åm |
[M{| |
2 |
|
xk bk + xjbj |
- |
1 |
|
|
y |}× D xk + M{| xk bj |}× D xj + M{| xk |}× D y. |
||||||||||||||
m - |
1 |
m - |
1 |
||||||||||||||||||||
j¹ k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
В качестве примера рассмотрим случай m = 2. Тогда |
|
|
|||||||||||||||||||||
N |
1 |
= M{| 2x b + x |
b − y |} |
x |
+ M{b x } |
x |
+ M{| x |} y, |
||||||||||||||||
|
|
|
|
1 |
1 |
2 |
|
2 |
|
|
|
|
1 |
2 |
1 |
|
2 |
1 |
|
||||
N |
2 |
= M{| 2x b + x b − y |} |
x |
+ M{b x |
} |
x |
+ M{| x |
2 |
|} y. |
||||||||||||||
|
|
|
|
2 |
2 |
1 |
|
1 |
|
|
|
|
2 |
1 |
2 |
|
1 |
|
|
Приведенное выше выражение для максимального приращения метрологической погрешности не может быть использована в случае m = 1. Для m = 1 выведем выражение для нотны, исходя из
соотношения:
b *k = |
1 {å å (xik xij |
+ xik xij ), b * j |
− å ( xik yi + xik |
yi )}. |
||||||
|
|
m |
n |
|
|
|
|
|
n |
|
|
n |
j |
i |
|
|
|
|
|
i |
|
Подставив m = 1, получим: |
|
|
|
|
|
|
||||
b* = 1 |
{ån |
(2xi |
xi )b*− ån |
( |
xi yi + xi |
yi )} = |
1 |
{ån |
((2xib*− yi ) xi + xi |
yi )}. |
n |
i |
|
i |
|
|
|
n |
i |
|
|
Следовательно, нотна выглядит так:
Nf=M{|2xb* – y|}Δx+M{|x|}Δy .
Для нахождения рационального объема выборки необходимо сделать следующее.
Этап 1. Выразить зависимость размеров и меры области рассеивания Bα(n,b) от числа опытов n (см. выше).
Этап 2. Ввести меру неопределенности и записать соотношение между статистической и интервальной неопределенностями.
Этап 3. По результатам этапов 1 и 2 получить выражение для рационального объема выборки.
Для выполнения этапа 1 определим область рассеивания следующим образом. Пусть доверительным множеством Bα(n,b) является m-мерный куб со сторонами длиною 2K, для которого
P(b Bα (n,b *R )) = α ..
Исследуем случайный вектор b* и
b*R = (X RT X R )− 1 X RT YR = ( X RT X R )− 1 X RT ( X R b + e) =
= (X RT X R )− 1 X RT X R b + (X RT X R )− 1 X RT e = b + (X RT X R )− 1 X RT e.
Как известно, если элементы матрицы А = {аij} -случайные, т.е. А – случайная матрица, то ее математическим ожиданием является матрица, составленная из математических ожиданий ее элементов, т.е. М{А} = {М{аij}}.
Утверждение 1. Пусть А = { аij } и В = { bij } - случайные матрицы порядка (m х n) и (n х r) соответственно, причем любая пара
их элементов (аij, bkl) состоит из независимых случайных величин. Тогда математическое ожидание произведения матриц равно произведению математических ожиданий сомножителей, т.е. M{AB} = M{A} M{B}.
Доказательство. На основании определения математического ожидания матрицы заключаем, что
n |
n |
n |
|
|
A× B = {å aik × bkj } ® |
M{A× B} = {M{å aik × bkj }} = {å M{aik × bkj }} |
, |
||
k |
k |
k |
|
|
|
|
|||
но так как случайные величины аik, bkj независимы, то |
|
|
||
n |
|
|
|
|
M {A × B} = {å M {aik }× M {bkj }} = M {A}× M {B} |
, |
|
||
k |
|
|
|
|
|
|
|
|
|
что и требовалось доказать. |
|
|
|
Утверждение 2. Пусть А = {аij} и В = {bij} - случайные матрицы порядка (m х n) и (n х r) соответственно. Тогда математическое ожидание суммы матриц равно сумме математических ожиданий слагаемых:, т.е. М{А+В} = М{А} + М{В}.
Доказательство. На основании определения математического ожидания матрицы заключаем, что
M{А+В} = {М{аij+bij}} = {М{аij} + М{bij}} =M{A} + M{B},
что и требовалось доказать.
Найдем математическое ожидание и ковариационную матрицу вектора b* с помощью утверждений 1, 2 и выражения для b*R , приведенного выше. Имеем
M{b*R } = b + M{(X RT X R )− 1 X RT e} = b + M{(X RT X R )− 1 X RT }× M{e}. Но так как M{ e } = 0, то M {b*R} = b . Это означает что оценка МНК является несмещенной.
Найдем ковариационную матрицу: