Математические модели управления производственно-экономическими системами. Учебное пособие
.pdf∙ попали ли оценки коэффициентов регрессии в предполагаемые из содержательных соображений интервалы.
Основная идея оценки параметров способом МНК заключается в минимизации суммы квадратов невязок между реальными статисти- ческими данными, описывающими тот или иной процесс, и расчёта- ми по модели.
Для реализации метода МНК применительно к идентификации моделей ПЭС рассматривается производственная функция системы:
ym=f(x1, …, xn; a1, …, ak), |
(4.68) |
как множественное регрессионное уравнение, где
x(t) – известные значения входных (объясняющих) переменных; f(×) – аналитическая зависимость, определяющая производствен-
ную функцию. Явный вид функции f формируется исследователем в соответствии с стоящими перед ним целями и наличием информации об изучаемой ПЭС;
a1, …, ak – вектор идентифицируемых (настроечных) параметров ПФ;
ym(t) – модельные значения выходной (объясняемой) переменной, рассчитываемые на основе сконструированной функции f(×).
Оценки параметров ПФ (4.68) находятся из условия минимизации суммы квадратов отклонений расчётных значений функции ym=f(x, a) в точках x(t), t=1, …, T, от фактических, статистических данных y(t),
t=1, …, T [55]:
T |
T |
|
|
S (a1 , ..., ak ) = ∑εt2 |
=∑( y(t) − f (x(t), a1 ,...ak ))2 |
→ min . |
(4.69) |
t =1 |
t =1 |
|
|
В (4.69) y(t) – известные значения выходной (объясняемой) пере- менной;
e2(t) – значения квадратов ошибок (остатков): ε(t)=y(t) – ym(t); S(a1, …, ak) – сумма квадратов отклонений (интегральная, квадра-
тичная невязка);
[t, T] – временной интервал статистической совокупности исход- ных данных.
71
В соответствии с методом МНК, если функция f линейна по па- раметрам a1, …, ak или сводится к таковой, является выпуклой и дифференцируемой, то необходимым и достаточным условием суще- ствования минимума ошибки является равенство нулю частных про- изводных по параметрам оценки – a1, … ak [55], [40]. Совокупность приравненных к нулю частных производных определяет систему ли- нейных уравнений, решение которых даёт численные значения иско- мых параметров ПФ.
При идентификации параметров ПФ, в общем случае, получается неустранимая ошибка оценивания et. Обычно полагается, что [23]:
1.Ошибка et является случайной величиной.
2.Математическое ожидание ошибки равно нулю М(et)=0.
3.Дисперсия ошибки постоянна D(et)=const, "t.
4.Значения et независимы между собой.
Если данные предположения выполняются, то оценки парамет- ров, полученные на основе МНК, являются:
1.Несмещёнными – отсутствует систематическая ошибка при оценивании.
2.Состоятельными – при числе наблюдений n®¥ с вероятно- стью, как угодно близкой к единице, величины оцениваемых пара- метров сходятся к истинным значениям. При этом наблюдается рост достоверности оценок при увеличении выборки n.
3.Эффективными – имеют наименьшую дисперсию по отноше-
нию к другим линейным оценкам. Если случайная ошибка et имеет нормальный закон распределения, то оценки МНК имеют наимень- шую дисперсию относительно всех несмещённых оценок [52], [38].
Далее в качестве базовой модели ПЭС примем рассмотренную ранее (4.7) многомерную производственную функцию (МПФ). Пред-
положим, что тем или иным способом мы можем привести синтези-
руемую МПФ к линейному виду: |
|
yt,1+ β2× yt,2+…+βj× yt,j+…+βm× yt,m= |
(4.70) |
=a0 + a1× xt,1 + a2× xt,2 + …+ai× xt,i+…+ an× xt,n + et. |
|
72
В (4.70) αi – оцениваемые параметры (весовые коэффициенты) входных величин хt,i; t=1,2…T; i=1,2…n. βj – веса, соответственно, выходных переменных yt,j; t=1,2…T; j=1,2…m.
Для однозначности масштабирования искомых коэффициентов положим значение веса β1, при первой компоненте вектора Y единич- ными – β1=1. В матричной форме, соотношения между массивами входных и выходных данных (4.70) имеют вид:
y11 ... |
y1 j ... |
|
|
y21 ... |
y2 j ... |
... ... |
... |
... |
|
|
|
yt1 ... |
ytj |
... |
y1m |
|
|
1 |
|
|
1 |
||
y |
|
|
|
β |
|
|
|
1 |
|
2m |
× |
|
j |
= |
|
||
... |
|
|
... |
... |
||||
|
|
|
|
|
|
|
|
|
ytm |
|
βm |
|
1 |
||||
x11 ... |
x1i |
... |
x1n |
α0 |
|
ε0 |
|
|
|
|
|
|
|
|
|
|
|
x21 ... |
x2i |
... |
x2n |
× α1 |
+ ε1 |
. |
(4.71) |
|
... ... |
... |
... |
... |
... |
... |
|
||
xt1 ... |
xti |
|
|
|
|
|
|
|
... |
xtn |
αn |
|
εt |
|
|
||
Матричное уравнение в форме (4.71) имеет неизвестные величи- ны как в левой – βj, так и в правой частях – αi. Приведём его к стан- дартной форме и сгруппируем все неизвестные в правой части ра- венства:
y11 |
|
1 |
|
|
|
|
1 |
y21 |
= |
||
... |
... |
||
|
|
|
1 |
yt1 |
|
|
|
x11 ... |
x1i |
... |
x1n ; |
y12 ... |
y1 j ... |
x21 ... |
x2i |
... |
x2n ; |
y22 ... |
y2 j ... |
... ... |
... |
... |
... ; ... ... ... ... |
||
xt1 ... |
xti |
... |
xtn ; |
yt 2 ... |
ytj ... |
|
|
|
α0 |
|
|
|
|
|
|
|
|
|
α |
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
... |
|
|
|
|
|
||
|
|
|
α |
i |
|
|
ε0 |
|
|
y1m |
|
|
|
|
|
||||
|
|
... |
|
|
ε |
|
(4.72) |
||
y2m |
× |
αn |
|
|
+ |
1 . |
|||
... |
|
|
- β |
|
|
... |
|
||
y |
|
|
2 |
|
ε |
|
|
||
tm |
|
... |
|
|
|
t |
|
||
|
|
|
- β |
|
|
|
|
|
|
|
|
|
|
|
j |
|
|
|
|
|
|
... |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
- βm |
|
|
|
||||
Полученное уравнение имеет стандартный вид линейных соот- ношений, соответствующих классической постановке задачи оценки параметров по методу МНК. В (4.72) необходимо найти вектор пара- метров:
Z=[α0, α1, …, αn, β2, β3, …, βm]′, |
(4.73) |
состоящий из весовых коэффициентов как выходных характеристик xi, так и выходных yj, минимизирующий сумму квадратов невязки εt.
73
Обозначим через Q матрицу правой части соотношения (4.71). Тогда условие минимизации ошибки по методу МНК (4.69) в матрич- ной форме примет вид [38]:
T |
T |
|
|
|
|
|
∑εt2 |
= ε¢ ×ε = ∑(Y1 |
- Q × Z )2 |
= (Y1 |
- Q × Z )¢ × (Y1 |
- Q × Z ) ® min . |
(4.74) |
t =1 |
t =1 |
|
|
|
|
|
|
|
|
|
|
Индекс «′» в (4.74) отвечает операциям транспонирования соот- ветствующих матриц.
Вычисляя в (4.74), частные производные от суммы квадрата ошибки εt соответственно по всем компонентам вектора Z и прирав- нивая их к нулю, получим [38]:
T |
|
|
||
¶ ∑εt2 |
|
(4.75) |
||
t =1 |
|
= -2Q¢×Y + 2 × (Q¢×Q) × Z = 0 |
||
. |
||||
|
|
|||
¶Z |
1 |
|||
|
|
|
||
Матричное уравнение (4.75) представляет собой систему n+m+1 линейных уравнений относительно n+m+1 неизвестных параметров вектора Z:
Q′× Q × Z = Q′×Y . |
(4.76) |
1 |
|
В общем случае неособой матрицы его решением являются иско- мые оценки коэффициентов многомерной производственной функции вида (4.70), принятой в качестве математической модели ПЭС.
Полученное решение для значений параметров МПФ (4.70) пока- зывает, что на величину каждого коэффициента модели (4.70), в принципе, влияют все исходные данные – элементы вектора Q. В со- держательном плане это означает, что изменение показателей выпус- ка одного из продуктов yj приводит к изменению характеристик тех- нологий всех других производств yk, k¹j. В теоретическом плане, та- кой подход даёт минимальную погрешность модельного описания.
С точки зрения практического применения использование таких моделей, с одной стороны, трудоёмко. С другой стороны, реальные производства используют достаточно стабильные технологии, и пока- затели выпуска продукции определяются, главным образом, затрата-
74
ми ресурсов на это производство. Связь с другими, особенно, с мало связанными, смежными технологиями играет второстепенную роль.
Исходя из таких соображений, при построении производствен- ных функций для многомерных экономических объектов имеет смысл осуществлять декомпозицию моделей МПФ, и строить модель исследуемого процесса как аддитивную совокупность одномерных ПФ с одним анализируемым выходом и всеми входными затратами ресурсов. В формальном плане это означает, что в векторе выходных весов β в (4.71) следует учесть только первый доминирующий ком- понент (для определённости положить его единичными). При этом математическая постановка задачи идентификации (4.71) в матрич- ной форме примет вид:
y11 ... |
y1 j ... |
|
|
y21 ... |
y2 j ... |
... ... |
... |
... |
|
|
|
yt1 ... |
ytj |
... |
1m |
|
|
1 |
|
|
1 |
11 |
... |
1i |
... |
1n |
0 |
0 |
|
||
y |
|
|
|
x |
x |
x |
α |
|
ε |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y2m |
× |
0 |
|
= |
1 |
x21 |
... |
x2i |
... x2n |
× α1 |
+ ε1 |
. |
|
|||
... |
|
... |
... ... |
... ... |
... |
... |
... |
... |
(4.77) |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ytm |
0 |
|
|
1 |
xt1 |
... |
xti |
... |
xtn |
αn |
|
εt |
|
|
||
Из (4.77) для каждой t-той строки матричной зависимости будут
следовать одинаковые уравнения: |
|
yt= a0 + a1× xt,1 + a2× xt,2 + … + ai× xt,i + … + an× xt,n + et. |
(4.78) |
Соотношение (4.78) отвечает канонической форме множествен- ного уравнения регрессии. Его коэффициенты оцениваются стан- дартным классическим путём, и процедура идентификации является частным случаем выполненной выше (4.70)–(4.76) при β2=β3=…=βm=0. Запишем соответствующие расчётные формулы для отыскания значений коэффициентов α0, α1, …, αn в матричной форме.
Уравнение (4.78) в матричной форме имеет вид:
|
Y=X×a+e. |
(4.79) |
Запишем постановку МНК для оценки вектора α: |
||
T |
T |
(4.80) |
S (α1, ...,αn ) = ∑εt2 = ε¢×ε = ∑(Y - X ×α)2 = (Y - |
X ×α)¢× (Y - X ×α) ® min . |
|
t =1 |
t =1 |
|
75
Раскроем матричное произведение правых скобок, дифференци- руем по параметрам αn и приравняем частные производные к нулю. В матричной форме имеем постановку:
∂S = - ¢× + × ¢× ×α = (4.81)
¶α 2 X Y 2 ( X X ) 0 .
Из данной постановки получим систему линейных уравнений:
X ′× X ×α = X ′×Y . |
(4.82) |
Соответственно матрицы входящие в данное уравнение имеют вид:
1 |
1 ... |
||
x |
x |
|
... |
X ¢× X = 11 |
|
21 |
|
... ... ... |
|||
|
x2n ... |
||
x1n |
|||
1 1
xt1 × 1
... ...
xtn 1
|
|
|
|
T |
|
T |
|
|
|
|
x1n |
|
T |
∑xt1 |
... |
∑xtn |
|
|
|
x11 ... |
|
|
t =1 |
|
t =1 |
|
|
|
|
|
|
|
T |
T |
|
T |
|
|
|
x21 ... |
x2n |
= |
∑xt1 |
∑x2t1 |
... |
∑xt1xtn |
; |
(4.83) |
|
... ... |
... |
t =1 |
t =1 |
|
t =1 |
|
|||
xt1 ... |
|
... |
... |
... |
... |
|
|
|
|
xtn |
|
T |
T |
|
T |
|
|
|
|
|
|
∑xtn |
∑xt1xtn |
... |
∑xtn2 |
|
|
|
|
|
|
t =1 |
t =1 |
|
t =1 |
|
|
|
|
1 |
1 ... |
||
x |
x |
|
... |
X ¢×Y = 11 |
|
21 |
|
... ... ... |
|||
|
x2n ... |
||
x1n |
|||
|
|
|
|
T |
|
|
|
1 |
y1 |
|
|
∑yt |
|
|
|
|
t =1 |
|
|
||||
|
|
|
|
T |
|
|
|
xt1 |
× y2 |
= |
∑yt xt1 |
|
|
||
... |
... |
t =1 |
. |
(4.84) |
|||
|
|
|
... |
|
|||
|
|||||||
xtn |
yt |
|
|
T |
|
|
|
|
|
|
∑yt xtn |
|
|
||
|
|
|
t =1 |
|
|
||
Из уравнения (4.82) получаем системы линейных уравнений, ре- шение которых даёт численное значение искомых параметров регрес- сионного уравнения (4.78), на основании которых переходим к пара- метрам исходных ПФ.
В структурной форме описанная декомпозиция МПФ была при- ведена на рис. 4.2. Далее в прикладных задачах будет использоваться такая декомпозиция.
Завершающим этапом построения моделей на основе ПФ являет- ся оценка качества полученных решений.
Оценка статистической значимости коэффициентов регрессион- ного уравнения проводится на основе расчёта t-статистики. Полагает-
76
ся, что величины ошибок et имеют распределение Стьюдента с (T-n-1) степенями свободы. Тогда значения t-статистики для каждого i-того коэффициента ai рассчитываются по формуле [38]
|
|
|
|
|
|
t=ai/Sai, |
|
|
(4.85) |
|||
В (4.85) Sai определяется как: |
|
|
|
|
||||||||
|
|
|
|
|
|
= |
|
|
|
|
(4.86) |
|
|
|
|
|
|
Sa |
|
Da |
|
, |
|||
|
|
|
|
|
|
i |
|
|||||
|
|
|
|
|
|
i |
|
|
|
|||
где |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
T |
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
ε t2 |
|
(4.87) |
||
|
|
|
2 |
|
|
t =1 |
|
|
|
|||
|
|
= |
= |
|
|
|
|
× W ii . |
||||
D a |
i |
S a |
i |
T - |
n - 1 |
|||||||
|
|
|
|
|
|
|
|
|
|
|
||
В формулах (4.85)–(4.87)
S2 – стандартное отклонение коэффициента ai. Dai – величина дисперсии значений ai.
Wii – диагональный элемент матрицы (XT×X)-1, X – матрица исход- ных данных в уравнении (4.79);
T – число наблюдений, T³n+1, iÎ[0, n];
n – число коэффициентов множественной линейной регрессии. Величина:
|
T |
|
||
|
∑εt2 |
(4.88) |
||
σ 2 = |
t =1 |
|
||
|
, |
|||
T − n −1 |
||||
|
|
|||
– необъяснённая дисперсия остатков et (мера разброса зависимой пе- ременной относительно лини регрессии).
В случае если число степеней свободы, достаточно велико (не менее 8–10), то при 5 %-ном уровне значимости и двусторонней аль- тернативной гипотезе критическое значение t-статистики равняется практически двум [38].
Если t Î [2, 3], то значения коэффициентов признаются весьма значимыми. Выполнение условия t>3 свидетельствует о практической 100 %-ной значимости коэффициента регрессии. Если t-статистика по модулю меньше единицы, то значения полученных коэффициентов являются незначимыми.
77
Общее качество уравнения линейной регрессии оценивается ко- эффициентом детерминации R2, являющимся квадратом коэффициен- та множественной корреляции [38]:
|
|
|
T |
|
|
|
|
∑εt |
2 |
R |
2 |
=1- |
T |
(4.89) |
|
|
t =1 |
|
∑( yt - ycp )2 . t =1
Коэффициент детерминации R2 характеризует долю разброса вы- ходной переменной, объясненной с помощью данного уравнения. Обычно, в качестве меры разброса переменной используется ее дис- персия, и тогда R2 определяет долю дисперсии выходной переменной, объясненной с помощью регрессии. Для хорошего качества уравне- ния регрессии коэффициент R2 должен быть близок к единице.
Отметим, что в случае малого числа наблюдений T показатель R2 становится неинформативным, и в этом случае для оценки качества уравнения регрессии применяют скорректированный коэффициент детерминации – R2sc [64]:
|
|
T |
|
|
|
T |
|
|
|
|
|
|||
|
|
|
|
|
∑ |
|
− ycp )2 |
|
||||||
|
|
∑εt2 |
|
|
|
( yt |
(4.90) |
|||||||
Rsc2 = 1 - |
|
t =1 |
|
: |
t =1 |
|
|
|
. |
|||||
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|||||
|
T - n -1 |
|
|
T −1 |
|
|||||||||
В (4.90) учтена поправка на число степеней свободы. |
|
|||||||||||||
Rsc2 = 1 - |
T −1 |
|
× (1 - R 2 ) . |
|
||||||||||
|
|
|
(4.91) |
|||||||||||
|
|
|
|
T - n -1 |
|
|
|
|
||||||
Статистическая значимость коэффициента детерминации R2 про- |
||||||||||||||
веряется нулевой гипотезой для F-статистики Фишера [5]: |
|
|||||||||||||
F = |
|
R 2 |
× |
T - n -1 |
. |
|
||||||||
|
− R 2 |
|
(4.92) |
|||||||||||
1 |
|
|
|
|
|
n |
|
|
|
|||||
Смысл проверяемой нулевой гипотезы заключается в том, что ес- ли произошло событие, которое является маловероятным, если дан- ная гипотеза верна, то эта гипотеза отвергается. Для распределения Фишера имеются таблицы критических значений для различных уровней значимости α и степеней свободы v1=n, v2=T – n – 1, где n –
78
число оцениваемых параметров. Для проверки нулевой гипотезы по таблицам находится критическое значение Fα, v1, v2, и нулевая гипоте- за отвергается, если F > Fα, v1, v2.
Одним из основных свойств отклонений εt фактических величин y(t), t=1, … T от расчётных значений f(x) в точках x(t), t=1, … T, по- ложенных в основу отыскания регрессионного уравнения, является их статистическая независимость между собой.
Для анализа независимости отклонений применяют статистику Дарбина – Уотсона, рассчитываемую по формуле [61]:
T−1
∑(εt −εt −1 )2
DW = |
t =1 |
. |
|
|
T |
(4.93) |
|||
|
||||
|
∑εt2 |
|
t =1
Статистика Дарбина – Уотсона применяется для проверки гипо- тезы об отсутствии автокорреляции остатков εt первого порядка. Для этого по таблицам (при данном уровне значимости, числе наблюде- ний и независимых переменных) находятся доверительные интервалы d, в пределах которых нулевая гипотеза принимается, отвергается или не может быть принята или отвергнута.
Для статистики Дарбина – Уотсона существуют два критических значения, меньшие двух: нижнее d1, как граница для признания поло- жительной автокорреляции остатков, и верхнее d2, как граница при- знания её отсутствия. При проверке гипотезы об отрицательной авто- корреляции остатков эти критические значения отражаются симмет- рично относительно числа 2 [61].
Если значение статистики DW принадлежит интервалу (0; d1), то имеет место положительная автокорреляция остатков. Если значение DW находится в интервале (4-d1; 4), то существует отрицательная ав- токорреляция остатков, эта ситуация достаточно редко встречается в содержательном анализе.
Если статистика Дарбина – Уотсона близка к двум, то есть при- надлежит интервалу (d2; 4-d2), то отклонения от регрессии считают
79
случайными и автокорреляция остатков отсутствует. Это означает, что линейная функция с высокой вероятностью отражает реальную взаимосвязь исследуемых величин. При этом, скорее всего, не оста- лось существенных неучтенных факторов, влияющих на выходную переменную, и какая-либо другая нелинейная формула не превосхо- дит по статистическим характеристикам базовую линейную. Эта си- туация DW [d2, 4-d2) отвечает, в целом, высокому качеству получен- ных уравнений, и в данном случае, построенные модели обладают не только удовлетворительными аппроксимативными характеристика- ми, но и хорошими прогнозными свойствами [38].
Основываясь на изложенных результатах по синтезу моделей про- изводственных функций, их идентификации и оценке качества рас- смотрим конкретные задачи моделирования экономических систем.
80
