ЭКОНОМЕТРИКА и математическая экономика / Эконометрика. Учебник продвинутый (2005)

5.1. Первичные измерения

Пусть имеется N измерений xi , i = 1, . . . , N , случайной величины x, т.е. N наблюдений за случайной величиной. Предполагается, что измерения проведены в неизменных условиях (факторы, влияющие на x, не меняют своих значений), и систематические ошибки измерений исключены. Тогда различия в результатах отдельных наблюдений (измерений) связаны только с наличием случайных ошибок измерения:

где β — истинное значение x, εi — случайная ошибка в i-м наблюдении. Такой набор наблюдений называется выборкой.

Понятно, что это — идеальная модель, которая может иметь место в естественнонаучных дисциплинах (в управляемом эксперименте). В экономике возможности измерения одной и той же величины в неизменных условиях практически отсутствуют. Определенные аналогии с этой моделью возникают в случае, когда некоторая экономическая величина измеряется разными методами (например, ВВП — по производству или по использованию), и наблюдениями выступают результаты измерения, осуществленные этими разными методами. Однако эта аналогия достаточно отдаленная, хотя бы потому, что в модели N предполагается достаточно большим, а разных методов расчета экономической величины может быть в лучшем случае два-три. Тем не менее, эта модель полезна для понимания случайных ошибок.

Предполагается, что ошибки по наблюдениям имеют нулевое математическое ожидание в каждом наблюдении: E (εi) = 0, i = 1, . . . , N ; линейно не зависят

друг от друга: cov (εi, εj ) = 0, i = j; а их дисперсии по наблюдениям одинаковы: var (εi) = σ2 , i = 1, . . . , N или, в матричной форме: E (εε ) = IN σ2 , где σ2 — дисперсия случайных ошибок или остаточная дисперсия, IN — единичная матрица размерности N . Это — обычные гипотезы относительно случайных ошибок.

Требуется найти b и ei — оценки, соответственно, β и εi . Для этого используется метод наименьших квадратов (МНК), т.е. искомые оценки определяются

т.к. de e = −2 (xi − b) = 0. Кроме того, d2e e = 2N > 0, следовательно, в дан- db db2

ной точке достигается минимум, т.е. МНК-оценкой истинного значения измеряемой величины является, как и следовало ожидать, среднее арифметическое по наблюдениям, а среднее МНК-оценок остатков равно нулю:

e¯ = N1 1N (X − 1N b) = x¯ − b = 0.

Оценка b относится к классу линейных, поскольку линейно зависит от наблюдений за случайной величиной.

Полученная оценка истинного значения является несмещенной (т.е. ее математическое ожидание равно истинному значению оцениваемого параметра), что можно легко показать.

Действительно:

Что и требовалось доказать.

Однако несмещенной оценкой β является и любое наблюдение xi , т.к. из (5.1) следует, что E (xi) = β.

Легко установить, что оценка b лучше, чем xi , т.к. имеет меньшую дисперсию (меньшую ошибку), то есть является эффективной. Более того, b — наилучшая в этом смысле оценка во множестве всех возможных линейных несмещенных оценок. Ее дисперсия минимальна в классе линейных несмещенных оценок и опреде-

i=1

где di — любые детерминированные числа.

Из требования несмещенности,

Таким образом, множество всех линейных несмещенных оценок описывается так:

NN

В этом множестве надо найти такую оценку (такие di ), которая имеет наименьшую дисперсию,

Что и требовалось доказать.

Такие оценки относятся к классу BLUE — Best Linear Unbiased Estimators.

Кроме того, оценка b состоятельна (стремится при N → ∞ к истинному значению параметра), т.к. она несмещена и ее дисперсия, как это следует из (5.4), при N → ∞ стремится к 0.

Чтобы завершить рассмотрение данного случая, осталось дать оценку остаточной дисперсии. Естественный «кандидат» на эту «роль» — дисперсия x :

— дает смещенную оценку. Для получения несмещенной оценки остаточной дисперсии сумму квадратов остатков надо делить не на N , а на N − 1 :

поскольку в векторе остатков e и, соответственно, в сумме квадратов остатков e e линейно независимых элементов только N − 1 (т.к. 1N e = 0). Этот факт можно доказать строго.

Если просуммировать по i соотношения (5.1) и поделить обе части полученного выражения на N , то окажется, что b = β + N1 εi . Кроме того, известно, что xi = β + εi = b + ei . Объединяя эти два факта можно получить следующее выражение:

(т.е. оценки остатков равны центрированным значениям истинных случайных ошибок), и далее получить

Что и требовалось доказать.

Теперь относительно случайных ошибок вводится дополнительное предположение: они взаимно независимы (а не только линейно независимы) и распределены нормально: εi NID 0, σ2 . NID расшифровывается как normally and

independently distributed (нормально и независимо распределенные случайные величины). Тогда становится известной функция плотности вероятности εi :

и функция совместной плотности вероятности (произведение отдельных функций плотности, так как случайные ошибки по наблюдениям взаимно независимы) (см. Приложение A.3.2):

Эта функция рассматривается как функция правдоподобия L (σ, β), значения которой показывают «вероятность» (правдоподобность) появления наблюдаемых xi , i = 1, . . . , N , при тех или иных значениях σ и β. Имея такую функцию, можно воспользоваться для оценки параметров σ и β методом максимального правдоподобия (ММП): в качестве оценок принять такие значения σ и β, которые доставляют максимум функции правдоподобия (фактически предполагая, что, раз конкретные xi , i = 1, . . . , N реально наблюдаются, то вероятность их появления должна быть максимальной).

Обычно ищется максимум не непосредственно функции правдоподобия, а ее логарифма (значения этой функции при конкретных xi и конечных σ положительны, и их можно логарифмировать; эта операция, естественно, не меняет точки экстремума), что проще аналитически.

Ищутся производные этой функции по σ и β, приравниваются нулю и определяются искомые оценки:

в ней отрицательно определена.

Таким образом, ММП-оценки β и εi совпадают с МНК-оценками, но ММПоценка σ2 равна не sˆ2, а s2 , т.е. является смещенной. Тем не менее, эта оценка состоятельна, т.к. при N → ∞ различия между sˆ2 и s2 исчезают.

Известно, что метод максимального правдоподобия гарантирует оценкам состоятельность и эффективность, т.е. они обладают минимально возможными дисперсиями (вообще, а не только в классе линейных несмещенных, как оценки класса

BLUE).

В рамках гипотезы о нормальности ошибок ε можно построить доверительный интервал для истинного значения параметра, т.е. интервал, в который это значение попадает с определенной вероятностью 1 − θ, где θ — уровень ошибки (аналогичен величинам sl и pv, введенным во 2-й и 4-й главах I части книги; в прикладных исследованиях уровень ошибки принимается обычно равным 0.05). Он называется (1 − θ)100-процентным (например, при θ = 0.05 — 95-процентным) доверительным интервалом.

где εˆ1−θ — (1 − θ)100-процентный двусторонний квантиль нормального распределения.

Откуда

—искомый (1 − θ)100-процентный доверительный интервал.

Ксожалению, на практике этой формулой доверительного интервала воспользоваться невозможно, т.к. она предполагает знание остаточной дисперсии σ2 . Известна же только ее оценка sˆ2.

Простая замена в (5.8) σ на sˆ будет приводить к систематическим ошибкам — к преуменьшению доверительного интервала, т.е. к преувеличению точности расчета.

Чтобы получить правильную формулу расчета, необходимо провести дополнительные рассуждения.

Справедливость этого утверждения достаточно очевидна, поскольку, как было показано выше, сумма квадратов e e имеет N − 1 степень свободы, но может быть доказана строго.

В матричной форме выражение (5.6) записывается следующим образом:

где B = IN − N1 1N 1N .

Матрица B размерности N × N :

а) вещественна и симметрична ( B = B), поэтому она имеет N вещественных корней, которые можно «собрать» в диагональной матрице Λ, и N взаимно ортогональных вещественных собственных векторов, образующих по столбцам матрицу Y . Пусть проведена надлежащая нормировка и длины этих собственных векторов равны 1. Тогда:

б) вырождена и имеет ранг N − 1. Действительно, имеется один и только один (с точностью до нормировки) вектор ξ = 0, который дает равенство Bξ = 0. Все компоненты этого единственного вектора одинаковы, т.к., как было показано выше, Bξ — центрированный ξ. В частности,

где Yj — j -й собственный вектор матрицы B.

и после элементарных преобразований (сокращения σ и замены (5.5)) получается

Это — операциональная (допускающая расчет) форма доверительного интервала для β. Как видно, для ее получения в (5.8) надо заменить не только σ на sˆ, но

точность расчета). Но по мере роста N (объема информации), в соответствии со свойствами t-распределения, доверительный интервал сужается (растет точность расчета), и в пределе при N → ∞ он совпадает с доверительным интервалом (5.8) (с простой заменой σ на sˆ).

Важным является вопрос содержательной интерпретации доверительных интервалов.

Понятно, что в рамках подхода объективной вероятности непосредственно утверждения (5.8, 5.15) не могут считаться корректными. Величина β — детерминирована и не может с какой-либо вероятностью 0 < 1 − θ < 1 принадлежать конкретному интервалу. Она может либо принадлежать, либо не принадлежать этому интервалу, т.е. вероятность равна либо 1, либо 0. Потому в рамках этого подхода интерпретация может быть следующей: если процедуру построения доверительного интервала повторять многократно, то (1 − θ) · 100 процентов полученных интервалов будут содержать истинное значение измеряемой величины.

Непосредственно утверждения (5.8, 5.15) справедливы в рамках подхода субъективной вероятности.

Рассмотренная модель (5.1) чрезвычайно идеализирует ситуацию: в экономике условия, в которых измеряются величины, постоянно меняются. Эти условия представляются некоторым набором факторов zj , j = 1, . . . , n, и модель «измерения» записывается следующим образом:

n

xi = zij αj + β + εi, i = 1, . . . , N ,

j=1

где zij — наблюдения за значениями факторов, αj , j = 1, . . . , n, β — оцениваемые параметры.

192 Глава 5. Случайные ошибки

Такая модель — это предмет регрессионного анализа. Рассмотренная же модель (5.1) является ее частным случаем: формально — при n = 0, по существу —

Прежде чем переходить к изучению этой более общей модели, будут рассмотрены проблемы «распространения» ошибок первичных измерений (в этой главе) и решены алгебраические вопросы оценки параметров регрессии (следующая глава).

5.2. Производные измерения

Измеренные первично величины используются в различных расчетах (в производных измерениях), и результаты этих расчетов содержат ошибки, являющиеся следствием ошибок первичных измерений. В этом пункте изучается связь между ошибками первичных и производных измерений, или проблема «распространения» ошибок первичных измерений. Возможна и более общая трактовка проблемы: влияние ошибок в исходной информации на результаты расчетов.

Пусть xj , j = 1, . . . , n, — выборочные (фактические) значения (наблюдения, измерения) n различных случайных величин, βj — их истинные значения, εj — ошибки измерений. Если x, β, ε — соответствующие n-компонентные вектор-

строки, то x = β + ε. Предполагается, что E(ε) = 0 и ковариационная матрица ошибок E(ε ε) равна Ω.

Пусть величина y рассчитывается как f (x). Требуется найти дисперсию σy2 ошибки εy = y − f (β) измерения (расчета) этой величины.

Разложение функции f в ряд Тэйлора в фактической точке x по направлению β − x ( = −ε), если в нем оставить только члены 1-го порядка, имеет вид: f (β) =

Это — общая формула, частным случаем которой являются известные формулы для дисперсии среднего, суммы, разности, произведения, частного от деления и др.