2.3. Стандартные ошибки мнк-оценок коэффициентов регрессии

Если второе условие Гаусса-Маркова выполняется, то коэффициенты и будут иметь наименьшую дисперсию, равную соответственно:

, (2.5)

. (2.6)

Однако использовать на практике формулы (2.5)-(2.6) невозможно, так как теоретическая дисперсия случайной компоненты , как правило, остается неизвестной. Тем не менее, мы можем оценить (т.е. приближенно вычислить) теоретические дисперсии и . Для этого построим оценку дисперсии на основе дисперсии остатков регрессии.

Определим остатки регрессии как разность между наблюдаемыми и расчетными значениями признака-результата, т.е.

, . (2.7)

Остаток регрессии – величина случайная, но в отличие от является наблюдаемой величиной.

Обозначим через – исправленную выборочную дисперсию остатков регрессии. Можно показать, что , т.е. является несмещенной оценкой параметра . Заменив в формулах (2.5)-(2.6) неизвестную дисперсию ее оценкой , получим оценки теоретических дисперсий эмпирических коэффициентов регрессии:

, (2.8)

. (2.9)

Извлекая квадратный корень из оценок и , мы можем найти оценки для средних квадратических отклонений (стандартных отклонений) коэффициентов и , т.е. величины и . Эти оценки называют стандартными ошибками эмпирических коэффициентов регрессии и обозначают либо и , либо и , соответственно:

, (2.10)

. (2.11)

Упражнение 2.1. Показать, что в выборочной регрессии , , при выполнении предпосылок МНК, теоретическая ковариация оценок и может быть вычислена как: .