Точечные оценки.
Как
уже отмечалось, характеристики генеральной
совокупности обычно неизвестны. Задача
заключается в их оценке по характеристикам
выборочной совокупности.
Пусть
характеристики генеральной совокупности
есть
,
а на основе выборки объемаk
определяется оценка
.
Для
того чтобы выборочная оценка давала
хорошее приближение оцениваемого
параметра, она должна удовлетворять
определенным требованиям (несмещенности,
эффективности и состоятельности).
Оценка
называется несмещенной, если ее
математическое ожидание равно
оцениваемому параметру при любом объеме
выборки, то есть
.
Выборочная
средняя
является несмещенной оценкой генеральной
средней
,
так как
.
Выборочная
дисперсия
является смещенной оценкой генеральной
дисперсии
,
при этом
или
.
В
качестве несмещенной оценки генеральной
дисперсии используется величина

(исправленная дисперсия). Для нее
.
Несмещенная
оценка
называется эффективной, если она имеет
минимальную дисперсию по сравнению с
другими выборочными оценками.
Оценка
называется состоятельной, если при
она стремится по вероятности к
оцениваемому параметру
.
Иначе
говоря, состоятельной называется такая
оценка, которая дает точное значение
для большой выборки независимо от
входящих в нее конкретных наблюдений.
Можно
показать, что несмещенная оценка
параметра
или выборочная остаточная дисперсия
в модели ЛММР (3) определяется по формуле:
,
где
,
-
объем выборки.
Для
случая парной регрессии в знаменателе
будет величина
,
а здесь
.Это
связано с тем, что в множественной
регрессии
степень
свободы (а не две) теряются при определении
неизвестных параметров, число которых
вместе со свободным членом равно
.
Еще
раз подчеркнем, что
– это несмещенная оценка дисперсии
случайной ошибки линейного уравнения
регрессии. С помощью теоремы Гаусса -
Маркова доказывается эффективность
оценок неизвестных параметров уравнения
регрессии, полученных с помощью метода
наименьших квадратов.
17