Методы построения оценок (метод моментов, метод максимального правдоподобия)

Из «Математическая статистика (т. XVI, МГТУ им. Баумана»)

§ 2.3. Методы получения точечных оценок

Будем исходить из того, что те величины, которые мы наблюдаем, являются наиболее вероятными. Тогда и произведение вероятностей (плотностей) – функция правдоподобия - наблюдаемых значений мы вправе ожидать принимающим наибольшее значение.

Интервальные оценки

Любая точечная оценка является функцией выборки, то есть является случайной величиной, а при каждой реализации выборки эта функция определяет единственное значение оценки, принимаемое за приближаемое значение оцениваемой характеристики.

При этом надо принимать во внимание, что в каждом конкретном случае значение оценки может отличаться от значения параметра, поэтому желательно было бы знать и возможную погрешность, возникающую при использовании предлагаемой оценки, например, указывая такой интервал (или область в случае векторного (неодномерного) параметра), внутри которого с высокой (т. е. близкой к 1) вероятностью находится истинное значение оцениваемого параметра. При таком подходе говорят об интервальном или доверительном оценивании. Основная цель при

этом состоит в том, чтобы при заданном доверительном уровне, построить

кратчайший интервал, обеспечивающий наиболее точную локализацию оцениваемой характеристики.

То есть, в некоторых случаях оказывается более важным установить не конкретное число – кандидата на значение неизвестного параметра (точечное оценивание), а указать интервал, в котором с некоторой вероятностью находится искомое неизвестное значение параметра.

Границы этого интервала, называемого доверительным, строятся по выборке, то есть являются оценками (интервальными) данного параметра.

Итак, мы хотим найти такие статистики ^ (Х₁… ,Х_n (верхняя доверительная граница) и _ (Х₁… ,Х_n ) (нижняя доверительная граница), чтобы с вероятностью α выполнялось равенство P _ (Х₁… ,Х_n ) ≤ θ ≤^ (Х₁… ,Х_n = α, то есть с заданной вероятностью значение параметра попадало бы в полученный интервал.

Замечание. Α в разных источниках называется коэффициентом доверия, уровнем доверия, доверительной вероятностью.

Замечание. Иногда задача формулируется немного по-другому: требуют выполнения с вероятностью α неравенства P (_ (Х₁… ,Х_n ) ≤ θ ≤^ (Х₁… ,Х_n )≥ α, то есть вероятность попасть в интервал для параметра должна быть не меньше α

Таким образом,доверительным (для оценки параметра θ, отвечающим доверительной вероятности α) называется такой интервал, который с наперед заданной вероятностью содержит оцениваемый параметр. Границы его θ_* и θ^* будут зависеть от α и от числа наблюдений n

Замечание. Как и в случае точечных оценок, получаемые оценки (границы интервала) тем ближе к параметру с тем большей вероятностью, чем больше объем выборки (Напомним, что все характеристики качества оценок рассматриваются при n→∞)

Пример. Пусть θ – среднее значение предела прочности некоторого материала, которое оценивают независимо друг от друга в каждой из N различных лабораторий по результатам n независимых испытаний. Иначе говоря, среднее значение предела прочности в каждой лаборатории оценивают по собственным экспериментальным данным, представленным выборкой объема n, и в каждой лаборатории получают свои значения верхней и нижней границ α-доверительного интервала

Возможны случаи, когда α-доверительный интервал для параметра θ не накрывает его истинного значения. Если М – число таких случаев, то при больших значениях N должно выполняться приближенное равенство α =(N – M)/N. Таким образом, если опыт – получение выборки объема n в лаборатории, то уровень доверия α – доля тех опытов ( при их многократном независимом повторении), в каждом из которых α-доверительный интервал накрывает истинное значение оцениваемого параметра.