09_10_Оценки_пар

Лекции 9 – 10 СТАТИСТИЧЕСКИЕ ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЯ

В лекциях рассматриваются одна из основных задач математической статистики – оценка неизвестных параметров выбранной параметрической модели. Обсуждаются виды оценок (точечные и интервальные), необходимые характеристики оценок, методы их получения, решаются типичные задачи.

9.1.Статистические оценки параметров распределения

9.2.Точечные и интервальные оценки. Доверительный интервал, точность оценки, доверительная вероятность (надежность)

9.3.Несмещенные, эффективные и состоятельные оценки

9.4.Точечная оценка генерального среднего по выборочному среднему

9.5.Точечная оценка генеральной дисперсии по исправленной выборочной дисперсии

9.6.Метод моментов для точечной оценки параметров распределения

9.7.Метод максимального правдоподобия для точечной оценки параметров распределения

10.1.Интервальные оценки

10.2.Интервальная оценка математического ожидания нормально распреде-

ленной случайной величины при известном σ.

10.3.Интервальная оценка математического ожидания нормально распределенной случайной величины при неизвестном σ.

10.4.Интервальная оценка среднего квадратического отклонения σ нормального распределения

9.1.Статистические оценки параметров распределения

Пусть имеется генеральная совокупность объема N, исследуется случайная величина X, сделана выборка объема n и получены значения случайной величины x1 , x2 ,…, xn . В предыдущих разделах мы рассматривали эти значе-

ния и относительные частоты их появления как закон распределения новой случайной величины, XВ. В дальнейшем нам понадобится иной взгляд на ситуацию.

ОВыборка – последовательность одинаково распределенных независимых случайных величин X1 ,X 2 ,...,X n , распределение которых совпадает с распределением случайной величины X в генеральной совокупности.

94 Лекции 9 -10

Конкретный набор чисел x1 ,x2 ,...,xn , полученный при выборе n объектов из

генеральной совокупности, именуется реализацией выборки.

При повторном отборе объектов возникнет иная реализация выборки, иной набор чисел x1′,x2′,...,xn′ . Таким образом, введенные ранее числовые ха-

рактеристики выборочного распределения оказываются зависящими от конкретной реализации выборки, т.е., случайными величинами.

При изучении случайной величины X, распределенной в генеральной совокупности, часто из теоретических соображений удается установить вид распределения и по данным выборки необходимо оценить (приближенно найти) его численные параметры. Например, если случайная величина имеет нормальное распределение, то для полного его определения необходимо оценить его математическое ожидание и среднее квадратическое отклонение.

на различных реализациях выборки x1 ,x2 ,...,xn ; x1′,x2′,...,xn′ ;…, принимает значения Θ*1 , Θ*2 ,…; ее значение служит оценкой неизвестного параметра теоретического распределения Θ.

9.2.Точечные и интервальные оценки. Доверительный интервал, точность оценки, доверительная вероятность (надежность)

Существуют 2 вида оценок параметров распределения (числовых характеристик) изучаемого признака генеральной совокупности по данным выборки – точечные и интервальные.

ОТочечная оценка неизвестного параметра Θ – случайная функция

Θ* (X1 , X 2 ,..., X n ), значение которой для любой реализации выборки

принимают за приближенное значение параметра Θ,

Θ ≈ Θ* (x1 ,x2 ,...,xn ).

О Интервальная оценка неизвестного параметра Θ – случайная функ-

ция Θ* (X1 ,X 2 ,...,X n ) такая, что

P (−ε1 < Θ−Θ* (X1 ,X 2 ,...,X n )< ε2 )= γ =1 −α ,

или, иначе

P (Θ* (X1 ,X 2 ,...,X n )−ε1 < Θ< Θ* (X1 ,X 2 ,...,X n )+ε2 )=1 −α ,

т.е., интервал

неизвестный параметр Θ с вероятностью γ . Сам интервал носит название

доверительного интервала, величина γ =1 −α называется доверительной вероятностью оценки (надежностью, коэффициентом доверия), числа

Θ* (X1 ,X 2 ,...,X n )−ε1

иΘ* (X1 ,X 2 ,...,X n )+ε2

– доверительными границами, α – уровнем значимости (существенности).

Смысл этих терминов следующий: Доверительная вероятность характеризует степень доверия к событию (вероятность события), что неизвестный (но не случайный!) параметр Θ содержится внутри доверительного интервала; уровень значимости α характеризует риск наступления события, что параметр Θ в интервале не содержится. Чем более существенны последствия ошибки, что параметр Θ не содержится в доверительном интервале, тем меньшим уровнем значимости нужно задаваться.

З. Если плотность распределения Θ* (X1 ,X 2 ,...,X n ) симметрична относитель-

но своей медианы, применяют следующий способ получения интервальной оценки:

P (Θ* (X1 , X 2 ,..., X n )− Θ <ε)=γ =1 −α ,

P (Θ* (X1 , X 2 ,..., X n )−ε < Θ< Θ* (X1 , X 2 ,..., X n )+ ε)=γ =1 −α ,

т.е. нижняя и верхняя границы доверительного интервала симметричны относительно оценочной функции Θ* (X1 ,X 2 ,...,X n ). Величина ε , характеризующая ширину доверительного интервала, называется точностью оценки. При несимметричной плотности распределения Θ* (X1 ,X 2 ,...,X n ) для нахождения доверительных границ обычно пользуются условиями

P (Θ < Θ* (X1 ,X 2 ,...,X n )−ε1 )= α2 , P (Θ> Θ* (X1 ,X 2 ,...,X n )+ε2 )= α2 .

Точечные оценки проще в вычислении, но не позволяют установить степень достоверности оценки, интервальные оценки. Наряду с возможными границами значений параметра, дают вероятность, с которой истинное (неслучайное!) значение параметра лежит между этими (случайными) границами. Естественно, чем больше надежность оценки, тем шире доверительный интервал, и наоборот, так что практические вычисления являются компромиссом между точностью и надежностью оценки. Наиболее часто задают на-

дежность 0,95; 0,99 и 0,999.

9.3. Несмещенные, состоятельные и эффективные оценки

Для того, чтобы статистической оценке можно было доверять, она должна обладать некоторыми свойствами.

ОСтатистическая оценка Θ* называется несмещенной, если ее математическое ожидание равно Θ, т.е. M Θ* = Θ.

ОСтатистическая оценка Θ* называется состоятельной, если она сходится по вероятности к оцениваемому параметру, т.е.

ε > 0 nlim→∞ P (Θ* −Θ < ε)=1.

!Из неравенства Чебышева следует, что несмещенная оценка, дисперсия которой стремится к нулю при n → ∞, является состоятельной.

ОСтатистическая оценка Θ* называется эффективной, если при данном объеме выборки из всех возможных оценок она имеет наименьшую дисперсию.

!На практике не всегда удается добиться выполнения всех трех требований к оценке. Соображения практической удобности заставляют пользоваться не полностью адекватными оценками, но необходимо представлять, каким свойством мы пренебрегаем. Ниже, при рассмотрении конкретных оценок, эти аспекты будут обсуждаться.

9.4. Точечная оценка генерального среднего по выборочному среднему

для конкретной реализации выборки значения этой величины равны выборочным средним. Найдем математическое ожидание оценки X B :

тического ожидания используется среднее арифметическое X B (обозначается также X ).

9.5.Точечная оценка генеральной дисперсии по исправленной выборочной дисперсии

чение квадрата отклонения) является смещенной оценкой генеральной дисперсии. Найдем математическое ожидание DB :

Так как M [DB ]≠ DX , выборочная дисперсия является смещенной оцен-

кой генеральной дисперсии. Для получения несмещенной оценки достаточ-

щенной оценкой генеральной дисперсии.

Покажем, что исправленная выборочная дисперсия является состоятельной оценкой генеральной дисперсии. Рассмотрим выборочную дис-

т.е., выборочная дисперсия – состоятельная оценка генеральной диспер-

правленная выборочная дисперсия является состоятельной оценкой генеральной дисперсии.

!Оценка s2 = n n−1 DB для генеральной совокупности не является эффек-

тивной, но для нормального распределения величины X оценка явля-

ется асимптотически эффективной, т.е., при n → ∞ отношение дис-

персии этой оценки к минимально возможной дисперсии оценки стремится к единице.

9.6.Метод моментов для точечной оценки параметров распределения

Врамках этого метода, предложенного К. Пирсоном, в качестве точечных оценок теоретических моментов рассматриваемого распределения берутся эмпирические, выборочные моменты того же порядка. Можно показать, что начальные и центральные выборочные моменты являются состоятельными оценками соответствующих теоретических моментов.

Оценка одного параметра. Пусть известен вид плотности распределения f (x,θ), зависящей от одного параметра θ , но не известно значение этого

параметра. Для нахождения оценки этого параметра достаточно составить одно уравнение, например, для начальных моментов первого порядка: xB = M (X ). Так как математическое ожидание признака генеральной сово-

Оценка двух параметров. Пусть задан вид плотности распределения, зависящей от двух неизвестных параметров, f (x,θ1 ,θ2 ). Для их оценки можно,

например, приравнять начальные моменты первого порядка и центральные моменты второго порядка, т.е.,

Аналогично случаю одного параметра, теоретические моменты есть функции параметров θ1 ,θ2 , а выборочные моменты зависят от реализации выборки.

Решая полученную систему относительно неизвестных параметров, получаем их точечные оценки:

Пример:

Случайная величина X распределена по нормальному закону с плотностью

9.7.Метод максимального правдоподобия для точечной оценки параметров распределения

Метод максимального правдоподобия, предложенный Р. Фишером, может быть применен для точечной оценки параметров распределения как дискретных, так и непрерывных случайных величин.

Дискретные случайные величины. Пусть Х – дискретная случайная величина, для которой в результате опыта получена выборка значений x1 ,x2 ,...,xn .

Вид закона распределения известен; закон содержит неизвестный параметр θ , для которого требуется найти точечную оценку на основании данных выборки.

Обозначим вероятность P (X = xi )= p (xi ;θ), i = 1 , 2 , . . . , n .

Функцией правдоподобия дискретной случайной величины Х назы-

вают функцию аргумента θ и данных выборки x1 ,x2 ,...,xn :

L (x1 ,x2 ,...,xn ;θ)= p (x1 ;θ) p (x2 ;θ) ... p (xn ;θ).

В качестве точечной оценки параметра θ принимается значение θ* =θ* (x1 ,x2 ,...,xn ), при котором функция правдоподобия достигает наи-

большего значения. Полученную оценку называют оценкой максимального

правдоподобия.

Так как функции L и ln L достигают максимума при одном и том же значении θ , при практических вычислениях чаще используют вторую функ-

цию, называемую логарифмической функцией правдоподобия: ln L (x1 ,x2 ,...,xn ;θ)= ln p (x1 ;θ)+ln p (x2 ;θ)+ ...+ln p (xn ;θ).

!После решения уравнения ddlnθL = 0 , называемого уравнением правдо-

подобия, которое дает критические точки функции правдоподобия, не-

Полученная точка максимума θ* дает оценку максимального правдопо-

добия параметра θ .

!Оценки, полученные методом максимального правдоподобия:

1)состоятельны (но могут оказаться смещенными);

2)распределены асимптотически нормально (при n → ∞ закон их распределения приближается к нормальному);

3)среди всех асимптотически нормальных оценок оценки, полученные методом максимального правдоподобия, имеют наименьшую диспер-