Загребаев Лектсии по теории вероятностеы и математическоы статистике 2015

случайной величины X, то они имеют одинаковые числовые характеристики, в том числе математические ожидания.

Таким образом, математическое ожидание средней выборочной совпадает с математическим ожиданием генеральной совокупности,

т.е. оценка − несмещенная. В соответствии с предельной теоремой Чебышева эта оценка является и состоятельной. Действительно, по теореме Чебышева, при n → ∞ среднее арифметическое величин

x1,..., xn стремится к математическому ожиданию M[X ] = a, т.е.

оценка − состоятельная.

Можно показать, что если X подчиняется нормальному закону, то оценка является и эффективной.

Свойства выборочной дисперсии

Пусть из генеральной совокупности в результате n независимых наблюдений над количественным признаком X извлечена повторная выборка объемом n. По данной выборке необходимо оценить неизвестную генеральную дисперсию. Казалось бы, что в качестве оценки следует взять выражение

однако эта оценка является смещенной. Действительно, переходя к гипотетическому толкованию выборки, получим

102

Таким образом, несмещенная оценка генеральной средней будет

Величина S 2 носит название исправленной выборочной дисперсии. Легко видеть, что она является состоятельной оценкой генеральной дисперсии.

Асимптотические свойства оценки

Всякая оценка θ* (X1,..., Xn ) как функция от «гипотетических»

результатов наблюдения является случайной величиной, и, следовательно, ее свойства определяются функцией распределения. Причем

закон распределения оценки θ* зависит от объема выборки n. Получение закона распределения оценки для данного объема выборки n − сложная задача, поэтому обычно пользуются асимптотическим законом распределения оценок, т.е. при n → ∞ . В этом случае говорят об асимптотической несмещенности и асимптотической эффективности оценки.

Из асимптотической несмещенности оценки не следует ее несмещенность в обычном смысле и наоборот. На практике асимптотическая дисперсия оценки обычно оказывается меньше, чем дисперсия в обычном смысле.

Если есть θ1* и θ*2 − две различные асимптотически несмещенные оценки параметров θ , то оценка θ1* называется более эффективной, чем θ*2 , если D1 < D2 .

103

Метод максимального правдоподобия. Определение неизвестных параметров нормального закона распределения

Пусть из генеральной совокупности извлечена выборка объемом n. Известно, что закон распределения наблюдаемой случайной ве-

личины X описывается плотностью распределения f (x,θ), где θ –

параметр распределения. Если рассматривать выборку в гипотетическом смысле, то X1,..., Xn – независимые одинаково распреде-

ленные случайные величины. Тогда для любого реализованного

L(x1,..., xn , θ) задает вероятность получения при извлечении выборки объема n именно наблюдений x1,..., xn . Поэтому чем больше L, тем правдоподобнее выборка x1,..., xn . Потребуем подобрать не-

известный параметр распределения θ так, чтобы реализованная выборка была наиболее правдоподобной, т.е. чтобы функция правдоподобия L достигала максимального значения, найти

Если L(x1,..., xn , θ) – дифференцируемая функция, то условие максимума

Пример 1. Пусть случайная величина X распределена в генеральной совокупности по нормальному закону. Оценить по данным вы-

борки x1,..., xn математическое ожидание и дисперсию, т.е. неизвестные параметры нормального закона:

104

Оценки для математического ожидания и дисперсии находятся

Раскрывая выражения (12.4) в явном виде, получим

Из этого выражения следует формула для оценки математического ожидания:

ствительно максимум функции. Для оценки дисперсии сделаем замену σ2x = x, тогда

105

Таким образом, для математического ожидания мы получили эффективную состоятельную несмещенную оценку, а для дисперсии – смещенную.

Пример 2. Пусть известно, что случайная величина X подчинена

следующий результат: в первой серии, состоящей из n наблюдений,

Возьмем натуральный логарифм от функции правдоподобия:

106

Выражение (12.5) показывает смысл постоянной в законе Пуассона (λ это есть математическое ожидание).

Метод моментов.

Примеры оценки по методу моментов

Суть данного метода заключается в приравнивании определенного количества выборочных моментов к соответствующим теоретическим. Количество приравниваемых моментов равно числу неизвестных параметров закона распределения. В качестве моментов могут рассматриваться как начальные, так и центральные моменты.

Математическая формулировка такова:

= λe−λx (x ≥ 0) . Так как требуется найти только один параметр, то необходимо одно уравнение для моментов ( l = 1):

1) так как по определению математическое ожидание является первым моментом, получим

107

2) по определению дисперсии

Из вышеприведенных примеров видно: оценки по методу моментов получить достаточно просто и выражаются они через эмпирические моменты, что упрощает исследование статистических свойств оценок. Однако эффективность оценок, полученных по методу моментов, иногда ниже, чем полученных исходя из принципа максимального правдоподобия. Зачастую оценки по методу моментов используют для определения начальных приближенных оценок, которые в дальнейшем уточняются другими методами.

Интервальное оценивание

Рассмотренные ранее методы оценивания неизвестного параметра θ позволили нам получить оценку, выраженную одним числом, как говорят, «точечную» оценку. При этом, вычисляя оценку θ* на основании имеющейся выборки x1,..., xn , мы понимаем, что данная

оценка лишь приближение к истинной величине параметра θ. Так как оценка θ* случайна, возникает вопрос: насколько она отличается от истинного значения θ*? Можно ли указать такую величину , которая с практической достоверностью гарантировала бы выпол-

нение неравенства θ − θ* < ? Иначе говоря, нельзя ли указать та-

кой интервал вокруг θ*, который с заданной вероятностью «накрывал» бы истинное значение θ (рис. 12.1)?

Рис. 12.1. Геометрическая иллюстрация понятия интервальной оценки

При этом вероятность, заранее выбираемая исследователем, с которой интервал (θ* − , θ* + ) «накрывает» истинное значение θ называется доверительной вероятностью и обозначается β, а сам интервал (θ* − , θ* + ) – доверительным интервалом.

108

Математически требование того, чтобы истинное значение оце-

ниваемого параметра находилось с вероятностью β внутри доверительного интервала выражается так:

Интервал (θ* − , θ* + ) случаен по своей природе как по свое-

му расположению на числовой оси, так и по своей длине поскольку θ* и находятся на основании выборочных случайных значений x1,..., xn . Ширина доверительного интервала зависит от объема вы-

борки: при увеличении объема выборки n → ∞, величина доверительного интервала уменьшается → 0. Величина интервала зависит также и от доверительной вероятности β: при β → 1 → ∞.

Интервальным оцениванием пользуются при небольших объемах выборки. Если оценивается не один параметр, то говорят о доверительной области. Решение задачи о нахождении доверительного интервала по заданной доверительной вероятности проводят следующим образом.

Формируют некоторую функцию от оценки θ*, т.е. производный параметр, распределение которого хорошо известно. Находят для него доверительный интервал, а затем делают обратное преобразование и находят доверительный интервал для искомой оценки. При этом часто используют, например, законы распределения Стьюдента и Пирсона.

Распределение Стьюдента

Если случайная величина X распределена в генеральной совокупности по нормальному закону с параметрами mx и σ2x , то в гипотетическом варианте каждая из случайных величин X1,..., Xn , подчиняется нормальному закону с теми же параметрами, следова-

n Xi

нормальному закону с математическим ожиданием mx и диспер-

109

сией Dnx . Действительно, используя теоремы о числовых характеристиках, получим

ванная величина также подчиняется нормальному закону распределения с параметрами

Однако дисперсия генеральной совокупности σ2x почти никогда

не известна. Поэтому практический интерес представляет собой распределение статистики

в гипотетическом варианте.

Можно показать, что функция плотности распределения статистики T зависит только от объема выборки n и при n → ∞ стремится к функции плотности распределения нормального закона

(рис. 12.2).

110