4. Методы нахождения оценок: метод моментов, метод максимального правдоподобия, метод наименьших квадратов.

Ответ:

Выборочная характеристика, используемая в качестве приближенного значения неизвестной генеральной характеристики, называется ее точечной статистической оценкой.

"Точечная" означает, что оценка представляет собой число или точку на числовой оси.

Точечные оценки могут быть получены с использованием метода моментов, метода максимального правдоподобия и метода наименьших квадратов.

Метод моментов, предложенный Пирсоном, состоит в том, что выборочные моменты приравниваются к теоретическим моментам распределения.

Оценки метода моментов обычно состоятельны, однако по эффективности они не являются «наилучшими», их эффективности часто значительно меньше единицы. Тем не менее, метод моментов часто используется на практике, так как приводит к сравнительно простым вычислениям.

Метод максимального правдоподобия (предложен Фишером)

Основу метода составляет функция правдоподобия, выражающая плотность вероятности совместного появления результатов выборки x₁, x₂, ..., x_n,

Согласно методу максимального правдоподобия в качестве оценки неизвестного параметра θ принимается такое значение θ_n, которое максимизирует функцию L.

Нахождение оценки θ_n упрощается, если максимизировать не саму функцию L, а ln L, так как максимум обеих функций достигается при одном значении θ.

Для отыскания оценки параметра θ необходимо решить систему уравнений правдоподобия, получаемую приравниванием производных по параметру нулю:

а затем отобрать то решение, которое обращает функцию ln L в максимум.

Важность метода максимального правдоподобия связана с его оптимальными свойствами. Так, если для параметра θ существует эффективная оценка θ*, то оценка максимального правдоподобия

единственная и равна θ*. Кроме того, при достаточно общих условиях оценки максимального правдоподобия являются состоятельными, асимптотически несмещенными, асимптотически

эффективными и имеют асимптотически нормальное распределение.

Основной недостаток метода максимального правдоподобия — трудность вычисления оценок, связанных с решением уравнений правдоподобия, чаще всего нелинейных. Существенно

также и то, что для построения оценок максимального правдоподобия и обеспечения их «хороших» свойств необходимо точное знание типа анализируемого закона распределения, что во многих случаях оказывается практически нереальным.

Метод наименьших квадратов (МНК)

Метод наименьших квадратов является частным случаем метода максимального правдоподобия и заключается в том, что оценка определяется из условия минимизации суммы квадратов отклонений выборочных данных от определяемой оценки.

Оценка θ_n определяется из условия минимизации суммы

Метод наименьших квадратов получил широкое применение в практике, так как не требует знания закона распределения выборочных данных и хорошо разработан в плане вычислительной реализации.

5. Понятие об интервальной оценке параметров. Доверительная вероятность и доверительный интервал.

Ответ:

Вычисляя на основании результатов наблюдений точечную оценку θ неизвестного генерального параметра θ, мы понимаем, что оценка θ является приближенным значением θ. Если для большого объема выборки точность приближения бывает достаточной, то для выборок малого объема вопрос о точности оценок очень важен. В математической статистике он решается следующим образом.

По выборке находится точечная оценка θ_n неизвестного θ. Затем задаются вероятностью P = 1 – α и по определенным правилам находят число ε > 0, чтобы выполнялось соотношение

Из приводимых соотношений видно, что абсолютная погрешность оценки θ_n не превосходит числа ε. Это утверждение верно с вероятностью P = 1 – α. Число ε называется точностью оценки θ.

Числа θ_n – ε, θ_n + ε называются доверительными границами, интервал (θ_n – ε, θ_n + ε) - доверительным интервалом.

Вероятность P = 1 – α называется доверительной вероятностью, или надежностью интервальной оценки. Величина α называется уровнем значимости. Доверительные границы могут изменяться при изменении объема выборки, кроме того, они могут изменяться при изменении вероятности P = 1 – α. При этом, чем шире интервал, тем точность оценивания хуже. Генеральная характеристика θ - постоянная величина.

На рисунке друг над другом изображены доверительные интервалы для параметра θ, построенные для разных выборок; центры интервалов - это выборочные значения оценки θ_n.

Надежность принято выбирать равной 0.95, 0.99, 0.999, соответственно уровень значимости α = 0.05, 0.01, 0.001. В приведенном соотношении доверительные границы симметричны относительно точечной оценки θ_n. Рассмотренные доверительные интервалы являются двусторонними. На практике не всегда доверительные интервалы являются симметричными, кроме того, не всегда являются двусторонними. В этом случае они называются односторонними.

Например, интервальная оценка математического ожидания нормального распределения при известной дисперсии

В данном случае используется (как результат центральной предельной теоремы) следующая Z-формула

Так как выборочное среднее может быть больше или меньше, чем генеральный параметр, то предыдущее выражение берется в следующей форме:

Отсюда получаем доверительный интервал в виде

где α - уровень значимости, изображаемый площадью под кривой нормального распределения вне площади, соответствующей доверительной вероятности;

α/2 - площадь под кривой нормального распределения на правом и на левом хвостах распределения .

Уровень значимости используется, чтобы определить положение Z, значение которого определяется из таблицы функции Лапласа.

Если мы хотим определить 95 %-й доверительный интервал для μ, то это означает, что из ста интервалов, построенных по случайным выборкам, взятым из генеральной совокупности, 95 интервалов будут накрывать генеральный параметр , а 5 интервалов - нет.