№29. Выборочные моменты. Несмещённость выборочного среднего как оценки математического ожидания. Смещённость выборочной дисперсии как оценки теоретической дисперсии.

_{– начальный момент порядка.}

_{– выборочный начальный момент порядка, – его значение.}

_{– центральный момент порядка.}

_{– выборочный центральный момент порядка, – его значение.}

_{– выборочное среднее (математическое ожидание).}

_{– выборочная дисперсия.}

_{Для группированной выборки: .}

_{Пусть – случайная величина, , т.е. закон распределения зависит от , – точечная оценка параметра , – её значение.}

_{– свойство несмещённости.}

_{Найдём ( – выборочное среднее, ).}

_{. Т.о. выборочное среднее является несмещённой оценкой математического ожидания.}

_{Пусть теперь . Проверим данную оценку на несмещённость.}

_{Т.о. выборочная дисперсия является смещённой оценкой теоретической дисперсии ( – смещение).}

№30. Точечные оценки и их свойства.

_{Постановка задачи точечного оценивания.}

_{Пусть – случайная величина, , т.е. закон распределения зависит от , в общем случае векторного: , – точечная оценка параметра , – её значение.}

_{– выборка объёма из генеральной совокупности . Требуется, используя информацию, содержащуюся в выборке, указать в параметрическом множестве значение параметра .}

_{Метод решения задачи.}

_{Строится функция выборки , значение которой при конкретной реализации выборки принимают а истинное значение параметра , .}

_{Замечание: оцениваться может не сам параметр , а некоторая параметрическая функция . – сама оценка (функция), – её значение. .}

_{Функций выборки в качестве оценок можно предложить множество. Чтобы выбрать подходящую, существуют определённые характеристики (свойства точечных оценок).}

_{Статистику называют достаточной для параметра , если условная функция распределения случайной выборки при условии не зависит от параметра при любом возможном значении .}

_{Свойства точечных оценок:}

1. _{Несмещённость. , для параметрической функции .}

2. _{Эффективность. Эффективной называется несмещённая оценка с минимальной дисперсией. . Относительная эффективность: , – коэффициент эффективности.}

3. _{Состоятельность. Состоятельной является оценка, которая сходится по вероятности к тому, что она оценивает: . ( ).}

№31. Функция правдоподобия. Неравенство Рао-Крамера. Критерий эффективности Рао-Крамера.

_{Функция правдоподобия.}

_{, где – реализация выборки, – функция правдоподобия. Функция правдоподобия тем больше, чем значение ближе к истинному. показывает, насколько вероятно данное значение при конкретной реализации выборки.}

_{Неравенство Рао-Крамера.}

_{– количество информации по Фишеру о параметре , заключённой в выборке объёма .}

_{– неравенство Рао-Крамера.}

_{Критерий эффективности Рао-Крамера.}

_{(1) – для самой оценки;}

_{(2) – для значения оценки.}

_{– константа, не зависящая от выборки.}

_{Критерий: если выполнены условия (1) и (2), то оценка является эффективной, кроме того .}

_{№32. Метод максимального правдоподобия. Свойства оценки максимального правдоподобия. Пример.}

_{, где – реализация выборки, – функция правдоподобия. Функция правдоподобия тем больше, чем значение ближе к истинному. показывает, насколько вероятно данное значение при конкретной реализации выборки.}

_{Составим уравнение (уравнение правдоподобия): (лучше считать) или . Решим уравнение относительно , получим некоторое выражение, зависящее от . Это выражение и принимаем за оценку.}

_{Свойства оценок максимального правдоподобия:}

1. _{Если для скалярного параметра существует эффективная оценка, то уравнение правдоподобия имеет единственное решение, которое является выборочным значением этой оценки.}

2. _{Если существует достаточная статистика параметра , то решения уравнения правдоподобия являются функциями от выборочного значения этой статистики. Если, кроме того, существует эффективная по Рао-Крамеру оценка , то единственное решение уравнения правдоподобия является функцией от выборочного значения достаточной статистики.}

3. _{Если параметрическая модель удовлетворяет некоторым общим условиям, то уравнение правдоподобия имеет решение , которое является выборочным значением состоятельной оценки параметра .}

_{Пример: – НСВ, . Найдём оценку .}

1. _{Составим функцию правдоподобия: ;}

2. _{Найдём натуральный логарифм функции правдоподобия: ;}

3. _;

4. _.

_{№33. Метод моментов для точечных оценок. Пример.}

_{Метод моментов был предложен английским статистиком К. Пирсоном и является одним из первых общих методов оценивания. Он состоит в следующем.}

_{Пусть имеется случайная выборка из генеральной совокупности , распределение которой известно с точностью до вектора параметров . Требуется найти оценку параметра по случайной выборке .}

_{Будем предполагать, что у случайной величины существуют первые моментов: . Ясно, что величины являются функциями неизвестного вектора параметров , т.е. .}

_{Рассмотрим выборочные моменты (или же ).}

_{Выборочные моменты являются состоятельными оценками соответствующих моментов генеральной совокупности , поэтому при большом объёме выборки и , можно заменить соответственно моментами и выборки .}

_{В методе моментов в качестве точечной оценки вектора параметров берут статистику, значение которой для любой реализации случайной выборки получают как решение системы уравнений .}

_{Пример: Методом моментов найдём оценку параметра в биномиальной модели, где есть вероятность «успеха» в любом из независимых повторных наблюдений, а случайная величина – число «успехов». Случайной выборкой в данном случае является дискретных случайных величин , каждая из которых принимает значение 1 с вероятностью и 0 – с вероятностью . При этом , а математическое ожидание . Если в результате независимых наблюдений мы получили выборочное значение , то уравнение, которое нужно составить согласно методу моментов, имеет вид . Получаем . Следовательно, точечной оценкой параметра является относительная частота.}