3267

2)F*(х)- неубывающая функция аргумента х;

3)F*(х)=0, если х<х1, и F*(x)=1, если x>xn, где x1 - наименьшее, а хn - наибольшее наблюдаемые значения CВ X .

Из закона больших чисел, а именно из теоремы Бернулли, следует, что при объеме выборки n→∞ ЭФР сходится по вероятности к ТФР. Это означает, что при достаточно большом объеме выборки ЭФР F*(x) и ТФР мало отличаются друг от друга.

Основное значение ЭФР состоит в том, что она используется в качестве оценки ТФР.

Пример. Построить график ЭФР по выборке примера 2. Решение. ЭФР имеет вид

График F*(x) имеет вид

131

16. СТАТИСТИЧЕСКАЯ ОЦЕНКА НЕИЗВЕСТНЫХ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЯ

16.1. Постановка задачи

При обработке опытных данных часто бывает так, что вид закона распределения генеральной совокупности (ЗРГC) известен, а требуется найти только некоторые параметры, от которых он зависит. Например, если известно, что СВ X распределена по нормальному закону, то на основании опытных данных (по выборке) необходимо "оценить", то есть найти приближенное значение двух параметров - МО и СКО.

Одна из задач математической статистики и состоит в нахождении оценок неизвестных параметров по выборке наблюдений.

Пусть из ГС с ФР F(x,θ), где θ - неизвестный параметр, произведена выборка x1, x2,…,xn объемом п. В качестве оценки параметра θ рассматривают функции элементов выборки

U x1, x2 ,..., xn , которые называются статистиками.

Очевидно, что значения статистик изменяются случайным образом от выборки к выборке или, другими словами, статистики являются СВ U. Задача оценки неизвестного параметра θ сводится к нахождению таких статистик

(выборочных функций) U x1, x2 ,..., xn , которые могут

быть использованы для приближенного определения значения неизвестного параметра θ.

Оценки параметров подразделяются на точечные и интервальные.

Точечная оценка параметра θ определяется одним

числом U x1, x2 ,..., xn .

Интервальной называют оценку, которая определяется двумя числами 1 и 2 - концами интервала, накрывающего оцениваемый параметр θ.

132

16.2. Основные свойства точечных статистических оценок распределения

Как правило, для оценки параметра можно использовать несколько статистик, получая при этом различные значения оценок. Очевидно, что в качестве оценки следует взять такую статистику, значения которой для различных выборок из данной ГС были бы «в среднем» близки к истинному значению параметра. Желательно также, чтобы с увеличением объема выборки надежность оценки возрастала. Качество оценок характеризуется некоторыми свойствами. Сформулируем основные из них.

Свойство 1. Оценка называется несмещенной, если ее

МО равно оцениваемому параметру, то есть если М( )= . Разность M( )- называется смещением.

состоятельной, если при увеличении объема выборки п

говорят, что оценка 1 более эффективна, чем оценка 2 .

Требование несмещенности устраняет систематические ошибки в определении оценок, обусловленных ограниченным объемом выборки.

Требование состоятельности гарантирует от совершения грубых ошибок ε в определении θ при достаточно большом объема п выборки.

Свойство эффективности используется для выбора оценки, обладающей наименьшим разбросом.

133

Рассмотрим теперь оценки основных числовых характеристик СВ.

16.3.Статистическая оценка МО

Вкачестве статистической оценки МО выбирается выборочное среднее.

Выборочным средним х называется среднее арифметическое элементов выборки

1 n

xn i 1 xi .

Для группированной выборки это соотношение

Покажем, что выборочное среднее x является несмещенной и состоятельной оценкой. Для этого предварительно заметим, что в теоретических рассуждениях выборку x1, x2,…, xn обычно рассматривают как некоторую реализацию случайного вектора с п независимыми компонентами x1, x2,…, xn, каждая из которых имеет распределение ГС с теми же числовыми характеристиками.

С учетом этого замечания установим несмещенность x :

с учетом замечания сразу следует из закона больших чисел в форме теоремы Чебышева

распределена по нормальному закону, то выборочное среднее является эффективной оценкой МО.

134

арифметическим п независимых, одинаково распределенных СВ (хi-m)2. Согласно закону больших чисел

Второй член равенства (*) ( x -m)2 - квадрат величины, стремящейся по вероятности к нулю (по закону больших чисел), тоже стремится к нулю. Отсюда s2 является суммой двух слагаемых, одно из которых стремится к ζ2, то есть

p

s2 2 n

Итак, мы рассмотрели оценки неизвестных параметров распределения по выборке для частного случая, когда оцениваемый параметр θ является математическим ожиданием или дисперсией распределения, то есть первым начальным и вторым центральным моментами распределения. Рассмотрим теперь общие методы нахождения точечных оценок.

16.5. Метод моментов

Пусть известен вид распределения ГС F(x, θ1, θ2,..., θk), зависящего от k параметров. Идея метода моментов заключается в следующем: по выборке вычисляют k выборочных моментов и приравнивают их к cooтветствующим моментам распределения ГС. Искомые оценки каждого из k параметров находятся как решение полученной системы k уравнений. При этом оценки начальных и центральных моментов k-гo порядка вычисляются по формулам

дисперсии, рассмотренные выше, получены по методу моментов.

Пример. СВ Х распределена по показательному закону с плотностью вероятностей f(x,θ)=θe-θx. Требуется по

136

результатам наблюдений х1, х2,…, хп оценить параметр θ. Решение. Ранее мы находили М(Х)=α1=1/θ. Оценка

математического ожидания есть выборочное среднее

Метод моментов обладает тем недостатком, что оценки, полученные по нему, вообще говоря, не являются асимптотически эффективными и могут быть смещенными.

16.6. Метод максимального правдоподобия

Метод максимального правдоподобия наиболее распространен при нахождении точечных оценок параметров. Будем рассматривать результаты выборки как реализацию n- мерной случайной величины (x1, х2,..., хп) с независимыми компонентами. Для получения оценки неизвестного параметра

θ естественно попытаться найти такое значение , при котором вероятность реализации этой выборки x1, х2,..., хп была бы максимальной.

Если СВ X дискретна, то закон распределения ее имеет вид P(X=хi)=pi(θ), i=1,2,...,n. Тогда вероятность при п независимых наблюдениях CВ X получить выборку (x1, х2,..., хп) равна

величина , являющаяся точкой максимума этой функции, есть оценка параметра θ, полученная по методу максимального правдоподобия (сокращенно МП-оценкой).

137

Если определяется оценка непрерывной CВ X с плотностью распределения f(x,θ), то функция правдоподобия определяется так:

Если функция правдоподобия дифференцируема по θ и при любых возможных значениях xi достигает максимума по θ

внутри интервала возможных значений параметра θ, то находят, решая уравнение

Поскольку точки максимума функции L x1, x2 ,..., xn ,

и ln L x1, x2 ,..., xn , при фиксированных х1,..., хn совпадают, то в некоторых случаях удобно решать уравнение

Если требуется оценить не один, а k неизвестных параметров θ1,θ2,…,θk, то оценки максимального правдоподобия для этих параметров находят, решая систему уравнений

j

Ценность МП-оценок обусловлена следующими их свойствами, которые выполняются при весьма общих условиях. Приведем их без доказательства для случая одного параметра.

1. Уравнение правдоподобия имеет решение, которое является состоятельной оценкой параметра θ.

2.Решение является асимптотически эффективной оценкой для θ.

3.Решение имеет асимптотически нормальное

138

предельное распределение, то есть при соответствующей нормировке предельное распределение при n→∞ полученной оценки оказывается нормальным.

4.Если для параметра θ существует эффективная оценка, то уравнение правдоподобия имеет единственное решение, совпадающее с этой оценкой.

Недостатками метода является то, что МП-оценка может оказаться смещенной, а также то, что этот метод на практике нередко приводит к довольно сложным системам уравнений.

Пример. Пусть СВ Х распределена по нормальному закону N(m,ζ2) с неизвестными параметрами m и ζ2. Найти

реализацию n-мерного СВ (Х1, Х2,…, Хn). Тогда составляющие Хi также распределены по закону N(m,ζ2). Запишем функцию правдоподобия

Здесь удобнее перейти к ln L :

оценки неизвестных параметров распределения. За

исключением редких случаев оценка не совпадает с истинным значением θ оцениваемого параметра, то есть всегда

имеет место некоторая ненулевая погрешность . Часто точное значение погрешности несущественно, а требуется лишь знать, что она находится в определенных пределах. На основании выборки x1, x2,…, xn указывают два значения

θ1(x1, x2,…, xn) и θ2(x1, x2,…, xn), c помощью которых можно сделать статистический вывод о том, что истинное значение

параметра θ лежит в интервале ]θ1, θ2[.

Доверительным интервалом для параметра θ называется интервал ]θ1, θ2[, содержащий истинное значение параметра с заданной вероятностью р=1-α. Таким образом,

следовательно, являются случайными величинами. В связи с этим говорят, что доверительный интервал накрывает

140