47. Метод максимального правдоподобия. Свойства оценок максимального правдоподобия. Пример.

Метод максимального правдоподобия.

Пусть - выборка из генеральной совокупности, имеющей функцию распределения, зависящую от неизвестного скалярного параметра.

Если закон распределения наблюдаемой случайной величины является непрерывным, т.е. существует плотность вероятностей, то функция, рассматриваемая при фиксированной выборкекак функция параметра, называетсяфункцией правдоподобия.

Если наблюдаемая случайная величина имеет дискретный закон распределения, задаваемый вероятностями, то функция правдоподобия определяется равенством:

.

Оценкой максимального правдоподобияпараметраназывается такое значение параметра, при котором функция правдоподобия при заданной выборкедостигает максимума:

Если функция правдоподобия дифференцируема по , то оценку максимального правдоподобияможно найти, решив относительноуравнение правдоподобияили равносильное уравнение.

Если - векторный параметр, то для отыскания оценки максимального правдоподобияследует решитьсистему уравнений правдоподобия

Все изложенные результаты остаются в силе и при оценивании не самого параметра , а некоторой параметрической функции.

Оценки максимального правдоподобия являются:

- состоятельными;

- асимптотически эффективными;

- несмещенными не всегда;

- асимптотически нормальными, т.е. при соответствующей нормировке закон распределения оценки максимального правдоподобия является нормальным (что очень важно для нахождения вероятностей отклонения их от истинных значений параметров).

Однако уравнения (системы уравнений) для нахождения оценок максимального правдоподобия могут решаться довольно сложно.

48. Интервальные оценки неизвестных параметров распределений. Доверительные интервалы (ди) для мо нормально распределенной гс (при известной и неизвестной дисперсии).

На практике ограничиться нахождением «хороших» точечных оценок бывает обычно недостаточно. Приближенное равенство лишь указывает на то, что вместо неизвестного параметраможно использовать известное значение оценки. Однако важно знать (хотя бы в вероятностном смысле) величину совершаемой при этом ошибки. Для этого прибегают к построению интервальных оценок неизвестных параметров.

Пусть наблюдаемая величина имеет функцию распределения, зависящую от неизвестного параметра. При интервальном оценивании параметраищут две такие статистикии(и- случайные величины!), для которых при заданномвыполняется соотношение. В этом случае интервалназывают-доверительньм интервалом для параметра, число-доверительной вероятностью(надежностью, коэффициентом доверия),и- нижней и верхнейдоверительными границамисоответственно.

Таким образом, -доверительный интервал — этослучайный интервал, зависящий от выборки (но не от), который содержит (накрывает) истинное значение неизвестного параметрас вероятностью. На практике обычно используют значения доверительной вероятностииз небольшого набора близких к 1 значений (0,9; 0,95; 0,98; 0,99 и т. д.) и строят соответствующие им доверительные интервалы. Построение доверительных интервалов для отдельных параметров распределения генеральной совокупности зависит как от вида закона распределения, так и от того, являются известными значения остальных параметров распределения или нет.

Если наблюдаемая случайная величина имеет нормальный закон распределенияс неизвестным математическим ожиданиемиизвестной дисперсией, тодоверительный интервал для математического ожидания имеет вид:

,

где - выборочное среднее;- объем выборки; число- такое значение аргумента функции Лапласапри котором. Находят числопо заданной доверительной вероятностииз табл. П2.

Квантилью, соответствующей вероятности, называется такое значение, при котором выполняется соотношение, где– плотность вероятностей соответствующего закона распределения (слово квантиль – женского рода). Геометрическое пояснение смысла квантили, отвечающей вероятности, приведено на рис. 2.

Рис. 2. Геометрическое пояснение смысла квантили , отвечающей вероятности

В этой терминологии число есть (1+)/2 - квантиль стандартного нормальногоN(0,1) закона распределения.

Если наблюдаемая случайная величина имеет нормальный закон распределенияс неизвестным математическим ожиданиеминеизвестнойдисперсией, тодоверительный интервал для математического ожидания имеет вид:

где - выборочная дисперсия,,- объем выборки, число–- квантиль распределения Стьюдентас (n—1) степенью свободы. Находят квантильпо заданнымииз табл. ПЗ.

При больших (практически при) распределение Стьюдента приближается (в смысле слабой сходимости) к стандартному нормальному закону распределения, поэтому в этом случае.