Одношаговые оценки вместо оценок максимального правдоподобия

Прикладникам бывают нужны различные характеристики распределения результатов наблюдений - среднее значение (математическое ожидание), квантили, среднее квадратическое отклонение, межквартильный интервал и т.д. Целое научное направление посвящено обоснованию выбора тех или иных характеристик надежности для нормирования [12]. Однако все эти характеристики выражаются через параметры, поэтому их оценки могут быть получены, в частности, с помощью оценок параметров.

В общем случае гамма-распределение задается тремя параметрами. Однако некоторые из них могут заранее известны. Поэтому в [1] рассмотрено 7 постановок, в которых 0, 1 или 2 параметра (из 3-х) предполагаются известными.

Каким методом оценивать параметры? Учебники по математической статистике обычно рекомендуют использовать асимптотически оптимальные (т.е. асимптотически эффективные) оценки метода максимального правдоподобия (ОМП).

Известно, что при конечном объеме выборки в ряде конкретных постановок ОМП хуже оценок других видов. Так, Я.П.Лумельский и его ученики В.В.Чичагов и М.Г.Шеховцева показали, что при оценивании параметра отрицательного биномиального распределения ОМП хуже несмещенной оценки [13,14] (см. также основную на русском языке монографию по несмещенным оценкам [15[). Однако при разработке [1] мы не располагали подобного рода сведениями о гамма-распределении.

Рассмотрим для определенности наиболее сложный случай, когда все три параметра неизвестны. Нетрудно выписать систему уравнений максимального правдоподобия. Явного решения этой системы не существует.

Что делать дальше? Предложить прикладнику самостоятельно решать систему уравнений максимального правдоподобия - значит переложить на него свою работу, заставить заниматься численными методами, не входящими в круг его постоянных производственных обязанностей. Если так поступить, то прикладник в лучшем случае просто проигнорирует разрабатываемый стандарт, в худшем - со ссылкой на [1] будут представлены численные значения, имеющие мало общего с теми, что соответствуют статистической теории.

Значит, надо дать алгоритм решения системы уравнений максимального правдоподобия. Естественные для решения этой задачи алгоритмы являются итерационными. Нужно предложить решения двух классических задач вычислительной математики: когда остановить вычисления и с какой точностью их проводить. Нам не были известны решения этих задач в случае нахождения ОМП для гамма-распределения. Однако было известно, что во многих подобных случаях используются эмпирические правила, не являющиеся научно обоснованными, строгие же подходы применимы лишь в отдельных случаях, в которых к тому же являются весьма трудоемкими.

Естественно спросить: а почему мы так хотим найти ОМП? Из теории известно, что для ОМП выполнены два важных свойства:

а) асимптотическая дисперсия ОМП минимальна среди всех возможных оценок (точная формулировка несколько сложнее - см., например, [16]);

б) функция от ОМП параметров является ОМП для функции от параметров (т.е. хорошие свойства ОМП являются наследственными, нет необходимости специально строить оценки для характеристик распределения - математического ожидания, квантилей и т.д.).

Однако не только ОМП имеют свойства а) и б). Они верны и для всех оценок, мало (на , где- объем выборки) отличающихся от ОМП. Это очевидное соображение позволяет существенно расширить множество рассматриваемых оценок. В него попадают, в частности, т.н. одношаговые оценки (ОШО). Они представляют собой результат первой итерации при решении системы уравнений максимального правдоподобия по методу Ньютона-Рафсона. Первая итерация осуществляется, исходя из достаточно быстро сходящихся оценок, например, оценок метода моментов.

Одношаговые оценки обладают свойствами а) и б) и, кроме того, задаются явными (конечными) формулами (для гамма-распределения они приведены в [1,17]). Тем самым снимается проблема решения системы уравнений максимального правдоподобия и изучения соответствующего итерационного процесса. Условия регулярности, при которых справедливы указанные свойства ОШО, совпадают с условиями, при которых обычно изучаются ОМП [18].

Поэтому мы полагаем, что ОМП целесообразно использовать лишь тогда, когда ОМП удается выразить явными формулами. Если же это не удается, то решать каким-либо итерационным методом систему уравнений, задающую ОМП, нецелесообразно. Следует применять ОШО (или иные асимптотически оптимальные оценки).

Целесообразность использования ОШО отмечал еще сам Р.Фишер [19], изобретатель ОМП, а вслед за ним - многие авторы, в том числе Л.Ле Кам, С.Р.Рао, К.О.Джапаридзе, А.Г.Кушнир (см. историю вопроса в [18], [20, гл.5.2], а также [21], [22, пп.2.26, 2.28]). Почему же про ОМП "все знают", а про ОШО - мало кто? Это определяется тем, что в учебниках по математической статистике рассказывается про ОМП, но ничего не говорится об ОШО.

С точки зрения преподавания ОМП действительно обладают преимуществами по сравнению с ОШО, построенными на их основе. К сожалению, преподаватели "забывают" сказать, что в реальной работе ОМП нецелесообразно использовать, за исключением тех случаев, когда ОМП выражаются явными формулами. В результате прикладники снова и снова пытаются решать системы ОМП, вместо того, чтобы применить метод ОШО (или какой-либо иной, например, метод несмещенных оценок [13-15, 23]).

Из сказанного вытекает рекомендация, выходящая за рамки тематики настоящей статьи: включить в стандартные курсы и учебники математической статистики информацию об ОШО и предупреждение о нецелесообразности применения итерационных методов решения системы уравнений, задающих ОМП.