Цифровая обработка сигналов (сборник книг) / Дронов С.В. Многомерный статистическийц анализ, 2003

áîäû.

В случае, когда распределение не является нормальным, первые две формулы используют для построения асимптотических доверительных интервалов для математического ожидания. Построение же доверительных интервалов для других параметров представляет из себя как правило, достаточно сложную задачу. Иногда ее удается решить, хотя бы в асимптотическом смысле, найдя для неизвестного параметра оценку, имеющую в пределе нормальное распределение.

Теорема 5 Пусть - асимптотически нормальная оценка неизвестного параметра , имеющая асимптотически нормальное распределение с известным коэффициентом рассеивания 2, ò.å.

P(( )pn < x) ! x

при произвольном x, тогда доверительный интервал для может быть в асимптотическом смысле построен по формулам

ãäå t - соответствующая квантиль стандартного нормального распределения.

5.2Доверительные множества

Возможны разные обобщения понятия доверительного интервала на слу- чай многомерного параметра. В общем случае, если параметр ~

имеет

размерность m, то при фиксированном малом числе подмножество A m-мерного пространства называют доверительным уровня 1 , åñëè

Задача построения доверительных множеств однозначно не решается и еще более сложна, чем задача построения доверительных интервалов. Но в случае нормальной совокупности нам известны совместные распределения выборочных средних и дисперсий, поэтому кое-что все же построить можно.

Далее разобраны отдельно случаи многомерного параметра для одномерного распределения и многомерной выборки.

5.2.1Многомерный параметр

В случае выборки из (одномерного) нормального распределåíèÿpñ ïараметрами a; 2 нам известно, что случайная величина = X a n èìå-

ет стандартное нормальное распределение, а случайная величина =

nS2= 2 распределение хи-квадрат с n 1 степенью свободы, причем эти величины независимы. Учтем теперь, что одновременное выполнение неравенств

для произвольных чисел b1; b2; c1; c2 влечет выполнение неравенств

а значит последние неравенства имеют, вообще говоря, большую, чем первые совместную вероятность. Зафиксируем малые числа ; è ïîëî-

æèì c1 = =2; c2 = 1 =2 квантили хи-квадрат распределения с n 1

(1 )(1 ):

Осталось только подобрать числа ; так, чтобы (1 )(1 ) = (1 ) произвольным образом, например, положив

p

1 = 1 = 1 ;

и требуемое доверительное множество, имеющее прямоугольную форму, построено.

Для распределений, отличных от нормального, ограничимся рассмотрением алгоритма построения асимптотического доверительного множества в достаточно широких предположениях регулярности. Все доказательства и подробное изложение упомянутых условий можно найти в [4, с. 264 - 265].

Предположим, что нам известен аналитический вид плотности распределения наблюдаемой случайной величины или мы умеем вычислять

функцию правдоподобия L, тогда эллипсоидальное доверительное множество для m-мерного параметра задается как

f~ j ~ ~ g t L(X; t) L(X; ) =2 :

Здесь квантиль хи-квадрат распределения с k степенями свободы, а

~ оценка максимального правдоподобия (многомерного) параметра ~

.

5.2.2Многомерная выборка

Рассмотрим для примера построение доверительного множества для вектора ~a математических ожиданий k-мерного нормального распределения

ростом объема выборки n сходится к многомерному нормальному с ну-

левым вектором средних и некоторой ковариационной матрицей V , которую мы будем считать известной. Тогда для построения доверительного

множества уровня доверия 1 достаточно построить такой эллипсоид

â k-мерном пространстве, который содержит внутри себя соответствующую долю всех значений нормального распределения. Согласно теореме 3 , требуемый эллипсоид имеет вид (5.1), только вместо

X следует напи-

ñàòü ~ .

Построенные доверительные множества можно использовать для проверки некоторых гипотез, например, о равенстве значений некоторого параметра в случае наблюдения двух (и более) выборок. Пусть высказывается гипотеза о равенстве векторов математических ожиданий двух

выборок. Построим два доверительных множества A ; A

ческих ожиданий и изучим их пересечение. Если это1 пересечение2 для математипусто-

или имеет относительно небольшой размер, то гипотезу нужно отвергнуть.

Аналогичным образом можно и проверять гипотезы однородности, применяя для этого вместо доверительных множеств толерантные, построение которых описано в следующем разделе. Сравните предложенную процедуру с ранее описанной в 3.3.2 .

5.3Толерантные множества

Множество, содержащее заданную долю всех значений наблюдаемой величины (или вектора), называется толерантным множеством заданного уровня. Конечно же, в одномерном случае рассматриваются толерантные интервалы. Как мы видим, задача построения толерантного множества

уровня 1 близка к задаче оценивания границ интервала, образован-

ными квантилями уровней =2 è 1 =2 наблюдаемого распределения. Опишем процедуру построения толерантных интервалов для нормального распределения.

Будем считать, что требуется построить толерантный интервал для стандартного нормального распределения. Положим

что означает, что при заданных

X; число r( ) однозначно определено

и не зависит от .

Кроме того, неравенство A( ; S) > эквивалентно неравенству S > r( )= : Отсюда

При этом величина nS2 по теореме Фишера имеет хи-квадрат распреде-

Это рассуждение носит, конечно же, чисто теоретический характер. Теперь же укажем один из приближенных методов, дающий обычно достаточно точный результат, для определения безусловной вероятности

P(A( ; S) > ): Разложим функцию

1

P(A( ; S) > ) P(A( ; S) > jpn):

Подведем итог. Для построения толерантного интервала необходимо по заданному (уровню доверия) найти число r из (5.2), полагая

пределения 2n 1 и вычислить

s

= r n : t"

Требуемый интервал будет иметь вид

(X S; X + S):

В многомерном случае нами уже решена задача построения толерантного эллипсоида для нормального распределения с известной ковариационной матрицей, см (5.1).

Изложим один свободный от распределения алгоритм построения толерантного интервала в одномерном случае. За обоснованиями отсылаем читателя к [5, с. 695-697].

Введем обозначения. Через F обозначим (неизвестную) функцию распределения наблюдаемой случайной величины, через X(k) k-ю порядко-

вую статистику, т.е. k-й по величине выборочный элемент, если выборка упорядочена по возрастанию. Поставим задачу построения толерантного

интервала, содержащего долю всех значений наблюдаемой случайной

величины с вероятностью 1 . Как уже отмечалось, естественно искать решение этой задачи в виде

P(F (X(s)) F (X(r)) ) = 1 :

В [5] показано, что это соотношение эквивалентно следующему

ãäå

1

Z

B(a; b) = xa(1 x)bdx

0

бета-функция. Если у исследователь имеет инструментарий для численного расчета неполной бета-функции, то последнее соотношение может быть записано в виде

1 I (s r; n s + r + 1) = 1 :

На практике числа ; задаются или заранее известны, а r; s задаются симметрично, так что s = n r + 1. Тогда

I (n 2r + 1; 2r) = :

Конечно, же, последнее уравнение относительно r должно решаться численно или при помощи таблиц. А такие существуют! См. [6, c. 284, объяснения на с.67] . Несколько ободряющим обстоятельством на трудном пути построения толерантных интервалов в этой ситуации может служить то, что построенные интервалы годятся для любых исходных распределений, и перед нами не стоит обычная проблема проверки гипотезы нормальности.

5.4Засоренная и малая выборка

Проблемы борьбы с грубыми ошибками измерений были описаны выше. В этом разделе мы рассмотрим случай, когда после отбрасывания посторонних значений или по другим причинам (например, в случае дорогих или недоступных дополнительных наблюдений) в нашем распоряжении осталась выборка, объем которой недостаточен для принятия решения.

Задачи, связанные с малой выборкой, часто возникают на практике, и им посвящена специальная литература, см. например, [7] . Мы же упомянем здесь только один специальный метод, направленный на увеличение объема выборки метод статистического моделирования bootstrap, принадлежащий В.Эфрону. Этот метод рекомендует принять имеющуюся выборку за генеральную совокупность и при помощи случайного отбора формировать из нее новые данные.