Лекции Мат.стат. (2007-2008) / stat11_07
.pdf
Лекция 11.
Критерий отношения правдоподобия проверки простой гипотезы при простой альтернативе.
Пусть, как обычно, имеется выборка X = (X1; :::; Xn) из совокупности с неизвестной функцией распределения F (x): Относительно этой функции распределения есть две гипотезы:
H0 : F (x) = F0(x);
H1 : F (x) = F1(x):
Мы будем рассматривать статистические критерии, основанные на крити- ческом множестве. А именно мы будем рассматривать критерии вида
(H0 |
; X = K: |
(X) = H1 |
; X 2 K; |
|
2 |
Определение Мы будем говорить, что критерий имеет уровень ;
åñëè
PH0 (X 2 K) = PH0 (H1 ) = :
Если критерий имеет уровень ; то это означает, что вероятность отверг-
нуть с помощью этого критерия нулевую гипотезу, когда она верна, равна
:
Определение. Критерий называется наиболее мощным критерием уровня ; если для любого другого критерия e, уровня
w = PH |
(H |
) |
|
w = PH |
(H |
): |
|
1 |
|
1 |
e |
1 |
|
e |
|
|
|
|
|
|
1 |
||
Критерий является наиболее мощным критерием уровня ; åñëè îí ñ íå
меньшей вероятностью отвергает нулевую гипотезу, если она не верна, чем любой другой критерий уровня :
Рассмотрим две функции правдоподобия, возникающие при гипотезах
H0 è H1:
|
n |
L0(X) = |
(Qj=1 |
j=1 |
|
n |
|
è |
Q |
|
n |
L1(X) = |
(Qj=1 |
j=1 |
|
n |
|
|
Q |
f0(Xj); если существует плотность распределения f0(x);
p0(Xj); если распределение - дискретно и p0(x) = P (Xj = x)
f1(Xj); если существует плотность распределения f1(x);
p1(Xj); если распределение - дискретно и p1(x) = P (Xj = x):
Рассмотрим функцию отношения правдоподобия
l(X) = L1(X): L0(X)
1
Справедлива следующее утверждение, которое мы приведем без доказательства.
Лемма Неймана - Пирсона.
НЕЙМАН, ДЖОН ФОН (Neumann, John von) (1903 1957), американский математик. Карл Пирсон (1857-1936), английский математик.
Если функция (c) = PH0 (l(X) c) непрерывна по c (c > 0); то при заданном уровне значимости ; наиболее мощный критерий равен
(
(X) = H1; l(X) C; H0; l(X) < C;
где константа C определяется из уравнения
PH0 (l(X) C) = :
Критическая область K = fX = (X1; :::; Xn) : l(X) C)g: Этот критерий нaзывается критерием отношения правдоподобия.
Пример. Предположим что выборка X = (X1; :::; Xn) взята из совокупности относительно функции распределения которой F (x); имеются две гипотезы:
H0 : F (x) функция распределения нормального закона с параметрами |
a0; 2; |
|
||||||||||||||||||||||||||||||||
H1 : F (x) функция распределения нормального закона с параметрами |
a1; 2: |
|
||||||||||||||||||||||||||||||||
При этом будем считать, что a0 < a1: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
|
Рассмотрим функцию отношения правдоподобия |
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
|
|
|
L1(X) |
|
|
|
|
|
n |
(Xj |
|
|
a1)2 |
|
|
n |
|
(Xj |
a0)2 |
! = |
|
|
|
|||||||
|
|
l(X) = |
|
|
|
= exp |
|
Pj=1 |
2 2 |
|
|
+ |
Pj=1 |
2 2 |
|
|
|
|
||||||||||||||||
|
|
|
L0(X) |
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
n(a1 a0) |
|
|
|
|
n(a12 a02) |
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
= exp |
X |
|
: |
|
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
2 2 |
|
|
|
|
|
|
|
|
|||||||
Теперь нужно выяснить, является ли функция |
(c) = PH0 (l(X) c) непре- |
|
||||||||||||||||||||||||||||||||
рывной по c: Справедливы следующие соотношения |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
n(a1 a0) |
|
|
|
n(a12 a02) |
|
|
|
|
|
|
a1 + a0 |
|
2 ln c |
|
|
|||||||||||
f |
l(X) |
|
|
g |
= |
|
X |
|
|
|
ln c = |
|
|
+ |
|
|||||||||||||||||||
c |
|
|
|
|
X |
: |
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
2 |
n(a1 a0) |
||||||||||||||||||||||||
|
|
|
|
2 |
|
2 2 |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
Если теперь ввести обозначение |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
(c) = |
a1 + a0 |
+ |
|
|
|
2 ln c |
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
; |
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n(a1 a0) |
|
|
|
|
|
|
|
|
|
|||||||
òî
(c) = PH0 (l(X) c) = PH0 (X (c)):
2
При гипотезе H0 cтатистика X нормально распределена с параметрами p
a0; = n и функция распределения нормального закона непрерывна. Поэтому функция
(c) = PH0 (l(X) c) = PH0 (X (c)) =
= 1 a0; =pn( (c))
непрерывна по с.
Теперь напишем критерий правдоподобия
(
(X) = H1; l(X) C; H0; l(X) < C:
Критическая область K, где отвергается основная гипотеза в этом критерии равна
K = fl(X) Cg = fX (C)g:
Исходя из этого представления критерия отношения правдоподобия, можно теперь найти (C); такое при котором уровень значимости критерия равен
: Как было показано выше |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
p |
|
|
C) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
(C) = PH0 (l(X) C) = PH0 (X (C)) = 1 |
n( ( |
a0) |
: |
||||||||||||||
|
|
||||||||||||||||
|
|
|
|
||||||||||||||
|
|
|
|
||||||||||||||
Найдем теперь такое (C); при котором |
|
|
|
|
|
|
|
|
|
|
|||||||
1 |
p |
|
( ( |
|
0 |
) |
|
= : |
|
|
|
|
|
|
|||
n |
|
|
|
|
|
|
|||||||||||
|
|
|
|
C) |
|
a |
|
|
|
|
|
|
|
|
|||
Отсюда |
|
|
||
|
(C) = a0 + |
|||
|
p |
|
u1 : |
|
|
n |
|||
Итак мы получили, что при заданном уровне значимости критерий
(X) = (H0; X < a0 |
+ pn u1 |
||||||||
H1; X |
|
a0 |
|
|
u1 |
|
|
||
|
|
n |
|
||||||
|
+ p |
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
является наиболее мощным критерием проверки гипотезы H0 при альтер- нативе H1:
Вычислим мощность этого критерия.
w = PH1 (l(X) C) = PH1 (X a0 + pnu1 ) =
= 1 a1; =pn a0 |
+ pnu1 |
= 1 u1 + |
|
|
|
1 |
) |
|
: |
|||||
|
|
|
|
|
|
pn(a0 |
a |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3
Посмотрим, как ведет себя мощность критерия при больших n: Òàê êàê |
|||||||||||||
|
|
|
p |
|
(a0 a1) |
|
|
|
|
|
|
|
|
a0 a1 < 0; |
òî |
u1 + |
|
n |
! 1 |
è |
|
|
|
||||
|
|
|
|
|
|
|
|
||||||
|
|
|
u1 |
+ |
|
|
|
|
|
|
! 0 |
||
|
|
|
|
|
|
|
pn(a0 |
a1) |
|
|
|||
ïðè n ! 1: Поэтому w ! 1 ïðè n ! 1:
Определение. Если мощность критерия стремится к 1 при n ! 1; то критерий называется состоятельным.
Очень важное замечание. Критическая область наиболее мощного критерия в этом примере не зависит от значения a1:
Аналогичные вычисления показывают, что если по выборке X = (X1; :::; Xn) проверяется та же основная гипотеза H0 : a = a0 при альтернативе H1 : a =
a1 < a0; то наиболее мощный критерий при уровне значимости равен
(X) = |
(H0; X > a0 |
pn u1 |
= |
(H0; X > a0 |
+ pn u |
||||||
|
H1; X a0 |
|
|
H1; X a0 + |
|
||||||
|
p |
n |
u1 |
|
p |
n |
u |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Можно также показать, что этот критерий также является состоятельным.
Ну очень-очень важное замечание.
Пусть проверяется простая гипотеза H0 состоящая в том, что выборка взята из нормальной совокупности с математическим ожиданием a = a0 и известной дисперсией при альтернативе H1 - выборка взята из нор- мальной совокупности с математическим ожиданием a = a1
дисперсией :
Тогда наиболее мощный критерий уровня не зависит от зна- чения a1; а зависит лишь от того, a1 > a0 èëè a1 < a0:
4