Математическая статистика. Учебное пособие
.pdf
Глава 12. Проверка гипотез: основные понятия |
211 |
a)Критерий δ1 предписывает принимать гипотезу = 1/2, если
1/2; иначе принимается альтернатива = 3/4. Найти пределы вероятностей ошибок первого и второго рода этого критерия.
б) Критерий δ2 предписывает принимать гипотезу = 1/2, если< 1/3; иначе принимается альтернатива = 3/4. Найти пределы вероятностей ошибок первого и второго рода этого критерия.
в) Критерий δ3 предписывает принимать гипотезу = 1/2, если( ) = 0; иначе принимается альтернатива = 3/4. Найти пределы вероятностей ошибок первого и второго рода этого критерия.
Задача 12.17. Для проверки симметричности игральной кости её подбросили раз. Гипотеза симметричности принимается, если количество выпадений единицы заключено в границах 6 ± . Найти, каким должно быть , чтобы данный критерий имел асимптотический размер ε = 2Φ0, 1(−2). Проверить симметричность кости, если после 3 600 бросков единица выпала 540 раз.
Задача 12.18. Основная гипотеза о правильности игральной кости принимается, если после подбрасываний кости√число выпавших шестёрок отличается от /6 не более, чем на 5 /2. Иначе принимается альтернатива: кость неправильная, и вероятность выпадения шестёрки не равна 1/6. Найти пределы размера и мощности этого критерия при → ∞.
Задача 12.19. Проверяется основная гипотеза о том, что вероятность выпуска бракованной лампочки равна 1/3. Эта гипотеза принимается, если в партии из лампочек число бракованных лампочек отличается от /3 не более чем на √2 . Найти пределы размера и мощности этого критерия при → ∞.
Задача 12.20. Проверяется гипотеза о том, что бутерброд падает маслом вниз с вероятностью 0,75. Эта гипотеза принимается, если после экспериментов число упавших маслом вниз бутербродов заключено в границах 34 ± . Найти, каким должно быть , чтобы
212 |
Глава 12. Проверка гипотез: основные понятия |
данный критерий имел асимптотический размер ε = 2Φ0, 1(−2,5). Проверить гипотезу, если из 10 000 бутербродов маслом вниз упали 7 600 штук.
Задача 12.21. Проверяется гипотеза о том, что стрелок попадает по мишени с вероятностью 0,9. Гипотеза принимается, если число попаданий после выстрелов заключено в границах 0,9 ± . Найти, каким должно быть , чтобы данный критерий имел асимптотический размер ε = 2Φ0, 1(−3). Проверить гипотезу, если после 400 выстрелов стрелок попал 340 раз.
Задача 12.22. Для проверки гипотезы о том, что вероятность обнаружить приз в пачке чипсов Lay’s равна 0,2, куплены пачек чипсов. Гипотеза принимается, если количество обнаруженных призов заключено в границах 0,2 ± . Найти, каким должно быть , чтобы данный критерий имел асимптотический размер ε = 2Φ0, 1(−3). Проверить гипотезу, если в 10 000 проверенных пачек чипсов обнаружены 1 600 призов.
Задача 12.23. Для проверки гипотезы о симметричности тетраэдра его подбросили раз. Гипотеза симметричности принимается, если число выпадений помеченной грани заключено в границах4 ± . Найти, каким должно быть , чтобы данный критерий имел асимптотический размер ε = 2Φ0, 1(−2). Проверить симметричность тетраэдра, если после 1 600 бросков помеченная грань выпала 430 раз.
Г Л А В А 13
Оптимальные критерии в задаче проверки двух простых гипотез
Пусть имеется выборка 1, . . . , . Кроме того, пусть имеются два распределения 1 и 2, а также две простые гипотезы 1 и 2 о распределении выборки: гипотеза состоит в том, что выборка взята из распределения , = 1, 2. Пусть выполнено условие доминирования относительно некоторой меры µ на R. Обозначим через ( ) плотность распределения относительно меры µ. Пусть1( 1, . . . , ) — функция правдоподобия при основной гипотезе и2( 1, . . . , ) — при альтернативе (для удобства в этой главе функцию правдоподобия будем обозначать ( 1, . . . , ) ≡ Ψ ).
Байесовский подход предполагает, что распределение , из которого извлечена выборка, было выбрано случайно. В этом случае гипотезы становятся случайными событиями; известные вероятности этих событий обозначим через
P( ) = , = 1, 2, 1 + 2 = 1.
Определим среднюю вероятность ошибки критерия δ:
α(δ) = 1α1(δ) + 2α2(δ).
214 |
Глава 13. Оптимальные критерии |
При таком подходе существует оптимальный критерий, называемый байесовским, который имеет минимальную среднюю вероятность ошибки.
Справедлива следующая теорема.
Теорема 15. Байесовский критерий δ определяется следующим образом:
δ( 1, . . . , ) = 2, |
если 2 2( 1, . . . , ) 1 1( 1, . . . , ). |
Утверждение остаётся справедливым и в случае более чем двух простых гипотез с той разницей, что область, в которой байесовский критерий принимает гипотезу , определяется неравенством
( 1, . . . , ) max ( 1, . . . , ).
Наиболее мощным критерием размера ε (0, 1), различающим гипотезы 1 и 2, называется такой критерий δ (вообще говоря, рандомизированный), что α(δ) ε и любой другой критерий с размером, не превосходящим ε, обладает меньшей мощностью, нежели δ.
В этом случае справедливо следующее утверждение.
Теорема 16 (лемма Неймана — Пирсона). Наиболее мощный критерий размера ε существует при любом ε > 0 и является критерием отношения правдоподобия
|
|
|
|
|
|
|
|
1, |
если 1 |
( 1 |
, . . . , ) > , |
|||
|
|
|
|
|
|
|
|
|
|
2 |
( 1 |
, . . . , ) |
||
|
|
|
|
|
|
|
|
|
2 |
( 1 |
, . . . , ) |
|||
|
|
δ( , . . . , ) = |
0, |
если |
|
|
|
< , |
||||||
|
|
|
|
|
||||||||||
|
|
1 |
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
1( 1, . . . , ) |
||||
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
если |
2( 1, . . . , ) |
||||
|
|
|
|
|
|
|
|
ρ, |
1( 1, . . . , ) = , |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
где константы и |
ρ |
однозначным образом находятся из уравнения |
||||||||||||
|
|
|
|
|
|
|
|
|
||||||
E |
1 |
δ( , . . . , ) = |
|
|
|
|
|
|
|
|||||
|
1 |
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
2( 1, . . . , ) |
|
|
|
2( 1, . . . , ) |
|||||||
= P 1 ( |
|
|
> ) |
+ ρP 1 ( |
|
= ) = ε. |
||||||||
1( 1, . . . , ) |
1( 1, . . . , ) |
|||||||||||||
Глава 13. Оптимальные критерии |
215 |
Заметим, что если распределения 1 и 2 абсолютно непрерывны относительно одной и той же меры µ и отношение правдоподобия имеет непрерывное распределение, то наиболее мощный критерий из леммы Неймана — Пирсона является нерандомизированным.
Отметим также, что критерий отношения правдоподобия является байесовским критерием при заданных априорных вероятностях1 и 2, если = 1/ 2.
Минимаксный подход предлагает сравнивать максимальные значения
α(δ) = max α (δ).
Критерий δ называется минимаксным, если он имеет минимальную ошибку α(δ).
Минимаксный критерий всегда существует и является критерием отношения правдоподобия, в котором постоянные и ρ однозначным образом находятся из уравнения α1(δ) = α2(δ).
Пусть {θ, θ Θ} — некоторое параметрическое семейство распределений и пусть 1, . . . , — выборка из распределения θ. Проверяется простая гипотеза θ = θ0 против сложной альтернативы θ Θ0, где θ0 — фиксированная точка в Θ, а Θ0 — некоторое подмножество в Θ, причём θ0 ̸Θ0. Обозначим через
α1(δ) = Eθ0 δ( 1, . . . , )
размер критерия δ, а через
βθ(δ) = 1 − Eθδ( 1, . . . , ), θ Θ0,
функцию мощности критерия δ.
Равномерно наиболее мощным критерием размера ε (0, 1) называется такой критерий δ (вообще говоря, рандомизированный), что α1(δ) ε и любой другой критерий с размером, не превосходящим ε, при любом значении θ Θ0 имеет мощность, не превосходящую
βθ(δ).
216 |
Глава 13. Оптимальные критерии |
Если наиболее мощный критерий размера ε для проверки простой гипотезы θ = θ0 против простой альтернативы θ = θ1 Θ0 существует и один и тот же при любых значениях θ1 Θ0, то, как легко видеть, он будет являться и равномерно наиболее мощным критерием для проверки простой гипотезы θ = θ0 против сложной альтернативы θ Θ0.
ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ
Задача 13.1. По выборке объёма из нормального распределения с неизвестным средним и единичной дисперсией построить: а) минимаксный, б) байесовский при равных априорных вероятностях, в) наиболее мощный критерий заданного размера для различения двух простых гипотез о параметре .
Решение
Построим минимаксный, байесовский при 1 = 2 = 1/2 и наиболее мощный критерии для проверки гипотезы 1 = { = 1} против альтернативы 2 = { = 2}, где 1 < 2.
Построим критерий отношения правдоподобия. Отношение правдоподобия равно
2( ) |
= exp { |
1 |
|
− |
1 |
|
}. |
|
1( ) |
2 |
( − 1)2 |
2 |
( − 2)2 |
||||
|
|
|
|
∑ |
|
|
∑ |
|
|
|
|
|
=1 |
|
|
=1 |
|
Заметим, что отношение правдоподобия имеет абсолютно непрерывное распределение при верной первой гипотезе, поэтому
P 1 ( |
2( 1, . . . , ) |
= ) = 0 |
1( 1, . . . , ) |
для всякого > 0. Это означает, что критерий отношения правдоподобия будет нерандомизированным.
Достаточно описать его критическую область, т. е. область, в которой принимается гипотеза 2. Критическая область определяется
|
|
Глава 13. Оптимальные критерии |
217 |
||||||||||
неравенством |
|
|
|
|
|
|
|
|
} . |
||||
|
2( ) |
1 |
|
1 |
|
||||||||
|
1( ) |
= exp {2 |
( − 1)2 − 2 |
( − 2)2 |
|||||||||
|
|
|
|
|
∑ |
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
=1 |
|
|
Критерий будет байесовским при = 1/ 2 = 1. Упростим вид |
|||||||||||||
критической области: |
|
|
|
|
|
|
|
|
|
||||
|
|
δ( ) = 1 |
при |
|
|
1 + 2 |
. |
|
|||||
|
|
|
|
||||||||||
|
|
2 |
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Чтобы построить минимаксный и наиболее мощный критерии,
запишем неравенство 2( ) в эквивалентном виде (раскрыть
1( )
скобки и убедиться!) 1 и искать будем 1, а не . Размер и вероятность ошибки второго рода равны соответственно
|
( |
|
√ ( )1 |
|
|
(, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
) |
||||
= Φ0,1 |
|
|
1) |
√ ( |
− |
1) |
√ ( 1 |
− |
|
||||||||||||||||
α1(δ) = P 1 |
|
|
|
1 |
= P 1 |
|
|
|
|
1) = |
|||||||||||||||
α2(δ) = P 2 |
|
|
|
|
|
1 |
= P 2) |
|
√ ( |
|
|
2) < √ ( 1 |
|
|
2) = |
||||||||||
( < |
|
|
|
|
|
||||||||||||||||||||
|
( |
− |
|
( 1 ) |
− |
|
( |
|
|
|
|
− |
|
|
|
|
|
|
− |
) |
|||||
= Φ0,1 |
√ |
2) . |
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
( |
|
|
|
|
|
− |
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Равенство α1(δ) = ε означает, что √ ( 1− 1) = τ1−ε, где τ1−ε — квантиль уровня 1 − ε стандартного нормального распределения.
Тогда выразим 1 = 1 + τ1−ε/√ . Получим наиболее мощный критерий размера ε:
|
|
|
|
τ1−ε |
|||
δ( ) = 1 |
при |
1 + |
|||||
√ |
|
. |
|||||
|
|||||||
При α1(δ) = α2(δ) получим минимаксный критерий. Пользуясь свойствами функции распределения стандартного нормального закона, запишем
( √ ) (√ )
Φ0,1 − ( 1 − 1) = Φ0,1 ( 1 − 2) ,
откуда 1 − 1 = 2 − 1 и 1 = ( 1 + 2)/2. Минимаксный критерий имеет вид
δ( ) = 1 |
при |
|
|
1 + 2 |
. |
|
|
||||||
2 |
||||||
|
|
|
|
|
218 |
Глава 13. Оптимальные критерии |
Задача 13.2. Имеется выборка из нормального распределения со средним = 0 и дисперсией σ2, σ > 0. Построить наиболее мощный критерий размера ε для проверки гипотезы 1 = {σ = σ1} против альтернативы 2 = {σ = σ2}, где σ1 < σ2.
Решение
Отношение правдоподобия снова имеет абсолютно непрерывное распределение при любой из гипотез, поэтому критерий отношения правдоподобия будет нерандомизированным. Критерий отношения правдоподобия принимает гипотезу 2, если
σ1 |
exp |
{ |
2 |
(σ2 |
− σ2 ) |
|
} , |
|||
2 |
||||||||||
σ |
|
|
1 |
|
1 |
|
1 |
|
∑ |
|
2 |
|
|
|
1 |
2 |
|
|
|||
|
|
|
|
=1 |
|
|||||
что равносильно неравенству 2 1. Найдём 1, при котором размер критерия равен ε:
α1(δ) = P 1 |
|
2 1 |
= P 1 ( |
|
|
σ21 ) |
= 1− ( |
σ21 ) |
= ε. |
||||
|
σ2 |
||||||||||||
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
( |
) |
1 |
1 |
|
|
1 |
|
|
||||
Отсюда 1 /σ21 = χ21−ε, , где χ21−ε, — квантиль уровня 1 − ε распределения хи-квадрат с степенями свободы. Тогда 1 = χ21−ε, σ21 /
и наиболее мощный критерий размера ε имеет вид
|
|
|
|
χ2 |
σ2 |
|
|
|
|
|
|||
δ( ) = 1 |
при |
2 |
1−ε, |
1 |
. |
|
|
|
|
|
|
|
|
Задача 13.3. Дана выборка объёма 1 и две простые гипотезы:1 = { 1 имеет равномерное распределение на отрезке [1, 5]},2 = { 1 имеет равномерное распределение на отрезке [0, 2]}. Построить наиболее мощный критерий размера 1/5.
Решение
Воспользуемся леммой Неймана — Пирсона и выпишем в зави-
Глава 13. Оптимальные критерии |
219 |
симости от 1 отношение правдоподобия:
2 |
( 1) = |
2,∞ |
|
если 1 |
< |
|
2, |
||
1 |
( 1) |
|
+ |
, |
если 0 |
1 |
|
1, |
|
|
|
|
1 |
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0, |
|
если 2 |
< 1 |
5. |
||
|
|
|
|
|
|
|
|
|
|
Мы рассматривали отношение правдоподобия лишь для значений 1, при которых хотя бы одна из плотностей отлична от нуля. Деление ненулевой плотности на нуль в контексте критерия отношения правдоподобия можно рассматривать как попадание 1 в кри-
тическую область {δ = 1} = { 2( 1)/ 1( 1) > }. Поэтому будем считать в этом случае отношение равным +∞. Границы интервалов
мы отнесли к разным областям произвольным образом.
Поскольку отношение правдоподобия постоянно на каждом из трёх интервалов, для постоянной есть лишь несколько возможностей, при которых критерии будут различаться. Перечислим все возможные критерии отношения правдоподобия в зависимости от и найдём критерий заданного размера. При = 0 или = 2 критерий может быть рандомизированным.
Сначала рассмотрим нерандомизированные критерии.
1. < 0 (это просто ситуация, когда критерий абсолютно всегда
принимает вторую гипотезу). В этом случае 2( 1) > при любом
1( 1)
1, и критерий отношения правдоподобия имеет вид
δ1( 1) = 1 при любом 1.
Его размер α1(δ1) = P 1 (δ1( 1) = 1) = 1 — не то, что нужно.
2. 0 < < 2. В этом случае |
2( 1) |
> при 1 [0, 2] и |
2( 1) |
|
< |
1( 1) |
1( 1) |
||||
при 1 (2, 5]. Критерий отношения правдоподобия имеет вид |
|
||||
{1, если 1 [0, 2],
δ2( 1) =
0, если 1 (2, 5].
220 |
Глава 13. Оптимальные критерии |
|
|
|
|||
Его размер |
|
|
|
|
|
|
|
α1(δ2) = P 1 (δ2( 1) = 1) = |
|
|
|
|
|
|
|
|
= P 1 ( 1 [0, 2]) = P 1 ( 1 [1, 2]) = 1/4. |
||||||
Опять не то, что нужно. |
|
|
|
|
|
|
|
3. 2 < < ∞. В этом случае |
2( 1) |
при 1 [0, 1] и |
2( 1) |
|
|||
|
> |
|
|
< |
|||
1( 1) |
1( 1) |
||||||
при 1 (1, 5]. Критерий отношения правдоподобия имеет вид |
|
||||||
|
1, |
если 1 |
[0, 1], |
|
|
|
|
|
δ3( 1) = {0, |
если 1 |
(1, 5]. |
|
|
|
|
|
|
|
|
|
|
|
|
Его размер α1(δ3) = P 1 (δ3( 1) = 1) = P 1 ( 1 [0, 1]) = 0 — не то, что нужно.
Таким образом, ни один из нерандомизированных критериев не имеет нужного уровня. Посмотрим на рандомизированные. Можно было сделать это сразу, не рассматривая никаких нерандомизированных критериев, поскольку выбор ρ = 0 или 1 в любом рандомизированном критерии превращает его в нерандомизированный.
4. |
= 0. В этом случае |
2( 1) |
> при 1 |
[0, 2] и |
2( 1) |
|
= при |
1( 1) |
1( 1) |
||||||
1 (2, 5]. Критерий отношения правдоподобия имеет вид |
|
||||||
|
1, |
если 1 |
[0, 2], |
|
|
|
|
|
δ4( 1) = {ρ, |
если 1 |
(2, 5]. |
|
|
|
|
Его размер
α1(δ4) = P 1 ( 1 [0, 2]) + ρP 1 ( 1 (2, 5]) =
= 1/4 + 3/4 · ρ ̸= 1/5.
И это не то, что нужно.
Следует сразу заметить, что значение = 0 в критерии отношения правдоподобия означает наше желание строить абсурдный критерий: мы собираемся принимать вторую гипотезу не только в
