Математическая статистика. Учебное пособие

области { 2( 1)/ 1( 1) > 0} = { 2( 1) > 0}, где только и может находиться значение 1 при верной 2, но отчасти (с вероятностью

ρ) и в области { 2( 1) = 0}, где значение 1 при верной 2 находиться не может. Мощность этого критерия

1−α2 = P 2 ( 2( 1) > 0)+ρP 2 ( 2( 1) = 0) = P 2 ( 2( 1) > 0) = 1

не зависит от значения ρ и даже при ρ = 0 уже равна единице. Среди всех таких критериев критерий при ρ = 0 будет обла-

дать наименьшей вероятностью ошибки первого рода, т. е. выбор= 0 в рандомизированном критерии означает наше желание среди всех критериев единичной мощности выбрать критерий с не самой маленькой вероятностью ошибки первого рода. Оправдать такую конструкцию можно разве только желанием во что бы то ни стало построить критерий заданного размера.

α1(δ5) = P 1 ( 1 [0, 1]) + ρP 1 ( 1 (1, 2]) = 0 + 1/4 · ρ = ρ/4.

При ρ = 4/5 — это требуемый уровень. Собственно, искомый критерий построен.

Брать = +∞ для построения наиболее мощного критерия так же бессмысленно, как 0, но по иной причине: в этом случае всегда α1 = 0 при любом ρ и даже при ρ = 0, что сводит критерий к нерандомизированному критерию из п. 3.

Итак, среди всех критериев отношения правдоподобия только критерий δ5 имеет уровень α = 1/5 и является наиболее мощным

критерием: любые другие критерии того же уровня имеют меньшую мощность.

Критерий δ5 предписывает на отрезке [0, 1] принимать гипотезу2, на интервале (2, 5] — гипотезу 1, на интервале (1, 2] — гипотезы 2 и 1 с вероятностями 4/5 и 1/5 соответственно. Последнее равносильно разбиению интервала (1, 2] на две части в отношении 4:1. Но поскольку таких разбиений континуум и ни одно из них не лучше другого, то разумнее выбирать гипотезы на интервале (1, 2] случайно, как и делает критерий.

Замечание. Приведённое решение, разумеется, не является образцовым. Правильным решением было бы сразу заметить, что в области [0, 1] отношение правдоподобия превосходит любое конечное , и там следует принимать вторую гипотезу; в области (2, 5] отношение правдоподобия нулевое, и там следует принимать первую гипотезу, а в области (1, 2] отношение правдоподобия постоянно, и там следует ввести рандомизацию таким образом, чтобы от вероятности 1/4 попадания в эту область при верной 1 «отщепить долю» ρ так, чтобы ρP 1 ( 1 (1, 2]) = 1/5.

Задача 13.4. Пусть 1, . . . , — выборка из показательного распределения с параметром α, где α может принимать лишь значения 1, 2 и 3 с равными априорными вероятностями. Построить байесовский критерий.

Решение

Так как априорные вероятности гипотез равны, то байесовский критерий будет принимать гипотезу = {α = } в области, опре-

Решая неравенства

находим область, в которой байесовский критерий принимает гипо-

тезу 1: ln 2. Из неравенств

Задача 13.5. По выборке 1 объёма 1 проверяются гипотезы о плотности распределения 1: гипотеза 1 = { = 1} против альтернативы 2 = { = 2}. Здесь

Построить наиболее мощный критерий размера ε и вычислить его мощность.

Решение

Отношение правдоподобия при = 1 равно 1/ 1 − 1. Поэтому наиболее мощный критерий отвергает основную гипотезу, если 1/ 1 − 1 > , что равносильно неравенству 1 < 1. Число 1 определяется из равенства

α1(δ) = P 1 ( 1 < 1) = 21 = ε.

Следовательно, 1 = √ε и основная гипотеза отвергается, если1 < √ε. Мощность этого критерия равна

1 − α2(δ) = P 2 ( 1 < 1) = 1 − (1 − 1)2 = 1 − (1 − √ε)2.

Задача 13.6. По выборке 1 объёма 1 проверяется гипотеза о том, что 1 распределено равномерно на отрезке [0, 1], против альтернативы о том, что 1 имеет распределение с плотностью

Построить наиболее мощный критерий размера 1/4.

Решение

Очевидно, отношение правдоподобия равняется 3/2, если 1[0, 1/2], и 1/2, если 1 (1/2, 1]. Заметим, что для любого 1/2

< 3/2

Как только 3/2, вероятность P 1 ( 2( 1)/ 1( 1) > ) становится равной нулю, что меньше 1/4. Поэтому следует взять = 3/2

и найти ρ из условия

ρ

= ρP 1 (0 1 1/2) = 2.

Отсюда ρ = 1/2. Поэтому наиболее мощный критерий размера 1/4 имеет следующий вид: δ( 1) = 0 (гипотеза 1 принимается) при

1 (1/2, 1] и δ( 1) = 1/2 (гипотеза 2 принимается с вероятностью 1/2) при 1 [0, 1/2].

Задача 13.7. Доказать состоятельность наиболее мощного критерия.

Решение

Сразу заметим, что при 0 вероятность ошибки второго рода просто нулевая. Рассмотрим наиболее мощный критерий при некоторых > 0 и ρ. Вероятность ошибки второго рода наиболее мощного критерия равна

Прологарифмируем обе части неравенства под знаком вероятности. Будем рассматривать независимые и одинаково распределённые случайные величины ξ = ln 2( )−ln 1( ) (возможно, несобственные), где имеют распределение, удовлетворяющее второй гипотезе. Имеем

Очевидно, что нулём данное математическое ожидание может быть лишь в случае совпадения плотностей почти всюду, что исключено в задаче проверки гипотез. При переходе от второй строки к третьей мы воспользовались очевидным неравенством ln(1+ ) ,> 0, а последнее неравенство следует из того, что интеграл от плотности 1 по носителю второго распределения { : 2( ) > 0} не превосходит единицы. Итак, пусть = E 2 ξ1, 0 < +∞.

Предположим, < +∞. Тогда для вероятности ошибки второго рода имеем следующую оценку:

по закону больших чисел.

В случае = +∞ рассмотрим срезки ξ[ ] = ξ · I(ξ ) на уровне , делающие наши величины собственными. Поскольку математическое ожидание срезок с увеличением , оставаясь конечным, стремится к бесконечности, оно будет положительно при , начиная с некоторого, и можно воспользоваться законом больших чисел вкупе с неравенством

Задача 13.8. Обозначим через (ε) мощность наиболее мощного критерия среди всех рандомизированных критериев размера ε. Доказать, что (ε) ε.

Решение

Рассмотрим рандомизированный критерий δε ≡ ε. Этот критерий имеет размер и мощность, равные в точности ε, и, следовательно,

его мощность не больше, чем мощность наиболее мощного критерия того же размера. Поэтому (ε) ε.

Задача 13.9. Пусть 1, . . . , — выборка из нормального распределения со средним и известной дисперсией σ2. Используя статистику , построить равномерно наиболее мощный критерий размера ε для проверки гипотезы 1 = { = 1} против альтернативы 2 = { > 1}.

ляется наиболее мощным при любой простой альтернативе = = 2 > 1. Поэтому этот критерий является и равномерно наиболее мощным критерием для проверки простой гипотезы = 1 против сложной альтернативы > 1.

Задача 13.10. По выборке из распределения Пуассона с параметром λ построить наиболее мощный критерий асимптотического размера ε, различающий гипотезу λ = λ1 и альтернативу λ = λ2, если λ1 < λ2. Вычислить предел мощности построенного критерия при → ∞.

Решение

Воспользуемся леммой Неймана — Пирсона. Отношение правдоподобия равно

что равносильно неравенству 1 (так как λ2 > λ1). Найдём1, при котором асимптотический размер критерия равен ε. Так как

E 1 1 = λ1 и D 1 1 = λ1, то вероятность ошибки первого рода равна

Величина 1 зависит от ; в противном случае вероятность ошибки первого рода стремится к 0, 1 или 1/2 в зависимости от того, какое соотношение между λ1 и 1 верно: λ1 < 1, λ1 > 1 или λ1 = 1. Выберем 1 = 1( ) так, чтобы величина

√√

τ = ( 1 − λ1)/ λ1

не зависела от . Тогда по центральной предельной теореме при

где η имеет стандартное нормальное распределение. Решая уравнение 1 − Φ(τ) = ε, находим τ = τ1−ε, где τ1−ε — квантиль уровня 1−ε стандартного нормального распределения. Таким образом, 1 = = λ1 +τ1−ε√λ1/√ и наиболее мощный критерий асимптотического размера ε отвергает основную гипотезу, если

то

√√

т. е. критерий состоятельный. Мы воспользовались свойствами сходи-

P(ξ < ) = P(ξ − < 0) → 0 при → ∞.

ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ

Задача 13.11. По выборке объёма из нормального распределения с неизвестным средним и единичной дисперсией построить байесовский критерий для различения двух простых гипотез о параметре с априорными вероятностями гипотез 1/4 и 3/4.

Задача 13.12. Пусть 1, . . . , — выборка из нормального распределения со средним и единичной дисперсией, где параметр может принимать лишь значения:

а) 1 и 2; б) 1, 2 и 3 с равными априорными вероятностями. Построить байесовский критерий.

Задача 13.13. Пусть 1, . . . , — выборка из геометрического распределения с параметром , где может принимать лишь значения 1/2 и 1/4 с априорными вероятностями 1/3 и 2/3 соответственно. Построить байесовский критерий.

Задача 13.14. Пусть 1, . . . , — выборка из биномиального распределения с параметрами и , где может принимать лишь значения 1/3 и 2/3 с априорными вероятностями 1/5 и 4/5 соответственно, а параметр известен и фиксирован. Построить байесовский критерий.

Задача 13.15. Пусть имеется некоторая выборка. Основная гипотеза состоит в том, что элементы выборки имеют стандартное нормальное распределение. Альтернатива — в том, что элементы выборки имеют распределение Бернулли с параметром 1/2. Построить наиболее мощный критерий, различающий эти две гипотезы с вероятностью ошибки первого рода, равной 1/2.

230 Глава 13. Оптимальные критерии

Задача 13.16. Проверяются гипотезы о плотности распределения наблюдений 1, . . . , : гипотеза 1 = { = 1} против альтернативы 2 = { = 2}. Здесь

Задача 13.17. Пусть 1 — выборка объёма 1. Основная гипотеза состоит в том, что элементы выборки распределены равномерно на отрезке [0, 1]. Альтернатива — в том, что элементы выборки имеют показательное распределение с параметром 1. Построить наиболее мощный критерий размера ε для различения этих гипотез и вычислить его мощность.

Задача 13.18. Пусть 1 — выборка объёма 1 из распределения Пуассона с параметром λ. Рассматриваются две простые гипотезы: λ = 1 и λ = 2. Построить наиболее мощный критерий δ = δ( 1) с вероятностью ошибки первого рода α = 1− −1. Найти его мощность.

Задача 13.19. Пусть 1 — выборка объёма 1. Гипотеза состоит в том, что 1 имеет показательное распределение с параметром α = 2. Альтернатива состоит в том, что 1 имеет плотность

Построить наиболее мощный критерий размера 1/3.

Задача 13.20. Пусть 1 — выборка объёма 1. Гипотеза состоит в том, что 1 имеет равномерное распределение на отрезке [1, 2].