Математическая статистика. Учебное пособие

будет несмещённой оценкой? Является ли эта оценка состоятельной оценкой для того же параметра θ?

Решение

В силу независимости случайных величин 1, 2, . . . , имеем равенство

Eθ* = E( 1 · 2 · . . . · 5) = E 1 · E 2 · . . . · E 5 = λ5.

Итак, оценка θ* является несмещённой оценкой для параметра θ = = θ(λ) = λ5. Состоятельной она не является, поскольку не зависит от. Соответственно, при → ∞ оценка θ* стремится по вероятности разве что к себе самой, не равняясь при этом λ5.

Задача 4.7. Для выборки объёма из равномерного распределения на отрезке [0, θ] проверить состоятельность и несмещённость

√

оценок θ*, = ( + 1) параметра θ, = 1, 2, . . .

Решение

Для доказательства состоятельности, как и в предыдущих задачах, воспользуемся усиленным законом больших чисел. Так как при каждом = 1, 2, . . . выборочный -й момент почти наверное схо-

дится к E 1 = θ /( + 1) при → ∞, а функция ( ) = √( + 1) непрерывна, то и θ*, = ( ) сходится почти наверное к θ =

= (E 1 ) при → ∞, т. е. для каждого = 1, 2, . . . оценка θ*, является сильно состоятельной.

Вообще, справедлива следующая теорема, которую читатель может легко доказать, используя усиленный закон больших чисел и теорему непрерывности (см. теорему ): если функция (θ) являет-

ся непрерывной и строго монотонной для некоторой функции , то (одномерная) оценка метода моментов θ* = −1( ( )) является

сильно состоятельной.

Проверить несмещённость θ*, , непосредственно вычислив математические ожидания этих оценок при произвольном объёме выборки, как мы это сделали для оценки максимального правдоподобия параметра показательного распределения в задаче , очень за-

труднительно, так как выписать плотность случайной величины

вявном виде для произвольных и технически довольно сложно.

Вситуациях, когда оценка является строго выпуклой (или строго вогнутой) функцией от того или иного выборочного момента, полезным оказывается неравенство Йенсена.

Пусть случайная величина ξ имеет невырожденное распределение, а функция ( ) строго выпукла. Тогда E (ξ) > (Eξ). Для строго

вогнутых функций справедливо противоположное неравенство.

Так как при каждом = 2, 3, . . . функция ( ) = √( + 1) является строго вогнутой в области > 0, то неравенство Йенсена гарантирует, что

√

Eθ*, < ( + 1)E = θ,

и, значит, оценки θ*, , 2, являются смещёнными при любом

1.

При = 1 имеем несмещённую оценку:

Eθ*,1 = E(2 ) = 2E 1 = θ.

Проверим, являются ли оценки θ*, , 2, хотя бы асимптотически несмещёнными. Это возможно и без знания точного вида смещения. Так как все эти оценки (сильно) состоятельны, то для сходимости последовательности величин Eθ*, к параметру θ при → ∞ достаточно, чтобы при любом 2 существовала равномерная поинтегрируемая мажоранта для θ*, (см. теорему ). Так как распределение элементов выборки имеет ограниченный носитель, то

такая мажоранта существует. Например, в качестве такой мажоран-

√

ты можно выбрать вырожденную случайную величину + 1θ: так как P(0 θ) = 1 для всех = 1, 2, . . ., то для всех 1

Задача 4.8. Пусть элементы выборки 1, . . . , имеют равномерное распределение на отрезке [ , ], где < . Проверить, явля-

ется ли оценка θ* = ( ) − (1):

а) несмещённой; б) состоятельной оценкой параметра θ = − .

Решение

а) Функции распределения случайных величин ( ) и (1) равны

случайные величины 1, . . . , независимы и имеют равномерное распределение на отрезке [0, 1].

Так как (1) = +( − ) (1) и ( ) = +( − ) ( ), то, используя

т. е. θ* не является несмещённой оценкой параметра θ.

Этот вывод можно получить и не вычисляя математических ожиданий: заметим, что θ* < θ почти наверное, так что Eθ* < θ (в силу соответствующего свойства математического ожидания).

б) Проверим состоятельность. Докажем, что ( ) сходится по вероятности к и (1) сходится по вероятности к , откуда сразу же будет следовать, что θ* сходится по вероятности к θ. Пусть ε > 0. Согласно (например) неравенству Маркова,

Исчезновение модулей объясняется тем, что ( ) < и (1) > с вероятностью 1.

Итак, θ* — состоятельная оценка параметра θ = − .

Задача 4.9. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. Для какого параметра θ = θ(λ) статистика

θ* = − будет состоятельной оценкой? Является ли θ* несмещённой оценкой того же параметра?

Решение

Так как является состоятельной оценкой параметра λ (в силу

Вычислим математическое ожидание оценки θ* . В силу устойчивости распределения Пуассона по суммированию случайная величина ξ = = 1 + . . . + имеет распределение Пуассона

параметра θ = λ −λ.

Асимптотическую несмещённость θ* можно доказать и без непосредственного вычисления Eθ* . В силу закона больших чисел сходится по вероятности (а значит, и слабо) к λ. Но в силу эквивалентного определения слабой сходимости это означает, что для любой ограниченной и непрерывной функции ( ) имеет место сходимость E ( ) → (λ) при → ∞. Взяв ( ) = − , получим асимптотическую несмещённость θ* .

Задача 4.10. Будет ли статистика состоятельной оценкой параметра сдвига θ распределения Коши?

Решение

Найдём распределение выборочного среднего . Для этого воспользуемся методом характеристических функций. Характеристическая функция распределения Коши с параметрами θ и σ2 имеет вид

ϕ( ) = θ −σ| |.

По свойствам характеристических функций

ϕ ( ) = ϕ ( / ) = ( θ/ −|σ / |) = ϕ( ).

Таким образом, случайная величина при любом 1 имеет распределение Коши с теми же параметрами, что и элементы выборки, а вовсе не вырожденное в точке θ распределение. Оценка не является состоятельной.

Задача 4.11. Проверить несмещённость выборочной медианы ζ* как оценки параметра сдвига нормального распределения.

Решение

Пусть сначала выборка имеет нечётный объём = 2 − 1. Тогда выборочная медиана равна ( ). Обозначим = ( − )/σ,= 1, 2, . . . , . Тогда 1, . . . , — выборка из стандартного нормального распределения.

Очевидно, E ( ) = (E ( ) − )/σ. Пользуясь результатом задачи , мы можем выписать математическое ожидание ( ) по опреде-

лению:

ZZ

RR

где через Φ( ) обозначена функция распределения стандартного нормального закона, а через ϕ( ) — соответствующая плотность. Подынтегральная функция является нечётной, так как стандартное нормальное распределение симметрично, а − = − 1:

Φ −1( )(1 − Φ( )) − = Φ −1( )Φ(− ) − = (Φ( )Φ(− )) −1

и ϕ(− ) = ϕ( ). Кроме того, интеграл сходится абсолютно:

Сходящийся интеграл от нечётной функции по симметричной области равен нулю. Но тогда

E ( ) = + σE ( ) = .

Пусть теперь = 2 . Тогда ζ* = ( ( ) + ( +1))/2 и

Задача 4.12. Проверить несмещённость выборочной медианы ζ* как оценки параметра сдвига распределения Коши.

Решение

Пусть и — функция распределения и плотность распределения Коши с параметрами 0 и 1 соответственно:

Несложно заметить, что это распределение симметрично, т. е.

(− ) = 1 − ( ) и (− ) = ( ) для всех R.

Обозначим = ( − )/σ, = 1, 2, . . . , . Тогда, используя, например, формулу плотности линейного преобразования из реше-

ния задачи , получаем, что 1, . . . , — выборка из распределения Коши с параметрами 0 и 1. Далее заметим, что при решении задачи по существу использовалась только симметричность

Решение

Так как значение параметра α известно, то можно рассмотреть преобразованную выборку 1, . . . , , где = α. Заметим, что при

> 0

Здесь мы использовали замену переменной = θ α (см. также решение задачи ). Таким образом, преобразованная выборка имеет показательное распределение с параметром θ, а оценка 1/ α = = 1/ , как показано в задаче , является состоятельной и смещённой (но асимптотически несмещённой) оценкой параметра θ.

Задача 4.14. Пусть 1, . . . , — выборка из смещённого показательного распределения с плотностью

Выяснить, являются ли несмещёнными и состоятельными следующие оценки параметра сдвига β:

а) (1); б) − 1.

Решение

а) Обозначим = − β, = 1, 2, . . . , . Из решения задачи следует, что 1, . . . , — выборка из показательного распределения с параметром 1. Тогда (1) = (1) + β и для любого ε > 0

80 Глава 4. Несмещённость и состоятельность

Отметим также, что равенство P( (1) ε) = − ε для всех ε > 0 означает, что (1) = (1) − β имеет показательное распределение

с параметром . Отсюда, в частности, следует, что E (1) = E (1) +

+ = + 1/ , т. е. оценка ^ = (1) является смещённой, но асимп-

β β β

тотически несмещённой.

б) Так как E 1 = E 1 + β = β + 1, то из свойств математического ожидания и закона больших чисел очевидным образом следует,

Задача 4.15. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью

Проверить состоятельность оценок параметров масштаба α > 0 и сдвига β R, построенных по методу моментов и по методу максимального правдоподобия.

Решение

Оценки метода моментов α* , β* и максимального правдоподо-

бия ^ , ^ мы нашли в задачах и соответственно:

α β

√

α* = = 2 − ( )2, β* = − ,