Математическая статистика. Учебное пособие
.pdf
Глава 8. Полные и достаточные статистики |
141 |
Решение
Как хорошо известно, распределение Пуассона устойчиво по суммированию, т. е. случайная величина = 1 + . . . + имеет распределение Пуассона с параметром λ. Пусть {0, 1, . . .} и числа 1, . . . , {0, 1, . . .} таковы, что 1 + · · · + = . Тогда
P( 1 = 1, . . . , = | = ) = |
P( 1 = 1, . . . , = ) |
|||||||||
|
|
|
|
|
P( = ) |
= |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
· − |
|
|
! |
|
! |
|||
|
λ ∑ |
λ |
/ |
|
||||||
= |
|
|
|
|
|
λ ∏ |
= |
|
. |
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
λ |
|
− |
|
/ ! |
|
|
∏ |
||
|
|
|
|
|
|
|
|
|
! |
|
|
|
|
|
|
|
|
|
|
|
=1 |
Итак, условное распределение выборки при фиксации выборочного среднего (это условное распределение — полиномиальное, с равновероятными исходами) не зависит от параметра λ, т. е. статистика = будет достаточной статистикой для параметра λ.
Статистики ( )2 и sin будут достаточными как взаимно однозначные преобразования достаточной статистики (см. задачу ). Заметим, что функция ( ) = sin , определённая на множестве целых чисел, является взаимно однозначной (так как число 2π иррационально).
Статистика 2 не будет достаточной. Докажем это от противного, воспользовавшись критерием Неймана — Фишера. Пусть
|
|
|
|
|||
|
|
|
∏ |
|||
Ψ (λ) = − λλ / |
||||||
! = ϕ(λ, |
2 |
) ( ). |
||||
|
|
|
=1 |
|
|
|
Очевидно, множитель λ может входить только в факторизационную компоненту ϕ, а значит, является функцией от 2, что неверно (читатель сам без труда подберет две реализации выборочного вектора с одинаковым вторым выборочным моментом и разными выборочными средними).
142 |
Глава 8. Полные и достаточные статистики |
Задача 8.14. Доказать полноту статистики для выборки из распределения Пуассона с параметром λ.
Решение
Как уже неоднократно отмечалось, величина = 1 +. . .+ имеет распределение Пуассона с параметром λ. Поэтому
∞
∑
E ( ) = ( / )λ − λ/ ! .
=0
Равенство нулю этого математического ожидания при всех значениях параметра λ > 0 равносильно тому, что степенной ряд
∞ ( / )
∑
!
λ
=0
совпадает с нулевой функцией на положительной полуоси. Но продолжение этого ряда на комплексную плоскость является аналитической функцией, которая совпадает с другой аналитической функцией
— тождественным нулем — на множестве, содержащем предельные точки, а значит, по внутренней теореме единственности, совпадает с ней всюду. Таким образом, все коэффициенты степенного ряда
∞ ( / )
∑
!
λ
=0
обязаны быть нулевыми, откуда ( / ) = 0 при всех = 0, 1, . . . и, следовательно, ( ) ≡ 0. Таким образом, — полная статистика.
Задача 8.15. Пусть 1, . . . , — выборка из распределения θ на множестве целых чисел {1, . . . , }. Доказать, что набор из статистик
|
|
|
ν( ) = |
∑ |
|
I( = ), |
= 1, . . . , , |
|
|
=1 |
|
составляет достаточную для параметра θ статистику.
Глава 8. Полные и достаточные статистики |
143 |
Решение
Рассмотрим случай = 2. Пусть ν(1) = 1 и ν(2) = − 1. При выполнении этого условия выборка 1, . . . , имеет дискретное равномерное распределение на множестве последовательностей из единиц и двоек, содержащих ровно 1 единиц и − 2 двоек; это равномерное распределение не зависит от θ.
Задача 8.16. Пусть 1 — полная статистика и пусть 2 = ( 1) для некоторой измеримой функции . Доказать, что 2 также является полной статистикой.
Решение
Так как 1 — полная статистика, то из равенства
E ( 2) = E ( ( 1)) ≡ E ( 1) = 0
при всех θ следует, что ( 1) = 0 п. н. относительно распределения статистики 1 для любого θ, что и означает тождественное равенство нулю функции почти наверное относительно распределения2, так как ( 2) = ( 1).
Задача 8.17. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [θ, θ+1]. Доказать, что двумерная статистика ( (1), ( )) не является полной.
Решение
При фиксированном 1 укажем функцию : R2 → R такую,
что E ( (1), ( )) = 0 для любого θ R, но P( ( (1), ( )) = = 0) ̸= 1 (даже равно нулю).
Для этого найдём
E (1) = θ + 1/( + 1) |
и E ( ) = θ + 1 − 1/( + 1). |
Искомой функцией может служить ( , ) = − −1+2/( +1).
144 |
Глава 8. Полные и достаточные статистики |
Задача 8.18. Привести пример полной статистики, не являющейся достаточной.
Решение
Пусть выборка имеет равномерное распределение на отрезке [0, θ] (выбор распределения в этой задаче непринципиален). Рассмотрим статистику = 1. В силу критерия Неймана — Фишера статистика не является достаточной (см. задачу ). Однако она полна. Действительно, пусть
Zθ
E ( 1) = ( )/θ = 0
0
при всех θ > 0, тогда, как показано в задаче , функция ( ) почти всюду равна нулю. Отсюда следует, что статистика = 1 является полной для параметра θ.
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
Задача 8.19. Пусть 1, . . . , — выборка из распределения θ. Найти условное совместное распределение выборки при условии1 = 1, . . . , = . Является ли достаточной статистикой для параметра θ:
а) выборка; |
б) вариационный ряд? |
Задача 8.20. Распределение θ задано плотностью θ относительно некоторой меры µ. Пользуясь теоремой Неймана — Фишера о факторизации, доказать, что вариационный ряд, построенный по выборке 1, . . . , , является достаточной статистикой для параметра θ.
Глава 8. Полные и достаточные статистики |
145 |
Задача 8.21. Доказать достаточность и полноту статистики для выборки из показательного распределения с параметром α.
Задача 8.22. Пусть 1, . . . , — выборка из нормального распределения со средним и единичной дисперсией. Найти условное совместное распределение выборки при условии 1 + · · · + = . Является ли достаточной статистикой для параметра ?
Задача 8.23. Пусть 1, . . . , — выборка из нормального рас- пределения со средним и дисперсией σ2. Будет ли статистика 2 достаточной для:
а) двумерного параметра ( , σ2); б) параметра σ2, если = 0; в) параметра σ2, если = 3?
Задача 8.24. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [−θ, θ]. Найти достаточную для параметра θ статистику со значениями в R.
Задача 8.25. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Найти достаточную для параметра α статистику = ( 1, . . . , ) со значениями в R такую, что любая другая достаточная статистика есть неслучайная функция от (такая достаточная статистика называется минимальной).
Задача 8.26. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью
α−1 −( −β)/α, |
если β, |
α,β( ) = {0, |
если < β, |
где α > 0, β R. Найти достаточную статистику для:
146 Глава 8. Полные и достаточные статистики
а) параметра β, если значение α известно; б) параметра α, если значение β известно; в) для двумерного параметра θ = (α, β).
Задача 8.27. Пусть 1, . . . , — выборка из гамма-распределе- ния с параметрами α = 1/θ и β, причём β известно. Существует ли достаточная для параметра θ > 0 статистика со значениями в R? Найти распределение статистики /β. Достаточная ли это статистика?
Задача 8.28. Пусть 1, . . . , — выборка из гамма-распределе- ния с параметрами α и β. Существует ли достаточная для двумерного параметра (α, β) статистика со значениями в R2?
Задача 8.29. Пусть дана выборка из распределения Парето с параметрами β > 0 и θ > 0. Найти достаточную статистику для:
а) параметра β, если значение θ известно;
б) параметра θ, если значение β известно;
в) векторного параметра (β, θ).
Задача 8.30. Пусть дана выборка из распределения Вейбулла с параметрами α > 0 и θ > 0. Найти достаточную статистику для θ, если значение α известно.
Задача 8.31. Пусть 1, . . . , — выборка из биномиального распределения с параметрами и . Найти условное совместное распределение выборки при условии 1 + · · · + = . Является ли достаточной статистикой для параметра при известном ?
Глава 8. Полные и достаточные статистики |
147 |
Задача 8.32. Пусть 1, . . . , — выборка из равномерного распределения на конечном множестве {1, . . . , θ}, где θ — целый положительный параметр. Найти достаточную для параметра θ статистику.
Задача 8.33. Является ли статистика = − 5 достаточной для параметра λ распределения Пуассона? Будут ли достаточными следующие статистики:
а) 2 ; |
г) sin ; |
||
б) |
2 |
; |
д) ; |
|
|
|
|
в) / 2; |
е) − ? |
||
Задача 8.34. Привести пример распределения, зависящего от параметра θ произвольной природы, для которого все достаточные статистики получаются взаимно однозначными преобразованиями вариационного ряда.
Задача 8.35. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. Доказать, что статистика вида = ( ) достаточна для параметра λ только в случае, когда отображение: Z+ → R взаимно однозначно.
Задача 8.36. Пусть 1, . . . , — выборка из геометрического распределения с параметром . Найти условное совместное распределение выборки при условии 1 + · · · + = . Является ли достаточной статистикой для параметра ?
Задача 8.37. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [−θ, θ]. Доказать полноту статистики = = max{| 1|, . . . , | |} для параметра θ.
Задача 8.38. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [θ, 2θ]. Доказать, что двумерная статистика
148 |
Глава 8. Полные и достаточные статистики |
( (1), ( )) не является полной.
Задача 8.39. Доказать полноту статистики для выборки из биномиального распределения с параметрами и , если значение известно.
Задача 8.40. Доказать полноту статистики для выборки из геометрического распределения с параметром .
Задача 8.41. Пусть 1, . . . , — выборка из равномерного распределения на конечном множестве {1, . . . , θ}, где θ — целый положительный параметр. Доказать, что статистика ( ) является полной для параметра θ.
Задача 8.42. Пусть 1, . . . , — выборка из распределения θ, θ Θ. Пусть θ = E 1. Доказать, что выборка ( 1, . . . , ) не является полной статистикой для параметра θ.
Задача 8.43. Пусть 1, . . . , — выборка из нормального распределения с нулевым средним и дисперсией σ2. Доказать полноту статистики 2 для параметра σ2.
Задача 8.44. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью
α−1 −( −β)/α, |
если β, |
α,β( ) = {0, |
если < β, |
где α > 0, β R.
а) Доказать, что (1) — полная статистика для β при известном значении α.
б) Доказать, что — полная статистика для α при известном значении β.
Глава 8. Полные и достаточные статистики |
149 |
в) Привести пример полной статистики для двумерного параметра θ = (α, β).
Задача 8.45. Пусть 1, . . . , — выборка из распределения θ,
θ Θ R , и = ( 1, . . . , ) — некоторая статистика со значениями в R . Пусть борелевские функции 1 и 2, действующие
из R в R , таковы, что 1( ) и 2( ) имеют одинаковое смещение. Доказать, что если статистика полна, то P( 1( ) = 2( )) = 1.
Г Л А В А 9
Эффективность и-эффективность
Пусть { θ, θ Θ} — некоторое параметрическое семейство распределений. Пусть 1, . . . , — выборка из распределения θ и θ* = θ* ( 1, . . . , ) — некоторая оценка параметра θ со смещени-
ем (θ) = Eθ* − θ.
Оценка θ* называется эффективной в классе оценок со смещением (θ), если она не хуже в среднеквадратическом смысле любой другой оценки с тем же смещением (θ).
Справедлива следующая теорема.
Теорема 8. Пусть = ( 1, . . . , ) — достаточная и полная статистика для параметра θ. Тогда оценка θ* = E(θ* | ) является единственной эффективной оценкой в классе оценок со смещением
(θ).
Как следует из этой теоремы, безразлично, какую именно оценку из класса
= {θ* : Eθ* = (θ) + θ}
усреднять по полной и достаточной статистике, результат будет одним и тем же. Однако сама процедура усреднения (взятия условного математического ожидания) может оказаться существенно проще, если удачно выбрать усредняемую оценку. Например, если θ* есть