Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория вероятностей и случайные процессы. Учебное пособие
.pdf
Оценкà˜θnназываетсÿ
ðàθ, åñëè äëÿ любого
(сильно) состоятельной оценкîé парамет-
θ ∈ Θ
ïðè
n → ∞
˜
θ
n
имеет место ñõîдимость
ï. í.
−→ θ,
(11.6)
òî åñòü
P{˜θn→ θ} = 1
.
Ê следующему примеру ìû áóäåì часто возвращатьсÿ â дальнейшем.
Пример 11.2.
(Задача î ðасписàíèè автобусов). Придя íà остановку,
ïàññàæèð пытается оценить длительность интервалов между автобу-
ñàìè âûáðанного èì маршрута. Îí анкетирует других ïàññажиров, îæè-
дающих ýòîò автобус, è ó каждого èçnïàññажиров выясняет âðåìÿ,
проведенное èì íà остановке, ïîлучая таким îáðàçîì выборку
Предполагается, ÷òî
пределения
U
[0; θ]
X1, . .. , Xnîáðазуют выборку èç ðàâíîмерного ðàñ-
,
ãäå
θ > 0
неизвестный ïàðаметр интервал âðåìå-
X1, . .. , Xn.
íè между автобусàìè.
Первый ïàññàæèð предлагает äëÿ оценки ïàðаметрàθèñïîльзовать
выборочное среднее, ò. å. ïîлучить оценку â âèäåθ1= c1X
.
Второй ïàññàæèð предлагает èñïîльзовать ñàìîå áîльшое âðåìÿ
ожидания, ò. å. ïîлучить оценку â âèäåθ2= c2X
(n)
.
Третий ïàññàæèð предлагает ñложить ñàìîå áîльшое è ñàìîå ìà-
ленькое âðåìÿ ожидания:θ3= X
Вычисëèòü константы
c1,
+ X
(n)
(1)
.
c2, обеспечивающие íåñмещенность îöå-
íîêθ1,θ2. Проверить íåñмещенность оценкиθ3. Èññледовать сильную
состоятельность âñåõ ïîлученных оценок.
Ðешение.
Вычислим математическîå îжидание ñòатистикиθ1:
Eθ1= c1EX = c1EX1= c1θ/2.
Óсловие несмещенности выполнено, åñëè
Eθ1= c1θ/2 = θ.
Îòñþäà ñ íåîáõîдимостью
щенную оценку:θ1= 2X
íîãî çàêîíà больших чисел: òàê êàê
ï. í. â ñèëó непрерывности функции
c1= 2
. Èòàê, ìû получили первую несме-
. Åå сильная состоятельность следуåò èç óсилен-
X → EX1= θ/2
y(t) = 2t
.
ï. í., òîθ1= 2X → θ
Исследование оценкиθ2çíàчительно более òðóдоемкî. Найдем распре-
деление ñòатистики
F
X
(n)
X
(n)
(y) = P{X
. Åå функция распределения равна
< y} = P{max(X1, . .. , Xn) < y} =
(n)
101
ãäå
= P{
n
(Xi< y)} =
i=1
F (y) =
n
P(Xi< y) = Fn(y),
i=1
0,
åñëè
åñëè
åñëè
y ≤ 0
0 < y ≤ θ,
y > θ.
y
,
θ
1,
функция распределения çàêîíà
плотность распределения случайной величины
f
(y) = nF
X
(n)
Ïîäñòавляя â последнее равенство функцию распределения çàêîíà
è åãî плотность
f(y) =
íàõîäèì плотность распределения
f
(y) =
X
(n)
U
[0; θ]
n−1
(y)F′(y) = nF
1
,
åñëè
θ
0,
åñëè
X
(n)
n−1
ny
,
n
θ
0,
. Дифференцируÿ
X
:
(n)
n−1
(y)f (y).
y ∈ (0, θ),
y /∈ [0, θ],
:
åñëè
y ∈ (0, θ),
åñëè
y /∈ [0, θ].
F
(y)
, найдем
X
(n)
U
[0; θ]
(11.7)
Äëÿ проверки несмещенности найдем математическîå îжидание îöåí-
êè:
E
θ = EθX
θ
(n)
θ
=
y
0
Îòñþäà следуåò, ÷òî оценкàθ2= c
äëÿ параметраθïðè óсловии
(n + 1)/n
. Ìû получили вторую несмещенную оценку:θ2= (n + 1)X
n−1
ny
dy =
n
θ
n
n + 1
θ = c2X
2
c2nθ/(n + 1) = θ
θ
n+1
y
n
θ
являетсÿ несмещенной
(n)
n
=
0
n + 1
θ.
. Îòñþäà íàõîäèì
c2=
(n)
/n
Проверим сильную состоятельностьθ2. Ñîãласно отмеченному ñâîé-
ñòâó ñõîдимости почти наверное, ìàêсимум èç независимых îдинакîâî ðàñ-
пределенных случайных величин, имеющих íà интервале ïîëîжительную
плотность, ñõîäèòñÿ ï. í. ê правому êîíöó интервала:
.
Òàê êàê
(n + 1)/n → 1
непрерывности функции
θ2= (n + 1)/n · X
X
→ θ
(n)
ï. í.
êàê числовая последовательность, òî â ñèëó
g(x, y) = xy
имеет место ñõîдимость
→ 1 · θ = θ
(n)
ï. í.
102
Äëÿ äîêазательства несмещенности третьей оценки заметим, ÷òî ìèíè-
ìóì выборки
середины отрезкà
X
распределен симметрично ìàêсимуму
(1)
θ/2
, ò. å. äëÿ âñåõtвыполнено
X
относительно
(n)
P{X
< t} = P{θ −X
(1)
(n)
< t}.
Îòñþäà
EX
= θ − EX
(1)
E
θ3= θ
θ
оценкà несмещенная.
 ñèëó òîé æå симметрии получаем, ÷òî
рывности функции
g(x, y) = x + y
= θ/(n + 1),
(n)
X
→ 0
(1)
ï. í., è â ñèëó непре-
имеет место ñõîдимостьθ3→ θ
ï. í.
11.5. Оценки ìåòîäîì моментов
Наиболее распространенными ìåòîäàìè íàõîждения оценок являютсÿ
метод ìîментовèметод максимального ïðавдоподобия
Ìåòîä моментов (îдномерный случай)
Ïóñòü
θ ∈ Θ
- îдномерный параметр, è
g : R −→ R
числовая функция. Òîãäà ïî данной выборкåX = (X1, X2, ..., Xn)
построить выборкуg(X) = (g(X1), g(X2), ..., g(Xn)).
n
g(X) =
1
g(Xi)
n
i=1
выборочное среднее ýòîé выборки. Ñ другой стороны, ìîæíî найти теоре-
тическîå среднее выборкиg(X) :
mg(θ) = Eg(Xi).
.
íåêоторая
ìîæíî
Обозна÷èì
Определение 11.1.
òàêîå çíàчение
g(X)
совпадает ñ выборочным средним:
∗
θ
= θ
g
Оценкой метода ìîментов
∗
(X)
, ïðè êотором теоретическîå среднее выборки
g
∗
mg(θ
) = g(X),
g
(ÎÌÌ) называетсÿ
(11.8)
òî åñòü ÎÌÌ являетсÿ решением уравнения (11.8) относительно неизвест-
∗
íîãî
θ
.
g
Åñëè ïðè ýòîì îêазываетсÿ, ÷òî функция
монотонна, òî äëÿ íåå существуåò обратная
∗
θ
(X) = m
g
−1
g
(g(X)).
mg(θ)
m
непрерывна è строго
−1
,
è ÎÌÌ имеет âèä:
g
103
 êàчестве функции
g(x) = xk,
êèg(X)
ãäå
совпадает ñ теоретическим моментом соответствующего ïîðÿäêà,
например, åñëè
mg(θ) = EX
2
= α2(θ)
i
k = 1, 2,...
g(X) = x
g
÷àùå всего выбирают степенные функции:
. Â ýòîì случае теоретическîå среднее выбор-
, òî
mg(θ) = EXi= α1(θ);
, è ò.ä. Ïðè ýòîì уравнение (11.8) äëÿ íàõîждения
ÎÌÌ приобретàåò âèä:
αk(θ∗) = Xk.
Оценкà ïî ìåòîäó моментов â ýòîì случае называетсÿ
òîìó ìîменту
è обозначаетсÿ
Отметим, ÷òî åñëè функция
нотонна, òî оценкà ïî ìåòîäó моментов
∗
θ
k
mg(θ) = Eg(X1)
∗
θ
(X) = m
g
непрерывна è строго ìî-
ятельна.
Ìåòîä моментов (многомерный случай)
−1
(g(X))
g
åñëè
g(X) = x2, òî
оценкой ïîk-
сильно состо-
(11.9)
ÏóñòüX ⊂= Fθ,
гомерный. Ðассмотрим äëÿ простоты двумерный случай, òî åñòü
(θ1, θ2)
. Òîãäà äëÿ îднозначного íàõîждения äâóõ неизвестных
ãäå параметр
θ ∈ Θ
, ïîäëåæàùèé оцениванию, ìíî-
θ =
θ1, θ2îä-
íîãî уравнения (11.8) (èëè (11.9)) недостаточно. Оценкîé ìåòîäà моментов
∗
â ýòîì случае называетсÿ решение
(θ
∗
, θ
)
системы уравнений âèäà:
1
2
m
(θ1, θ2) = g1(X),
g
 êàчестве функций
функции
gi(x) = xk,
1
m
(θ1, θ2) = g2(X).
g
2
g1, g2ìîæíî выбрать, êàê è раньше, степенные
ãäå
k = 1, 2, ...
. Òîãäà уравнения системы (11.10) ïî-
(11.10)
лучаютсÿ êàê ðåçóëüòàò приравнивания эмпирических моментов выборки
X
соответствующим теоретическим. Например, приравнивая первые äâà
моментà, получим систему:
α1(θ1, θ2) = X ,
α2(θ1, θ2) = X2.
(11.11)
Êàê è раньше, вместо вторых моментов ìîæíî приравнивать дисперсии.
11.6. Ðешение типовых примеров
Пример 11.3.
(3, 8, 6, 4, 6, 1, 5, 4, 9, 4)
Ïî данной ðåализации выборки
x =
построить ðåализацию вариационного ðÿäà,
104
∗
F
(t)
n
6
10
10
10
10
10
10
1
9
8
6
5
2
1
u
u
u
u
u
u
u
0 1 3 4 5 6 8 9
Ðèñ. 11.4: Эмпирическàÿ функция распределения
ãðафики ðåализаций ýмпирической функции ðаспределения è гистогрàì-
ìû. ×èñëî интервалов äëÿ построения гистогрàììû âûáðàòü ïî ôîðìóëå
Стеджесà.
Ðешение.
данной реализации выборки, располоæèâ èõ â ïîðÿäêå возрастàíèÿ:
Ðеализацию вариационного ðÿäà образуåì èç элементов
∗
F
(t)
.
n
-
t
Объем выборки
n = 10
1, 3, 4, 4, 4, 5, 6, 6, 8, 9.
. График реализации эмпирическîé функции ðàñ-
(11.12)
пределения строим ñ помощью полученной реализации вариационного ðÿ-
äà: ýòî ступенчатàÿ функция ñî ñêà÷êàìè â òî÷êàõ вариационного ðÿäà,
принимающая çíàчение 0 â промежуткå
êàõ
x
, равные частоте элементà
(i)
равен
1
, ñêà÷îê â òî÷êå
10
x
= 3
(2)
(−∞, 1]
x
. Например, ñêà÷îê â òî÷êå
(i)
равен
è имеющая ñêà÷êè â òî÷-
1
è ò.ä. График реализации
10
x
= 1
(1)
эмпирическîé функции распределения изображåí íà ðèñ.11.4
Ðасчитàåì число промежуткîâ ïî формуëå Стеджåñà:
1 = 3 + 1 = 4
2
. Ðазобьем отрезок
. Ðазмах выборки равен
[1; 9]
íà промежутки длины
9 −1 = 8
, øàã гистограммы
h = 2
K = [log210] +
h = 8/4 =
:
∆1= [1; 3); ∆2= [3; 5); ∆3= [5; 7); ∆4= [7; 9].
105
Число элементов выборки, попавших â интервал
логично íàõîäèì:
ν2= 4; ν3= 3; ν4= 2.
Вычисляя çíàчения функции
∗
f
n
(t) =
ν
k
, t ∈ ∆kíà êаждом èç интервалов
nh
∆k, строим гистограмму (ðèñ.11.5):
f∗(t)
6
4
10
∆1, равно
ν1= 1
. Àíà-
1
20
1
10
0 1 3 5 7 9
Ðèñ. 11.5: Гистограмма
Пример 11.4.
ПустьX ⊂= Πλ, ãäå
3
10
∗
f
n
λ > 0
2
10
-
(t)
.
неизвестный ïàðà-
t
ìåòð. Найти оценки ïàðаметрàλïî à) первоìó è á) второìó ìîментам.
Ðешение.
получаетсÿ сразу èç равенств (11.8) èëè (11.9): заменяяλíà
X
, получаем
à) Òàê êàê äëÿ распределения Ïóассона
∗
λ
= X.
1
EXi= λ,òîλ
∗
λ
, à
EXiíà
1
á) Â ýòîì случае вычисляем второй момент распределения Ïóассона:
2
EX
= (EXi)2+ DXi= λ + λ2.
i
Приравнивая ýòó функцию второму выборочному моменту è заменяя
∗
λíàλ
èç êоторого íàõîäèì
, получим уравнение:
2
∗
λ
:
2
∗
2
+ (λ
∗
)2= X2,
2
λ
1
∗
λ
= −
2
1
±
2
+ X2.
4
∗
1
106
Òàê êàê
∗
λ
> 0,
2
ÎÌÌ имеет âèä:
òî èç äâóõ решений выбираем îäíî ïîëîжительное, è
1
∗
λ
(X) = −
2
1
+
2
+ X2.
4
Замечание 11.1.
Èç äâóõ найденных оценок
∗
λ
представляется
1
предпочтительней. Во-первых, îíà íåñмещенная, òàê êàê
Eλλ
∗
1
= E
n
1
λ
Xi=
n
i=1
1
n
n
i=1
EλXi=
1
nλ = λ;
n
во-вторых, îíà состоятельная â ñèëó усиленного закона áîльших ÷èñåë
(ÓÇÁ×).
 òî æå âðåìÿ, оценка
∗
λ
менее удобна äëÿ èññледования, õîòÿ
2
îíà является состоятельной (проверьте, èñïîльзуя ÓÇÁ×). Например,
èññледовать äëÿ íåå свойство íåñмещенности технически трудная çà-
äà÷à.
Пример 11.5.
ПустьX ⊂= U
[θ1; θ2]
,
ãäå
−∞ < θ1< θ2< ∞
неизвестные ïàðаметры. Найти ÎÌÌ.
Ðешение.
Вычислим моменты первых äâóõ ïîðÿäêîâ равномерного
распределения
θ1+ θ
α1(θ1, θ2) = EXi=
DXi=
(θ2− θ1)
12
2
,
2
2
.
Ñîñòàâèì систему уравнений, приравнивая теоретические è эмпириче-
ñêèå математическîå îжидание è дисперсию:
EX1= X,
DX1= S2,
Ðåøàÿ последнюю систему относительно неизвестных
⇐⇒
θ1+θ
2
2
(θ2−θ1)
12
= X,
2
= S2,
θ1+ θ2= 2X,
⇐⇒
θ2− θ1=√12S.
θ1, θ2(вычитàÿ è
складывая уравнения системы), получим оценки ÌÌ:
∗
θ
= X −√3S, θ
1
∗
= X +√3S.
2
107
11.7. Çàäà÷è äëÿ самостоятельного решения
11.1
Ïî данной реализации выборки
à) построить графики эмпирическîé функции распределения è гисто-
граммы;
á) вычислить выборочные среднее è дисперсию.
11.2
Проводились опыты ñ бросанием îдновременно 12 игральных êостей.
Наблюдаемую случайную величину
êоторых выпало íå больше òðåõ î÷êîâ. Ïóñòü
наблюдалось çíàчение
X = i; i = 0, 1, ..., 12.
приведены â следующей òаблице:
i 0 1 2 3 4 5 6 7 8 9 10 11 12
νi0 7 60 198 430 731 948 847 536 257 71 11 0
x = (0, 0, 1, 1, 0, 0, 0, 0, 0, 1)
X
ñ÷èòàëè равной числу êостей, íà
:
νi- число опытов, â êоторых
Данные äëÿ
n = 4096
опытов
à) Построить гистограмму è сравнить åå ñ графикîì функции
2
x
−
6
ce
.
y =
á) Вычислить выборочные среднее è дисперсию.
11.3
Измерен ðîñò (â ñì) ñòóдентов îäíîé ó÷åá-
íîé группы. Ðåçóëüòàòû измерений äàëè выборку
(171; 186; 164; 190; 158; 181; 176; 180; 174; 157; 176; 169; 164; 186)
.
à) Построить реализацию гистограммы.
á) Вычислить реализации выборочного среднего, выборочной диспер-
ñèè è выборочного ñòандартного отклоненияS. Íà îäíîì графикå ñ гисто-
граммой построить график плотности нормального çàêîíà ñ параметрами
X,S2.
11.4
Пассажир маршрутного òàêñè измерил 8 ðàç время îжидания òàêñè
è получил следующие ðåçóëüòàòû (â минутàõ): 8; 4; 5; 4; 2; 15; 1;
6. Ó íåãî åñòü äâå гипотезы относительно графикà äâèæåíèÿ òàêñè: ëè-
áî график äâèæåíèÿ соблюдаетсÿ, è время îжидания имеет равномерное
распределение íà отрезкå
[0; θ]
, ëèáî график äâèæåíèÿ íå соблюдаетсÿ, è
время îжидания имеет ïîêазательное распределение ñ параметромλ.
à) Вычислить реализации оценок параметровθèλ, использовав оценки
θ2= (n + 1)X
(n)
/n
èλ2=
n−1
nX
.
á) Построить íà îäíîì графикå реализацию эмпирическîé функции
распределения è теоретические функции распределения равномерного è
ïîêазательного çàêîíîâ, â êоторые вместо неизвестных параметров ïîä-
ñòавлены реализации èõ оценок.
â) Построить íà îäíîì графикå реализацию гистограммы è теоретиче-
ñêèå плотности распределения равномерного è ïîêазательного çàêîíîâ, â
108
êоторые вместо неизвестных параметров ïîäñòавлены реализации èõ îöå-
íîê.
ã) Íà основании проведенного исследования ñделать âûâîä î òîì, êàêàÿ
èç гипотез âûãлядит более соответствующей ýêспериментальным данным.
11.5
ÏóñòüX ⊂= N(a, σ2).
Вычислить
EX, DX.
Êàêîå распределение
имеет случайная величинаX?
11.6
Äàíà выборкà
X ⊂= Π(λ),λ > 0
неизвестный параметр. Проверить,
÷òî ñòатистики
n
T1= X, T2=
1
I(Xi= k), T3=
n
i=1
являютсÿ несмещенными оценкàìè соответственно äëÿλ,
X1+ X
2
n
k
λ
−λ
e
k!
èλ.
Являютсÿ ëè ýòè оценки состоятельными?
11.7
Ïî выборкå
неизвестным параметром
(X1, . . . , Xn)
p ∈ (0; 1)
èç бернуллиевскîãî распределения
построить оценки параметраp:
Bpñ
a) ïî первому моменту;
á) ïî второму моменту;
â) ïî произвольномуk-ìó моменту.
Ìîæíî ëè îòäàòü предпочтение êàêîé-ëèáî èç построенных оценок?
Исследовать èõ состоятельность è несмещенность.
11.8
Ïî выборкå
(X1, . . . , Xn)
èç биномиального распределения
B
ïî-
m,p
строить оценки ìåòîäîì моментов:
a) параметраpïî первому è ïî второму моменту ïðè известном
m > 0
á) параметровpèm.
Исследовать состоятельность построенных оценок.
11.9
Ïðè êàêèõ çíàчениях параметра
ностью
fθ(t) =
θ > 0
θ
, t ≥ 1,
θ+1
t
0, t < 1
распределения Парето ñ ïëîò-
;
существуåò оценкà параметра ïî первому моменту? Ìîæíî ëè построить
состоятельную оценку ìåòîäîì моментов â случае, êîãäà оценки ïî перво-
ìó моменту íå существуåò?
11.10
fλ(t) =
Ïî выборкå
λ
−λ|t|
e
2
(X1, . . . , Xn)
,
t ∈ R
èç распределения Лапласа ñ плотностью
, построить оценку параметра
λ > 0
ìåòîäîì момен-
òîâ.
11.11
Ïóñòü äàíà выборкà èç нормального распределения ñ параметрами
αèσ2. Используÿ ìåòîä моментов, построить оценки
à) неизвестного математическîãî îжиданияα;
á) неизвестной дисперсии
σ2, åñëèαизвестно;
109
â) неизвестной дисперсии
σ2, åñëèαнеизвестно.
Исследовать полученные оценки íà несмещенность è состоятельность.
11.12
Используÿ ìåòîä моментов, оценить параметрθравномерного ðàñ-
пределения íà отрезкå
à)
[−θ; θ],θ > 0
; á)
[θ; θ + 1]
.
Исследовать полученные оценки íà несмещенность è состоятельность.
11.13
Ñ помощью ìåòîäà моментов найти оценки параметровaèbравно-
мерного распределения íà отрезкå
11.14
Используÿ ìåòîä моментов, построить áåñêонечную последователь-
[a, b]
. Áóäóò ëè îíè состоятельными?
ность различных оценок параметраθравномерного распределения íà îò-
ðåçêå
[0; θ]
. Áóäóò ëè полученные оценки состоятельными?
11.15
Ñ помощью ìåòîäà моментов построить оценку параметра
θ > 0
åñëè распределение выборки имеет плотность
θ−1
à)
θt
ïðè
t ∈ [0; 1]
; á)
2t/θ2ïðè
t ∈ [0; θ]
.
Исследовать полученные оценки íà состоятельность.
11.16
Äàíà выборкà èç распределения ñ плотностью
fθ(t) =
3t2θ−3, t ∈ [0; 1],
0, t ∈ [0; 1].
,
Найти оценку параметра
θ > 0
ìåòîäîì моментов, исследовать åå íà
несмещенность è состоятельность.
11.17
Ìåòîäîì моментов найти оценку параметра
ïîêазательного распределения ñ плотностью
fα(t) = αe
α > 0
−αt
ëè оценкà несмещенной è состоятельной?
11.18
оценки параметра
Ïî выборкå
(X1, . .. , Xn)
p ∈ (0, 1)
, åñëè известно, ÷òî
ìåòîäîì моментов найти äâå различные
P {X1= 1} = p/2, P {X1= 2} = p/2, P {X1= 3} = 1 −p
.
Áóäóò ëè полученные оценки несмещенными è состоятельными?
110
ïî выборкå èç
,
t > 0
. Áóäåò
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]