Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория вероятностей и случайные процессы. Учебное пособие
.pdf
Ðèñ. 13.5: Оценка функции сдвинутого показательного ðаспределения
методоì максимального ïðавдоподобия.
Сравнивая ðåçóëüòàò ñ ðèñ. 13.3, видим, ÷òî использование оценок ìàê-
симального правдоподобия позволяет более точно приблизить эмпириче-
ñêóþ функцию распределения.
Построим оценки параметров распределения Парето ïî первому è âòî-
ðîìó моментàì. Вспомним, ÷òî плотность распределения задаетсÿ форму-
ëîé
Вычислим
= γh
EXiè
EXi=
γ
h
f
γ,h
∞
(t) =
2
EX
:
i
∞
tf
γ,h
−∞
t−γdt = γ h
γhγt
0
(t)dt =
t
γ
−γ + 1
−(γ+1)
−γ+1
,
åñëè
t ≥ h;
èíà÷å
.
∞
h
∞
|
h
tγhγt
=
γhγh
γ − 1
−(γ+1)
−γ+1
dt =
=
γh
γ − 1
,
131
åñëè
γ > 1
(â противном случае математическîå îжидание íå существуåò).
Аналогично
2
EX
=
i
−∞
∞
γ
−γ+1
t
h
åñëè
= γh
γ > 2
(â противном случае второй момент íå существуåò).
Получаем систему уравнений
∞
t2f
dt = γ h
γ,h
(t)dt =
−γ+2
t
γ
−γ + 2
EXi=
2
EX
i
∞
h
∞
|
h
2
γh
,
γ−2
2
γh
=
.
γ−2
t2γhγt
γhγh
=
−(γ+1)
−γ+2
γ − 2
dt =
=
2
γh
γ − 2
,
Выразим параметры:
γ − 1
h =
γ(γ −1)
2
γ2(γ − 2)
(γ − 1)2(EXi)2= γ(γ − 2)EX
EXi,
γ
(EXi)2= EX
2
,
i
2
.
i
Получаем квадратное уравнение:
DXiγ2− 2DXiγ − (EXi)2= 0.
Ðåøàÿ åãî è выбирая ïîëîжительный êорень, получаем:
2
γ = 1 +1 +
(EXi)
DX
.
i
Заменим математическîå îжидание è дисперсию íà выборочное ñðåä-
íååXè выборочную дисперсию
S2, à параметрыhèγíà èõ оценки
h∗è
γ∗. Получим оценки параметров:
γ∗= 1 +1 +
h =
γ∗−1
∗
γ
X.
(X)
S
2
,
2
Отметим, ÷òî оценкà параметраγâñåãäà íå меньше числа 2, ÷òî ñîîò-
ветствуåò требованию ê параметру, обеспечивающему êонечность второго
132
моментà. Найдем реализации оценок ïî выборкå è построим графики ðå-
ализаций параметрическîé оценки функции распределения
F (t, h∗, γ∗)
ïî
формуëå
=ЕСЛИ(СТРОКА()
< R$1; 0;1 −
(СТРОКА()
è эмпирическîé функции распределения
ðèñ. 13.6.
Ðèñ. 13.6: Оценка функции ðаспределения Парето
методоì ìîментов.
/R$1)∧(−R$2))
∗
F
(t)
. График приведен íà
n
Èç рисункà видно, ÷òî приближåíèå â ýòîì случае îêазываетсÿ очень
íåóäà÷íûì.
Получим оценки параметров распределения Парето ìåòîäîì ìàêñè-
мального правдоподобия.
Ñíà÷àëà найдем оценку параметраhнепосредственно отысканием òî÷-
êè ìàêсимума функции правдопобобия. Äëÿ этого запишем функцию ïðàâ-
äîïîдобия
Π(X,h, γ) =
0
n
i=1
(γhγX
−(γ+1)
i
),
åñëè âñå
èíà÷å
.
Xi≥ θ;
133
Зависимость функции правдоподобия îò параметраhимеет òîò æå õà-
рактер, ÷òî è â случае ñдвинутого ïîêазательного распределения зависи-
мость îò параметраθ. Îíà изображåíà ñõематично íà ðèñ. 13.4. Åå ìàê-
симум достигàåòñÿ â òî÷êåh = min{Xi}
, êоторая являетсÿ оценкîé ìàêñè-
мального правдоподобия параметраh.
Найдем оценку ìàêсимального правдоподобия параметраγ. Äëÿ этого
последовательно вычислим
ln f (t, h, γ) = ln γ + γ ln h − (γ + 1) ln t
ïðè
t ≥ h
;
ïðè
∂
ln f (t, h, γ) =
∂γ
t ≥ h
. Приравнивая произвоäíóþ ëîãарифма функции правдоподобия
1
+ ln h −lnt
γ
ê íóëþ, получаем уравнение äëÿ определения оценки параметраγ:
n
i=1
1
+ ln h −lnX
γ
= 0,
i
решением êоторого являетсÿ
γ =
1
ln X − ln h
.
Ïîñêольку параметрhнеизвестен, заменим åãî íà оценку ìàêсималь-
íîãî правдоподобияh = min{Xi}
(òàê æå ìû поступали ïðè íàõîждении
оценок äëÿ ñдвинутого ïîêазательного распределения) è получим
1
.
Óсловие
Xi≥h
γ =
ln X − ln(min{Xi})
îêазываетсÿ выполненным автоматически.
Найдем реализации оценок ìàêсимального правдоподобия. Отметим,
÷òî äëÿ íàõîждения выборочного óсреднения ëîãарифма
ln X
нужно ïðåä-
варительно â îòдельном столбикå вычислить ëîãарифмы âñåõ выборочных
çíàчений, ñêопировав функцию
=LN(A1)
, è затем вычислить среднее èç 30
çíàчений ëîãарифмов.
Построим графики реализаций параметрическîé оценки функции ðàñ-
пределения
функции распределения
F (t,h,γ)
(êàê äëÿ оценок ìåòîäîì моментов) è эмпирическîé
∗
F
(t)
.
n
134
График приведен íà ðèñ. 13.7.
Ðèñ. 13.7
Анализируÿ график, видим, ÷òî äëÿ распределения Парето è оценки
ìàêсимального правдоподобия íå äàþò õорошего приближåíèÿ эмпириче-
ñêîé функции распределения. Íà основании проведенного исследования
ìîæíî заключить, ÷òî более адекватной ìîделью являетсÿ ìîäåëü ñäâè-
нутого ïîêазательного распределения, è лучший ìåòîä оценивания åå ïà-
раметров ìåòîä ìàêсимального правдоподобия. Оценки ìàêсимального
правдоподобия здесь получаютсÿ смещенными, îäíàêî ìû íå áóäåì обсуж-
äàòü, êàê ìîæíî уменьшить смещение.
135
13.2. Çàäà÷è äëÿ самостоятельного решения
Çàäà÷à 13.1
 òåêñòå çàäà÷è через обозна÷åí номер ñòóäåíòà ïî списку
группы.
1. Äëÿ выборки
X1, . . . , Xnèç равномерного распределения íà
получить оценки параметраθìåòîäîì моментов íà основании ïåð-
X1/
âîãî, второго, +2-ãî моментà. Вычислить
E(X1+)e
ýòîì основании получить оценку параметраθчерез óсреднение ñî-
ответствующей функции ïî выборкå.
2. Äëÿ òîé æå выборки найти оценку ìàêсимального правдоподобия
параметраθ, вычислить åå математическîå îжидание è исправить
åå, получив несмещенную оценку.
3. Ãенерировать реализацию выборки объема
íîãî распределения íà
[0; θ]
, приняв
θ =
n = 100+
.
èç равномер-
4. Вычислить реализации âñåõ полученных оценок. Ïîдсчитàòü àáñî-
лютные погрешности оценивания è ранжировать оценки ïî абсолют-
íîé погрешности.
Çàäà÷à 13.2
Случайная величина имеет ëîãарифмически нормальное распределе-
íèå, åñëè åå ëîãарифм распределен ïî нормальному çàêîíó.
1. Äëÿ выборки
X1, . . . , Xnèç ëîãарифмически нормального распре-
деления ñ параметрамиa,σполучить оценки параметров ìåòîäîì
моментов è ìåòîäîì ìàêсимального правдоподобия.
2. Ãенерировать реализацию выборки объема
U1U2U3/U4, ãäå
деленные íà
U1, . .. , U4 случайные числа, равномерно распре-
[0; 1]
. Построить гистограмму, выбрав число проме-
n = 100
ïî формуëå
æóòêîâ группирования ïî формуëå Стеджåñà.
3. Ïî реализации выборки вычислить реализации âñåõ полученных îöå-
íîê.
4.∗Найти теоретические çíàчения параметров. Ïîдсчитàòü абсолют-
íûå погрешности оценивания è ранжировать оценки ïî абсолютной
погрешности.
[0; θ]
è íà
136
Ãëàâà 14
Интервальное оценивание
14.1. Определение доверительного
интервала
Ïóñòü имеетсÿ выборкà объемаnèç распределения, известного ñ точно-
ñòüþ äî параметра:X ⊂= F (t, θ), θ ∈ Θ.Доверительным интервалоì ñ
уровнеì доверияγ(γ-доверительным интервалом) äëÿ неизвестного ïà-
раметра
ïî выборкå, êоторый накрывает неизвестное çíàчение параметра ñ âåðîÿò-
ностью, равнойγ, èëè ïî крайней ìåðå стремящейсÿ êγñ ростом объема
выборки, òî åñòü
θ
называют случайный интервал
(θ−; θ+) ⊂ Θ
, построенный
P{θ ∈ (θ−; θ+)} → γ
ïðè
n → ∞
 случае, êîãäà вместо ñõîдимости выполняетсÿ точное равенство, äî-
верительный интервал называетсÿ
θ−, θ+ ýòî оценки параметраθ, называемые
доверительными ãðаницами
доверительная âåðîятность, выбираетсÿ заранее è отражàåò, êàê ñêазано
â [7], ¾степень готовности миритьсÿ ñ возможностью ошибки¿: ÷åì менее
ìû готовы миритьсÿ ñ возмоæíîé ошибкîé, òåì большее (более близкîå ê
единице) çíàчениеγдолжны óñòанавливать.
.
точным
. Число
137
.
γ ∈ (0; 1)
нижней è верхней
уровень доверия, èëè
(14.1)
14.2. Ðаспределения, связанные
ñ нормальным
Ïðè построении доверительных интервалов äëÿ параметров нормально-
ãî распределения ìû áóäåì использовать äâà специальных распределе-
íèÿ, связанных ñ нормальным: распределение хи-квадрат è распределение
Ñòüþäåíòà. Название ¾распределение Ñòüþäåíòà¿ связано ñ именем àí-
ãлийскîãî ñòатистикà Ê. Ãоссетà, êоторый ïîдписывал ñâîè работы ïñåâ-
донимом ¾Ñòüþäåíò¿.
Случайная величина
ìè свободы
ãäå
X1, . . . , Xn независимые случайные величины ñî ñòандартным íîð-
, åñëè
мальным распределением. Отметим, ÷òî ¾число степеней свобоäû¿ ýòî
просто традиционное название äëÿ параметраnраспределения хи-квадрат.
Параметрn ïîëîжительное целое число. Â частности, ïðè
лучаем квадрат îäíîé случайной величины ñî ñòандартным нормальным
распределением:
Z1= X2, ãäå
Áóäåì использовать следующее обозначение:
Отметим следующие свойства распределения хи-квадрат.
Следствие 14.1.
1)
EZn= n
2)
Zn/n → 1
;
почти наверное ïðè
Znимеет
Zn= X
X ⊂= N
Пусть
ðаспределение хи-квадрàò ñnстепеня-
2
+ . . . + X
1
2
,
n
n = 1
.
Zn⊂= χ
0, 1
2
. Òîãäà
n
n → ∞
Zn⊂= χ
.
2
.
n
ïî-
Äîêазательство.
Во-первых,
EZ1= EX2= DX + (EX)2,
ãäåXимеет ñòандартное нормальное распределение, è потому
DX = 1
. Следовательно,
EX = 0
EZ1= 1 + 02= 1.
1) Ïî определению распределения хи-квадрат,
EZn= E(X
2) Òàê êàê
2
+ . . . + X
1
Zn сумма независимых îдинакîâî распределенных ñëó-
2
) = EX
n
2
+ . . . + EX
1
2
n
= nEX
2
= n · 1 = n.
1
чайных величин, òî справедлив çàêîí больших чисел Колмогорова:
Zn/n =
X
2
1
+ . . . + X
n
2
n
→ EX
2
= 1
1
138
,
почти наверное ïðè
Случайная величина
ìè свободы
, åñëè
n → ∞
Ynимеет
. Äîêазательство завершено.
ðаспределение Стьюдента ñnстепеня-
Yn=
,
X
Zn/n
ãäå случайные величиныXè
нормальное распределение, à
Znнезависимы, причемXимеет ñòандартное
Znимеет распределение хи-квадрат ñnñòå-
пенями свобоäû. Здесь, êàê è ó распределения хи-квадрат,n ýòî просто
ïîëîжительный целый параметр.
Áóäåì использовать следующее обозначение:
Yn⊂= Tn.
Отметим следующие свойства распределения Ñòüþäåíòà.
Следствие 14.2.
1) äëÿ любогоtâûïîлнено
Пусть
Yn⊂= Tn. Òîãäà
P{Yn< −t} = P{Yn> t}
, òî åñòü ðаспре-
äåление Стьюдента симметрично;
2)
Yn→ X
почти наверное ïðè
n → ∞
, ãäåXимеет стандартное
íîðмальное ðаспределение.
Äîêазательство.
1) Симметрия следуåò èç симметрии ñòандартного нормального ðàñ-
пределения:
P{Yn< −t} = P{X < −tZn/n} = P{X > tZn/n} = P{Yn> t}.
2) Ñõîдимость следуåò èç свойства ñõîдимости почти наверное, непре-
рывности функции
x/√y
è èç свойства распределения хи-квадрат. Äîêà-
зательство завершено.
14.3. Òочные доверительные интервалы
Наиболее распространенной ñèòóацией, êîãäà возмоæíî построение òî÷-
íûõ доверительных интервалов, являетсÿ случай нормального распреде-
ления:X ⊂= N
ýòîì случае известно совместное распределение наиболее употребительных
оценок
X
соответствующие доверительные интервалы. Основные ðåçóëüòàòû ñîäåð-
æàòñÿ â следующей теореме, êоторую примем áåç äîêазательства.
2
, êîãäà õîòÿ áû îäèí èç åãî параметров неизвестен. Â
a,σ
è
S2параметровaè
σ2,
ñ помощью êоторого è ñòðîÿòñÿ
139
Òеорема 14.1. (Òеорема Фишера)
ПустьX ⊂= N
2
. Òîãäà верны
a,σ
ñледующие 4 ôàêòà:
√
n(X − a)
1)
n
i=1
2)
nS
3)
2
σ
√
n −1X − a
4)
σ
2
⊂= χ
(Xi− a)
2
σ
2
n−1
S
⊂= N
2
.
0,1
⊂= χ
⊂= T
.
2
n
n−1
.
.
Отметим, ÷òî первое утверждение теоремы следуåò сразу æå èç свойств
нормального распределения, второе èç определения распределения õè-
квадрат ñ учетом òîãî ôàêòà, ÷òî
Xi−a
имеет ñòандартное нормальное
σ
распределение. Третье утверждение нетривиальный ôàêò, ïðîêоммен-
тировать êоторый ìîæíî следующим образом. Вспомним, ÷òî
n
nS2=
(Xi− X)2.
i=1
Åñëè выборкà состоит èç îдного элементà
2
nS
2
σ
(X1− X1)
=
2
σ
X1, òî åñòü
2
= 0,
n = 1
, òî
случайная величина имеет распределение, âûðîжденное â òî÷êå íîëü,
êоторое ìîæíî ïî определению ñ÷èòàòü распределением хи-квадрат ñ íó-
левым числом степеней свобоäû.
Åñëè выборкà состоит èç äâóõ элементов
2
nS
Отметим, ÷òî
òî
D(X1− X2) = DX1+ DX2= 2σ2. Ñîãласно свойствам нормального
распределения,
(X1− (X1− X2)/2)2+ (X2− (X1− X2)/2)
=
2
σ
2
σ
E(X1− X2) = a − a = 0
X1− X2⊂= N
0,2σ
2
, òî åñòü
(X1; X2)
, òî åñòü
2
=
. Òàê êàê
X1è
X1− X2=√2σX
n = 2
, òî
2σ
2
.
2
(X1− X2)
X2независимы,
, ãäåXимеет
ñòандартное нормальное распределение. Поэтому
nS
σ
2
=
2
2σ2X
2σ
2
= X2⊂= χ
2
2
.
1
140
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]