Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Экономические приложения теории вероятностей и математической статистики. Учебное пособие
.pdf
Рассмотрим теперь задачу проверки двух простых гипотез: основ-
X
ной Н и альтернативной
H .
Принцип Неймана–Пирсона построения критериев для проверки
двух простых гипотез основан на понятиях ошибок.
Критерием будем называть любую процедуру (правило) проверки
гипотез. Критерии подразделяются на параметрические и непараметрические. Параметрические критерии строятся на основе параметров
выборочной совокупности и представляют функции этих параметров,
а непараметрические критерии – функции от выборочных значений.
Параметрические
критерии применяются только в том случае, когда генеральная совокупность нормальная, и при условии, что генеральные параметры сравниваемых групп равны между собой, т. е.
, .
1212
Пусть
на непересекающиеся множества S и D, т. е.
даем некоторое достаточно малое число
нем значимости
гипотез
гаем, если же X
ется
Любой критерий Т в случае проверки двух простых гипотез
Х – пространство выборок X, и предположим, что Х разбито
Х = S D, S D = . За-
> 0, которое называется уров-
. Допустим, что процедура Т (обозначение) проверки
иHH
заключается в том, что если X S, то гипотезу Н отвер-
D, то гипотезу Н не отвергаем. Множество S называ-
критической областью, а D – доверительной областью.
иHH
можно характеризовать числовой функцией Т(Х) = Р(Х S), которая
называется
Т(Х) = 1 и гипотеза Н отвергается, если же Х
критической функцией критерия Т. Тогда, если Х S, то
D, то Т(Х) = 0 и гипо-
теза Н не отвергается.
При проверке гипотез возможны следующие ошибки.
Определение 1. Ошибка I (первого) рода – это ошибка, состоящая
в том, что мы отвергаем гипотезу, которая верна.
Вероятность ошибки I рода
критерия T. Для любого критерия Т должно выполняться (Т) < .
стью
Р(Х S/H) = (Т) – называется значимо-
Определение 2. Ошибка II (второго) рода – это ошибка, состоящая
в том, что мы принимаем гипотезу, которая неверна.
Вероятность
1( /) ()XDH T P
называется мощностью кри-
терия Т, где
(/)()
DH TP вероятность ошибки II рода.
61
Какой критерий предпочтителен? Любой критерий характеризуется
X
X
X
X
двумя величинами:
(Т) и (Т). Для выбора лучшего критерия рассмот-
рим несколько известных подходов.
1. Минимаксный подход
Критерий
Т не хуже, чем критерий 2Т , если
1
max ( ), ( ) max ( ), ( ) .ТТ ТТ
11 2 2
Критерий Т называется минимаксным критерием, если он не хуже
всех других критериев в смысле минимаксного подхода.
2. Байесовский подход
Предположим, что нам известно, что гипотеза Н справедлива с вероятностью р, а
H справедлива с вероятностью q = 1 – p. Критерий
не хуже, чем критерий
Т , в смысле байесовского подхода, если
2
() () ( ) ( ).p Т q Т p Т q Т
112 2
Т
1
Критерий Т называется байесовским критерием, если он не хуже
всех остальных критериев в смысле байесовского подхода.
3. Подход Неймана–Пирсона
Обозначим через
:()K ТТ
. Критерий Т K
назовем
наиболее мощным критерием уровня ε, если вероятность ошибки II рода
() ( )ТТ
для любого критерия
Рассмотрим гипотезу Н: Х =
{()}t
распределений
p против альтернативы H : Х =
1
Т
(, ,..., )
12
выборка из семейства распределений
из этого класса, .Т K
XX – выборка из семейства
{()}t
p .
n
2
(, ,..., )
XX –
12
n
Обозначим функции правдоподобия
n
() ( )
f
1
i
p
1
;
() ( )
f
i
1
Лемма Неймана–Пирсона. Для любого
2
i
n
p
1
.
i
2
– наиболее мощ-
[0,1]
ный критерий уровня ε существует и совпадает с критерием отношения
правдоподобия:
62
()
р
X
F
F
ff
если
если
если
2
< с, то не отвергаем гипотезу Н;
()
1
()
ff
2
> с, то отвергаем гипотезу Н;
()
1
()
ff
2
= с, то гипотезу Н с вероятностью 1 – p не отвергаем,
()
1
c вероятностью р отвергаем.
При этом с и р определяются из уравнения ε(Т) = ε, или
()
f
P
ПРИМЕРЫ КРИТЕРИЕВ ДЛЯ ПРОВЕРКИ ГИПОТЕЗ
2
/
()
1
cH
f
()
f
P
2
/
cH
()
f
1
= ε.
1. Критерий Колмогорова–Смирнова
Пусть Х =
, , ...,
XX – выборка объема п из генеральной сово-
12
n
купности с функцией распределения F(x). Рассмотрим гипотезу
() ()
xFx ,
где
H:
()Fx – непрерывная функция распределения, которая известна
0
0
(или мы задаем). Введем следующую величину:
max ( ) ( )
KFxFx
где
nn
x
()
x –эмпирическая функция распределения выборки Х.
n
,
0
Без доказательства (его можно найти в [2]) приведем формулировку
следующей теоремы.
Теорема 19. При п имеет место следующее соотношение:
()при
,
где
() ( 1)
Qz e
k
nK z Qz n P
n
k
1
2
22
kz
n
.
63
Заметим, что функцию Q(z) называют распределением Колмого-
X
F
X
рова–Смирнова и ее значения табулированы (см. табл. П4). Для заданного уровня значимости
предлагается следующий критерий Колмого-
рова-Смирнова:
TX
где
z находится из уравнения 0()1Qz – с помощью таблицы значе-
0
0, если ,
1, если ,
()
nK z
n
nK z
n
0
0
ний функции Q(z).
2. Критерий Пирсона (хи-квадрат)
Пусть Х =
, , ...,
XX – выборка объема п из генеральной сово-
12
n
купности с функцией распределения F(x).
() ()
Рассмотрим гипотезу H:
xFx , где 0()Fx – функция распре-
0
деления, которая точно известна (или мы задаем).
Множество возможных значений случайной величины
с функцией
распределения F(x) разбиваем на k непересекающихся подмножеств
, ,...,
, где ,.) [
12
значений
k
, попавших в
i
ab Обозначим через in число выборочных
iii
, и
i
(/)()()
ii ii
HFbFa pP .
00
Для проверки гипотезы Н предлагается следующая статистика:
nn
()
2
nn n
ii i
11
ii
22
p
nn
pp
ii
n
,
nn
поскольку
ii
11
,1.
nn
ii
Воспользуемся тем, что
ется таблица значений функции
заданном
находим
2
p
2
H:
.
~ . Как мы указывали ранее, име-
1k
H (см. табл. П3). Из этой таблицы при
n
64
Для проверки гипотезы предлагается следующий критерий Пирсона:
X
X
22
22
()
TX
1, если ,
0, если .
3. Критерий Стьюдента
Продемонстрируем этот критерий для проверки гипотез однородно-
, , ...,
сти для нормальных совокупностей. Пусть
нормального распределения с параметрами
борка из нормального распределения с параметрами
XX – выборка из
12
a и
1
n
2
;
, , ...,
YY Y – вы-
12
1
a и
2
;
2
2
Принадлежат ли эти выборки одной и той же генеральной совокупности?
Рассмотрим варианты с двусторонней альтернативой
1. Предположим, что
Проверяем гипотезу Н:
Рассмотрим статистику
известно.
12
aa против альтернативы
12
22
12
nn
12
. Эта случайная величина подчи-
:H
няется стандартному нормальному распределению.
Если будет выполнено условие
t
гается и
находится из таблицы значений функции
t
, то основная гипотеза отвер-
1
()2t
Ф
0
n
12
.
aa .
2. Предположим, что
неизвестно. Рассмотрим стати-
12
стику
YX
tnn
22
nS nS
1
2
xy
nn
12
nn
12
(2)
12
,
где
22
SXX
xi
22
SYY
yi
()
n
1
i
1
n
2
1
()
n
1
i
2
;
YY
;
n
1
1
65
n
1
1
X
;
n
1
n
i
1
i
1
n
2
.
i
1
i
2
Эта статистика подчиняется распределению Стьюдента с числом
X
степеней свободы
t
находим
. Если tt
12
, то основная гипотеза отвергается.
2nn. Из таблицы распределения Стьюдента
Теперь рассмотрим варианты с односторонней альтернативой
1. Предположим, что
а) проверяем гипотезу Н:
Вычислим статистику
потеза отвергается, где
12
()
t
0
Φ
;
2
б) проверяем гипотезу Н:
Также вычислим
t
находится из таблицы значений функции
где
известно:
12
aa против альтернативы :H
12
(см. выше). Если t
t
находится из таблицы значений функции
aa против альтернативы :H
12
. Если t
, то основная гипотеза отвергается,
, то основная ги-
12
()2t
0
Φ
aa .
.
12
.aa
12
2. Предположим, что
а) проверяем гипотезу Н:
Вычислим также статистику t (см. выше). Если
гипотеза отвергается, где
неизвестно:
12
aa против альтернативы :H
12
tt
, то основная
t
находится из таблицы распределения Сть-
12
.aa
юдента;
б) проверяем гипотезу Н:
aa против альтернативы H :
12
Вычислим статистику t. Если
tt
, то основная гипотеза отверга-
.aa
12
ется.
1.29. ЛИНЕЙНАЯ РЕГРЕССИЯ МЕЖДУ ДВУМЯ
СЛУЧАЙНЫМИ ВЕЛИЧИНАМИ
Рассмотрим две величины и , которые как-то связаны. Пусть име-
ется выборка, состоящая из п пар наблюденных значений
( , ), ( , ),..., ,
YXY XY. Наша цель – построить по выборке функ-
11 2 2
nn
и :
цию Y = a + kX, которая бы позволяла для любого значения аргумента X
«угадывать» значение случайной величины
нию «{
= X}».
66
, соответствующее значе-
Чтобы точно поставить задачу, нужно расшифровать понятие «уга-
X
X
g
s
X
X
X
дать». Мы приведем две строгие постановки, которые, впрочем, приводят к общему решению.
ЗАДАЧА О НАИМЕНЬШИХ КВАДРАТАХ
**
Нужно построить линейную функцию
**
циенты
( , ),...,XY
22
являются функциями элементов выборки
,ak
,
Y , такую, что
nn
(, )min(,)
ak gak
,
ak
Ya kX
,
, где коэффи-
(,),
Y
11
n
где
(, ) ( )
gak Y a kX
ii
i
1
2
.
Прежде чем решать поставленную задачу, напомним:
n
1
22
xi
1
22
SYY
yi
n
XX
()
n
i
1
n
()
i
1
;
;
rXY
(,)
n
1
n
;
X
i
1
1
n
YY
i
n
()()
ii
i
1
ss
n
1
XY Y
;
i
n
i
1
.
xy
Для нахождения точки минимума функции g(а, k) составим систему
уравнений
gak
(, )
gak
a
(, )
k
0,
0.
Решая эту систему, без труда находим:
nn
11
( )() ( )()
XY Y X XY Y
nn
kaY
ii ii
ii
11
22
ss
xx
,
.
67
Таким образом, поставленная задача о наименьших квадратах ре-
X
шена; получена искомая линейная функция:
s
YY rXYX X
y
(,)( )
s
x
,
или
n
1
()()
XXYY
YY XX
n
ii
i
1
2
s
x
()
.
Обратимся теперь к другой постановке проблемы.
ЗАДАЧА О ЛИНЕЙНОЙ РЕГРЕССИИ
Предположим, что в рассматриваемой выборке
извольные вещественные числа, а числа
, , ...,
YY Y – значения нор-
12
мально распределенных случайных величин, причем
()
мальное распределение с параметрами
XX
i
, , ...,
XX – про-
12
n
Y – имеет нор-
i
и
, где
n
2
,,
2
неизвестны. Напомним, что плотность нормального распределения
с указанными параметрами имеет вид
tXX
(,, ;) exp
p
i
Обозначим
2
t
случайную величину с такой плотностью. Тогда ма-
i
1
2
тематическое ожидание случайной величины
()
ii
XX E
()
i
2
2
будет имеет вид
i
,
2
.
поэтому искомую линейную функцию следует искать в виде
YXX
где
**
– какие-то оценки для параметров
,
,
i
. Поскольку оценки
,
максимального правдоподобия обладают многими хорошими свойствами, остановимся на них.
68
Напомним, что для построения оценок максимального правдоподо-
X
бия следует рассмотреть функцию правдоподобия:
n
(,, ) ln (,, ; )
Lp
n
ln(2 ) .
2
22
ii
i
1
n
YXX
2
ii
i
1
Y
()
2
2
2
Тогда оценки
добия неизвестных параметров
** 2
,,
будут оценками максимального правдопо-
2
, если
,,
,,() max(,, ).
LL
22
2
,,
a
Для нахождения точки максимума следует составить систему урав-
нений
2
0,
2
0,
2
0.
2
(,, )
L
(,, )
L
(,, )
L
Решая эту систему, без труда находим (проверьте самостоятельно):
n
1
()()
XY Y
aY
,,
n
ii
i
1
2
s
x
2
() ( ) .
n
i
1
YXX
ii
69
n
1
2
Таким образом, искомая линейная функция найдена:
p
s
y
,
YY rXYX X
(,)( )
s
x
или
n
1
()()
XXYY
YY XX
n
ii
i
1
2
s
x
()
.
Заметим, что ответы в задачах 1, 2 совпадают.
ЗАДАЧИ К ГЛАВЕ 1
1.1.
Случайная величина имеет стандартное нормальное распределение. Найти функцию и плотность распределения случайной величины
.
1.2. Случайная величина
Найти распределение случайной величины
равномерно распределена на [–2, 2].
max
,1
.
1.3. Монета бросается до выпадения первого герба. Затем, если герб
выпал на n-м бросании, то бросают монету еще 2n раз. Найти вероят-
ность того, что при второй серии бросания герб выпал ровно k раз.
1.4. Проводят испытания Бернулли с вероятностью успеха p. После
первой неудачи p меняется на
. Найти вероятность того, что k-й об-
1
щий успех появится на m-м месте.
1.5. Закон распределения двумерной дискретной случайной вели-
чины (
, ) задан таблицей:
0 0,1 0,2 0,1
1 0,1 0 0,1
2 0,2 0,1 0,1
–2 –1 0
70
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]