Методические указания и контрольные задания по дисциплине Теория принятия решений
.pdf
f ( z| Н 0 ) |
f ( z| Н 0 ) |
f ( z| Н 0 )
Рис. 1 Таким образом, проверка статистической гипотезы при
помощи критерия значимости разбивается на следующие этапы:
1)сформулировать проверяемую Н 0 и альтернативную Н 1 гипотезы;
2)зафиксировать (выбрать) уровень значимости ;
3)выбрать статистику Z критерия для проверки гипотезы Н 0 ;
4)определить выборочное распределение статистики Z при условии, что верна гипотеза Н 0 ;
5)в зависимости от формулировки альтернативной гипотезы
определить критическую область одним из неравенств Z > z 1 - ,
Z < z или совокупностью неравенств Z > z 1 - /2 |
и Z < z /2 ; |
6)получить выборку наблюдений и вычислить выборочное значение z в статистики критерия;
7)принять статистическое решение:
11
отклонить гипотезу Н 0 , |
если z в V k , как не согласующуюся |
с результатами наблюдений; |
|
принять гипотезу Н 0 |
, если z в V \ V k , т.е. считать, что |
гипотеза Н 0 не противоречит результатам наблюдений. |
|
П р и м е р 1 [Л 7 ]. По паспортным данным автомобильного двигателя расход топлива на 100 км пробега составляет 10 л. В результате изменения конструкции двигателя ожидается, что расход бензина уменьшится. Для проверки проводятся испытания 25 случайно отобранных автомобилей с модернизированным двигателем, причем выборочное среднее расходов топлива на 100 км пробега по результатам испытаний составило Х В = 9,3 л. Предположим, что выборка расходов топлива получена из нормально распределенной генеральной совокупности со средним m и дисперсией 2 = 4 л 2. Используя критерий значимости, проверить гипотезу, утверждающую, что изменения конструкции двигателя не повлияло на расход топлива.
Р е ш е н и е:
По условию задачи требуется проверить гипотезу о среднем ( m ) нормально распределенной генеральной совокупности. Проверку
гипотезы проведем по этапам: |
|
|
1) проверяемая гипотеза |
Н 0 : m = |
10 ; |
альтернативная гипотеза |
Н 1 : m |
10 ; |
2)выберем уровень значимости = 0,05;
3)в качестве статистики критерия будем использовать оценку математического ожидания выборочное среднее Х В ;
4)так как выборка получена из нормально распределенной генеральной совокупности, то выборочное среднее также имеет нормальное распределение с дисперсией D( X B ) = 2 / n = 4/25 .
12
При условии, что верна гипотеза Н 0 , математическое ожидание этого распределения равно 10. Нормированная статистика U
критерия, равная U = ( Х В 10 ) / |
|
|
4 / 25 , имеет нормальное |
||
распределение N ( 0 , 1) . |
|
|
5) альтернативная гипотеза Н 1 : m 10 |
предполагает уменьшение |
|
расхода топлива, следовательно, нужно использовать односторонний критерий. Критическая область определяется неравенством
U u = = u 0,05 . |
По таблице |
П1 [ Л 7] находим значение |
|
квантиля u 0,05 = u 0,95 = 1,645 ; |
|||
6) выборочное значение нормированной статистики равно |
|||
u В = |
( 9,3 10 ) / |
|
= 1,75 ; |
4 / 25 |
|||
7) статистическое решение: так как выборочное значение
статистики критерия |
принадлежит |
критической области, то |
|||||
гипотеза Н 0 |
отклоняется |
и следует считать, что изменение |
|||||
конструкции двигателя привело к уменьшению расхода топлива. |
|||||||
Граница х К |
критической области для исходной статистики Х В |
||||||
критерия может быть получена из соотношения |
|
||||||
х К |
10 / |
|
|
= 1,65 , |
|
||
4 / 25 |
|
||||||
откуда получаем |
х К |
= |
9,342, |
и критическая область для |
|||
статистики Х В |
определяется неравенством Х В |
9,342 . |
|||||
Статистическое решение может быть ошибочным. При этом |
|||||||
различают ошибки первого и второго рода. |
|
||||||
Ошибка первого рода |
- это ошибка, состоящая в том, что |
||||||
гипотеза Н 0 |
отклоняется, в то время как она верна. Вероятность |
||||||
ошибки первого рода равна вероятности попадания статистики в критическую область при условии, что верна гипотеза Н 0 , т.е. равна уровню значимости :
Р [ Z V К / Н 0 ] = Р [Н 1 / Н 0 ] = .
13
Ошибка второго рода происходит в том случае, если
принимается гипотеза Н 0 |
, но в действительности верна |
альтернативная гипотеза Н 1 |
. Вероятность ошибки второго рода |
равна вероятности попадания статистики критерия в допустимую область V \ V К , где гипотеза Н 0 принимается, при условии
истинности гипотезы Н 1 : |
|
Р [ Z (V \ V k ) / Н 1 ] |
= Р [Н 0 / Н 1 ] = . |
П р и м е р 2 [Л 7 ]. В условиях примера 1 предположим, что наряду с гипотезой Н 0 : m = 10 л рассматривается альтернативная гипотеза Н 1 : m = 9 л. В качестве статистики критерия вновь возьмем выборочное среднее ХВ. Предположим, что критическая область задана следующим неравенством Х В 9,44 л. Найдем вероятности ошибок первого и второго рода для критерия с такой критической областью.
Р е ш е н и е:
Статистика Х В критерия при условии, что верна гипотеза Н 0 :
|
|
|
|
|
|
|
|||
m = 10 л, имеет нормальное распределение N (10, |
|
|
4 / 25 ) . По |
||||||
формуле ( 1 ) , используя таблицу П 1, находим |
|
|
|
|
|||||
= Р [Х В 9,44 /Н 0 |
|
|
9, 44 10 |
|
|
|
|
||
: m = 10 ] = Ф |
|
= |
|
||||||
|
4 / 25 |
|
|
||||||
|
|
|
|
|
|
|
|
||
= Ф ( 1, 4) = 1 |
Ф (1, 4) |
0,08 . |
|
|
|
|
|||
Это означает, что принятый |
критерий |
классифицирует 8 % |
|||||||
автомобилей, имеющих расход 10 л бензина на 100 км пробега, как автомобили, имеющие меньший расход топлива.
При условии, что верна гипотеза Н 1 : m = 9 , статистика Х В имеет нормальное распределение N ( 9, 
4 / 25 ). Ошибка второго рода по формуле ( 2 ) равна
14
|
|
|
9, 44 9 |
|
|
|||
= Р[Х В |
9,44 /Н 1 |
: m = 9] = 1 Ф |
|
= 1 Ф ( 1,1 ) 0,136. |
||||
|
4 / 25 |
|
||||||
|
|
|
|
|
|
|||
Следовательно, в соответствии с принятым критерием 13,6 % автомобилей, имеющих расход топлива 9 л на 100 км пробега, классифицируется как автомобили, имеющие расход 10 л. Вероятности ошибок первого и второго рода показаны в виде заштрихованных областей под кривыми плотностей распределения статистики критерия на рис. 2 .
f ( z| Н 1 ) |
f ( z| Н 0 ) |
Рис. 2
При заданной вероятности ошибки первого рода вероятность ошибки второго рода можно уменьшить путем увеличения объема выборки n . Если при этом вероятность ошибки второго рода не должна превышать заданного значения , то минимальный объем выборки n можно найти из решения системы:
P Z V |
K |
/ H |
|
|
|
||
|
|
|
0 |
|
|
. |
|
|
|
|
|
/ H 1 |
|
||
P Z V \ V K |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Аналитическое решение этой системы возможно только в простейших случаях.
15
2. Отношение правдоподобия
2.1 Функция правдоподобия
Исходной информацией для принятия решения являются выборочные значения (выборка) хN = х1, х2, …, хN, которые получаются в результате наблюдения случайной величины (или явления) . Число N называется размером или объемом выборки х N .
Функцией правдоподобия выборки называется условное совместное распределение выборочных значений, задаваемое выражениями
|
n |
xi / s |
f n (х1, х2, …, хN / s ) = |
f1 |
|
|
i1 |
|
n
Р{ х = х1, х = х2, …, х = хN / s } = р (х i / s ) ,
i1
если выборочные значения х1, х2, …, хN являются независимыми величинами. Здесь величина s определяет состояние изучаемого явления.
Будем полагать в дальнейшем, что:
1)в процессе извлечения выборки х1, х2, …, хN состояние s изучаемого явления не меняется;
2)объем выборки N остается фиксированным.
16
2.2 Байесовские решения. Отношение правдоподобия
Будем рассматривать задачу проверки простой гипотезы против простой альтернативы. По-прежнему объектом для решения задачи является выборка хN = х1, х2, …, хN , полученная в результате наблюдения какого-либо явления (или случайной величины). Известно, что выборочные значения х1, х2, …, хN принадлежат одному из двух распределений
|
f N (х1, х2, …, х N / s0 ) = f N (хN / s0 ) |
или |
f N (х1, х2, …, х N / s1 ) = f N (хN / s1 ), |
связанных с взаимоисключающими состояниями s0 и s1 изучаемого явления. Задача состоит в том, чтобы указать наилучший (в каком-то смысле) алгоритм обработки опытных данных с целью решить, какому из указанных распределений принадлежит полученная выборка.
Обозначим гипотезы |
Н 0 |
и |
Н 1 о том, |
что выборочные |
|||||
значения принадлежат распределениям f N (хN / s0 ) |
и f N (хN / s1 ) |
||||||||
соответственно: |
|
|
|
|
|
|
|
|
|
Н 0 : f N (хN / s ) = f N (хN / s0 ) ; |
|
|
|
||||||
Н 1 : |
f N (хN / s ) = f N (хN / s1 ) . |
|
|
|
|||||
Гипотеза Н 1 |
является простой альтернативой для гипотезы Н 0 . |
||||||||
Поэтому можно рассматривать только одну гипотезу Н 0 |
, |
так как |
|||||||
отклонение гипотезы |
Н 0 |
означает принятие гипотезы |
Н 1 . |
||||||
Обозначим через |
0 |
и |
1 |
принятые решения: |
|
|
|
||
- если статистика Z попадает в допустимую область |
Z 0 = |
V \ V k , то |
|||||||
принимается решение |
0 |
( z в |
V \ V k 0 ) ; |
|
|
|
|||
- если статистика Z |
попадает в критическую область Z 1 |
= |
V k , то |
||||||
принимается решение |
1 |
( z в |
V k |
1 ) . |
|
|
|
||
|
|
|
|
|
17 |
|
|
|
|
При использовании любого заранее установленного правила выбора решения (критерия) наряду с правильными решениями неизбежны и ошибочные решения: ошибки 1 –го и 2 –го рода.
Тогда при каждом испытании возможны следующие ситуации:
1) верна гипотеза Н 0 (т.е. Z V \ V k) и выбираем гипотезу Н 0, то принимается правильное решение 0 0 ;
2)верна гипотеза Н 1 и выбираем гипотезу Н 0 (Z V k ) , то принимается ошибочное решение 0 1 ;
3)верна гипотеза Н 1 и выбираем гипотезу Н 1 , то принимается
правильное решение |
1 1 ; |
|
|
4) верна гипотеза |
Н 0 и выбираем гипотезу Н 1 , то принимается |
||
ошибочное решение |
1 0 . |
|
|
Вероятности каждого принятого решения будут равны |
|||
соответственно: |
|
|
|
Р [ 0 0 ] = |
Р [ 0 / Н 0 ] = 1 - |
||
Р [ 0 1 |
] = |
Р [ 0 / Н 1 ] = |
|
Р [ 1 1 |
] = |
Р [ 1 / Н 1 |
] = 1 - |
Р [ 1 0 |
] = |
Р [ 1 / Н 0 |
] = , |
где |
– вероятность ошибки 1 –го рода есть уровень значимости, а |
(1 - |
) – вероятность отвергнуть гипотезу (ложную) Н 0 называется |
мощностью правила выбора решения. |
|
|
Для заданного объема выборки невозможно одновременно сделать |
сколь угодно малыми вероятности ошибок 1 –го и 2 –го рода. |
|
|
Ошибочные решения 0 1 и 1 0 могут иметь последствия. Для |
количественной оценки последствий принятых решений вводят
функцию потерь или функцию стоимости, которая приписывает каждому из возможных принятых решений i j соответствующую плату
18
П i j , где i = 0; 1 и j = 0; 1 . Величины потерь П i j удобно представлять в виде матрицы, которую называют матрицей потерь П
П = |
П00 |
П01 |
|
, |
где П 01 П 0 0 |
и П 10 П 11 . |
|
П10 |
П11 |
|
|
|
|
По главной диагонали расположены платы за правильные решения, а по другой диагонали – платы за ошибочные решения.
|
Обозначим априорные вероятности состояний s0 и s1 через |
|
|||||
р = Р (s 1 ) и q = Р ( s 0 ) , причем |
|
р + q = 1 . |
|
|
|||
|
Среднее значение потерь называется средним риском, и он |
||||||
равен |
|
|
|
|
|
|
|
|
|
R = р r 1 + q r 0 , |
|
|
|
||
|
1 |
|
|
|
|
|
|
где |
r i = |
П i j Р [ j / s i ] |
|
условная функция риска, а |
|||
|
j 0 |
|
|
|
|
|
|
r 0 = П 0 0 Р [ 0 0] + П 0 1 Р [ 1 0] = (1 - ) П 0 0 + П 0 1 ; |
|
||||||
r 1 |
= П 1 0 Р [ 0 1] + П 1 1 Р [ 1 1] = П 1 0 |
+ ( 1 - ) П 1 1 ─ |
|||||
условные риски, соответствующие состояниям s0 |
и s1 . |
|
|
||||
|
Основной целью является уменьшение средних потерь R. Это |
||||||
достигается при выполнении условия |
|
|
|
|
|||
|
|
f N (хN / s1) |
|
q (П 0 1 П 0 0) |
|
|
|
|
|
_____________________ |
|
______________________ |
. |
( 1 ) |
|
|
|
|
|
|
|||
|
|
f N (хN / s0) |
|
р (П 10 П 11) |
|
|
|
Формула ( 1 ) задает правило принятия решения, основанное на критерии минимального среднего риска, которое называется байесовским решением . Его можно сформулировать следующим образом:
- принимается решение 1 (отвергнуть гипотезу Н0) , если выполняется условие ( 1 ); и
19
- принимается решение 0 (принять гипотезу Н 0 ) , если выполняется условие
f N (хN / s1 ) |
|
|
|
q (П 0 1 П 0 0) |
|
|
_____________________ |
|
|
______________________ |
. |
( 2 ) |
|
|
|
|
|
|||
f N (хN / s0 ) |
|
|
|
р (П 10 П 11) |
|
|
Левая часть в выражениях |
( 1 ) |
|
и ( 2 ) |
|
|
|
|
|
|
|
f N (хN / s1 ) |
|
|
L (х1, х2, …, хN ) = L (хN ) = |
_____________________ |
|
( 3 ) |
|||
|
|
|||||
|
|
|
|
f N (хN / s0 ) |
|
|
называется отношением правдоподобия . |
|
|
||||
Обозначим правую часть в ( 2 ) |
как |
|
|
|||
q (П 0 1 П 0 0) |
|
q |
|
|
|
|
______________________ = _____ |
|
с 0 = с 0 = с |
|
( 4 ) |
||
р (П 10 П 11) |
|
р |
|
|
|
|
и определим ее как порог при байесовском решении.
Сформулируем окончательно байесовское правило принятия решения.
Если имеет место неравенство L (хN ) с , то принимается решение1 о истинности гипотезы Н 1 .
Если имеет место неравенство противоположного знака L (хN ) с , принимается решение 0 о истинности гипотезы Н 0 (или отклонении гипотезы Н 1 ) .
Байесовское правило принятия решения минимизирует средний риск и поэтому его называют критерием минимального риска.
Если потери примут значения П 0 0 = П 1 1 = 0 и П 0 1 = П 1 0 = 1 , то байесовское решение минимизирует полную вероятность ошибки
R = q + р = Р ош . |
( 5 ) |
20
