Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
ТПР. Всё в 1 файле / Прикладные Инст сист.pdf
Скачиваний:
233
Добавлен:
15.09.2014
Размер:
1.43 Mб
Скачать

Запишем решающее правило принятия или отклонения нулевой гипотезы,

основанное на критическом значении статистики критерия

γk :

 

 

 

 

 

 

 

 

 

 

 

 

 

H

0

,

если

γ

k

<

),

 

принимается гипотеза

 

если

 

),

 

H1,

γk

где (ε) – порог теста размера ε (критическое значение статистики критерия). Порог теста (ε) определяется

для двусторонней альтернативы как квантили уровня ε1 = 1 – α/2 и ε2 = α/2 распределения статистики критерия (α – уровень значимости),

для левосторонней альтернативы как квантиль уровня ε = α распределения статистики критерия,

для правосторонней альтернативы как квантиль уровня ε = 1 – α распределения статистики критерия.

Лекция 7. Байесовская и последовательная процедуры принятия решения.

7.1. Байесовские процедуры принятия решения

Байесовские процедуры принятия решения (названы в честь Thomas Bayes, 1702-1761) предназначены выбора одного действия (одного варианта) из двух и более возможных (а1, а2,…, ат). Имея набор переменных X = {x1, x2,...,xр}, мы должны определить апостериорную вероятность события аj из множества возможных исходов А = {а1, а2,…, ат} или риск, связанный с выбором того или иного действия. Число компонент вектора наблюдений (р) может быть произвольным. компоненты могут быть как непрерывными, так и дискретными. Байесовские процедуры применяются в задачах проверки гипотез и классификации. Метод Байеса строит правило, в соответствии с которым решение выбирается таким образом, чтобы обеспечить минимальную вероятность ошибки (минимум среднего риска).

7.1.1. Байесовская процедура при проверке простой гипотезы

Пусть требуется проверить

простую гипотезу Н1 : θ = θ1 при наличии простой

альтернативы Н2 : θ = θ2. Для θ1

и θ2 заданы априорные вероятности р1 = 1 – р и р2 = р.

Рассмотрим вначале задачу принятия решения при отсутствии экспериментальных данных. В этом случае возможны только две стратегии: принять действие а1 или принять

действие а2. Риски, связанные с принятием того или иного действия, равны

R (а1) = (1 – р) · 0 + ps2) = ps2),

R (а2) = (1 – р) s1) + р · 0 = (1 – р) s1).

Здесь s обозначены потери, связанные с ошибочным выбором. Соответствующий байесов риск в случае отсутствия экспериментальных данных составляет

RB = min (ps2), (1 – р) s1)).

Значения обоих рисков совпадают в точке пересечения функций R (а1) и R (а2), т.е. в точке р = р0, где

р0 s2) = (1 – р0) s1), р0 = s1) / (s1) + s2)).

Таким образом, решение задачи в случае отсутствия экспериментальных данных

состоит в принятии действия а1, если p < р0, действия а2, если p > р0, и любого из двух действий, если p = р0.

Рассмотрим теперь решение задачи при наличии экспериментальных данных. Эти данные используются для перехода от априорных вероятностей к апостериорным вероятностям р(Х| θi). Байесова стратегия состоит теперь в том, чтобы применить действие

38

а1, если р(Х| θi) < р0, действие а2, если р(Х| θi) > р0, и любого из двух действий, если р(Х| θi) = = р0. Апостериорные вероятности р(Хi) вычисляются по формуле Байеса с использованием

функции правдоподобия. Тогда для отношения правдоподобия λ(Х) будет справедливо следующее соотношение:

λ(Х) =

ps(θ2 )

= k.

(1p)s(θ )

 

1

 

Таким образом,

если λ(Х) > k, то p < р0 и байесова стратегия ведет к выбору действия а1; если λ(Х) < k, то p > р0 и байесова стратегия ведет к выбору действия а2;

если λ(Х) = k, то p = р0 и байесова стратегия ведет к выбору любого из двух действий а1

и а2.

7.1.2. Байесовские процедуры в задаче классификации

При использовании методов классификации выбор одного действия из двух и более возможных производится путем определения номера класса, к которому относится классифицируемый объект или ситуация Х.

Байесовская процедура классификации может быть описана следующим образом [1]. Обозначим через sij потери от ошибочной классификации наблюдения, принадлежащего

классу Ωi , в класс

 

Ωj . Определим функцию риска

при

условии, что

наблюдение

принадлежит классу πi :

 

 

 

m

 

 

 

 

 

Li(d) = sij P( j

 

i) ,

 

 

 

 

 

 

 

j=1

 

 

 

 

 

где P( j

 

i) =

 

fi (x)dx – вероятность ошибочной классификации

наблюдения,

 

 

 

 

 

 

Rj

 

 

 

принадлежащего классу Ωi , в класс Ωj , i, j = 1,…, m;

fi (x)

– плотность распределения

вектора Х.

Пусть Р ( Ωi ) – известная априорная вероятность принадлежности наблюдения х классу Ωi , i =1,…, m, Р ( Ω1) + …+ Р ( Ωm ) = 1. Байесовский риск представляется следующим выражением:

m

 

r(d) = P(Ωi )Li (d) .

(7.1)

j=1

Из условия минимизации риска (7.1) следует известное решающее правило:

классифицируемый объект ω, характеризуемый вектором признаков х, относится к классу Ωi , если

m

m

 

P(Ωi )ski fk (x) =

min P(Ωk )skj fk (x) .

(7.2)

k =1

1jm k =1

 

Пример применения байесовского правила (7.2). Рассмотрим случай т = 2. Пусть в результате эксперимента установлено, что значение вектора признаков у классифицируемого объекта ω составляет x = х0. Тогда апостериорные вероятности Р ( Ωi | х0) принадлежности

объекта классу Ωi , i = 1, 2, по формуле Байеса равны

Р ( Ωi | х0) = Р ( Ωi ) Р (х0| Ωi ) / Р (х0),

(7.3)

39