48. Условный риск. Общий риск.
Введем вел-ну
- усл-е мат. ожидание потерь от принятия реш-я di при усл-и, что X=x. Эту величину называют условный риск.
Введем в рассм-е функцию d(x) – каждому в-ру x ставит в соотв-е некот реш-е из мн-ва реш-й D.
-усл. мат. ожид-е потерь при усл-и, что исп. реш. ф-я d(x)
Безусловное мат ожид-е потерь при использовании решающего правила d(x) есть
R(d) назыв. общим риском.
.
49. Постановка байесовской задачи решения. Оптимальное решающее правило. Связь с задачей распознавания.
Рассмотри след. экстремальную задачу: Найти такое dopt, чтобы R(d)->min. Поставленная задача решается очень просто
.
Это решающее правило наз-ся байесовским.
задача распознавания образов получается,
если между элементами множества d и w
установим взаимооднозначное соответствие
(p=m)
Решение заключается в отнесении вектора х к одному из классов w1, w2,... ,wm.
50. Классификация с минимальной вероятностью ошибки.
Рас-им случай, когда принятие любого неправ. решения одинаково нежелательно.
Для заданной L байесовское решающее правило будет обеспечивать минимальную вероятность ошибки классификации.
R(d)=
=1-P(w)
– безусловная вер-ть ошибки классификации
в случае d=w.
51. Минимаксное решающее правило.
-
такой набор вер-тей, при котором
байесовский риск принимает максимальное
значение. Т.о. d(x)
обеспечивает минимальный риск при
принятии решения в наиболее неблагоприятной
ситуации.
52. Процедура Неймана-Пирсона.
m=2. w1, w2.
X=(X1,….,Xn) при w1 имеет з-н распределения f(x), а при w2 g(x). Т.е. имеет место две гипотезы: H0: f(x), H1:g(x).
По реализации Х определить w1 или w2. Изображение х=(х1, …, хn) рассмотрим как точку в евклидовом пр-ве R^n. Такое пр-во наз-ся пр-вом выборок. Выделим область V в R^n. Тогда любое правило можно сформулировать так: если х в V, то Н0 следует отвергнуть (Н1 принять). Область V наз-ся критической областью.
- ошибка 1 рода.
1-P(V/H1) – вер-ть ошибки 2 рода.
Приходим к след.
экстремальной задаче. найти V:
P(V/H1)- мощность критерия или правила.
Рассмотрим R^n\T, где Т: f(x)=0; при этом условия задачи нарушены не будут.
Рассмотрим V={x:g(x)/(f(x)>=c}, c>0. c опр-ся из P{g(x)/f(x)>=c/H0}=a. Это и есть решение задачи.
f(x) наз-ся ф-я правдоподобия гипотезы Н0. g(x) - -//- H1.
g(x)/f(x) – отношение правдоподобия.
Критерий с крит. области V наз-ся процедурой Неймона-Пирсона.
53. Схема доказательства оптимальности процедуры Неймана-Пирсона.
любое правило
можно сформулировать так: если х в V,
то Н0 следует отвергнуть (Н1 принять).
Область V
наз-ся критической областью.
- ошибка 1 рода.
1-P(V/H1) – вер-ть ошибки 2 рода.
Приходим к след. экстремальной задаче. найти V:
Рассмотрим V={x:g(x)/(f(x)>=c}, c>0. c опр-ся из P{g(x)/f(x)>=c/H0}=a.
Покажем это
P(W/H0)<=a
P(V/H0)=P(A/H0)+P(D/H0)=a
P(W/H0)=P(B/H0)+P(D/H0)<=a
P(A/H0)>=P(B/H0)
P(V/H1)=P(A/H1)+P(D/H1)=P(D/H1)+
>=P(D/H1)+
>=P(D/H1)+
>P(D/H1)+
=P(D/H1)+P(B/H1)=P(W/H1)
Таким образом P(V/H1)>P(W/H1). процедура Неймана-Пирсона оптимальна.