2.2. Критерий Байеса и правило принятия решений

В качестве априорной информации наблюдатель должен знать матрицу потерь П, функцию правдоподобия w(y₁,...,y_m / s ₀ ), w(y₁,...,y_m / s ₁), вероятности состояний источника P( s ₀ ), P( s ₁) таких, что

P(s ₀)+ P(s ₁) = 1 .

Матрица потерь отражает условную плату за принятые решения:

,П _{i j} = П(  _i / s _j ), (i, j) = 0; 1,

П _{i j} - потери при принятии решения  _i в то время, как источник находился в состоянии s _j . Обычно П _{1 0} > П _{0 0} ; П _{0 1} > П _{1 1}. Запишем условные математические ожидания потерь, или условные риски, при состоянии источника s₀ и s₁ соответственно

r ₀ = M[П / s ₀ ] =

=П₀₀ P((y₁,y₂,...,y_m) G ₀ / s ₀ ) + П₁₀ P((y₁,y₂,...,y_m)  G ₁ / s ₀ ) =

= П₀₀ (1 - )+ П₁₀  , (2.5)

r₁ = M[П / s ₁ ] =

=П₁₁ P((y₁,y₂,...,y_m) G ₁ /s ₁ ) + П₀₁ P((y₁,y₂,...,y_m) G ₀ / s ₁ ) =

= П₁₁ (1-  )+ П₀₁  (2.6)

В качестве целевой функции для критерия Байеса принимается безусловное математическое ожидание потерь M[П], называемое средним риском , и имеет вид

R = M[П] = P₀ M[П /s₀) + P₁ M[П /s₁ ] =

= P₀ (П₀₀ (1-) + П₁₀ ) + P₁ (П₁₁ (1-) + П₀₁ ) (2.7)

Разбиение пространства G на подпространства G₀ и G₁ можно осуществить различными способами. Выбор подпространства G₁, минимизирующего риск R называется критерием Байеса, а правило разбиения пространства G по критерию Байеса называется правилом Байеса  .

Заменим в (2.7) условные математические ожидания потерь через соответствующие вероятности

R = P₀ П₀₀ + P₁ ₀₁ –

(2.8)

Вce величины, входящие в эту формулу неотрицательны. К выборочному подпространству G₁ отнесем только те выборки y₁,y₂,...,y_m, которые обеспечивают не отрицательность подынтегрального выражения. Тогда средний риск R примет минимальное значение. Исходя из этого, имеем правило Байеса

P₁ (П₀₁- П₁₁) w(y₁,y₂,...,y_m /s₁) - P₀ (П₁₀- П₀₀) w(y₁,y₂,...,y_m /s ₀)  0 . (2.9)

Преобразуем неравенство (2.9) таким образом, чтобы справа находились априорно известные величины, а слева - функции, зависящие от выборки:

(2.10)

Правая часть неравенства (2.10) называется порогом Байеса С _Б :

(2.11)

левая часть - отношением правдоподобия L(y):

(2.12)

Минимизация среднего риска R производилась выбором подпространства G₁. Поэтому, если выполняется неравенство (2.9), то принимается гипотеза H₁, в противном случае - гипотеза H₀ . Перепишем формулу (2.10 ) в виде

(2.13)

Это выражение называется правилом принятия решений по критерию Байеса.

Отношение правдоподобия L(y) - функция от выборки y₁,y₂,...,y_m и является одномерной случайной величиной, описываемой некоторым законом распределения с параметрами, зависящими от закона распределения шума и состояния источника.

2.3. Критерий максимума апостериорной вероятности

и правило принятия решений

Для применения критерия максимума апостериорной вероятности априорно необходимо знать вероятность P(s _j ) того, что источник находится в состоянии s _j , функцию правдоподобия

w(y₁,y₂,...,y_m/s _j ) при состояниях источника s _j

Используя теорему об умножении вероятностей, совместное распределение вероятностей выборки y₁,y₂,...,y_m и состояний источника s_j можно записать как

P((y₁,y₂,...,y_m), s _j ) = P(y₁,y₂,...,y_m)P(s _j /y₁,y₂,...,y_m) =

= P( s _j )w(y₁,y₂,...,y_m/ s _j ) . (2.14)

Условная вероятность P(s _j / y₁,y₂,...,y_m) называется апостериорной вероятностью состояния источника и определим ее из формулы (2.14):

(2.15)

Критерием принятия решения в данном случае будет максимальное значение апостериорной вероятности P(s _j / y₁,y₂,...,y_m) по отношению к апостериорным вероятностям P(s _i / y₁,y₂,...,y_m):

P(s _j /y₁,y₂,...,y_m) P(s _i / y₁,y₂,...,y_m) для всех i  j (2.16)

Если выполняется неравенство (2.16) , то гипотеза Н _j не отвергается.

Для двухальтернативных гипотез этот критерий приводит к неравенству

или

(2.16)

Неравенство (2.16) является правилом принятия решений по критерию максимума апостериорной вероятности. Левая часть неравенства представляет отношение правдоподобия, а правая - порог С _МАВ . Правило (2.16) представляется в виде

(2.17)

Из сравнения формул ( 2.10 ) и (2.16 ) видно, правило принятия решения по критерию максимума апостериорной вероятности (МАВ) приводит к тем же результатам, что и критерий Байеса при

П₁₀ -П₀₀= П₀₁ - П_{11 .}