СМОД – Статистические методы обработки данных / Лаба 1 - 8 / smodlabs / по смоду / шпоры_2006г / 34

34. Теория стат. решений с наблюдениями. Случай дискретных состояний и непрерывных наблюдений. Общее решение задачи.

Постановка задачи.

Некоторая система может находится в одном из состояний с различными вероятностями Pi =р(Si), Над системой выполняются наблюдения, в результате чего получаем вектор наблюдений . Этот вектор считается связанным с состояниями системы и эта связь нам известна, задается (условная плотность вероятности) Vi=.

Требуется принять о системе одно из решений .

Такая задача возникает, например, при стат. распознавании образов. Имеем L образов, каждый характеризуется вектором признаков - требуется по наблюдению этого вектора признаков сказать к какому образу он принадлежит.

Будем рассматривать рандомизированные решения, когда на пространстве решений D задано распределение вероятностей Р(d_j), j=1,...,n, т.е. каждому решению предписывается вероятность.

Имея рандомизированные решения, мы можем в качестве решения d_j^* взять решение, имеющее максимальную вероятность.

Решение называется нерандомизированным, если распределение вероятностей сконцентрированном в одной точке, если все Р(d_j) = 0, кроме одной равной 1.

Качество решения будем характеризовать функцией потерь w(s,d) поскольку в данном случае состояния решений дискретны, то функция потерь представляется в виде матрицы потерь .

Элементы w_ij представляют собой потери, которые мы несем в случае, когда принимаем решение d_j , а система находится в состоянии S_j. Таким образом, строки матрицы соответствуют состояниям систем, а столбцы – решениям.

Элемент w_ij характеризует потери в случае правильного решения.

На практике чаще всего используется, т. н., “1-0” матрица потерь. Элементы такой матрицы определяются формулой:

, где - символ Кронекера.

Потери в случае правильного решения равны 0, а в случае неправильного 1.

Задача заключается в том, чтобы найти решающую функцию Р(d_j), минимизирующую средний риск r=E(w(s,d))– > min

Р(d_j)

Выражение среднего риска:.

Где подлеж-я определ-ю вер-ть 0≤Р(d_j) ≤1, Р(d_j)=1.

Общее решение задачи.

r=r(p()=

Введем понятие условного риска:

r()=, тогда r=

Применим к данному выражению дискретный аналог теоремы инт-го исчисления о среднем зн-нии. Получим : r==r()ср

- решение, обеспечив. минимум решен.

r-среднее. Средний риск иммет мин.знач., причем зн-ие достиг при выборе следующего решения:

p()=0, кроме одной P()=1 – это не рандомизированное решение. Т.о. решение нашей задачи нерандомизировано и определяется путем минимиз. условного риска.(2) r()= (3). Выполним в (3) следующую подстановку = ,

где - условная (апостериорная) вероятность. =()/

(<- послеопытная вероятность Si ), тогда в (3) получим r()=

Можно показать, что минмизация последнего выражения равносильная минимиз.:

=, j=,. Чтобы не находить лишнего, от него от него можно избавиться след. образом., если учесть, что имеют один знаменатель, кот. Не влияет на результаты, то мы получим след. задачу : (*). Подсчит. N-позиц. …и выбираем то решение, кот. соотв. миним. из этих функций.