Вероятностный подход Введение

Статистический подход к распознаванию образов можно использовать в тех случаях, когда имеющихся сведений недостаточно для описания образов или классов, которые, возможно, содержатся в рассматриваемом наборе данных. В таких обстоятельствах выходом из положения может оказаться применение статистических методов для анализа, что позволяет использовать всю имеющуюся априорную информацию.

Этот подход предусматривает построение классификации, исходя из статистических свойств классов объектов.

При помощи статистического анализа представляется возможным построить классификационное правило, являющееся оптимальным в том смысле, что его использование обеспечивает в среднем наименьшую вероятность совершения ошибки классификации.

Применение

При геохимических исследованиях измеряется концентрация химических элементов или соединений в образцах вещества для того, чтобы идентифицировать эти образцы или установить их происхождение. При решении таких задач применение статистических методов распознавания может оказаться, в частности, полезным в тех случаях, когда неизвестны физические причины возникновения обнаруженных концентраций определенных элементов или соединений.

Метеорология отличается колоссальным количеством накопленных данных и отсутствием в настоящее время возможности определить физическую сущность связей между всеми этими данными. Поэтому здесь могут найти применение статистические методы.

Алгоритмы распознавания на основе критериев Байеса можно применить к задаче технической диагностики редукторов.

Медицинская диагностика часто сводится к дифференциальному диагнозу, т.е. к выбору одного их нескольких заболеваний, причем при таком выборе учитывается и возможность наличия нормы (отсутствие какого-либо заболевания). Диагностические тесты (результаты опроса пациента, клинические данные, история болезни) образуют исходные данные для диагностики, из которых (при автоматическом распознавании) формируется для каждого обследуемого некоторый вектор симптомов. Затем следует сформировать обучающее множество, включающее описания больных, действительно страдающих соответствующими заболеваниями, и описания людей, у которых этих заболеваний нет; кроме того, для обеих групп должны быть заданы априорные вероятности. Теперь все методы из арсенала статистического распознавания можно применить для классификации нового пациента, т.е. для отнесения его к одному из классов заболеваний или классу норм.

Байесовская процедура распознавания

Рассмотрим стохастический подход к распознаванию образов, основанный на байесовской теории решений.

Пусть ={₁,…, _m} – конечное множество m состояний природы, D={d₁,…, d_p} – конечное множество p возможных решений (действий), L(d_i,_j) – потери от принятия решения d_i при реализации состояния природы _j.

Будем считать, что вектор признаков x=(x₁,…, x_n) данного классифицируемого объекта представляет реализацию системы случайных величин (случайного вектора) Х=(Х₁,…, Х_n), которая для состояния природы _j характеризуется:

• плотностью вероятности p(x/_j), если Х – система абсолютно непрерывных случайных величин (СВ);

• законом распределения (выбором вероятностей) P(x/_j)= P(X=x/_j), если Х – система дискретных СВ.

Пусть Р(_j) вероятность появления состояния природы _j и пусть P(_j/х) – условная вероятность появления состояния природы _j при условии, что будет наблюдаться значение случайного вектора Х=х. Используя формулу Байеса, имеем:

если Х – система абсолютно

непрерывных СВ

если Х – система дискретных

СВ

г

де

Условное математическое ожидание потерь от выбора действия d_i при появлении значения Х=х есть

эта величина называется условным риском.

Введем в рассмотрение функцию d(x), которая ставит в соответствие каждому возможному значению х случайного вектора Х некоторое решение d_i D; функция d(x) называется решающим правилом.

Условное математическое ожидание потерь при использовании решающего правила d(x) и при условии появления значения Х=х есть

Безусловное математическое ожидание потерь при использовании решающего правила d(x) есть

если Х – система абсолютно

непрерывных СВ;

если Х – система

дискретных СВ.

Величина R(d) называется общим риском.

Поставим следующую задачу: найти решающее правило d(x) такое, которое доставляет минимум функционалу R(d). Эта задача решается очень просто. Так как R(d) будем минимально, если d(x) выбрано так, что R(d(х)/х) имеет минимальное значение для каждого возможного х, то оптимальное решающее правило можно описать следующим образом:

Для данного х вычислить R(d_i / x) для i=1,…,p и выбрать то d_i, при котором R(d_i / x) минимально, т.е.

Такое решающее правило называется байесовским решающим правилом, а соответствующее минимальное значение общего риска R(d_opt)– байесовским риском.

Задачу распознавания образов мы получим, если в приведенной постановке задачи выбора оптимального (байесовского) решающего правила установим между элементами множеств  и D взаимно однозначное соответствие; таким образом, решение d_i заключается в отнесении объекта, имеющего изображение x, к классу _i (ясно, что в этом случае p=m).