книги из ГПНТБ / Горелик, А. Л. Некоторые вопросы построения систем распознавания

Му закону, iiâ участок от а до Ь. СледойательНО,

■(Z -

систематическая ошибка в измерении признаков Xj от­

сутствует и n='<Tj. Поэтому

Рассмотрим вопрос о возможных методах построения функций Р(Уг), і=1, ..., т, т. е. априорных вероятно­ стей появления объектов і-х классов. В том случае, ког­

да априорная вероятность не зависит от времени, значе­ ния Р (Qi) могут быть определены на основании частот

событий:

Р* (Qi) =Ni(N,

где N — общее количество доступных изучению объектов

с распространением эпидемии какого-либо заболевания, составляющего или входящего в какой-либо класс си­ стемы. В этом случае следует изучить поведение функ­ ций P(Qj) во времени до текущего момента, а затем на основе тщательного изучения явления произвести их

к эвристическому конструированию законов распределе­ ния значений признаков по классам fi(Xj), і= 1, ..., т; j = 1, ..., N, и функций P(Qi).

Задача определения функций fi(Xj) может быть ре­

шена следующим образом. Положим, что группа квали­ фицированных специалистов согласилась дать эксперт­ ные оценки возможных значений признаков объектов всех классов. Пусть применительно к і-му классу оценки возможных значений признаков Xj, по мнению экспер­ тов, Ah, k — \, .... S, составляют Cjg, g= 1, ..., tij. Для

29

Наглядности сведем суждений эксйерТов в таблицу вида

В таблице верхний индекс у решений С1 относится

к номеру признака, а нижний — определяет его возмож­ ное значение. Наличие нескольких решений по каждому признаку есть следствие того, что эксперты могут ука­ зывать не на одну, а на несколько альтернатив. Поло­ жим, что при определении значения признака Хі объек­ тов і'-го класса эксперты подразделились на р групп.

При этом 1-я группа, состоящая из а экспертов, ука­

„веса“ мнений групп равны:

Будем полагать, что статистическая вероятность каждого из названных группами экспертов значений признака

30

X

Пусть, кроме того, заданы априорные вероятности появ­ ления объектов I и II и классов Р(І) и Р(ІІ) = 1—Р (І). В результате эксперимента определено значение призна­ ка распознаваемого объекта, равное X. Спрашивается,

к какому классу отнести объект?

Обозначим через Х0 некоторое, пока неопределенное

число и условимся о следующем правиле принятия ре­

Если объект относится к классу I, а его считают объектом клас­ са II, то совершена ошибка, которая называется ошибкой первого рода. По терминологии теории статистических решений, ошибочно выбрана гипотеза Нг, в то время как справедлива гипотеза Ни

Вероятность ошибки первого рода, т. е. вероятность отнести объект к классу II, когда он относится к классу I,

оо

Х0

Наоборот, если справедлива гипотеза Нг. а отдано предпочтение гипотезе # і, то совершена ошибка второго рода, вероятность кото­ рой равна

х„

С?2 есть вероятность выбрать гипотезу Ни когда справедлива гипо­ теза Нг.

В некоторых приложениях теории статистических ре­ шений вероятность ошибки первого рода подчас называ­ ют вероятностью ложной тревоги, в то время как вероят­ ность ошибки второго рода — вероятностью пропуска

цели.

■ , ■ *і

32

Если fi(X) и fz(X) подчинены нормальным законам распределения с математическими ожиданиями ßi и az

соответственно и среднеквадратическими отклонениями ві — ö‘i= o , т. е. имеют вид

іС-{Х-аЩ!Ъ\1

а Ѵ2Х

В теории статистических решений Qnr называется раз­

Для вычисления этих интегралов ввиду того, что они не выражаются через элементарные функции, пользуют-

ся таблицами специальных функций

(Х-а)/о

V2Ü

которые приведены в работах ряда авторов (например,

И ) .

При многомерных нормальных распределениях могу г быть получены функции Fn (%2), которые являются п- мерными аналогами интеграла вероятностей F(t). Для

этих функций при 2 < п < 1 9 разработаны таблицы (7]. При выборе значения Х0, т. е. при разделении про­

странства признака А' на два полупространства R\ и R2,

необходимо учитывать, с чем сопряжено совершениеошибок первого и второго рода. Можно полагать, что эти ошибки связаны с нанесением стороне, включающей в се­ бя систему распознавания, определенного ущерба, что распознающая сторона несет определенные потери. Ве­ личина этих потерь определяет собой плату за ошибки, иначе стоимости принятия ошибочных решений. В об­ щем виде мы имеем дело со следующими стоимостями (рисками): Сі2— стоимость ошибки первого рода, С21— стоимость ошибки второго рода, Си, С22 — стоимости

правильных решений.

Указанные стоимости можно записать в виде матри­ цы цен

|с„ ^12 1^*21 С2%

Средняя стоимость, которую приходится платить при многократном распознавании неизвестных объектов, рав­ на сумме стоимостей неправильных и правильных реше­ ний с учетом вероятностей их появления и априорных вероятностей поступления на вход системы распознана ния объектов I и II классов, т. е.

C = -P (I)C n (l- Q „ T) + P ( I) C i2QnT+

34

Подставив в (2.26) выражения для вероятностей Qaт и

Qnp, получим

Произведение вида CkQk называется риском, соответст­ вующим k -й гипотезе. Системы распознавания, как пра­ вило, являются системами многократного действия.

Именно поэтому необходимо, чтобы выбору Х0 был осу­ ществлен с учетом того, чтобы величина С была мини­

мальна.

Для определения величины Х0, при_которой средний риск минимален, продифференцируем С по X и прирав­ няем производную нулю, положив X= Х0

Откуда

/2(Хо)//1 (Хо) = Р (I) (С12- С „ )/Р (II) (С2і - С 22) . (2.29)

Отношение плотностей вероятности f2(X)/fl (X) назы­ вают отношением или коэффициентом правдоподобия.

При Х = Х0 коэффициент правдоподобия приобретает кри­ тическое значение и обозначается либо Хо, либо Х(Х0).

Положим для примера, что Сц = С22= 0 , Сі2= С і и

€ 2і = С2. Тогда

при Сі = С2 и Р(І )=Р( ІІ )

Хо= (йі + а2)/2.

Знание Х0> при котором осуществляется оптимальное

в смысле минимума риска разделение пространства на две области Ri и R%, позволяет минимизировать ошибку

классификации. Если Х <Х 0, то следует принять реше­ ние о принадлежности объекта к классу I, а если Х> >2Г0— то к классу II. Область R і состоит из значений X

к классу I следует принимать, если значение коэффи­ циента правдоподобия меньше его критического значе­ ния, и к классу II — при противоположной ситуации..

2.3. КРИТЕРИИ БАЙЕСА

Правило, по которому стратегия решений выбирается так, чтобы минимизировать средний риск, называется критерием Байеса. Применение подобного критерия осо­

бенно целесообразно в том случае, когда необходимо принимать многократно решения в одинаковых усло­ виях.

Минимизация среднего риска будет иметь место в том случае, если гипотеза # і принимается тогда, когда изме­ ренное значение X лежит в области Ri, а если в обла­ сти Rz, то принимается гипотеза Я2. Докажем, что байе­

совская стратегия обеспечивает минимальный средний риск, который называется байесовским риском. Для это­

го вычислим средний риск, когда используется стратегия,

36

с помощью других соостношений. Пусть в результате опы-

Рис. 2.2.

та установлено, что признак распознаваемого объекта составляет величину У0. Тогда условная вероятность при­ надлежности этого объекта к первому классу или, ина­ че, условная вероятность первой гипотезы равна

а условная вероятность второй гипотезы

где f (У0) =P(l)fi(X°) +P(II)f2(X°)— полная плотность вероятности результатов X при всех опытах. Величины Р( Ні|Х°) и Р(Н2\Х°) называются также апостериорными

вероятностями.

Условный риск, связанный с выбором гипотезы Ну,

будет равен

С(Ну\Х°)=С2Р(Н2\Х°), (2.37)

а условный риск при выборе гипотезы Н2 будет равен

37

Система распознавания, основанная на байесовой стратегии, должна решать задачу с минимумом услов­ ного риска. Это значит, что предпочтение первой гипо­ тезе следует отдавать тогда, когда

Следовательно, первая гипотеза должна приниматься тогда, когда

Таким образом, байесов подход к решению задачи распознавания состоит в вычислении условных апосте­ риорных вероятностей и принятия решения на основа­ нии сравнения их величин. Если число классов больше двух и равно т, то апостериорная вероятность отнесе­

ния распознаваемого объекта к t-му классу равна

чае отнесения объекта к тому или другому классу). Пусть, как и раньше, имеется два класса Qt и Q2, ап­ риорные вероятности появления объектов этих классов

а Си = С22, = 0. Пусть известны также условные плотно­

сти распределения вероятностей значений признаков по классам, т. е. fi(Xu ..., XN) и f2(Xit ..., XN).

38