
книги из ГПНТБ / Горелик, А. Л. Некоторые вопросы построения систем распознавания
.pdfС другой стороны, при |
|
|
|
|
U ■=max rain |
[(Я • рг) + КФ (Я)] |
|
||
|
/ Gz, 1 |
|
|
|
и Я, реализующем этот максмин, |
|
|
||
? (Я, U) = U ■=шах |
min |
[(Я- рг) -Д ДФ(Я)], |
|
|
т. е. |
|
|
|
|
max |
<р(Я, t/)^ max min |
[(Я • pr) -J- /СФ (Я)]. |
(3.28) |
|
(X, V)€ Е ід |
X GEL \^Г £^п |
|
|
|
Правая часть |
этого неравенства не зависит от |
/С, и |
предел ее при К—»oo в силу (3.21) равен raaxmin (Я- рг).
Правая |
часть |
неравенства |
(3.27) состоит |
из |
двух |
||||||
слагаемых. |
Первое |
из |
них |
зависит только от К |
и при |
||||||
К —►со в силу (3.21) стремится |
к max |
min |
(Я-рг). Вто- |
||||||||
|
|
|
|
|
|
|
X GEE 1 |
|
|
|
|
рое слагаемое зависит |
только |
от Ку. При |
К і —*оо оно |
||||||||
стремится к нулю. Следовательно, |
|
|
|
|
|||||||
lim |
max |
|
U - K . t |
[(Я- Pr) + |
ДФ(Я) - |
и - |
I (Я- Pr) + |
||||
K l ->оо |
( X ,U )S it |
|
r=f" |
|
|
|
|
|
|
||
/(-*00 |
2 |
|
|
|
|
|
|
|
|
|
|
|
+ |
ДФ( Я) -Н |]2 1 = max min |
(Я- pr), |
|
(3.29) |
||||||
|
|
|
|
|
J |
1 G e i^r^n |
|
|
|
|
|
что [и |
требовалось |
доказать. В частности, |
можно поло |
||||||||
жить |
Д = Д, |
и тогда |
|
|
|
|
|
|
|
||
max min |
___ |
|
1іт |
max |
( |
л ? ___ |
|
||||
(Я-рг) = |
) U — Д]£ |
[(Я- pr) -f- |
|||||||||
1 G E I^rgn |
|
|
oo (T, C/)€EZ, ( |
r= l |
|
|
|
||||
|
+ |
ДФ (Я) - |
t/ - |
| (Я - 7r) + ДФ (Я) — (7|]2 |
]. |
(3.30) |
Нетрудно также показать, что лШах(Д), реализующее максимум в правой части последнего равенства для не которого фиксированного значения К, гарантирует при
Д— >-оо результат, сколь угодно близкий к максимально му гарантированному результату, т. е. для любого е> 0
59
существует такое Ко, |
что для любого К ^ К о справедли |
во следующее неравенство: |
|
щах min (Я • рг) — тт(Хтах{К) ■рг) <С s. |
|
Те=я г |
г |
Для практических расчетов по формуле (3.30) задаются точностью е и произвольной последовательностью чисел {Кп}— >-°о; для каждого Кп, п = 1, 2, . . находят макси
мум правой части в (3.25), который обозначим через ф(/(та), и Ящах(Кп) ■Когда последовательно расположен
ные члены последовательностей {ф(Кп)} и {Amax(Kn)} начинают отличаться не более чем на е, считают, что найден с заданной степенью точности максимальный гарантированный результат и оптимальный набор при знаков распознаваемых объектов Х°. Для нахождения максимума в (3.30) для каждого Кп применимы, напри
мер, обычные градиентные методы. Следует заметить, что изложенный метод нахождения оптимального набора признаков в полной мере применим к решению задачи, когда функционал имеет вид (3.12) или (3.14).
3.2.ИГРОВОЙ ПОДХОД К ПОСТРОЕНИЮ СЛОВАРЯ ПРИЗНАКОВ
Мы рассмотрели один из возможных методов выбора пространства признаков системы распознавания объек тов и явлений, обеспечивающий в пределах выделенных ассигнований максимальное значение критерия качества ее функционирования. Предложенный метод в исходной формулировке не может быть использован в том случае, когда предпринимаются какие-либо мероприятия, пре
пятствующие |
распознаванию |
объектов |
или явлений. |
В подобной |
ситуации решение |
основной |
проблемы по |
строения системы распознавания — выбор пространства признаков и создание технических средств, предназна ченных для их определения,— возможно, по-видимому, только на основе игрового подхода. Рассмотрим кон фликт двух сторон, одна из которых создает систему распознавания, а другая противодействует процессу рас познавания, причем обе стороны в своих действиях огра ничены суммами ассигнований.
1. |
П о с т а н о в к а з а д а ч и. Пусть имеются две сто |
роны А и В. Сторона В создает некоторую совокупность |
|
объектов |
либо ей присущи некоторые явления (процес- |
60
сы), причем эта совокупность заранее фиксирована. Сто рона А разрабатывает систему распознавания этих объ
ектов или явлений. Сторона В стремится к тому, чтобы с помощью каких-либо средств в наибольшей мере сни зить эффективность системы распознавания стороны А.
Возможны различные случаи информированности сто рон. Мы будем предполагать следующее: сторона А при
создании системы распознавания знает всю совокуп ность объектов или явлений стороны В, но не знает ее системы противодействия; сторона В при выборе систе
мы противодействия знает систему распознавания сто роны А.
Стратегией стороны А, как и ранее, является M-мер
ный вектор X, компоненты которого принимают значения
1 или 0 в зависимости от того, используется или не ис пользуется в рабочем словаре признаков данный признак
объекта Х \ / = 1, |
2, ..., N. На множество стратегий сто |
|
роны А наложено ограничение |
||
|
£ |
с ] І,С С „ |
|
/ = | |
|
где L j — затраты |
на |
создание технического средства,. |
предназначенного для определения /-го признака,аСА—
общая сумма ассигнований на распознавание.
Стратегией стороны В является М-мерный вектор р,.
компоненты которого принимают значения 0 или 1 в за висимости от того, препятствует или не препятствует сторона В выявлению соответствующего признака. Бу дем считать, что если сторона В препятствует выявле
нию данного признака, то его измерение становится пол ностью невозможным, даже если соответствующее тех ническое средство измерения создано стороной А. На стратегии стороны В наложено ограничение
/='
где СjB— затраты на противодействие определению/-го1 признака, Св — общая сумма ассигнований на противо
действие системе распознавания.
В качестве критерия эффективности системы распо знавания рассмотрим, например, минимум квадрата рас-
61
•стояния между всевозможными парами объектов, кото рый в данном случае имеет вид
_ |
_ |
|
N |
|
|
|
W (Я, (і) = min |
R2r= min £ |
Я3п3р(/) , |
(3.31) |
|||
|
I |
s |
Iscroll . , |
|
г |
|
|
|
|
/=1 |
|
|
|
где г — номер |
пары классов |
объектов |
|
или явлений, п — |
числ0 пар классов, p*J) — информативность /-го признака
относительно r-й пары классов.
Сторона А стремится к максимизации W (X, ц), а сто рона В стремится к его минимизации. В условиях за
данной информированности сторон оптимальной страте гией стороны А является максминная стратегия, т. е.
такое Я0 = (Я° ,..., X°N), что
|
N |
^ |
--■mav mit? min |
N |
min min |
|
0 .и |
||
|
Я° njPl;) = max min min |
Я3р3р(/) , (3.32) |
||
р. GzM 1 |
j — \ |
|
> G:A (j-G M 1 |
j = j |
где
Л Z:Zj =
_
Al=-<j pipj = 0
|
N |
|
|
1 или 0, |
Л уоЛ |
СА і, |
|
£ |
СА Xj < |
||
|
;=і |
|
|
N |
|
|
|
или 1, X |
СВ(1 ~ Рц) |
/=I
Эта стратегия характерна тем, что она обеспечивает системе распознавания при любой схеме противодейст вия распознаванию объектов (в пределах выделенных для этого ресурсов Св) максимальный гарантированный ре-'
зультат. Нашей задачей является определение стратегии
Я°. |
М е т о д р е ше н и я . |
Таким образом, возникла ди |
2. |
||
скретная |
максминная задача |
с ограничениями на обе |
переменные }, и (і, относительно особенностей и методов решения которой можно сказать то же самое, что и о задаче, рассмотренной в предыдущем параграфе. И в данном случае для решения задачи воспользуемся мето дом штрафных функций. В соответствии с методом штрафных функций [10]
т
|
|
|
|
N |
|
|
|
шах min |
min |
£ |
Я ^р(/) = |
||
|
x Ga]xE m |
|
y_i |
|
|
|
= lim |
max min min |
- x/V |
2jJAjp(/) + |
W + АГаФа (іа) V |
||
К ,.К 2->со"ХЕГ [IG=L* lägrsrn |
L/=i |
|
|
|
(3.33) |
|
|
|
|
|
|
|
|
где |
|
|
|
|
|
|
Ф. W = I ] ( ^ - я л) |
|
|
j=i |
|
с л - Х ^ я 3. |
|
|
/=і |
|
|
|
i=i |
|
Ф2 (іа) : |
c B- S c f ( i - ^ ) . |
|
с в - £ с * ( 1 - ^ ) |
|||
|
/=1 |
|
|
|
|
/=і |
L — УѴ-мерный единичный куб, L* — множество вершин
куба L.
Если перенумеровать вершины куба L от 1 до 2W
и обозначить через р.ѵ= (р.* ,..., ^ ) вершину под номером
V, ѵ = 1 , 2N, то по теореме о сведении максмина
к простому максимуму [11] искомый максмин можно представить в виде повторного предела функции:
max min min |
Xj |
— üm lim max W — |
X G a [xGz M 1 |
i ~ \ |
Кі-Кц->оо/C3-»oo (X,C7)G£.i [ |
*.E X X ''•jPy pyf ~f~ ^Фі (Я) ~Ь ^аФа (Н“” )
|
v = :r= 1 |
./=I |
|
|
|
|
N |
|
|
|
|
—(7 |
X |
Pr + |
(Я) - f - А 2Ф (р.ѵ ) — |
/7 |
, (3.34) |
|
/=і |
|
|
|
|
где L , = L X О, |
max |
ру1 представляет |
сооои прямое |
||
|
|
1ѵ<г;<П |
|
|
|
произведение двух множеств: УѴ-мерного куба и отрезка
N
? п(П
О, max XjР
J-l
Воспользовавшись доказательством, изложенным в предыдущем параграфе, нетрудно показать, что повтор6S
'лыи предел в (3.34) равен двойному, т. е.
шах rain rain 2 |
= |
™ax |
W — |
Г Е ліГё м 1^ " |
Kl k% |
a - |
* |
|
|
(X, ü ) & , 1 |
|
2 ^ |
n |
N |
|
|
|
|
__ |
|
|
__ |
|
- * |
, 2 |
2 [ 2 ^ > |
г(/)+ ^ ф.(я) + |
^ ф (Ю - |
|
|||||||
|
v=l r=1 /=> |
|
|
|
|
|
|
|
|
|||
U - 2 |
я^ |
р^ |
+ |
іс.ф. ^ |
+ |
^ |
фл? ) - ^ |
|
• (3.35) |
|||
/=і |
|
|
|
|
|
|
|
|
|
|
|
|
Можно положить, например, |
Кі = Кг,=Кз = К— >-оо. |
|||||||||||
Тогда |
|
|
|
N |
|
. |
|
|
|
|
( |
|
max min min |
|
|
= |
lim max |
|
|||||||
|
2 |
|
|
i U — |
||||||||
XG:A |j.£rAf l^ rsg « |
y _ I |
|
|
iC->oo |
(X.UjGEL, |
|
|
|||||
2 " |
n |
|
|
|
|
|
|
|
Ks ф 2 ( p - v |
) и( —я— ) + |
||
- * 2 2 |
2 я |
|
^ |
р |
' ; ) |
- |
ь |
|||||
V=1 Г—1 /=I |
|
|
|
|
|
|
|
|
|
|
||
ЛГ |
|
|
__ |
|
|
_ |
|
|
|
|
||
2 ІМРІ + |
* ,Ф, (Я) + |
KaФ2 (? |
) - |
U |
. |
(3.36) |
і=1
Реализация максимума в правой части (3.36) при достаточно большом К будет сколь угодно близка к оп тимальной стратегии стороны А и может быть принята
вкачестве таковой после округления ее компонент до О
и1. Чтобы найти максимум, в (3.36) для каждого К
применимы, например, обычные градиентные методы. В описанной постановке задачи о противодействии системе распознавания предполагается следующее. Если сторона В выполняет некоторые мероприятия, препятст вующие стороне А в определении /-го признака, (/=1, ...,
уѴ), то это приводит к тому, что технические средства наблюдения системы распознавания полностью лишают ся возможности определять данный /-й признак. Рас смотренная задача может быть обобщена на тот случай, когда мероприятия стороны В, связанные с противодей
ствием системе распознавания, |
приводят |
к тому, что |
||
признаки объектов Xj |
средствами системы |
распознава |
||
ния определяются с |
некоторыми |
вероятностями |
pjonp, |
|
j — 1, . .., N. Предполагая, что информированность |
сто |
|||
рон распространяется |
также на |
значения |
вероятностей |
|
€4 |
|
|
|
|
Р і,0ПР. оптимальной |
стратегией |
системы |
распознавания |
||||||
является также максминная стратегия, т. е. такое |
|||||||||
Г Л0 |
« ОТ |
что |
|
|
|
|
|
||
Я0 {Я, , |
|
Яд,}, |
|
|
|
|
|
||
jnin |
шіп |
2 |
l ) pjJ) [ 1 _ |
(1 — ^ ) (1 _ |
р"пр)] = |
||||
|і £ л |
lsSrsgn у_] |
|
|
|
|
|
|
||
= inax _ min |
min |
S |
^ » [ l |
— (1 — |
(1 — p”np)l. (З.37) |
||||
где, как и выше, |
Л = |
Я: Zj = |
1 или |
О, |
У] < СА |
||||
|
|
|
|
|
|
|
|
|
/= 1 |
Af = |
{л: |
= |
0 |
или 1- |
£ |
^ ( р7 ) ( 1 - ^ ) < с Л . |
|||
|
|
|
|
|
|
/=1 |
|
|
і |
Здесь предполагается, что затраты на проведение мер противодействия определению /-го признака зависят от величины Pj01ip, то есть Св = СВ (р™ір).
Таким образом, и в данном случае возникает дискрет ная максминная задача с ограничениями на обе перемен ные Я и |і и ее решение может быть получено также на основе применения метода штрафных функций подобно тому, как это выполнено выше.
При этом легко заметить, что если мероприятия сто роны В полностью исключают возможность определения
/-го признака, то = О и выражение (3.37) преобра
зуется к виду (3.32).
Построение технических средств наблюдения системы распознавания в соответствии с найденным значением
Я°= { я ” ..., Яд,} при любой схеме противодействия, изб
ранной стороной В , обеспечивает системе распознавания
максимальную гарантированную эффективность.
Мы рассмотрели достаточно общий метод выбора со вокупности признаков, которые целесообразно и доступ но использовать при построении системы распознавания. Однако на практике достаточно часто возникает более простая задача, состоящая в проведении сравнительной оценки качества признаков. На некоторых методах ре шения этой задачи мы и остановимся. При этом будем полагать, что качество признака Хі выше, чем признака
5—452 |
65 |
Xs, l, 5 = 1 , . . ., N, если в соответствии с выбранным кри
терием сравнительной оценки величина показателя каче ства признака Хі больше или меньше (в зависимости от метода сравнения) показателя качества признака Xs-
3.3.МЕТОД, ОСНОВАННЫЙ НА СРАВНЕНИИ АПОСТЕРИОРНЫХ ВЕРОЯТНОСТЕЙ
Пусть, как и раньше, проведена классификация объ ектов, определены и описаны на языке признаков Xj,
і ~ 1,.. .. , N, классы Qi, i —1, .. ., m, т. e. известны |
функ |
ции плотности fi(Xj). Пусть, кроме того, известны |
апри |
орные вероятности появления объектов всех классов P(Qi). Требуется произвести сравнительную оценку при знаков Хі и Ха, /, 5 = 1 , .. . , N, т. е. определить, какой из
этих признаков качественнее, полезнее, обладает лучши ми разделительными свойствами.
Разделим диапазон изменения признака Хі на интер
валы:
1) Д(,) (X,) — на которых отлична от нуля одна функ ция fi(Xi);
2) Д^2)(Х;) — на которых отличны от нуля две функ
ции fi(Xi).
3) А(т\Хі) — на которых отличны от нуля т функций
Ші ) .
То же проделаем и с признаком Xs, т. е. определим
интервалы: Д'!)(Х5), Д*2)(Х5)...... |
Д*т )(Х5). |
Предположим, что выполняются следующие зависи мости: если объект принадлежит классу Йг-, то признак
х г <= {д<)} (Xt) V д Г (Хд V ... V Д'и) №)}•
Тогда вероятность получить однозначное решение опре
деляется так:
т
= |
S P(Q,)P[X,GA'1) ( В Д ] = |
|
|
і=1 |
|
|
т |
|
= |
f ' f i i X d d X t . |
(3.38) |
AfwVp
66
Вероятность получить двузначное решение (такое, как „класс і или класс / “) равна
т
= % Р (й (-)Р [х ге д ; 2> ( а д =
1
т |
|
|
|
= |
j |
fi(Xi)dXlt |
(3.39) |
і=І |
д !2) |
(xt) |
|
Л (2)
где Д^ — совокупность интервалов, на которых отличны
от нуля какие-либо две функции из набора /г-(Хг). Наконец, вероятность получить m-значное решение
вида „класс 1 или класс 2,..., или класс m“ равна
т
|
р т = ^ Р ( |
й Ро [ |
X |
, е |
( хд м< |
т =) |
|||
|
|
і= \ |
|
|
|
|
|
|
|
|
= 2 |
т |
) |
j |
|
fi(Xi)dXlt |
(3.40) |
||
|
;=> |
|
д!т)_(хр |
|
|
|
|
||
где Д™(Хг) — совокупность интервалов, |
на |
которых от |
|||||||
личны от нуля все т функций /г(Хг), |
г = |
1, |
2,..., т. |
||||||
Обозначим через М (q) математическое ожидание слу |
|||||||||
чайной |
величины |
q, |
которая может |
принимать значения |
|||||
<7= 1 , |
2,..., т с |
вероятностями |
Pit |
t = |
1,..., т. Тогда |
||||
|
|
|
|
т |
іРі . |
|
|
|
|
|
|
|
М(<7) = Х |
|
|
(3.41) |
і=1
Определим указанное математическое ожидание для первого и второго признака, т. е. Мх (q) и MXs(q). Если
Мх (<7) > М (<7), то признак Xs обладает большими раз
делительными свойствами, и наоборот, если MXs(q)^>
> М у (о), то признак Хг обладает большими раздели-
тельными свойствами. Будем полагать, что в первом случае выше качество признака X s, а во втором— Хі.
Рассмотрим следующий пример. Пусть в некотором электриче ском контуре возможно возникновение колебаний двух видов, каж дый из которых характеризуется своими значениями амплитуды и частоты. Будем полагать, что колебания первого вида составляют
5* |
67 |
f1(X2 ) [l/mA]
Мг{Хг)[і/іпА]
13X9[mA]
Рис. 3.1.
первый класс явлений Qb а колебания второго вида — класс Q2. По ложим, для распознавания явлений используются следующие призна ки: частота колебаний X t [1/с] и амплитуда колебаний Х2 [шАІ — и заданы законы распределений этих признаков по классам т е функ ции fi(Xj) (рис. 3.1). При этом
№ ) = 1/(8—2) =0,166 [с], /2(Хі) = 1/(12—7) =0,2 [с], fi(X2) =
= 1/(6—il) =0,2(l/mA], Ы * 2) = 1/(13—3)=0,1 |
[1/шА]. |
|||||||
Заданы также |
априорные |
вероятности появления явлений обоих |
||||||
™ассов: ^>(^і) = 0,4; |
Р (Й 2) = |
0,6. |
Определим значения интервалов |
|||||
4 (Л/)- Они |
соответственно |
равны |
|
|||||
|
Д р (/Г,) |
= |
5 [1/cJ, |
Д(') (А,) = |
4 [1/с], |
|||
|
Д|2) (X,) |
= |
4P) (/Г,) = |
1 [1/cJ. |
|
|||
|
Д|1)(//2) = |
2 [мА[, |
Д<2) ( * г) = |
7[мА], |
||||
|
4 2) № ) |
= |
4^> (-*'г) = |
3 [мА]. |
|
|||
Рассчитаем значения |
вероятностей |
|
||||||
|
|
Л ( * і ) = Я ( е , ) |
j |
/,( * ,) < * * ,+ |
||||
|
|
|
|
|
|
Д1!) (X,) |
|
|
+ |
P { Q2) |
j |
}2 {X,) dX, |
= |
0,4.0,83 + |
0 ,6 -0 ,8 ^0 ,8 1 , |
||
|
|
4 ’V .) |
|
|
J /.(А :t) d X l + |
|||
|
|
Л ( А '1) = |
Р (Й І) |
|||||
|
|
|
|
|
|
4 2><+ ) |
|
|
+ |
Я (е г) |
j |
|
f i i X ^ d X j = |
0,4-0,166 + |
0 ,6 -0 ,2 ^0 ,1 9 , |
||
|
|
42 )№ ) |
|
|
|
|
|
68