Добавил:

ivanov666 Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Башкирский Государственный Аграрный Университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

книги из ГПНТБ / Журавлёв, Ю. И. Алгоритмы вычисления оценок и их применение [монография]

.pdf

Скачиваний:

Добавлен:

19.10.2023

Размер:

5.37 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 1011 / 1311 12 13 > Следующая >>>

Организация признаковых пространств является самой ответст венной и наиболее трудной задачей в рассматриваемой проблеме.

§ 5. Другие применения алгоритмов вычисления оценок

Среди других возможных примеров применения алгоритмов вы числения оценок в данном параграфе опишем лишь два, которые, по-видимому, могут найти широкое применение на практике.

1.Оценка качества экспертов, формирующих таблицу обучения

взадаче распознавания образов [19]. При решении основной зада чи распознавания образов — разбиении множества контрольных объектов на заданное число классов с эталонами — успех во мно гом зависит от того, насколько удачно сформирована таблица обучения (таблица эталонов). Однако в настоящее время не имеет ся достаточно разработанных методов и процедур, с помощью ко торых в рамках какой-либо формальной модели эффективно реша

лась бы задача формирования эталонных таблиц. Поэтому при решении ее в конкретных областях знания зачастую используется опыт одного или группы экспертов. Ввиду того, что на практике число экспертов, как правило, ограничено, бывает трудно избе жать определенной доли субъективности при выборе эталонов.

Опишем подход, позволяющий существенно уменьшить степень необъективности экспертов в оценке объектов, включаемых в таб лицу обучения. Подход основан на применении некоторой количе ственной меры, называемой мерой оценки качества экспертов и вычисляемой в рамках формальной модели алгоритмов вычисления оценок.

Будем считать, что группа экспертов Э {, ... , Эг сформиро вала две таблицы — таблицу обучения Тп m ,(7^) и таблицу кон


троля Тп т.л (Т 2У		здесь п — число		признаков, задающих эта
лонные	объекты,	т,	т! — количество строк (эталонных		объектов
в таблицах обучения и контроля				соответственно),	/ — число
классов.	В таблице		обучения классу АГ;- соответствуют строки

S m i+1 , ... , Sm , у = 1, 2 , ... , /, гп^= 0, т1— т, в таблице контро

ля — 5,„’._1+1 , ... , Sm. , / = 1 , 2 , . . . , /, т'0 -- 0, т1= т.

Будем также полагать, что каждый объект в таблице контроля сформирован одним экспертом и каждый эксперт участвовал в формировании объектов всех классов. Обозначим объекты класса

Kj , сформированные экспертом 9 t , через

J, jS^j.

Очевидно,

100

Рассмотрим функционал качества алгоритма распознавания, основанного на вычислении оценок. Обозначим через Q число пра вильно распознанных объектов в таблице контроля. Положим

со (А) = Q'm';

здесь А — выбранный алгоритм распознавания, пг' — число эле ментов таблицы контроля.

Допустим, что нами построен алгоритм Л*, на котором до стигается максимум функционала о (Л). Пусть алгоритм опреде

ляется параметрами /г,	s ,	е, , ... ,	sn,	^ , ... ,		8* .	Выделим
параметры у* , которые	в	экстремальном			алгоритме		получили
строки, сформированные экспертом			Эс,	i =	Г, 2, ...	,	Чем боль

шую важность получили объекты, отобранные экспертом, тем выше качество данного эксперта. Поэтому мера р (З д оценки

качества эксперта' 3 Z может быть введена следующим образом. Пусть строка 5;., сформированная экспертом 3 f,.получила в эк стремальном алгоритме параметр 7 * [S^). Положим

г t

is u)	(V.14)

По'сле построения экстремального алгоритма вычисление ве личин р (Э.), i = 1, 2 не представляет труда. Упорядочий

номера экспертов по убыванию величины р ( З г) будем иметь

представление об их сравнительной степени квалификации. Возможен и другой подход к оценке качества ' экспертов,

формировавших таблицы обучения и контроля. Допустим, что мы снова построили алгоритм с экстремальными параметрами

Обозначим его через А* и вычислим величину ср (А*). Удалим из таблицы обучения строку S .. По новой таблице обучения

построим новый экстремальный алгоритм А? . Положим

р ф ) = «р (а *) - <? (а ; ).

Величина р (5.) характеризует изменение качества распознавания при удалении из таблицы обучения строки . Естественно счи

тать эту величину мерой важности строки таблицы обучения. 4 Теперь можно ввести оценку качества эксперта 3 t. , г = 1 , 2 ,..., г

следующим' образом: i

Ж ) 2	2
/=» 1	SU6 l s4 )

I.
p ( s u ) 2 p & )	(V.15)

(

Реальное вычисление р (Э.} сводится к проведению (/и+1)-

кратной оптимизации в пространстве алгоритмов. По-видимому, в общем случае здесь приходится ограничиться построением

локально-экстремальных алгоритмов Л*, A t . Для бинарных таб лиц возможно полное решение оптимизационной задачи.

Знание	оценок качества р (Д,) эксперта 3 t позволяет судить
0 степени	его компетентности в формировании таблиц обучения-

В таблицах обучения необходимо оставлять те объекты, которые сформированы экспертами, имеющими достаточно высокие оценки

качества. Можно пойти	и дальше. Приняв таблицу	обучения
Тп ffl„ г сформированную	компетентными экспертами,	за исход

ную, можно попытаться еще более сжать ее объем, исключив малоинформативные признаки и малоинформативные (в некото ром смысле) объекты. Исключение малоинформативных призна ков можно осуществить, реализовав описанные в § 2 данной главы процедуры 2 или 3, в результате чего получается новая таблица Тп, т. ( , отличающаяся от исходной Тп т, ; меньшим

числом ///	столбцов.						г необ
Для получения в окончательном виде таблицы Тп. Н1.
ходимо теперь удалить из Тп, m„ 1 малоинформативные							строки-
объекты.	Для	этого	предварительно определяются			меры ин
формативности		строк	следующим	образом.	Иа основе		таблиц
Т „ . и	Т , ,	подсчитывается		значение	ф (Л*).	Из	таблицы

Тп т„ ! удаляется строка St и вновь вычисляется <р(Л*). В ка честве меры информативности строки принимается величина

р (•$,) -- ? (А*) - (р(л*),

характеризующая изменение качества распознавания при уда лении из таблицы обучения строки Sr

Подсчитанные значения р (.S.), i —■1, 2 ,..., т упорядочива

ются по их убыванию, и строится последовательная процедура объектов из таблицы Тп, ш. г . Исключение ведется начиная с

малоинформативных (по значению р (S ) ) строк. Контроль конца исключения объектов осуществляется слежением за уменьшением значения ср (Л*). Процедурз завершается, когда это уменьшение переходит за максимально допустимый порог Д(р(Л*).

Врезультате реализации двух описанных последовательных процедур сокращения (по признакам и объектам) получается таблица Tn, т„ , .

Внекоторых практических случаях может наблюдаться такая

ситуация, когда любое сокращение	исходной таблицы обучения
Тn m.„ 1 приводит к недопустимому	уменьшению ср (Л*). Это оз

начает, что в качестве, Т , m„ , должна быть принята таблица

Т1 n m". I'

10?

В заключение заметим, что в конкретных случаях порядок реализации процедур может быть изменен. В первую очередь сокращается число строк в Тп т„г и затем только исключаются

малоинформативные столбцы. Можно предложить и схему с по очередным исключением строк и столбцов.

По-видимому, вопрос о том, какая схема является предпочти тельной, должен решаться с помощью проведения ряда .модельных экспериментов на ЭВМ.

2. Уточнение таксономических разбиений с помощью алгорит мов вычисления оценок. В настоящем пункте рассматривается одни подход к решению таксономических задач.

Пусть задано множество из N объектов, являющееся метриче ским пространством. Классификацией называется разбиение этого множества на систему непересекающнхся множеств. Обычно в ка честве подмножеств берутся гиперсферы различного радиуса. По следнее не является необходимым, но разбиения на гиперсферы технически выполняются проще. На множестве разбиений исходной совокупности объектов задается функционал, определяющий каче ство разбиений (таксономии). Такой функционал вводится в [23].

Существующие алгоритмы таксономии, например, типа «Форэль» [23, 34, 74], дают лишь локальные экстремальные разбиения, так как количество возможных разбиений велико и удается даже на современных ЭВМ перебрать только некоторые из них.

Возможны и другие подходы к качеству разбиения. Один из них основан на том факте, что задача таксономии часто является лишь первой частью общей проблемы распознавания, так как выделение классов обычно необходимо для классификации ранее не изучен

ных объектов [33].
Опишем сначала общую схему такого уточнения.					которые
Предположим,	что заданы	объекты	5	, S2, ... , Sm,	которые
каким-либо таксономическим алгоритмом разделены на I классов.
При этом в класс	попали	объекты	5 ,	5,, ... , Sm ,	в класс
АГ., — объекты 5	5	и т.	д.	и, наконец,	в класс
~	’ ••• ’ $т-

Представим теперь, что у нас имеется некоторый распознаю щий алгоритм А из класса алгоритмов вычисления оценок.

Рассмотрим классификацию, построенную каким-либо алгорит мом таксономии, и проведем серию уточняющих операций. Каж

дый из объектов Sr	S.,, ... , Sm подвергнем процессу	опознавания
с помощью алгоритма А. Предположим, что объект		в исход
ной классификации	был отнесен к классу АТГ Возможны два
случая:

1) величина Г (S.) дает максимальное значение из Г

- ■ О Д ;

103

2) величина Г; ( 6V) не является максимальной среди

(S\), ... .

•••’ 1 ‘ I'-*/)-

Впервом случае объект 5. отметим символом (+), во втором

случае символом (—)	и запомним номер класса t	такого,	что
r,(S .) = max (Г,(5.),	... , 1Х ^ ) ) .	S2, ...,	S m,
Проделав подобные операции со всеми объектами

перестроим исходную классификацию. Выделим все объекты, отме ченные знаком минус. Каждый такой объект переведем в тот класс, номер которого запоминался для этого объекта.

Вычислим функционал качества для вновь полученного раз биения.

Если значение функционала увеличивается, перейдем к следую щей итерации, которая выполняется так же, как первая, но за ис ходное принимается разбиение, полученное после первой итерации. Если значение функционала уменьшается, то уточненным разбие нием считается исходное. Процесс уточнений продолжается до тех пор, пока увеличивается значение качества функционала.

Алгоритм заканчивается после того, как очередная построен ная классификация оказывается меньше по качеству, чем преды дущая.

Теперь опишем расчетную схему для случая, когда объекты представляют собой строки', составленные из целочисленных сим волов 1, 2, .... k—1. Пусть множество объектов представлено в ви де следующей таблицы I:

« 1 1 *	« 2 , * - ■ . а Ш
« 1 2 ’	“ , 2 >	- > а п 2
Я Ш *	а 2 ДЧ •••	’ ° ’ n N •

Произведем классификацию по алгоритму, описанному в [23].
В результате расчета получим таксоны К\, /<2,	К\ и оценку
качества таксономии F (функционала) для последовательных зна
чений радиуса гиперсферы.	из следующих
Построенное разбиение удовлетворяет одному

условий:

1 ) оно имеет максимальное значение функционала;

2 ) при дальнейшем уменьшении радиуса не будет изменяться количество таксонов, поэтому алгоритм А можно с одинаковым ус

пехом применить для обоих случаев.					разбиения с
Анализируя результаты			таксономии, выберем
радиусом	rt ,	для которых	выполнено	условие 1 ) или 2 ).
Тогда	для	разбиения с радиусом г.		таблица I распадается на
классы ATj,		... , К[ и будет иметь вид таблицы			II:

	'-’ l	—	“ i p	'■21 ’
Kx	-2		^ ' 12’	ff-22 »		*	^ 'n ‘2		1
Kx
		—	“ liV, •		а2 Л /		’	a «.v,
			m L’		0ш2 т L1			• *пт,
J<,	*^71,+ 1		а 1ш,+ Р а2 т , - Н ' '* "						’ а л т , !-1
	5 , ,	~	а 1/71, ’		а 2ш/ "■		’	апт,’
	S . ,	=	а .	,	а 0	, . . .		, а	ГШ[
	S . ,		\.т£		2 т	£		*	ГШ[

~ alml+V а 2гагН-1 > ••• ’ ° л т ( ч-1

5 , v = a-lN, я 2, у

’ апЫ •

Пусть нам даны числа et,			s0, ... , ел .	Будем	считать	строку S
таблицы II	равной S} и	всю	таблицу	равной	5 = (5j	, ... , Sm).
Рассмотрим	неравенства	\| <*„ - pj \| < s,		, ... , \|«,В- Р я \| < е я , где

i = 1, 2, ... , N для каждой строки таблицы II.

Если неравенство выполнено, то элементу строки а(. присвоим

значение 0,	если не выполнено — значение 1 .
Проделав эту операцию со всеми					строками таблицы II, полу-/
чим таблицу III, которая теперь будет составлена из 0 и 1.
Будем считать {3= {^ , (3,,				... ,	} единичным вектором. “
П)СТЬ 5 —		, а[2 , ... , а.п), Sj —				, Р2, ....Р„); Р (S, Sj~) —
число несовпавших разрядов строк 5 и S;. .
Сравнив строку Sj			со строками Sp ... , Sm, вычислим величи-
ны 1^(5), ... ,		l'm(S). Просуммировав эти величины,					будем иметь
		r i(S) = 2		r ( s . s p ;
			y'-i
здесь Г; (5 ) _		число	голосов,	поданых		за класс	, /Q, ... , Kt.
Оценка 1’г (5)		= max (3^(5), ... , Гг(6'))			укажет на принадлежность
строки 5 к	классу Kt . Если			ГД5) для		строки 5	принадлежит

• > Г '

105

одному и тому же классу /\£, что и Г. (S'), то против строки

ставим (+ ), если нет — (—) и запомним	номер класса, за кото
рый строка 5 получила больше голосов.	Проделав описанные

процедуры со всеми строками таблицы II, переформируем табли цу III в зависимости от результатов алгоритма А. Получим новую классификацию объектов. Подсчитаем функционал и сравним его с ранее вычисленным значением. Если новое значение функциона ла больше, то необходимо уточнить классификацию, заменив II на III. Если новое значение функционала меньше или равно преж нему, то таблица II оставляется без изменения.

Очевидно, к таблице III можно еще раз применить описанную процедуру п провести дальнейшее уточнение классификации.

106

П р и л о ж е н и я

ПРОГРАММНЫЙ РАСПО ЗНАЮ Щ ИЙ	КОМПЛЕКС ПРАСК-1
А. Инструкция к пользованию ПРАСК-1
Настоящая инструкция полностью	соответствует АЛГОЛ-про-

грамме ПРАСК-1 (приложение Б) и поясняет организацию работы комплекса при решении задач. Термин «блок» употребляется для выделения части программы, выполняющей определенные функции при работе комплекса, и обозначается через k\. Каждому блоку £i соответствует свой ключ, обеспечивающий связь с теми или иными блоками при решении конкретных задач. Ключи для удобства обо значены через ki.

Приведем перечень блоков (£г)				в АЛГОЛ-программе комплекса:
k\ — генерирование		бинарного эталонного множества объектов
	( Мэ , аи е{0,	1 ));				'
k2 — ввод Мэ ;
k3 — генерирование		произвольного эталонного множества объ
	ектов ( уИ э , с-.г .	е {а, Ь})\
£4 — генерирование		бинарного контрольного множества объ
	ектов (/14,., ау е (0, 1});
kb — ввод М к;
/гб — генерирование		произвольного			контрольного	множества
	объектов (уИд. ,		е {а, /;});
k l — вычисление р (i)			разностным		методом*;
£8 — упорядочение		числовой последовательности				в порядке
	убывания значений элементов;
/г9 - преобразование			Тпт1 -> Тпт1;
/еЮ — вычисление г,-порогов для произвольной таблицы;
£ 1 1	— вычисление s. -порогов для			бинарной таблицы		(фиктивное
	вычисление);					г < =
.£ 12	— вычисление р (i)\
	Об этом методе см. в сб		«Вопросы	кибернетики», вып. 51,		Ташкент, ИК с
ВЦ АН УзССР, 1972.			'

107

£13 — вычисление j (5'у);
£14 — классификация без эталонов с уточнением;
£15 — оптимизация	модели алгоритма по ®л ;
£16 - преобразование T™tl -
£17 — преобразование Т{^п — Тп^				;
£18 — вычисление	- порогов эталонной произвольной таблицы;
£19 — классификация с эталоном;
£20 — вычисление р (i) для			признаков Л1з ;
£ 2 1 — сжатие (сокращение			размерности) признакового		простран
ства;	£ для	Тпп при		классификации без	эталонов;
£22,— вычисление
£23 — вычисление £ для		эталонных таблиц бинарного и про
извольного	алфавитов.

Для работы комплекса заготавливается карта управления с конкретными числовыми значениями следующих параметров:

эта; шп;		фиц; дельта 2 ; п; эш; э/;
здесь	m; I;	£; с;	ж; э mi; mi; э/;
		цели	при оптимизации;	в идеальном слу
эта — окрестность
чае эта = 0,
шп — шаг поиска при оптимизации,				цели,
фиц —значение функции качества в точке
дельта 2 — второй параметр			решающего правила,
п — число признаков,			в эталонной таблице,
эт — количество строк
эI — число	классов в эталонной таблице,
т — количество		строк	контрольной таблицы,
I — число	классов контрольной таблицы,
£ — длина	Голосующего набора (соответствует мощности

опорного множества),

с— число блоков (£/), участвующих в решении конкрет ной задачи,

ж— оценка ухудшения ®А при сжатии признакового про

странства,

am i— массив,	где каждый элемент указывает на число строк
в каждом классе эталонной таблицы,
mi — массив,	где каждый элемент указывает на число
строк в классах контрольной таблицы,
э / — массив	чисел, где каждый элемент означает номер
блока,	участвующего в решении конкретной задачи.

Если какой-нибудь из перечисленных параметров не участвует в решении задачи, то его значение нужно пробить в карте управ

ления как единицу.

Пример подготовки карты управления. Пусть необходимо ре шить задачу классификации с эталонами и оптимизацией алгорит ма по значению функционала фдПри этом известны:

1)	эталонная таблица п Xt nXl = 100X45X2; в первом классе
35 объектов, во втором — 10.
2)	контрольная таблица nXm' Xl ' = ЮОХЗООХ 1;
3 )	элементы таблицы из произвольного алфавита.

Тогда на карту управления наносится следующая информация:

0;	0.2;	0;	0.85;	100;	45;	2;	300;	1;	1;
8; 0; 35; 10; 300; 2, 5, 16,							17, 18, 23, 15, 19.
При вводе в ЭВМ после							карты управления подкладываются

карты эталонной таблицы и затем карты контрольной таблицы.

^Б. АЛГОЛ-программа ПРАСК-1

begin integer

i, j,

n, q2 , s, k,

al,

ql,

с,

ц,

ж,

з, e,

ц1 ,

эт,

э/,

эта,

шп, фиц, x, у, yl,

г, фи,

фи1 , ф,

фо,

б,

61, 62; real дельта 2,

rO,

el,

63;

real

procedure

соч

(нп,

вп);

value нп, вп;

integer

нп,

вп;

begin

integer

il;

real

comb;

нп>вп

then

comb: = 0

else begin if вп—нп<нп then

нп: = вп— нп;

comb: = |0—18;

for

il: = l

step

1 until

нп

сотЬ: = ((вп—il + 1 )

(il)Xcomb; end; соч; —comb end процедуры

вычисления

соче

тания-,

procedure yn (z, инд,

yp,

p);

value

integer z;

integer ar

ray инд; array yp, p;

begin

integer

j, r,

q2 ; for

j: = l step

1 un

til z do begin

[j|: = — 1 ;

for r: = l

step

until

z do if yp [j)<

< p [r]

then

begin

|j]: = p[r];

инд

[j]:=r

end;

q2 :=HHA [j];

p[q2 ]: = —1

end;

end процедуры упорядочения;

real procedure гсч (л,

п,

a3); value

л,

п,

аЗ;

real л,

п;

integer

аЗ; begin own integer

а4, bl, Ь2, ЬЗ; if

а3=^0 then begin

а4: = аЗ;

bl: = 34359738368;

Ь2: =

68719476736;

ЬЗ: =

137438953472

end;

а4:=5Ха4; if а4>-ЬЗ then

а4:=а4—ЬЗ; if а4>Ь2 then а4: = а4—Ь2;

if a4>bl

then

а4: = а4—Ы; гсч:=а4Ы Х (п—л)+ л end генерирова

ния

случайных чисел;

ц: =28395423107;

input

(эта,

шп, фиц,

дельта

п,

эт,

эI,

т ,

к, с, ж);

п .>т

then

z: = n

else

z: = m;

begin

integer array

инд

11 :zj,

[1:1],

ami

flmlj],

э f [ 1 :c];

array

T[l:m, l:n], эТ[1:эт,

1:n]>

УР>

Р [ 1:z],

в fl:m ],

eps [l:n ];

input

(mi,

ami,

af);

begin

switch

p: = kl,

k2,

кЗ,

k4, ко, кб,

k7,

k8,

k9,

klO,

kll,

kl2,

kl3

к14,

klo,

к16,

к 17,

k l8,

kl9,

k20,

k21,

k22,

k23;

fo r

v: = l

step

until

do begin

\v: = 9 f

[v];

go to

p [w];

kl: begin

real

г1 ,

а;

ц1 : = ц;

a:= 0 ;

al: = l;

g:=ami [1 ]; fo r

з: = 1

step 1 until эl do begin

a:= a+ l/(a/+ l);

for r:=al

step 1 u n til

do begin

r> g

then

p4; pi:

fo r

j: = l

step

1 until

begin

эТ [r,

j]:=0;

p2: if

r l> a

then

begin

aT[r,

j]: = 1;

инд

[j]: — 1

end; end;

if r= l

then go to p3; for

i: = l

step 1 until

r—1

do begin

q1 := 0; for

s: = l step 1

until

begin

yp [s]:= 0 ;

109

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 1011 / 1311 12 13 > Следующая >>>

Соседние файлы в папке книги из ГПНТБ