книги из ГПНТБ / Журавлёв, Ю. И. Алгоритмы вычисления оценок и их применение [монография]

Г л а в а III

МЕРЫ ВАЖНОСТИ ОБЪЕКТОВ В СЛОЖ НЫХ СИСТЕМАХ

§ 1. Важность объекта в системе. Мера важности

Во многих прикладных задачах (анализ и синтез динамических систем, транспортная задача, распознавание образов) требуется ввести способ измерения важности отдельных компонент сложной системы.

Существуют различные подходы к введению этой величины. Рассмотрим подход [32], основанный на следующем естественном соображении. Предположим, что задана некоторая система, пред­ назначенная для решения некоторого класса задач. На множестве задач определена функция, задающая эффективность решения задачи системой, из которой удаляется блок или несколько блоков. Для новой системы функция эффективности в общем случае будет другой.

Среднее изменение функции эффективности следует считать мерой важности блока или совокупности блоков данной системы.

Дадим точное определение понятия важности объекта в системе. Пусть система 5 состоит из блоков Bv В2, ..., Вп . Задано

' f z !

назовем мерой важности (весом) совокупности блоков Bt , Д-2, ..., В ^ и обозначим через р{В^, В^, ...,

Если выделенная система состоит из одного блока В., то по­ лучим меру важности фиксированного блока Bt в системе S.

31

Понятие меры важности, введенное соотношением (ill.l), предпо­ лагает равноправие всех задач, решаемых системой. В действи­ тельности сами задачи Z часто распадаются на более или менее

важные.

Если считать, что на множестве (Z) задана функция v (Z), определяющая важность задачи Z, то вместо (III.1) естественно написать величину

В ряде случаев вместо функции t(Z) удобнее рассматривать другую t (Z) — время решения задачи Z системой S. В этом случае следует задавать вес при помощи выражения

§2. Примеры введения меры важности объектов в

сложных системах

Пусть задана двухполюсная транспортная сеть — ориентиро­ ванный связный граф без петель, в котором выделены две вер­

ти можно использовать, к примеру, величину q (г) — вероятность поступления груза величины z на вход сети.

Удалим из сети дугу а. Тогда по новой сети время перевозки

груза Ти (z) определится формулой, аналогичной (III.4). Согласно

32

(Ш.З), в качестве меры важности дуги естественно рассматривать величину

|о. *|

Применяя алгоритмы В. А. Евстигнеева, нетрудно построить приближенный метод для вычисления интегралов вида (III.5).

2. Опишем реализацию булевых функций схемами из функ­ циональных элементов [53]. Обозначим через р (Е) сложность функционального элемента Е. Число аргументов булевой функ­ ции <р, реализуемой элементом Е, — i (Е). Предположим, что булевые функции, зависящие от и переменных, реализуются схе­ мами, составленными из элементов E v Е.,,..., Е . Тогда справед­

лива теорема О. Б. Лупанова, которая формулируется следующим образом: если р (£\) > 0, то почти все булевые

функции от п переменных реализуются схемами с асимптотичес­ кой сложностью

Используя ранее введенные определения, а также сформули­ рованный выше результат О. Б. Лупанова, нетрудно определить важность элемента Е. в системе Ev Я2, ..., Е .

Если после удаления элемента Ej система становится функ­ ционально неполной, то считается, что важность элемента £у

бесконечно большая. В противном случае под важностью эле­ мента Ej следует понимать величину

менее чем от двух переменных.

§3. Мера важности признаков в задаче распознавания

образов

Решение основной задачи распознавания образов может быть проведено различными методами, например, корреляционными, методами, использующими теорию статистических решении, а так­ же алгоритмами «Обобщенный портрет», «КОРА-2», «КОРА-3»

и др. [8, 11, 49].

Все эти методы и алгоритмы были применены при решении ряда прикладных задач и показали удовлетворительную работоспособ­ ность. Общей отличительной их особенностью является то, что при реализации процесса распознавания в явном виде не используется понятие важности (существенности) определяющих объекты при­ знаков. Поэтому не вводится также понятие меры важности (ин­ формационного веса) признаков и, естественно, не производится

еевычисление.

Вто же время за последние годы все более широко распростра­ няются методы [7, 20, 30—32, 69], в которых основным этапом яв­ ляется вычисление и рассмотрение информационных весов призна­ ков. На основании последних фактически реализуются все дальней­ шие процедуры вплоть до различения классов или же отнесения произвольного объекта (строки таблицы Тпт ) к одному из классов.

Опишем некоторые из существующих методов вычисления ин­ формационного веса признака.

1.Вычисление информационного веса признака по частоте встре

чаемости. Пусть задано т объектов, каждый из которых описыва­ ется набором из а признаков. Алфавит признаков бинарный.

Предположим, что в таблицу сведены все объекты, на которых выполнены значения цели (например, все строки соответствуют районам, где обнаружены месторождения полезных ископаемых).

Выделим столбец с номером i (I-й признак). Пусть в нем со­ держится т1 единиц и т — т1 нулей. Мерой важности (информа-

обосновано формально-логическими построениями, поэтому рас­ сматриваемый метод имеет ряд недостатков. Так, хотя признак может встречаться нечасто, но если он выполнен, то интересующее нас явление сопутствует ему в сильно выраженной форме. При вве­ денной через частоту встречаемости мере значимость такого при-

mi

знака, равная — , окажется малой, что совершенно не соответст­

вует истинному положению вещей.

Следовательно, описанный подход к определению веса по час­ тоте, по-видимому, может давать удовлетворительные результаты в простейших случаях хорошо организованных таблиц объектов.

34'

2. Вычисление информационного веса посредством анализа тупиковых тестов. Согласно И. А. Чегис и С. В. Яблонскому [72], понятие тест и тупиковый тест вводится следующим обра­ зом.' Пусть задано семейство функций {/), определенных на множестве М, а также выделены некоторые пары

теста и тупикового теста интерпретируются следующим образом. Пусть задана таблица Twn объектов, разбитая на классы ЛГ1,

ления из таблицы всех признаков (столбцов), за исключением перечисленных, изображения объектов, относящихся к разным классам А'., остаются различными.

В данном случае тупиковый тест представляет собой результат локально-максимального сжатия исходной таблицы, при котором еще возможно различение объектов из разных классов. При даль­ нейшем сжатии таблицы это свойство теряется. Тупиковые тесты составляют как бы неизбыточные описания объектов, характерна зуемых строками таблицы.

Различных неизбыточных описаний — тупиковых тестов у од­ ной таблицы может быть довольно много. Так, в работе [58] показано, что доля таблиц, для которых число тупиковых тес­

ствительно число тупиковых тестов у „типичных“ таблиц доста­ точно велико.

Естественно предположить, что если некоторый признак (соот­ ветствующий ему столбец) войдет в большое число таких неизбы­

p{i) оценивает важность признака а. при распознавании. Распо- '

35

ванию/>((), можно заметить, что признаки, получившие меньший номер, оказываются более важными.

При исследовании конкретных таблиц, описывающих совокуп­ ность объектов, обычно выясняется, что признаки распадаются по значениям p(i) на группы, причем колебание величины p(i) между группами велико по сравнению с колебаниями внутри них. Следо­ вательно. признаки по информационной ценности часто распада­ ются на четко очерченные ранги. Наиболее существенны при изу­ чении объектов и явлении признаки первого ранга, менее сущест­ венны — второго.

Введенная таким образом мера не зависит от кодировки, не меняется при замене в столбце единиц на нули и, наоборот, может быть использована для решения и основной задачи распознавания образов (классификации). С ее помощью были успешно решены задачи распознавания в геологии, при диагностике психических заболевании, при классификации социологического материала и др.

Из изложенного выше ясно, что основным моментом при вычи­ слении информационного веса по данному методу является выде­ ление и подсчет числа всех тупиковых тестов таблицы.

И. А. Чегис и С. В. Яблонский [72] впервые описали общий ал­ горитм построения тупиковых тестов при рассмотрении задачи логического контроля электрических схем. Реализация модифика­ ции этого алгоритма на ЭВМ применительно к задаче вычисления информационных весов признаков была осуществлена Т. Л. Слуц­ кой [66]. Однако алгоритм И. А. Чегис и С. В. Яблонского, как и все его модификации, требует большого числа операций, памяти ЭВМ, поэтому применим лишь для сравнительно небольших таблиц.

Кроме того, мера важности, введенная через тесты, обладает следующими недостатками.

1.Такая мера важности эвристическая и никак не обосновы­ вается. Введение ее основано большей частью на интуиции и хоро­ шем совпадении с результатами экспериментов.

2.Мера введена для весьма частного случая систем — системы, признаков, описывающей объекты, подлежащие распознаванию.

Введенная мера может быть обобщена на системы подобного типа, однако совершенно неясно, каким образом можно распрост­ ранить тестовое понятие меры важности на объекты, образующие

системы другой природы.

Построение эффективного универсального алгоритма, выделяю­ щего все тупиковые тесты, вряд ли возможно, так как эта задача родственна задаче построения всех тупиковых дизъюнктивных нор­ мальных форм (д. н. ф.) булевых функций. Как показывают ис­ следования [25], данная задача неразрешима в классе эффектив­

ных алгоритмов.

Таким образом, мера важности признака при ее вычислении прямо по определению может быть сосчитана лишь в ограничен­ ном числе случаев. Вместе с тем, возникает необходимость выво­

зе

дить информационные веса признаков по таблицам, содержащим большое число строк и столбцов.

Ниже в п. 3 настоящего параграфа для признаков объектов распознавания вводится мера важности, использующая основные положения § 1 гл. III и позволяющая преодолеть (иногда частично) указанные трудности. В. А. Слепян [65] было показано, что вводи­ мый таким образом информационный вес «почти всегда» хорошо аппроксимирует информационный вес, введенный через тесты

таблицы.

Существует еще ряд методов определения меры важности при­ знаков, которые могут быть объединены в группу теоретико-инфор­ мационных методов. В работе Мерилла и Грина [77] описан так на­ зываемый критерий «добротности» признака, связываемый с рас­ хождением между любыми двумя классами образов. Льюис [76] в качестве такого критерия предлагает функцию в виде энтропии или средней информации о классах образов. Несколько иная про­ цедура отбора признаков описана в работе Ватанабе [14].

3.Мера важности признака в классе алгоритмов вычисле­

Вычеркнем теперь из таблицы Тпт1 столбец с номером i и удалим его также из голосующих множеств. Строки Sv S2, ...,

37

ставлены Sq .

Количества голосов Гц будут меньше, чем соответствую-

Щие Гц(5?).

Если признак i (удаленный столбец с номером i) существен­ ный, то число голосов в среднем уменьшается сильно, и наобо­ рот. Степень уменьшений, обработанную надлежащим образом, следует считать мерой важности изучаемого признака.

Информационный вес г-го признака вводим следующим обра­ зом.

Составляем разности

Вводим величину

Аналогично поступаем и с другими классами:

т — m t _

Величина

С

называется информационным весом г'-го признака. Окончательно выражение (III.9) выписывается так:

i

38

Получим еще другую формулу для вычисления информацион­ ных весов с использованием тех же голосующих процедур.

Назовем числом правильно поданных голосов число голосов, поданных строкой (строками) класса за своп класс.

Берем теперь общее число правильно поданных голосов в при­ сутствии 1-го столбца по отношению к общему числу голосов. За­ тем аналогичную величину вычислим после удаления /-го столбца. Разность этих двух величин составляет информационный вес.

Рассмотрим величины из (III.6) — (III.8). Просуммируем их:

Положим

Рассмотрим далее аналогичные величины и для случая с ис­ ключенным /-м столбцом, т. е.

т I

также можно принять в качестве информационного веса /-го при­ знака. Такое определение информационного веса в содержа­ тельном смысле соответствует изменению эффективности, упоми­

39