40.Задача распознавания с учителем. Метод комитетов.

Будем считать, что в пространстве признаков заданы некоторые точки. Эти точки являются кодами некоторых реальных объектов. Пусть эти объекты являются объектыми, принадлежащими некоторым образам. Если для части объектов заранее известны образы, к которым они принадлежат, и при построении разделяющей образы поверхности эта ин­формация используется, то такие задачи распознавания называются задачами обучения с учителем. Используе­мые объекты называются обучающей последователь­ностью, а построение разделяющей поверхности - обу­чением. После того как задача распознавания решена и в пространстве признаков построена разделяющая по­верхность, все вновь поступающие объекты будут относиться к тому или иному образу в зависимости от того, в какую относительно поверхности часть пространства они попали.

Определение. Комитетом совокупности объектов из двух классов называется множество плоскостей в прост­ранстве объектов, обладающих тем свойством, что каждый объект правильно классифицируется более чем половиной из плоскостей.

Можно доказать, что при некоторых условиях комитет обязательно существует.

Содержательно комитет означает следующее. В том случае, когда обучающая последовательность, вообще говоря, не разделяется плоскостью, образуется набор плоскостей, называемых комитетом и обладающих сле­дующим свойством:

число ошибочных отнесений каждого объекты обучающей последовательности при разделении простран­ства признаков плоскостями из комитета меньше половины числа плоскостей.

Таким образом, комитет как бы имеет коллективное мнение о том, к какому классу принадлежит объект, причем «большинство» комитета имеет мнение, отвечающее истинной классификации объекты.

Комитет строится по обучающей последовательности объектов x₁, …, x_r . После построения комитета (обучения) объекты, попадающие на распознавание, относятся в тот класс, к которому их относит большая часть плоскостей.

Естественно, что основной проблемой данного метода является поиск комитета совокупности объектов (обучение).

В настоящее время существуют пакеты прикладных программ, в которых реализован метод комитетов, например, ППП Квазар, ПАРК и другие.

Этот метод является в некотором смысле обобщением идеи разделения классов в пространстве признаков наиболее простой поверхностью.

41.Задачи, решаемые алгоритмами распознавания, основанными на вычислении оценок.

Основная задача ВО. Пусть задана таблица обучения T_n,r и некоторое объект s на Х. Требуется указать класс K_j , j = 1, 2,…, L, к которому принадлежит объект s.

Перейдем теперь к описанию класса алгоритмов, решающих основную задачу. Будем называть этот класс классом алгоритмов, основанных на ВО, а каждый конкретный алгоритм - алгоритмом ВО. Класс алгоритмов, основанных на ВО, задается посредством описания шести элементов его определяющих.

1. система опорных множеств,

2. функция близости,

3. ВО по строкам фиксированного опорного множества,

4. ВО для класса по опорному множеству,

5. оценка для класса по системе опорных множеств,

6. решающее правило.

Любой алгоритм распознавания, задание которого складывается из шести элементов, и будет алгоритмом вычисления оценок, представляющих собой совокупность всевозможных алгоритмов распознавания, задаваемых рассматриваемыми шестью элементами.

Задание алгоритма ВО.

А. Система - опорных множеств. Под опорным мно­жеством будем подразумевать некоторый набор номе­ров столбцов таблицы обучения T _{n, r .} Под системой опорных множеств будем подразуме­вать совокупность опорных множеств, задаваемых из со­держательных соображений при определении алгоритма, основанного на ВО. Например, система может состоять из одного набора, включающего все столб­цы, т.е. столбцы с номерами 1, 2, . . ., n.

Б. Функция близости. Пусть x_i и x_p - некоторые объекты. Пусть задана функция r(x_i,x_p), которая описы­вает степень похожести объектов x_i и x_p на основе анализа только по одному из опорных множеств. Ее и будем называть функцией близости.

Пример. r = 1, если x_i и x_p совпадают на столбцах, входящих в некоторое опорное множество, и r = 0 - в противном случае.

Строки считаются похожими, если эти части совпадают.

Очевидно, что для каждого опорного множества можно вычислить функцию близости. Выбор той или иной функции близости определяется содержательными соображениями.

В. ВО по строкам фиксированного опорного множества.

Рассматриваемый пункт (элемент) класса алгоритмов распознавания, основанных на ВО, означает учет степени важности, представитель­ности объектов, входящих в обучающую последова­тельность. Другими словами, пусть априорно задаются числовые коэффициенты γ₁,…,γ_r ,характеризующие важность объектов

x₁ ,…,x_{r .}

Тогда определяем оценку по строкам фиксированного опорного множества как некоторую заданную функцию от функции близос­ти и коэффициентов γ₁ ,…, γ_{r .}

Пример. = γ_i r, если функция близости вычисляется между объектами x_i и x_p по некоторому опорному множеству. Таким об­разом, - это близость по опорному множеству с уче­том важности.

Г. ВО для класса по опорному мно­жеству. Оценка Г* для класса по опорному множеству означает вычисление близости между всеми объекты­ми из одного класса и некоторым объектм, отно­сительно которого эта близость вычисляется. Эта бли­зость вычисляется с учетом важности объектов по фиксированному опорному множеству. Например, если опорное множество представляет собой набор столбцов i₁,…,i_k , а к классу K_m относятся объекты

x_{r +1} , … ,x_r , то оценку Г* для класса K_m по опор­ному множеству i₁ ,…, i_k для произвольного объекты x_p можно вычислить так:

Г* = γ _{r +1 *}r (x_{r +1} , x_p)+…+γ_{r *}r(x_r , x_p).

Д. Оценка для класса K_m по системе опорных множеств.

Оценки Г_m для класса K_m по системе опорных множеств означает близость произвольного объекты x_p к объектым из класса K_m по всем опорным мно­жествам из системы опорных множеств. Например, в ка­честве оценки Г_т можно взять сумму всех оценок Г*, полученных для каждого опорного множества.

Е. Решающее правило. Пусть по системе опорных множеств к объекту x_p вычислены оценки Г₁,......, Г_L . Под решающим правилом будем подразумевать правило, которое по оценкам Г₁,......, Г_L выносит сужде­ние о принадлежности x_p классам K_{1 , … ,} К_L .

При­мер.

x_p относится к классу K_j , если Г_j - наибольшая оценка из Г₁, . . ., Г_L.

На этом описание алгоритмов распознавания, осно­ванных на вычислении оценок, завершается.

Таким об­разом, можно сказать, что (1) выбирая конкретную систему опорных множеств, (2) определяя функцию близости, (3) зада­вая правила ВО по строкам фиксирован­ного опорного множества, (4) для класса по опорному мно­жеству и (5) по системе опорных множеств, а также (6) назна­чая решающее правило, мы получаем некоторый конкретный алгоритм ВО. Класс же алгоритмов распознавания, основанных на ВО, включает в себя всевозможные алгоритмы, которые могут быть построены из рассмотренных шести элементов.