2.2Классификация для единственного эталона

Рассмотрим задачу определения алгоритма классификации образов для классов, представленных единственными эталонами. Целью будет служить получение решающей функции как можно более простой и эффективной.

Пусть имеется классов с единственными эталонами

Если имеется образ Х, который необходимо классифицировать, то евклидово расстояние (между образом и эталоном) выражается формулой

Использовать расстояние как основу для построения решающей функции несколько затруднительно в силу ее нелинейности. Сформируем линейную функцию несколько преобразовав формулу расстояния. С учетом того, что расстояние – величина положительная, вместо него можно использовать его квадрат т.е. :

В результате выполнения несложных преобразований с учетом того, что

не зависит от , т.е. это слагаемое можно опустить, получим:

.

Обозначим полученное выражение d(Х)

d(Х) = X^TZi – 0.5Z_i^TZ_i

Так как ищется минимум расстояния, то, как следует из формулы, для функции d(Х) необходимо искать максимум.

Полученная формула d(Х) - это линейная функция и может быть представлена в виде:

Образ Х будет отнесён к классу , если

где

.

В итоге уравнение решающей функции может быть записано в виде

.

2.3Задача классификации на множестве эталонов.

Пусть теперь каждый класс представлен множеством эталонов

тогда функцию, определяющую расстояние между образом и эталоном класса, можно определить в виде:

.

Если использовать формулу для d(Х ), то решающая функция будет иметь вид

.

2.4Классификация по правилу ближайшего соседа.

Иногда по тем или иным причинам невозможно использовать классификацию по критерию минимума расстояния от образа до эталона класса. В этом случае можно использовать так называемый критерий "ближайшего соседа".

Рассмотрим выборку образов с известной классификацией. Известно, что каждый образ отнесен к одному из классов

Ближайшим соседом

S_i {S₁, S₂,…, S_n}

образа X называется такой элемент выборки S_i, что расстояние между ними

D(S_iX) - минимально.

Отнесение образа X к классу С_i осуществляется в том случае, если ближайший сосед для X принадлежит этому классу.

Можно отметить два недостатка классификации по правилу ближайшего соседа:

-для уменьшения вероятности ошибок необходимо хранить не m эталонов, а большое число представителей классов;

-необходимо производить вычисления со всеми представителями классов для определения ближайшего соседа.

Модификацией правила ближайшего соседа является q-БС правило. По этому правилу определяется q ближайших соседей образа X. Образ X относится к тому классу, в котором находится максимальное число ближайших соседей.

2.5Контрольные вопросы

1. Почему при классификации не используют функцию расстояния напрямую

2. Почему можно использовать вместо функции расстояния ее квадрат

3. Для какой формы областей, занимаемых образами классов правило ближайшего соседа предпочтительней критерия минимума расстояния

4. Вследствие чего может образоваться множество эталонов класса

5. Что такое эталон класса

6. Что такое ближайший сосед образа

7. Почему решающая функция, полученная в результате использования квадрата расстояния, имеет линейный характер

8. Какой критерий используется при применении решающей функции, полученная в результате использования квадрата расстояния

9. Какова причина неэффективности в смысле быстродействия метода ближайшего соседа

7