- •Раздел II. Распознавание образов Введение
- •Глава 1. Общие основы теории распознавания образов
- •1.1. Основные понятия теории распознавания образов
- •1.2. Основные задачи, возникающие при разработке систем распознавания образов
- •1.3. Основные принципы построения систем распознавания
- •1. Принцип перечисления членов класса
- •2. Принцип общности свойств
- •3. Принцип кластеризации
- •1. Эвристические методы
- •2. Математические методы
- •3. Лингвистические (синтаксические) методы
- •Глава 2. Решающие функции
- •2.1. Общие понятия
- •2.2. Линейные решающие функции
- •Глава 3. Классификаторы образов с самообучением
- •3.1. Классификация образов с помощью функций расстояния
- •3.2. Классификация образов по критерию минимума расстояния
- •1. Случай единственности эталона
- •2. Множественность эталонов
- •3.3. Обобщение принципов классификации по минимуму расстояния
- •Глава 4. Распознавание образов с помощью кластеров
- •4.1. Основные понятия кластерного анализа
- •4.2. Расстояние между образами и мера близости
- •4.3. Расстояние между кластерами
- •4.4. Функционалы качества разбиения
- •4.5. Иерархические процедуры
- •4.6. Эвристические методы и алгоритмы
- •4.7. Алгоритм k – внутригрупповых средних
- •Глава 5. Обучаемые классификаторы образов. Детерминистский подход
- •5.1. Классификация образов с помощью персептронного подхода
- •5.2. Принцип подкрепления - наказания
- •5.3. Сходимость принципа подкрепления - наказания
- •5.4. Обобщение алгоритма персептрона для классификации нескольких классов
- •Глава 6. Распознавание образов на основании метода потенциальных функций
- •6.1. Получение решающих функций
- •6 .2. Выбор потенциальных функций
- •6.3. Сходимость алгоритмов обучения
- •6.4. Обобщение алгоритма метода потенциальных функций на несколько классов
- •Глава 7. Структурное распознавание образов Введение
- •7.1. Синтаксический подход к распознаванию образов
- •7.2. Система синтаксического распознавания образов
- •7.3. Методы предварительной обработки
- •1. Кодирование и аппроксимация
- •2. Фильтрация, восстановление и улучшение
- •3. Сглаживание
- •4. Сегментация
- •7.4. Языки описания образов
- •1. Выбор непроизводных элементов
- •2 Выделение непроизводных элементов на границах
- •Задание для самостоятельной работы
- •7.5. Языки и порождающие грамматики
- •7.6. Обработка изображений
- •1. Классы изображений
- •2. Ввод изображений
- •3. Преобразование изображений
- •Литература
2.2. Линейные решающие функции
Простой вариант двумерной решающей функции, можно легко обобщить на n-мерный случай. Общий вид линейной решающей функции задается формулой
,
(2.1)
где
вектор
называется
весовым
или
параметрическим.
Общепринято во все векторы образов вводить после последней компоненты единицу и представлять (2.1) в виде:
,
(2.2)
где
и
-
пополненные
векторы образов и весов
соответственно. Будем называть х
и
w,
входящие в формулу (2.2), просто
вектором образа и весовым вектором
соответственно.
Предполагается, что в случае разбиения на два класса решающая функция обладает следующим свойством:
Рассмотрим
случаи разбиения на несколько классов
,
т.е.
предполагается,
что объекты принадлежат более чем двум
классам.
Случай 1. Каждый класс отделяется от всех остальных одной разделяющей поверхностью. В этом случае существует М решающих функций, обладающих свойством:
где wi=(wi1, wi2,…, win, wi,n+1) - весовой вектор, соответствующий i-ой решающей функции.
Рассмотрим
рис. 2.2,
учитывая, что
если функция
больше
нуля, при более чем одном
значении i,
рассматриваемая схема классификации
не позволяет найти решение.
Это справедливо также и при
для
всех i.
Из
рисунка видно, что существуют четыре
области неопределенности, соответствующие
одной из
этих ситуаций.
Случай
2.
Каждый
класс отделяется от любого другого,
взятого в отдельности класса,
"индивидуальной" разделяющей
поверхностью, т.е. классы
попарно разделимы. В этом случае
существует М(М-1)/2
(число
сочетаний из М
классов
по два) разделяющих поверхностей.
Решающие функции
имеют вид
и обладают
тем свойством, что если об раз х
принадлежит
классу
,
то
для
всех
;
кроме
того,
(рис.
2.3).
Зона
положительности функции
совпадает
с зоной отрицательности
функции
.
Существует
область неопределенности.
Довольно часто распространены задачи,
представляющие собой комбинацию случаев
1 и 2.
Случай
3.
Существует
М
решающих функций
,
k=1,2,
...,М,
таких,
что если образ х
принадлежит классу
,
то
для
всех
,
эта ситуация является разновидностью случая 2, поскольку можно положить
,
где
.
Легко убедиться в том, что если для всех , то для , т.е. если классы разделимы, как в случае 3, то они автоматически разделимы и как в случае 2, обратное, вообще говоря, не верно (рис. 2.4).
Рис. 2.2. Первый случай разделения на несколько классов
(ОНР - область непринятия решения)
Рис. 2.3. Второй случай разделения на несколько классов
Рис. 2.4. Третий случай разделения на несколько классов
В данном случае области неопределенности как таковые отсутствуют, за исключением разделяющих границ.
Глава 3. Классификаторы образов с самообучением
3.1. Классификация образов с помощью функций расстояния
Один из наиболее простых эвристических подходов – это использование для классификации образов функций расстояния. Если векторы образов, рассматривать как точки в евклидовом пространстве, то меру сходства можно определить через их близость.
Рис. 3.1. Образы, поддающиеся классификации с помощью понятия
близости
В частности, изучая рис. 3.1, можно прийти к интуитивному выводу о принадлежности вектора х классу , исключительно из тех соображений, что этот вектор находится ближе к векторам образов класса .
Можно рассчитывать на получение удовлетворительных практических результатов при классификации образов с помощью функций расстояния только в тех случаях, когда классы обнаруживают тенденцию к проявлению кластеризационных свойств. Это обстоятельство можно оценить, сопоставив рис. 3.1 и рис. 3.2. Изучение первого рисунка показывает, что отнесение образа х к классу , не вызовет сомнений в связи с его близостью к этому классу, как уже отмечалось выше. Что касается ситуации, представленной на рис. 3.2, то довольно трудно найти основание для зачисления образа х в один из классов, исходя из оценки его близости к образам соответствующего класса, хотя классы и не пересекаются.
Рис. 3.2. Образы, классификации которых с помощью понятия близости вызывает затруднения
Следовательно, близость классифицируемого образа к образам некоторого класса будет использоваться в качестве критерия для его классификации. Такой подход назовем классификацией образов по критерию минимума расстояния.
