Глава 5. Обучаемые классификаторы образов. Детерминистский подход

В данной и следующей главе рассматриваются классификаторы образов, решающие функции которых строятся по заданной выборке образов с помощью итеративных «обучающих» алгоритмов. Известно, что если выбран тип решающей функции, задача заключается в определении коэффициентов. Алгоритмы, которые будут рассмотрены ниже, позволяют определять коэффициенты искомого решения посредством обучения по заданным множествам образов при условии, что обучающие множества разделяются выбранными решающими функциями. В п. 2.2 было показано, что решение задачи о разделении на два класса эквивалентно решению системы линейных неравенств. Итак, если заданы два множества образов, принадлежащих классам и , то решение ищется в виде вектора весов , который обладает следующим свойством. Если выполняется условие , то образы принадлежат классу , если , то к классу . Если образы класса умножить на (-1), то условие становится общим для всех образов. Пусть N – общее количество пополненных выборочных образов обоих классов. Задача сводится к отысканию вектора весов , для которого справедливы следующие неравенства

, (5.1)

где ,

0 – нулевой вектор.

΄ - знак транспонирования

Если вектор весов , удовлетворяющий неравенству (5.1) существует, то неравенства называются совместными, в противном случае – несовместны. На языке распознавания образов это означает, что классы разделимы или неразделимы. Для решения системы (5.1) можно использовать детерминистский или статистический подход. Алгоритмы, которые рассмотрены в главе 5 и 6, основаны на детерминистском подходе.

5.1. Классификация образов с помощью персептронного подхода

В середине 50-х и начале 60-х годов многие исследователи считали, что класс устройств, предложенных Розенблаттом в 1958 году и называемых обычно персептронами, представляет модель процесса обучения машины, обладающую большими возможностями [1].

Основная модель персептрона, обеспечивающая отнесение образа к одному из двух заданных классов, приведена на рисунке 5.1. Устройство состоит из сетчатки Ѕ сенсорных элементов, которые случайным образом соединены с ассоциативными элементами второй сетчатки А. Каждый из элементов второй сетчатки, воспроизводит выходной сигнал только в том случае, если достаточное число сенсорных элементов, соединенных с его входом, находится в возбужденном состоянии. Сенсорные элементы можно рассматривать в качестве устройств, с помощью которых вся система, воспринимает из внешней среды стимулы, т.е. как некие измерительные устройства, а ассоциативные элементы – как входную часть системы.

Реакция всей системы пропорциональна сумме взятых с определенными весами реакций элементов ассоциативной сетчатки; таким образом, обозначив через x_i реакцию i-го ассоциативного элемента и через _i – соответствующий вес, реакцию системы можно записать как

. (5.2)

Если R>0, значит образ, предъявленный системе, принадлежит классу ω₁; если R<0, то образ относится к классу ω₂. Основная персептронная модель представляет собой, за исключением сенсорной сетки, не что иное, как реализацию линейной решающей функции.

Рис. 5.1. Основной вариант модели персептрона