3.4.Иерархические сети

Основная отличительная черта ИНС этого класса — наличие локализованных связей между слоями. В каждом слое ИНС есть нейроны, принимающие только связи от ограниченного подмножества ИН предыдущего слоя.

Преимущество иерархических ИНС в том, что ИН каждого слоя обрабатывают ограниченную порцию информации, которая затем , объединяясь в единое целое, переходит от одного уровня иерархии к другому.

Это выгодно с двух точек зрения:

•   ИН каждого нейронного ансамбля специализируются на относительно простых ситуациях, описываемых их входными векторами;

•   ИНС может функционировать с меньшим набором ИН, чем ИНС, решающая аналогичные задачи при отсутствии иерархической организации.

Примером ИНС этого типа является сеть, разработанная в середине 80-х годов Фукушимой. Сеть называется неокогнитроном Фукушимы.

Основная функция неокогнитрона — решение задач распознавания образов для пространственных изображений, т. е. способность распознавать образы независимо от того, как они до этого были преобразованы.

Функционирование неокогнитрона основано на моделировании зрительной системы человека. В зрительной коре имеются области, реагирующие на простые элементы изображений — линии, углы определенной ориентации. На более высоких уровнях — узлы, которые реагируют на более сложные и абстрактные образы, и т.д. На еще более высоком уровне — области, которые, получая информацию от групп узлов, расположенных на нижних уровнях, позволяют получать информацию об изображении в целом.

Неокогнитрон получает на входе двухмерные образы, аналогичные получаемым сетчаткой глаза, и обрабатывает их в последующих слоях. Он состоит из последовательности обрабатывающих слоев, каждый из которых состоит из набора плоскостей, а плоскости — из ансамблей искусственных нейронов.

На рис. 3.3 изображен неокогнитрон, предназначенный для распознавания изображения, состоящего из массива пикселов.

Каждый слой состоит из двух массивов плоскостей. Первый массив плоскостей, содержащий нейронные ансамбли типа (простые), получает выходные сигналы от предыдущего слоя, выделяет в изображении определенные простые образы и передает их во второй массив плоскостей, содержащих ансамбли нейронов типа (сложные), где образы обрабатываются так, чтобы стать в наибольшей степени позиционно независимыми. В каждом слое существуют пары простых и сложных ансамблей, т.е. для каждой плоскости простых ансамблей существует плоскость сложных.

Все простые ансамбли в данной плоскости реагируют на один и тот же образ. Плоскость простых ансамблей представляет собой массив ансамблей, каждый из которых настраивается на некоторый специфический простой образ. Каждый простой ансамбль чувствителен к ограниченному фрагменту общего входного образа.

Рис. 3.3. Неокогнитрон

Нейронные ансамбли группы предназначены для сведения к минимуму зависимости реакции системы на пространственное положение простого образа на общем изображении. Для этого каждый ансамбль нейронов группы получает в качестве входного образа выходы набора простых ансамблей из соответствующей плоскости того же слоя. Таким образом, каждый ансамбль нейронов реагирует на тот же образ, что и ансамбль нейронов в соответствующей ему плоскости, но он менее чувствителен к позиции образа, чем любой из них.

Поэтому каждый слой ансамблей нейронов группы C реагирует на более широкую область входного изображения, чем ансамбли нейронов в предыдущих слоях.

Неокогнитрон относят к ИНС, самоорганизующимся в процессе обучения, хотя известны случаи обучения неокогнитронов с учителем на небольшом количестве примеров. Только связи нейронов группы имеют настраиваемые веса. Это веса связей, соединяющих простой ансамбль с ансамблями нейронов группы предыдущего слоя. На рис. 3.3 они выделены жирными линиями. Эти весовые коэффициенты настраиваются так, чтобы выработать максимальную реакцию нейронов на определенные фрагменты входного образа. Различают возбуждающие и тормозящие связи.

Обучение самоорганизацией осуществляется последовательно, слой за слоем. Сначала подается входной образ. Весовой коэффициент связи от некоторого ансамбля нейронов к данному простому увеличивается, если выполняются два условия: во-первых, ансамбль нейронов группы , которому соответствуют связи, реагирует на входной образ, и, во-вторых, простой ансамбль реагирует более сильно, чем любой соседний внутри его области конкуренции.

Таким образом, простой ансамбль обучается реагировать более сильно на образы, появляющиеся наиболее часто в его рецептивной области.

Если же распознаваемый образ отсутствует на входе, то тормозящие связи предотвращают случайную активизацию ансамбля.