Сети Кохонена

Принцип самообучения

Самообучение сети заключается в подстройке весов синапсов на основании информации содержащейся в поданном входном векторе. Вид откликов на каждый класс входных событий заранее неизвестен и будет представлять собой произвольное сочетание состояний нейронов выходного слоя, обусловленное случайным распределением весов при инициализации сети.

Общая идея алгоритмов обучения заключается в том, что при самообучении путем коррекции весов усиливаются связи между возбужденными нейронами. Так происходит коррекция и закрепление образа, отвечающего конкретной части из всей группы рассматриваемых событий. В результате сеть способна обобщать схожие образы относя их к одному классу и этим выполнять сжатие информации.

Архитектура слоя Кохонена и алгоритм его настройки предполагает, что для каждого входного вектора будет активизирован лишь один нейрон- победитель. Для данного входного вектора только один нейрон Кохонена выдает логическую единицу, все остальные выдают ноль.

Слой Кохонена классифицирует входные векторы в группы схожих векторов. Это достигается с помощью такой подстройки весов, что близкие входные векторы активизируют один и тот же нейрон. В результате обучения слой получает способность разделять несхожие входные векторы.

Алгоритм Кохонена формирования карт признаков:

Шаг 1. Инициализация сети:

Весовым коэффициентам сети присваиваются малые случайные значения. Общее число синаптических весов - M*N Начальная зона соседства показана на рис.

Шаг 2. Предъявление сети нового входного сигнала. Шаг 3. Вычисление расстояния до всех нейронов сети:

Расстояния dj от входного сигнала до каждого нейрона j определяется по формуле:

, n1

d (x(t) w(t)

j i ij i0

Где xi - i-ый элемент входного сигнала в момент времени t,

wij(t) - вес связи от i-го элемента входного сигнала к нейрону j в момент времени t.

Шаг 4. Выбор нейрона с наименьшим расстоянием:

Выбирается нейрон j*, для которого расстояние dj наименьшее. Шаг 5. Настройка весов нейрона j* и его соседей:

Производится подстройка весов для нейрона j* и всех нейронов из его зоны соседства NE. Новые значения весов:

wij(t+1) = wij (t) + r (t) (xi (t) - wij(t)),

где r(t) - шаг обучения, уменьшающийся с течением времени

(положительное число, меньше единицы).

Шаг 6. Возвращение к шагу 2 .

Зоны топологического соседства нейронов

NEj(t) множество нейронов, которые являются соседями нейрона j в момент времени t.

Окрестность - это несколько нейронов, окружающих выигравший нейрон.

SOM (Карты Кохенена) Алгоритм построения

• Проинициализируем mij случайными значениями

• Далее, в случайном порядке будем предъявлять наблюдения и для каждого:

– Вычисляем ближайший узел

– Выберем множество соседей узла, такое что расстояние на сетке между ними меньше r

– Для некоторого множества соседей узла, включая сам узел,

изменяем их положения согласно: m m x m

kl kl i kl

–Повторяем процедуру уменьшая r и пока сеть не стабилизируется

SOM (Карты Кохенена)

Иллюстрация: исходные данные

SOM (Карты Кохенена)

Иллюстрация: сетка