Кохоненовская самоорганизующаяся сеть.

Самоорганизация сетей, обучающихся по закону Кохонена, осуществляется через процедуру “конкурентного обучения”. Отличительной чертой такого типа обучения является то, что в процессе обучения сети каждому конкретному входному образу модификации подлежат не все весовые векторы сети, а лишь выделенные в результате специальной процедуры, которая и называется “конкуренцией”. Цель процедуры конкурентного обучения — аппроксимация функции плотности вероятности входных векторов значениями весовых векторов. Каждый нейрон выходного слоя сети становится максимально чувствительным к определенному входному вектору, причем веса будут вычислены так, что топологически близкие нейроны окажутся чувствительными к физически сходным входным образам.

Каждый нейрон Кохонена слоя Кохонена (рис. 2.3) вычисляет свою входную интенсивность , где,, а— Евклидова метрика.

После вычисления интенсивности начинается поиск наименьшей из входных интенсивностей, т.е. поиск нейрона, для которого ближе всех расположен кв смысле.

Рис.7.Слой Кохонена

Независимо от конкретной процедуры конкуренции значением выходного сигнала победившего нейрона становится 1, а значениями выходных сигналов остальных нейронов — 0. С этого момента начинается обучение.

Закон обучения Кохонена

Модификация весовых коэффициентов происходит в соответствии с законом

, где .

То есть весовые коэффициенты изменяются только у победившего нейрона.

Этот закон можно записать так:

В начале обучения выбирается . Затем значениеуменьшают.

Самоорганизующиеся структуры используются , в основном, для решения задач распознавания образов. Эти структуры классифицируют образы, представленные векторными величинами, в которых каждый компонент вектора соответствует элементу образа.

После обучения подача на вход сети вектора из данного класса будет приводить к выработке возбуждающего уровня в каждом выходном нейроне. Нейрон с максимальным возбуждением определяет класс. Так как обучение производится без указания целевого вектора, то нет возможности определить заранее, какой нейрон будет соответствовать данному классу входных векторов. Это планирование осуществляется путем тестирования после обучения. По мнению Кохонена, для получения хорошей статистической точности количество обучающих циклов должно быть примерно в 500 раз больше количества выходных нейронов.

Но закон Кохонена в такой форме не позволяет найти равновероятно распределенные весовые векторы. Эта задача решается следующим образом. Вводится понятие времени , т.е. параметра, характеризующего количество побед нейронав конкуренции,, затем вычисляется текущее значение смещения— это величина, с помощью которой частота побед-го нейрона сравнивается с. Нейроны, которые побеждали часто, имеют большое отрицательное смещение. Те, которые побеждали редко — наоборот. Нейроны, величина смещения которых меньше некоторого порога, “изымаются” из конкуренции. Так получают весовые векторы, распределенные в сети в равновероятной конфигурации.

18