4.2. Сходимость алгоритма самообучения

При рассмотрении проблемы сходимости ограничимся одномерным случаем, когда имеется лишь один вход. Пусть [a, b] - область значений для входа (замкнутый интервал). Покажем, что алгоритм самообучения переводит вес x в середину интервала (рис. 3).

a x₂ x_k x₃ x₁ b

Рис. 3. Область значений для входа.

Пусть x₁ - начальное значение веса одного активного нейрона слоя Кохонена. Это значение x₁ выбирается случайно. При выборе значения x₁ интервал [a, b] разбивается на 2 подинтервала [a, x₁] и [x₁, b]. Каждое изменение x определяется его расстоянием до a и до b:

dx/dt =  (b-x)/2 + (a-x)/2 = ((a+b)/2 - x) (11)

Для изменения веса x в точке x₁ следует

x₁ =  ((a+b)/2 - x₁) (12)

Обозначим y_i = x_i - (a+b)/2, тогда соотношение (12) можно представить так:

x₁ = -  y₁ (13)

Определим сейчас математическое ожидание для значения весового вектора x₂ на следующем шаге алгоритма самообучения:

x₂ = x₁ + x₁ = (a+b)/2 + y₁ - y₁ = (a+b)/2 + y₁(1-) (14)

Аналогично можно определить и x₃:

x₃ = (a+b)/2 + y₁(1-)² (15)

или в общем случае:

x_k = (a+b)/2 + y₁(1-)^k-1 (16)

При   [0, 1] значение x_k сходится к (a + b)/2.

Расширим рассмотренный одномерный случай и предположим, что одномерный слой Кохонена (линейка) содержит не один нейрон (как ранее), а m активных нейронов с весами x_1, x_2, … , x_m. Предположим, что эти веса упорядочены:

0 < x₁ < x₂ < … < x_m < b

и равномерно распределены в интервале [a, b]. В этом случае в процессе самообучения весовые векторы (коэффициенты) сходятся к значениям (рис. 4):

x_i = a + (2i - 1) (b - q)/2m, i = 1, 2, … , m (17)

x₁ x₂ x₃ x_m-1 x_m

a b

(b-q)/m (b-q)/m (b-q)/m (b-q)/m

Рис. 4. Распределение весовых коэффициентов.

Обратим внимание, что точки (17) для весов x_i, i = 1, 2, … , m определяют наиболее устойчивые позиции, ибо

dx_i/dt = 0 (18)

В двумерном случае слой Кохонена содержит m x m активных нейронов, а областью определения для входов является декартово произведение [a,b]x[c,d], т. е. входной слой содержит 2 нейрона. В этом случае весовой вектор каждого нейрона слоя Кохонена имеет две составляющие - по числу входов. Каждый нейрон слоя Кохонена также характеризуется двумя координатами - по оси абсцисс и по оси ординат.

Подобно одномерному случаю можно показать, что координаты весовых векторов нейронов слоя Кохонена на оси абсцисс в процессе самообучения равномерно распределяются в интервале [a, b]:

a < w₁¹ < w₁² < …< w₁^m < b (19)

Аналогично для координат этих векторов по оси ординат:

c < w ₂¹ < w₂² < … < w₂^m < d (20)

В результате самообучения сети Кохонена весовые векторы нейронов слоя Кохонена равномерно распределяются во входном пространстве.