Алгоритм нейронного газа

В этом алгоритме адаптация весов выполняется по той же формуле: W^k+1_i=W^k_i+nu^k_i*G^k(i,X^k)*(X^k-W^k_i).

В каждом цикле обучения все нейроны сортируются в последовательности возрастания расстояния d(X^k, W_i)

d₀<d₁<...<d_j<...<d_M-1. где j=m(i) - номер i-ого нейрона в последовательности. Для нейрона-победителя m(i)=0.

Значение ф-ции соседства i-ого нейрона G^k(i,X^k) определяется следующим выражением: G^k(i,X^k)=exp(-m(i)/s^k),

где s^k определяет уровень соседства и является величиной, уменьшающейся по ходу обучения. При s^k, стремящемся к 0, алгоритм превращается в алгоритм WTA.

Для достижения хороших результатов самоорганизации сети обучение должно начинаться с большого значения s^k, которое с течением времени обучения уменьшается до 0. Для такого уменьшения s^k предлагается использовать выражение s^k=s^max*(s^min/s^max)^k/k_max, ,где k_max - максимальное заданное количество циклов обучения.

Коэффициент обучения nu^k_i тоже может уменьшаться с течением времени обучения, это уменьшение может быть линейным от nu_max в первом цикле до nu_min в цикле k_max, так и показательно в соответствии с формулой

nu^k=nu^max*(nu^min/nu^max)^k/k_max.

50:Методы редукции нейронной сети

Существует два способа сокращения (редукции) описания:

редукция "снизу вверх" - постепенное удаление параметров от наименее значимых к более значимым;

редукция "сверху вниз" - выделение наиболее значимых параметров и постепенное дополнение их менее значимыми.

Способ редукции "снизу вверх":

определяются наименее значимые параметры и устраняются вместе с соответствующими элементами системы;

оставшиеся параметры модифицируются так, чтобы наилучшим способом решить задачу;

циклически повторять пп. 1-2 до тех пор, пока задача не будет решаться с удовлетворительной точностью.