1 Инстар Гроссберга 3.1.4. Инстар и оутстар Гроссберга

Нейроны типа инстар и оутстар — это взаимодополняющие элементы. Инстар адаптирует веса сигналов, поступающих на сумматор нейрона, к своим вход­ным сигналам, а оутстар согласовывает веса выходящих из нейрона связей с узлами, в которых формируются значения выходных сигналов. Нейрон типа инстар и оутстар был определен С. Гроссбергом.

С

Оутстар Гроссберга

игналы х_j, подаваемые с весовыми коэффициентами w_ij на вход i-го инстара, суммируются в соответствии с выражением . В соответствии с функцией активации на выходе нейрона вырабатывается выходной сигнал . Часто в инстаре применяется линейная форма функции активации, и тогда . Обучение инстара (подбор весов w_ij) производится по правилу Гроссберга, в соответствии с которым:

,

где  — коэффициент обучения, обычно .

Входные данные, представляемые в виде вектора x, выражены чаще всего в нормализованной форме, в которой . Норма­лизация компонентов вектора x выполняется по формуле:

Результаты обучения по методу Гроссберга в значительной степени зависят от коэффициента обучения . При выборе  = 1 веса w_ij становятся равными значениям x_j уже после первой итерации. Ввод очередного входного вектора x вызовет адаптацию весов к новому вектору и абсолютное «забывание» предыдущих значений. Выбор  < 1 приводит к тому, что в результате обучения весовые коэффициенты w_ij принимают усредненные значения обучающих векторов x.

Допустим, что i-й инстар был обучен на некотором нормали­зованном относительно своих компонентов входном векторе x₁. В этом случае на векторе весов инстара выполняется отношение . В режиме классификации при вводе очередного входного вектора x₂ инстар вырабатывает сигнал и_i вида:

.

При выполнении условия x₂ = x₁ реакция инстара будет и_i = 1. В слу­чае, когда входные векторы отличаются друг от друга, реакция инстара будет пропорциональна косинусу угла между этими векторами. Для ортогональных векторов и_i = 0.

Таким образом, натренированный инстар функционирует как векторный класси­фикатор, сопоставляющий очередной поданный на его вход вектор с вектором, сформированным в процессе обучения. В случае максимального совпа­дения этих векторов реакция инстара будет максимальной (наиболее близкой к единице). Если инстар обучался на группе достаточно похожих векторов с коэффициентом обучения  < 1, то его весовые коэффициенты примут значения, усредненные по этим векторам, и в режиме классифи­кации он будет лучше всего реагировать на входные векторы, параметры которых наиболее близки к средним значениям векторов, входивших в обучающую группу.

Инстар может обучаться как с учителем, так и без него. Во втором случае в правиле Гроссберга в качестве значения y_i принимается фактическое значение выходного сигнала инстара. При обучении с учителем значение y_i заменяется ожидаемым значением d_i.

Нейрон типа оутстар Гроссберга представляет собой комплементарное дополнение инстара. Если инстар обучается с целью распознавать вектор, подаваемый на его вход, то оутстар должен генерировать вектор, необходимый связанным с ним нейронам. Нейрон-источник под номером i высылает свой выходной сигнал y_i взаимодействующим с ним нейронам, выходные сигналы которых обозначены y_j (j = 1, 2,…, М). Оутстар, как правило, является линейным нейроном. Обучение состоит в таком подборе его весов w_ij, чтобы выходные сигналы оутстара были равны ожидаемым значениям y_i взаимодействующих с ним нейронов. Обучение оутстара согласно правилу Гроссберга проводится в соответствии с выражением:

,

где  — это коэффициент обучения.

В режиме распознавания в момент активизации нейрона-источника оутстар будет генерировать сигналы, соответствующие ожидаемым значениям y_j.