6.2 Ассоциативные системы на нейронных сетях

В нейронных сетях знания имеют форму отображений входов на выходы.. Такие отображения формируются в процессе обучения, при котором узловые элементы настраиваются в соответствии с запоминаемой информацией. Отображения запоминаются и активизируются ассоциативно. При обращении

66

к нейронной сети путем задания входного кода на ее выходе формируется код, зависящий от настройки не одного элемента, как в обычной памяти, а множества элементов, образующих структуру.

Методически первым вариантом таких сетей был ПЕРСЕПТРОН Розенблата [3, 15], использующий узловые элементы типа формальных нейронов. В настоящее время развитие этого направления привело к созданию обширного семейства ассоциативных нейронных сетей (НС), которые могут обучаться и запоминать сложные образы, функции и отношения.

НС наилучшим образом решают задачи классификации и аппроксимации. Ценным свойством НС является их способность к обобщению, т.е. решению задач при неполной информации на входах вследствие присущего им свойства ассоциативности. Теория и практика НС, как обучаемых элементов интеллектуальных систем, сейчас бурно развивается и в рамках коннективистского направления в искусственном интеллекте.

В общем виде НС являются массивно-параллельными распределенными процессорными системами. Они реализуются аппаратно на нейро-СБИС цифрового или аналогового типа. Конструктивно - это либо нейронные модули, работающие под управлением главной ЭВМ, либо самостоятельные нейрокомпьютеры [17].

НС различаются по направлениям связей (с прямыми и обратными связями), по структуре (полносвязные, слоистые, клеточные), типом узловых элементов (логические, аналоговые), по методу обучения (с учителем - супервизорные, без учителя - несупервизорные) [16].

Типовая структура НС с прямыми связями представлена на рис. 6.1.Такие нейронные сети - наиболее часто используемый вид НС. К ним относятся, например, разнообразные варианты ПЕРСЕПТРОНА.

Вектор состояния НС удовлетворяет следующим условиям:

y = z (задание) и y  L₁[X, H] - для выходного элемента и h_i = f(y_i) и y_i  L[X_hi] (i = 1, …, m) - для скрытого элемента, где H_i = [h₁, …, h_i-1], исключая случай h_i = [ ] - нет элементов; T_i - вектор порогов g и H₁.

Вектор состояния скрытых элементов определяется по входному вектору Х и Н.

Используя векторы L[X, H], можно получить y = z с минимальными числами h-элементов (z - желаемый вектор выхода, h_i - вектор состояния h-го элемента).

67

Входные данные представляются вектором Х (k - число выходов, n - число входов). Внутреннее состояние НС представляется матрицей Н и вектором Т. Элементы h связаны с входами H = f(X) зависимостью

H_iy = tanh(V_i W_j),

где V_i - i-й вектор; W - (j - n) - размерный вектор весов для модификации параметров;

H_ij = exp(-V_i - W_j²).

Вектор действия Y вычисляется как линейная комбинация векторов-столбцов Х и H, т.е. Y = L[X, H], и условие Y = Z определяется как Z - Y < E.

Нейронная сеть с прямыми связями имеет максимальную емкость памяти.

68

Нейронная сеть с обратными связями представлена на рис. 6.2. Сети такого типа - развивающийся вид динамических рекуррентных НС. К ним,

например, относятся разнообразные варианты СЕТИ ХОПФИЛДА. В таких сетях используются локальные и общие обратные связи.

Нейронные сети с обратными связями при обучении вычисляют веса в результате динамического процесса минимизации некоторой энергетической функции Е(X, W). Настроенная сеть имеет ряд стабильных состояний, которые соответствуют запоминаемым образам. При распознавании образов информация процессируется и образ восстанавливается на выходах после окончания переходного процесса.

НС с прямыми и обратными связями являются компонентами ассоциативных интеллектуальных систем нейронного типа, построенных на нейрокомпьютерах [17]. Нейрокомпьютерные модули обучаются, хранят и используют знания в ассоциативной нейросетевой форме.т-

69