13. Сеть Хопфилда. Структурирование устойчивости.

Сеть относиться к классу необучаемых сетей, число нейронов равна числу входов.

Нейронная сеть с обратными связями:

Где, х_i – суммарное возбуждение (переменная состояния) i – го нейрона; f_i(*) – функция активации нейрона; k – дискретное время.

По сколько сигнал с выхода каждого нейрона подается на входы до тех пор, пока есть не придет в одно из ближайших устойчивых состояний.

Достаточные условия сходимости сети к устойчивому состоянию :

1. W_ij = W_ji

2. W_ii = 0, все элементы главной диагонали матрицы W должны быть нулевыми.

Область применения:

1. Разнообразие образов (в том числе восстановление полной информации по фрагментам);

2. Построение ассоциативной памяти, решение различных задач оптимизации комбинаторного типа.

14.Нейронная сеть Кохонена.

Х арактеристика сети: относится к классу самоорганизующихся сетей (обучается без учителя).

Архитектура сети содержит 2 слоя:

1. Входной, 2- Кохонена.

Обучение сети:

1. W_ij [-0,05;0,05]

2. Вычисление выходов нейронов X ->Y

3. Определяют нейрон-победитель

n=arg{maxY}

4. Выполняют коррекцию w_ij(k+1)=w_ij(k) – α(x_i(k) – w_ij(k)), где α- скорость обучения

В результате обучения выявляется такой нейрон слоя Кохонена, который при подаче на входной слой некоторого образа(вектора) Х’ оказывается возбужденным более других (нейрон-победитель). Данный нейрон является наиболее близким к предъявляемому образу, поскольку выход каждого нейрона 2-ого слоя определяется как сумма взвешенных входов сети.

В своем простейшем виде сеть Кохонена действует по принципу “победитель забирает все”. Это означает, что для данного входного вектора X’ только один нейрон 2-ого слоя выдает на выходе логическую 1, все остальные выдают 0. В случае, когда нейронные сети предъявляют различные образы, нейроны разбиваются на подмножества, каждое из которых “откликается” на образы вполне определенного типа (т.е. похожие образы),следовательно, сеть обладает навыками классификации (кластеризации) предъявленных ей образов.

Сети Кохонена получили широкое применение в задачах распознания образов, оптимизации и управления.

15.Рекурентные нейронные сети

Сеть имеет 1 или несколько обратных связей, многослойная с обратной связью.

Динамика сети описывается:

y(k+1)=F(y(k), y(k-1), y(k-q+1), y(k), u(k-1)*u(k-p))

Вид функции F определяется по результатам обучения. Обучать сеть м. теми же самыми алгоритмами. Вид рассмотренной сети представляет собой адаптивный нелинейный фильтр.

16.Построение нечеткой нейронной сети

ННС - это сеть, в которой вывод строится на основе НЛ, а соответствующие функции принадлежности получаются с использованием алгоритмов обучения НС.

Пример. Адаптивная НС

y^r=F(X^r)=F( , , ), r=(1,2,…,R), при наличии обучающей выборки {(X¹,d¹)…(X^R,d^R)}

ЕСЛИ x₁=L1 И x₂=L2 И x₃=L3, ТО y=y₁;

ЕСЛИ x₁=H1 И x₂=H2 И x₃=L3, ТО y=y₂;

ЕСЛИ x₁=H1 И x₂=H2 И x₃=H3, ТО y=y₃.

Где L1, L2, L3, H1, H2, H3- нечеткие множества для входных переменных х₁, х₂, х₃, заданных с помощью соответствующих функций принадлежности; у₁, у₂, у₃- вещественные числа

y_i=c_i1x₁+c_i2x₂+c_i3x₃, (i=1,2,3), где c_ij, (i,j=1,2,3)- некоторые константы.

Тогда выход нейронной сети формируется по формуле

y=β₁y1+ β₂y2+ β₃y₃/ β₁+ β₂+ β₃, где β_i, (i=1, 2, 3)- уровни активности приведенных выше правил для конкретных значений входов х1, х2, х3.

Структурная схема гибридной сети представлена ниже.

Слой 1- обеспечивает вычисление функций принадлежности при конкретных значениях входов.

Слой 2- вычисляет уровни активности, все нейроны этого слоя обозначены буквой “Т”

Слой 3- нейроны этого слоя(“N”) осуществляют нормирование значений уровней активности каждого правила

w_i= β_i/ β₁+ β₂+ β₃, (i=1, 2, 3)

Слой 4- формирует значения взвешенных компонентов выхода(“О”) y_i=w_iy_i=w_i(c_i1x₁+c_i2x₂+c_i3x₃), (i=1, 2, 3)

Слой 5- единственный линейный нейрон этого слоя реализует операцию дефаззификации: y=y₁+y₂+y₃