3.2 Краткие теоретические сведения о теории нейронных сетей

Понятие «нейронные сети» появилось в 40-х годах XX века в среде нейробиологов и нейроанатомов, изучавших организацию и функционирование мозга. Углубление представлений о функционировании нейронов дало возможность исследователям создавать математические модели проверки собственных теорий. Появились так называемые искусственные нейронные сети (НС), представляющие собой наборы элементарных преобразователей информации (нейронов), соединенных друг с другом каналами обмена информацией для их совместной работы.

Наибольшую популярность из разработанных архитектур НС получили сети прямого распространения (т.е. без обратных связей) – многослойные персептроны. Многослойный персептрон состоит из нескольких слоев нейронов: входного слоя, одного или нескольких скрытых или промежуточных и выходного слоя. На рисунке 2 представлен пример такой нейронной сети.

Отличительные особенности персептрона:

- нейроны каждого слоя не связаны между собой;

- входной сигнал каждого нейрона поступает на входы всех нейронов последующего слоя;

- нейроны входного слоя не осуществляют преобразования входных сигналов.

входной

слой

скрытый

слой

Н₂₁

выходной

слой

Н₁₁

х₁

Н₂₂

Н₃₁

у₁

Н₁₂

х₂

Н₂₃

у₂

Н₃₂

х₃

Н₁₃

Н₂₄

Рисунок 2 – Нейронная сеть вида (3-4-2)

В каждом нейроне выполняется определенное вычислительное действие в соответствии с функцией активации нейрона, среди которых выделяют:

1

2

) ступенчатая функция ;

2) сигмоидная функция ;

3) гиперболический тангенс ;

4) гладкие сжимающие функции ,

где Q – порог (смещение);  - параметр, определяющий крутизну статической характеристики нейрона.

Одной из важных особенностей нейронных сетей является их способность к обучению, которое заключается к подстройке весов синаптических связей в процессе обучения по предлагаемым примерам. Обучение сети ведется по специализировано разработанным алгоритмам на основе обучающей выборки с целью приближения выхода нейронной сети к желаемому значению.

НС может функционировать в двух режимах:

- эксплуатации, когда на вход подаются сигналы, а на выходе снимаются результаты вычислений;

- обучения, когда происходит корректировка весов таким образом, чтобы выходные сигналы наиболее точно соответствовали желаемым.

От качества обучения НС зависит точность ее работы в режиме эксплуатации.

Примером применения нейронных сетей является их использование в задачах аппроксимации функций. В связи с этим сети часто называют «универсальными аппроксиматорами».

Выполнение задания курсовой работы связано с получением нейронной сети, аппроксимирующей нелинейные связи между выходными и входными параметрами объекта, т.е. разработкой нейросетевой модели объекта управления.

3.3 Краткие теоретические сведения о нейронных сетях Кохонена

Нейронные сети Кохонена предназначены, главным образом, для решения задач классификации данных. Сеть распознает кластеры в обучающих данных и распределяет данные в соответствующих кластерах. Если дальше сеть встречается с набором данных, непохожим ни на один из известных образцов, она относит его к нового кластеру. Если в данных содержатся метки классов, то сеть способна решать задачи классификации.

Сеть использует неконтролируемое обучение (без учителя), и обучающее множество состоит лишь из значений входных переменных.

Сеть Кохонена имеет всего два слоя (рисунок 3): входной и выходной, ее называют самоорганизующейся картой.

w₁¹

NET₁

интерпретатор

x^p

NET₂

w_N¹

...

...

w₁^p

NET_М

Рисунок 3 – Сеть Кохонена

Нейроны слоя Кохонена генерируют сигналы NET_m. Подобно нейронам большинства сетей выход NET_m каждого нейрона Кохонена является суммой взвешенных входов:

.

Нейрон Кохонена с максимальным значением NET является «победителем». Его выход равен единице, у остальных он равен нулю.

Интерпретатор выбирает максимальный сигнал слоя Кохонена и выдает номер класса m, соответствующий номеру входа, по которому интерпретатором получен максимальный сигнал. Это соответствует номеру класса объекта, который был предъявлен на входе, в виде вектора x^p.

Каждому классу объектов соответствует ядро c^m (центр класса). Ядра c^m являются весовыми коэффициентами w_ijнейронов. Каждый нейрон Кохонена запоминает одно ядро класса и отвечает за определение объектов в своем классе, т.е. величина выхода нейрона тем больше, чем ближе объект к данному ядру класса.

Общее количество классов совпадает с количеством нейронов Кохонена. Меняя количество нейронов, можно динамически менять количество классов.

Обычная сеть Кохонена работает в режиме аккредитации. Это означает, что активируется единственный нейрон Кохонена с максимальным значением выхода.Можно не затормаживать остальные нейроны слоя Кохонена, а пронормировать выходные сигналы, например, функцией

.

В этом случае сумма всех выходов слоя равна единице и значения слоя Кохонена можно трактовать как вероятность отнесения объекта к каждому из классов. Такой режим работы сети, когда активируется несколько нейронов одновременно, называется ре­жимом интерполяции.