19. Понятие искусственной нейронной сети.
Опр: Искусственная нейронная сеть (ИНС) – существенно параллельно распределенный процессор, обладающий способностью приобретения, сохранения или презентации опытного знания, сходный с мозгом в 2 аспектах:
1. Знание приобретается сетью в процессе обучения (знание – представление предметной области, ИНС становится экспертом в предметной области);
2. Для сохранения знания используются силы межнейронных связей (синаптические веса).
Составные элементы ИНС (спецпроцессоры 2-х видов):
1. Искусственные нейроны (или просто нейроны) – суммируют поступающие на их входы сигналы и преображают смещенную на величину порога сумму в соответствии с заданной активационной функцией нейронов;
2. Связи между нейронами (или межнейронные связи) – реализуют межнейронное взаимодействие в виде сигналов, умножаемых на синаптические веса связей (взвешенные сигналы).
20. Искусственный нейрон. Активационная функция нейрона и ее основные виды.
х1, х2, … , хn – входные сигналы нейрона;
1, 2, … , n – синаптические веса входных связей нейрона;
0 – порог срабатывания нейрона;
s
– сигнал, вычисляющийся по формуле:
y = f ( s ) – активационная функция нейрона, реализующая тот или иной вид преобразования взвешенной суммы входных сигналов, смещенной на величину порога АФН.
Возможные виды АФН (активационная функция нейрона):
Ступенчаая g
f
(s)
= g(s) = 
Л
инейная
с насыщением
а, s > a
f (s) = s, - a s a
- a, s < - a
Сигмаидальная
f (s) = 1 / ( 1 + e – as)
(
a
– параметр управления)
Радиально симметричная
f (s) = e – s*s/*
В нейронной сети между i-м и j-м нейронами могут устанавливаться направленные связи вида ( i , j ), (j , i ). Каждой такой связи присваиваются веса (т.н. синаптические веса) .
Различные типы структур ИНС отличаются:
Характером входных сигналов (бинарные, аналоговые);
Структурой сети;
Типом обучения (с супервизором, т.е. с помощью некоторой внешней процедуры по какому-либо шаблону, или через самоорганизацию).
Опр: Обучить ИНС – подобрать такие значения синаптических весов и, возможно, порогов АФН, при которых сеть способна выполнять желаемый тип преобразований (задача: минимизация функции ошибки, зависящей от синаптических весов и порогов АФН).
21. Межнейронные синаптические связи. Веса связей. Обучение инс.
Последние десять лет в научном и техническом мире идет активное развитие аналитических технологий нового типа. В их основе лежат технологии искусственного интеллекта, имитирующие природные процессы, такие как деятельность нейронов мозга, а также генетические процессы естественного отбора в живой природе. Все большее распространение в прикладных задачах находят искусственные нейронные сети (ИНС) [1].
В сфере автоматизированного управления ИНС находят применение в задачах идентификации объектов, в алгоритмах прогнозирования и диагностики, а также для синтеза оптимальных автоматических систем регулирования (АСР). Для реализации АСР на основе ИНС в настоящее время интенсивно развивается производство нейрочипов (НЧ) и нейроконтроллеров (НК)[2].
В определенном смысле ИНС является имитатором мозга, обладающего способностью к обучению и ориентации в условиях неопределенности. Она сходна с мозгом в двух аспектах. Сеть приобретает знания в процессе обучения, а для сохранения знаний использует значения коэффициентов межнейронных связей, называемых синаптическими весами.
Процедура обучения ИНС состоит в идентификации синаптических весов, обеспечивающих ей необходимые преобразующие свойства. Особенностью ИНС является её способность к модификации параметров и структуры в процессе обучения.
Искусственная нейронная сеть (ИНС) – существенно параллельно распределенный процессор, обладающий способностью приобретения, сохранения или презентации опытного знания, сходный с мозгом в 2 аспектах:
1.Знание приобретается сетью в процессе обучения (знание – представление предметной области, ИНС становится экспертом в предметной области);
2.Для сохранения знания используются силы межнейронных связей (синаптические веса).
Составные элементы ИНС (спецпроцессоры 2-х видов):
1.Искусственные нейроны (или просто нейроны) – суммируют поступающие на их входы сигналы и преображают смещенную на величину порога сумму в соответствии с заданной активационной функцией нейронов;
2.Связи между нейронами (или межнейронные связи) – реализуют межнейронное взаимодействие в виде сигналов, умножаемых на синаптические веса связей (взвешенные сигналы).
В нейронной сети между i-м и j-м нейронами могут устанавливаться направленные связи вида ( i , j ), (j , i ). Каждой такой связи присваиваются веса (т.н. синаптические веса) .
Различные типы структур ИНС отличаются:
•Характером входных сигналов (бинарные, аналоговые);
•Структурой сети;
•Типом обучения (с супервизором, т.е. с помощью некоторой внешней процедуры по какому-либо шаблону, или через самоорганизацию).
Опр: Обучить ИНС – подобрать такие значения синаптических весов и, возможно, порогов АФН, при которых сеть способна выполнять желаемый тип преобразований (задача: минимизация функции ошибки, зависящей от синаптических весов и порогов АФН).
Для получения требуемых преобразовательных характеристик нейронная сеть должна быть настроена. Процедура настройки заключается в подборе значений синаптических весов для заданной топологии сети. Такая настройка называется процедурой обучения или тренировкой ИНС.
Различают два метода обучения: с учителем и стимулируемое самообучение
а) обучение с учителем, б) самообучение.
Обучение ИНС с учителем в теории управления принято называть обучением по эталону. Метод применяется в алгоритмах прогнозирования и диагностики, а также в задачах идентификации объектов управления (рис а). В такой процедуре обучения для каждого воздействия внешней среды параметры ИНС настраиваются для получения заданной эталоном реакции сети.
Самообучение ИНС представляет процесс настройки параметров с целью достижения экстремального значения заданного критерия функционирования ИНС. Для автоматических систем регулирования это стандартная задача поиска настроечных параметров нейроконтроллера, реализуемого нейросетью (рис. б).