Введение в искусственные нейронные сети

Искусственные нейронные сети (ИНС) — сети, в качестве вершин которых выступают искусственные нейроны (ИН). ИНС осуществляет преобразование вектора входных сигналов (воздествий)   в вектор выходных сигналов  . Интепретация векторов   и   зависит от постановки решаемой задачи и предметной области. ИНС в настоящее время рассматривается как грубая (первого приближения) модель мозга человека и других живых существ. ИНС нашли применение в следующих областях.

• Кластеризация и классификация. ИНС способна на предъявленных ей "эталонных" векторах   выделить характеризующие их признаки, накопить их и использовать в дальнейшем для оценки степени близости вновь предъявляемых входных векторов к эталонным (классификация). Некоторые типы нейронных сетей могут самостоятельно выделить во множестве предъявляемых входных векторов   обособленные группы (кластеризация), определяемые "усредненными" векторами  .

• Аппроксимация. ИНС дают возможность с любой требуемой точностью аппроксимировать нелинейную непрерывную функцию  . Применительно к проблематике автоматизированного проектирования — это, в первую очередь, задача построения формальной математической модели объекта проектирования.

• Прогнозирование. Нейронные сети с обратными связями (рекуррентные нейронные сети) способны предсказывать будущее состояние моделируемого объекта/процесса по его состоянию на   предыдущих шагах модельного времени и текущему воздействию  .

Основные достоинства ИНС состоят в следующем:

• пусть грубая, но близость к структуре мозга живых существ, само существование которых говорит об эффективности такого подхода;

• способность к адаптации (обучению и самообучению);

• параллельность обработки информации;

• робастность (устойчивость к отдельным сбоям) в работе ИНС. Данное свойство обеспечивается большим (огромным в реальных живых системах) количеством нейронов и связей между ними.

Основной строительный блок ИНС — искусственные нейроны.

Искусственный нейрон

Считается, что искусственный нейрон имитирует поведение природной нервной клетки мозга.

Обобщенная схема  ого нейрона представлена на рис. 1.

Рис. 1.  Обобщенная структурная схема искусственного нейрона

Здесь   — вектор входных сигналов (воздействий, синапсов (биолог.)) нейрона;   — константный "псевдосигнал", называемый сигналом поляризации или, просто, поляризатором. В общем случае   — действительные числа, возможно, размерные, но чаще нормированные. Во многих моделях ИН   дискретны и могут принимать значения из множеств   или  . В некоторых реализациях   — комплексные числа.

 — вектор весов входных сигналов  -ого нейрона (в общем случае, действительные числа). Веса входных сигналов используются для вычисления взвешенной суммы   входных сигналов  -ого ИН по формуле

Вес   для размерного входного сигнала   имеет обратную к нему размерность. Например, если   имеет размерность [кг], то размерность   — [кг^-1].

Взвешенная сумма входных сигналов   служит аргументом функции активации ИН  , определяющей значение выходного сигнала  .

В простейших однослойных (без обратных связей и каскадов) сетях входные сигналы   нейрона — входные сигналы сети в целом, а выходные сигналы   нейрона — выходные сигналы сети в целом. В многослойных сетях роль входных сигналов   некоторых нейронов играют выходные сигналы   предыдущих слоев ИНС.

Как уже упоминалось ранее, одним из типичных назначений искусственных нейронов и сетей на их основе является классификация и распознавание векторов входных сигналов  . В такой задаче вычисленное по входному вектору   значение   определяет принадлежность входного вектора тому или иному  -му классу. Например, в качестве значений   входного вектора могут выступать биометрические данные пациента (температура тела, кровяное давление, концентрация красных кровяных телец в крови и т.п.), тогда выходной сигнал нейрона   может определять степень уверенности в наличии у пациента болезни  .

Понятно, что степень успеха в классификации отдельным ИН и сетью в целом зависит, в общем случае, от "правильности" подбора/назначения весовых коэффициентов   и функции активации  . Однако, в практических ИНС, как правило, функции активации назначаются однократно и варьированию не подлежат. Таким образом, объектом подбора служат только весовые коэффициенты  .

Для отыскания наилучших с точки зрения решения задачи классификации входных векторов   значений элементов вектора   необходимообучение ИН и обучение ИНС в целом, предваряющее собственно этап классификации. Различают два основных режима обучения: "с учителем" и "без учителя".

При обучении с учителем ИНС предъявляют набор пар векторов  , где   — номер пары в наборе (  = 1, 2, ...,  ).   —  -ый вектор ожидаемых значений выходных сигналов нейронов (в количестве  ), составляющих сеть. Для одиночного ИН  . Обучение с учителем предполагает априорное знание о принадлежности векторов входных сигналов различным классам.

Обучение без учителя предполагает предъявление нейронной сети (отдельному ИН) "типичного" набора векторов входных сигналов  ,  =1, 2, ...,  , при этом сеть (отдельный ИН) должна самостоятельно решить задачу кластеризации (определения количества классов и признаков принадлежности к ним).