1

4. Основные сведения о нейронных сетях

4.1. Введение

Идея об имитации мыслительной деятельности человека с помощью компьютеров была высказана учеными в прошлом столетии. Свыше 60 лет тому назад исследователи создали первую электронную модель нервной клетки. С тех пор целая группа ученых разрабатывала математические модели и обучающие алгоритмы. Сегодня так называемые нейронные сети вызывают очень большой интерес и выделяются из всего того, что было достигнуто в области искусственных нервных клеток. Нейронные сети состоят из большого числа относительно простых вычислительных элементов, называемых нейронами, каждый из которых предназначен для имитации процессов, происходящих в одной клетке головного мозга. Некоторые ученые называют головной мозг биологической нейронной сетью, а его компьютерную имитацию - нейронной сетью. На рис. 1 представлена типовая структура такой нейронной сети.

Входной

(нулевой слой)

Первый

скрытый

слой

Второй

скрытый

слой

Выходной слой

Рис. 1

Каждый нейрон, входящий в нейронную сеть и представленный на рис. 1 в виде кружка, участвует в преобразовании входных сигналов, так что выходной сигнал зависит от алгоритма работы всех нейронов.

Нейронная сеть, показанная на рис. 1, имеет слой нейронов для входного сигнала и слой нейронов для выходного сигнала. Информация поступает в нейронную сеть через входной слой. Все слои нейронной сети обрабатывают входной сигнал, прежде чем он достигнет выходного слоя.

Цель создания нейронной сети: добиться того, чтобы она обрабатывала поступающую на нее информацию в соответствии с теми подходами, которым она была предварительно обучена. Обычно для обучения используются комплекты образцовых входных и соответствующих им выходных сигналов (образцовая пара вход-выход) и так называемые обучающие алгоритмы. Сама по себе нейронная сеть не реагирует надлежащим образом на входные сигналы. Только алгоритмы обучения изменяют параметры тех или иных нейронов сети и взвешивают их выходные сигналы так, чтобы поведение нейронной сети было близко к желаемому.

Нейронные сети способны решать широкий круг задач распознавания образов, идентификации, прогнозирования, оптимизации, управления сложными объектами. Дальнейшее повышение производительности компьютеров в большей степени связывают с нейронными сетями, в частности с нейрокомпьютерами, основу которых составляют нейронные сети.

Рис. 2

4.2. Модель нервной клетки (нейрона)

Ученые, работающие в области нейронных сетей, исследовали различные модели клеток головного мозга.

Остановимся на описании лишь одной обобщенной модели, используемой в технических приложениях. Человеческий мозг содержит около 10¹¹ нервных клеток, каждая из которых связана с другими клетками. Число таких связей примерно равно10¹⁴.

Рис. 2

На рис.2 показана упрощенная схема нейрона (нервной клетки) человека. Клетка включает в себя ядро, окруженное электрической мембраной. Каждый нейрон имеет порог активации, который может быть плавающим и его область значений лежит между максимумом и минимумом. Чтобы повысить или понизить активацию данного нейрона с помощью других нейронов, существует так называемые синапсы. Эти синапсы передают уровень активизации от нейрона-передатчика к нейрону-приемнику. Если синапс является возбуждающим, то уровень активации от нейрона-передатчика повышает активность нейрона-приемника. Если же синапс является успокаивающим, активация от нейрона-передатчика понижает активность нейрона-приемника. Синапсы отличаются между собой не только тем, что они возбуждают или успокаивают нейрон-приемник, но и по силе воздействия (синаптической силе). Выходной сигнал каждого нейрона с помощью так называемого аксона поступает на свыше чем 10000 синапсов, оказывающих влияние на другие нейроны.

Описанная модель нейрона положена в основу большинства технических реализаций нейронной сети. Заметим, что такая модель является весьма неточной аппроксимацией реального мира. Бесспорно, что построить точную модель нейрона человека не представляется возможным. Такое моделирование превышает человеческие возможности. Отсюда любое устройство, построенное с использованием описанной упрощенной модели нейрона человека, не в состоянии копировать человеческий мозг. Однако многочисленные успешные приложения, доказали эффективность нейронных сетей, построенных с помощью упрощенной модели нейрона.