Реализация нейронных сетей

Простейший способ реализации ИНС - это виртуальная нейронная сеть в виде программы для компьютера. Правда, желательно, чтобы это был достаточно производительный компьютер параллельного типа. Отметим здесь характерные особенности нейронной сети, допускающие другие способы ее реализации:

- нейрон представляет собой очень простое логическое устройство;

- система состоит из очень большого количества одинаковых нейронов, причем результат работы сети малочувствителен к характеристикам конкретного нейрона;

- каждый нейрон связан с очень большим количеством других нейронов;

- веса связей различны и в зависимости от решаемой задачи могут изменяться;

- в системе возможна высокая параллельность обработки информации.

Существует целый ряд фирм, специализирующихся на реализации нейронных сетей, которыми созданы пакеты успешно работающих на компьютерах IBM PC программ по решению различных прикладных задач.

С развитием технологии стало возможным создание специализированного аналогового нейрокомпьютера, в котором функции нейрона исполняет простейший процессор,

либо имеющий дискретный выход, либо представляющий собой небольшой усилитель с сигмоидной выходной характеристикой. Функции матрицы синаптических весов играет матрица омических сопротивлений, расположенных в местах пересечения выходов и входов этих усилителей, причем можно реализовать планарную схему, когда все элементы соединены со всеми.

Нейрокомпьютер можно представить как вычислительную систему, алгоритмы решения задач в которой представлены в логическом базисе ИНС. Помимо реализации нейромашины на обычной ЭВМ, уже существуют разные варианты параллельных нейрокомпьютеров вплоть до мощной супер-ЭВМ с реализацией множества нейронов на одном кристалле. Цель создания этих машин - расчеты оптимизационных задач на два-три порядка быстрее, чем на существующих суперкомпьютерах при одинаковых стоимости и энергопотреблении. Речь уже идет о производительности в терафлопах - 10'2

Интересно, что первые отечественные нейрокомпьютеры начали создаваться в то же время, что и в США, - в конце 60-х - начале 70-х годов. В них реализовывался трехслойный персептрон с весами, предварительно вычисленными при обучении на обычных ЭВМ. Они использовались для задач, не требовавших больших скоростей изменения параметров, таких как задачи гидролокации и медицинской диагностики. Последующий “застой” в развитии наших нейрокомпьютеров был вызван общим отставанием в технологии.

Самой перспективной реализацией нейронной сети, открывающей путь к созданию архитектуры ЭВМ шестого поколения, является оптический нейрокомпьютер. В нем возможно достижение массового параллелизма и быстродействия на два-три порядка выше существующих суперЭВМ при прочих равных условиях. Большим преимуществом является то, что световые лучи при распространении не оказывают влияния друг на друга и могут многократно перекрещиваться. Матрица синаптичес-

ких связей, будучи реализованной в виде объемной голограммы размером 1 см3, может содержать более триллиона связей для записанных в нее оптических изображений.

Оптическая реализация модели ассоциативной памяти показана на рис. 5. При этом ничто не мешает все более миниатюризировать элементы нейронной сети, что позволяет с успехом использовать достижения нано-технологий. С развитием технологии, когда транспьютерные системы перешли рубеж микроминиатюризации в 1,5 мкм, возникает реальная возможность создания и нейрочипов.

Наибольшей трудностью в настоящее время являются проблемы перевода многих актуальных задач, которые связаны с распознаванием образов при обработке сигналов и изображений, с управлением нелинейными динамическими системами и возникают в автоматизации механических, физических и химических процессов, в алгоритмы, пригодные для ввода их в нейрокомпьютеры. В этой связи образовался новый раздел вычислительной математики - нейроматематика.