Обзор инструментария разработки

Реализовать нейронную сеть можно либо в средах разработки (MATLAB, STATISTICA, ТАСО-НЕЙРОКОНСТРУКТОР, NeuroSolution и др.), либо на каком-либо языке программирования (C#, Java, Pascal и др.).

MATLAB – пакет прикладных программ для решения задач технических вычислений и одноимённый язык программирования, используемый в этом пакете. Язык MATLAB является высокоуровневым интерпретируемым языком программирования, включающим основанные на матрицах структуры данных, широкий спектр функций, интегрированную среду разработки, объектно-ориентированные возможности и интерфейсы к программам, написанным на других языках программирования. Программы, написанные на MATLAB, бывают двух типов – функции и скрипты. Функции имеют входные и выходные аргументы, а также собственное рабочее пространство для хранения промежуточных результатов вычислений и переменных. Скрипты же используют общее рабочее пространство. Как скрипты, так и функции не компилируются в машинный код и сохраняются в виде текстовых файлов. Существует также возможность сохранять так называемые pre-parsed программы – функции и скрипты, обработанные в вид, удобный для машинного исполнения. Для MATLAB имеется возможность создавать специальные наборы инструментов (toolbox), расширяющие его функциональность. Наборы инструментов представляют собой коллекции функций, написанных на языке MATLAB для решения определённого класса задач. Компания Mathworks поставляет наборы инструментов, которые используются во многих областях, включая Нейронные сети: Neural Network Toolbox – инструменты для синтеза и анализа нейронных сетей.

STATISTICA — программный пакет для статистического анализа, разработанный компанией StatSoft, реализующий функции анализа данных, управления данных, добычи данных, визуализации данных с привлечением статистических методов. STATISTICA полностью соответствует стандартам Microsoft, включая OLE DB и DDE. STATISTICA Visual Basic (SVB) полностью COM ориентированный интерфейс среды, всех функций и процедур позволяет создавать пользовательские приложения и надстройки. Существует автоматическая запись макросов которая позволяет автоматизировать повторяющиеся процедуры. Доступ ко всем свойствам через объектную модель, отладчик процедур, браузер функций и т.д. позволяют создавать необходимые приложения. STATISTICA Automated Neural Networks –нейросетевой программный продукт обладает полностью переведенным на русский язык интерфейсом. [7]

NeuroSolution – это основной продукт фирмы NeuroDimension. Этот сверхсовременный программный пакет совмещает модульный, с иконным представлением, интерфейс разработки нейронной сети, с реализацией усовершенствованных процедур обучения, таких как обратное распространение во времени. Также реализованы некоторые другие полезные функции, такие как генератор исходного кода на C++, настройка компонентов через DLL, всеобъемлющий макро-язык и возможность работы с Visual Basic через OLE Automation. NeuroSolutions - лидер в технологии моделирования нейронных сетей. Этот революционный продукт - единственная из программ под Windows, способная обеспечивать: Рекуррентное обратное распространение (Recurrent Backpropagation) [8] Рекуррентное обратное распространение используется для fixed-point learning. NeuroSolutions - один из немногих программных продуктов, поддерживающих эту возможность. Как и статическое обратное распространение, fixed-point learning сопоставляет статические входные данные статическим выходным данным. Отличие состоит в том, что сопоставление происходит не сразу. Когда данные поступают на вход сети, сеть пропускает их через рекуррентные связи пока данные на выходе не достигнут фиксированного состояния. Тренировка сети с использованием fixed-point learning может быть более трудной, чем с использованием статического обратного распространения, но выигрыш от использования таких сетей может заключаться в получении гораздо меньших по размеру и более эффективных реализаций. В процессе рекуррентного обратного распространения активации распространяются вперед пока не достигается фиксированное значение. После этого периода релаксации, вычисляется ошибка и распространяется назад. Активации ошибки должны стабилизироваться прежде чем могут быть получены новые весовые значения, так что релаксация ошибки также является необходимой. [10]

ТАСО-НЕЙРОКОНСТРУКТОР - предназначен для разработки архитектур искусственных нейронных сетей и динамических моделей сложных объектов для построения искусственных когнитивных систем, решающих задачи анализа данных, управления техническими системами и др. Способом построения таких нейросетей является их программное моделирование в специальной программной среде. Программный комплекс «ТАСО НЕЙРОКОНСТРУКТОР» разработан для разработки больших и свербольших биоморфных искусственных нейросетей и моделей других сложных систем сетевого характера. Программный комплекс реализован в параллельной версии для суперкомпьютерных кластерных архитектур. [11]