6.3. Нейро-генетические способы

Комбинация генетических алгоритмов и нейросетей распространяется на следующие области:

оптимизация весовой матрицы нейросети,

оптимизация топологии нейросети.

Генетический алгоритм для оптимизации весовой матрицы

Естественной областью применения генетических алгоритмов является оптимизация весовой матрицы нейросети. Принципиальным недостатком обычных алгоритмов обучения нейросетей является то, что они могут завершиться поиском локального оптимума. Для оптимизации весовой матрицы целесообразно использовать генетические алгоритмы в силу их свойства выхода из локальных оптимумов. Для этой цели веса матрицы, представленные действительными числами, следует отобразить двоичными кодами (с плавающей или фиксированной точкой). После этого оптимизация осуществляется подобно примеру определения максимума двумерной функции.

Генетические алгоритмы для оптимизации топологии нейросети

Определение топологии нейросети, оптимальной для некоторой предметной области, также может быть представлено как решение задачи дискретной оптимизации, а для ее решения целесообразны генетические алгоритмы.

В настоящее время разработан ряд генетических алгоритмов для оптимизации топологий нейросетей.

Резюме

Генетические алгоритмы - это стохастические методы оптимизации, реализующие принципы эволюции. При этом некоторая популяция возможных решений случайно изменяется в процессе ряда итераций, причем отдельные решения (индивиды) взаимно комбинируются друг с другом. В результате процесса отбора (селекции) осуществляется выбор наиболее перспективных кандидатов для генерации следующего поколения. Основное назначение генетических алгоритмов - поиск глобальных оптимумов многомерных функций. Генетические алгоритмы используются для оптимизации весовых матриц и топологии нейросетей.

Глава 7. Система моделирования нейронных сетей Trajan 2.0

Пакет моделирования нейронных сетей "Trajan 2.0" фирмы Trajan-Software (США) - один из известных нейросетевых коммерческих продуктов. Он рассчитан на широкое использование в сфере классификации образов, прогнозирования и кластеризации.

Система Trajan является профессиональной системой с полным набором средств для создания, обучения и использования нейронных сетей. Система включает поддержку широкого круга нейронных сетей, алгоритмов обучения, графические и статистические средства отображения результатов работы нейросетей.

Trajan поддерживает большинство важных архитектур нейросетей для решения большинства реальных проблем:

Многослойный персептрон. Trajan позволяет использовать Алгоритм обратного распространения, включая такие параметры как скорость обучения, изменяющаяся во времени, перемещение образов, дополнительный шум, выбор функции активации, выбор условий остановки, автоматическая перекрестная проверка. Также эта система поддерживает алгоритмы Быстрого распространения, Дельта-алгоритм, а также два из наиболее современных алгоритмов обучения: Левенберга-Маркварта и Градиентного спуска. Эти алгоритмы не только быстрые, но также независимы от параметров.

Сети Кохонена. Система позволяет использовать Самоорганизующиеся карты Кохонена, а также предлагает окна Частот побед и Топологической карты, позволяющие быстро определить и обозначить кластеры.

Сети радиальных базисных функций. Trajan предлагает алгоритмы обучения этих сетей.

Trajan позволяет выбрать специальные функции активации и функции ошибки. Также можно объединять сети или удалять некоторые слои.

Тщательно проработанный интерфейс системы Trajan предоставляет доступ к большому объему информации в самой доступной форме. Графики и диаграммы отображают результаты обучения и работы сети, также Trajan автоматически рассчитывает общую статистику по сети как для задачи классификации, так и для задачи регрессии. Специальная топологическая карта и кластерная диаграмма поддерживают анализ данных. Вся информация по сети доступна в виде матриц (таблиц данных): информацию можно копировать и перемещать прямо из таблицы в таблицу.

Для запуска программы необходимо запустить файл Trajan.exe. Необходимо сказать, что оригинальная версия Trajan была русифицирована: интерфейс программы (команды меню, названия диалоговых окон и полей, а так же основные термины) приведены на русском языке. В данном проекте приводятся английские и русские эквиваленты. На экране, в зависимости от версии программы Trajan (русифицированная или оригинальная), появится главное окно программы (рис. 1). Доступной является справочная система Trajan на английском языке.

Рис. 1. Главное окно программы.