Топология нейронных сетей.

Нейроные сети можно разделить на 3 типа:

1.Полно связанные сети.

Исскуственая сеть, каждый нерон передает свой выходной сигнал остольным нейронам и себе. Все входные сигналы передаются всем нейронам. В качестве выходных сигналов сети могут быть все или несколько выходных нейронов после определенного количества тактов функционирования сети.

2. Многослойные сети.

Состоят из нейронов объеденных в сети, в слое содержится совокупность нейронов с едиными выходными сигалами. При этом количество слоев и число нейронов в каждом слое может быть произвольным и оно не связанно заранее с количеством нейронов в других слоях. Однако оно ограничено ресурсами ПК или специализированной микросхемы на которых обычно реализуется нейронная сеть. Если сеть состоит из Q слоев то они нумеруются с лева на право, вснешние входные сигналы на воды первого слоя. При этом входной слой часто нумеруется как входной слой. И суммирование и преобразование сигналов здесь не производистя. Выходами сети являются выходные сигналы последнего слоя.Кроме входного и выходного слоев в многослойной нейронной сети существует один или несколько промежуточных слоев, называемых скрытыми слоями. Нейроная сеть со скрытими слоями позволяет выделять глобальные связи данных за счет наличия дополнительных синаптических связей и повышения уровня взамодействия нейронов.

3.Слабосвзяные сети.

Лекция №4 05.03.12г

Типы многослойных нейронных сетей.

Нейронные связи с обратными связями.

В этих сетях информация с последующих слоев передается на предыдущие. Понятие обратные связи характерно для динамических систем, в которых выходной сигнал некоторого элемента система оказывается влияние на входной сигнал этого элемента. Таким образов некоторые внешние сигналы усиливаются сигналы циркулируемые внешней системы. На самом деле, обратная связь присутствует в нервной системе практически любого животного, она играет важную роль в изучении особого класса нейронных сетей, называемых рекуррентными. Эти сети строятся из динамических нейронов, чье поведение описывается дифферициальными или разностными уравнениями, как правило первого порядка. К нейронным сетям с обратными связями относятся например сети Элмана или Джордана.

С еть Элмана

Сеть Джордана

Не существует формального алгоритма, по определению необходимой архитектуры. Часто оптимальный вариант нейронной сети можно получить путем интуитивного подбора. На практике часто выбирают заведомо маленькую нейронную сеть и постепенно ее наращивают. Лтбо заведомо большую выявляя что-то там.

Обучение нейронных сетей

Нейроная сеть представляет собой адаптивную систему. Ее жизненный цикл, обучение или тренировки, или работа сети.Таким образом нейронная сеть прежде чем использоваться на практике для решение какой либо задачи должна быть обучена. Способность обучатся на основе данных окружаей среды и в результате обучения повышать свою производительность является самым важным свойством нейронных сетей. От того насколько качественно будет проведена тренировка нейросети зависит способность сети решать поставленные перед ней проблемы поставленные во время фазы работы. Теория обучения рассматривает 3 фундаментальных свойста связаннымх с обучение нейронной сети по примерам.

1. Емкость(Сколько образов сеть может запомнить и какие функции и границии принятия решений могут быть на ней сформированы)

2. Сложность образов. (Определяет число определяющих примеров необходимых для достижения способностей нейросети к обобщению.

3. Вычислительная сложность(Важный характеристикой является время затрачиваемая на обучение, как правило, время обучения и качество обучения связаны обратной зависимостью, выбирать эти параметры приходится путем компромисса.)

С понятием обучение ассоциируется много видом деятельности, в связи с этим мложно дать этому процессу однозначное определение, с позиции нейронной сети можно использовать слудуюшие определения. Обучение – это процесс в котором параметры нейронной сети настраиваются по средствам моделирования сред в которую эта сеть встроена. Данны определения процесса обучения предпологает слудующую последовательность событий:

1. В нейронную сеть поступают символы из внешней среды, в резутьтате этого извеняются свободные параметры НС.

3. После извинения структуры НС на возбуждение отвечает иным образом.

Этот список называется алгоритмом обучением. Не существует унерсального алгорится обучения подходящего для всех структур НС.

Отличительной характеристикой является и способ связей обучаемый НС с внешним миром. В этом контексте говорят о парадигме обучения связанной с моделью окружаещей среды, в которой функционирует данная НС. Множество делится на 2 класса, детерминиских и стохастических. В 1 корректировка синоптических весов нейронов представляет собой жесткую последовательность действий. А во 2 она производится на основе действий которые подчиняются некоторому случайному процессу.