Формальный нейрон
Формальный нейрон моделирует естественный биологический нейрон, который, в свою очередь, моделируется как устройство, имеющее несколько входов (дендриты), и один выход (аксон). Входы связаны с телом нейрона с помощью синоптических соединений. Каждому входу ставится в соответствие некоторый весовой коэффициент (w), характеризующий пропускную способность канала и оценивающий степень влияния сигнала с этого входа на сигнал на выходе. В зависимости от конкретной реализации, обрабатываемые нейроном сигналы могут быть аналоговыми или цифровыми. В теле нейрона происходит взвешенное суммирование входных возбуждений, и далее это значение является аргументом активационной функции F нейрона, один из возможных вариантов которой представлен на рисунке:
Сама функция F имеет решающее значение для нейрона, то есть определяет круг решаемых задач. Функции активизации бывают гладкими и негладкими:
1. Жесткая ступенька используется в классическом формальном нейроне. Она не дифференцируема.
2. Логистическая функция.
Применяется очень часто для многослойных перцептронов и других сетей с непрерывными сигналами. Гладкость, непрерывность функции — важные положительные качества. Непрерывность первой производной позволяет обучать сеть градиентными методами (например, метод обратного распространения ошибки).
3. Гиперболический тангенс
4. Пологая ступенька
5. Гауссовская функция
6. Приближение гауссовской кривой
Выбор функции может производиться самостоятельно. Ограничения, которые имеет нейрон:
1. Вычисление в нейронных системах производится параллельно (предполагается).
2. В формальном нейроне нет нервных импульсов.
3. Нет гормональной регуляции как в биологических системах.
4. Чрезмерная формализация приводит к тому, что неспособны решать некоторые задачи.
5. Функцию F в биологических системах трудно определить, здесь F – приближение, способное решать некоторые задачи.
Многослойный перцептрон
Самый распространенный вид нейронной сети – многослойный перцептрон , который состоит из формальных нейронов. Здесь важно то, как соединяются эти нейроны. Каждый вход соединяется со всеми нейронами. Во входном слое количество нейронов отличается от количества нейронов внутреннего слоя. Каждый нейрон входного слоя соединяется с каждым нейроном внутреннего слоя.
Наиболее распространены следующие названия слоев:
Первый слой – сенсорный (входной);
Последний – результирующий (выходной)
Между ними – скрытые слои (ассоциативный)
Этапы построения искусственных нейронных сетей
– необходимо формализировать имеющуюся информацию, преобразовать из аналоговой в цифровую, а затем наоборот.
– убедиться в том, что выходной вектор содержит полный ответ задачи.
– убедиться, что по входной информации можно точно дать ответ на выходе (функция перцептрона однозначна).
– выбрать функцию активизации. Это определяется спецификой задачи.
– необходимо выбрать число слоев нейронов и число самих нейронов. Количество слоев определяется способностью к запоминанию информации и ее реализации.
– задать начальное значение весовых коэффициентов.
– обучение нейронной сети.
– проверка результатов (работы сети).