Лабораторная работа 1 / ИНС1
.docСанкт-Петербургский
государственный электротехнический университет
“ЛЭТИ”
______________________________________________________________________
кафедра МОЭВМ
Отчет
по лабораторной работе №1
Основы работы с пакетом STATISTICA Neural Networks
Выполнил : студент гр. 3341 Рыжок М.С.
Проверил: доцент Лисс А. А.
Санкт-Петербург
2007
Лабораторная работа №1.
Основы работы с пакетом STATISTICA Neural Networks
Цель работы: научиться создавать и редактировать обучающие и тестовые данные, создавать и обучать искусственные нейронные сети (ИНС), оценивать качество обучения и функционирования ИНС с помощью пакета STATISTICA Neural Networks.
Задание:
С помощью пакета STATISTICA Neural Networks создать различные архитектуры искусственных нейронных сетей, реализующих логические функции двух переменных ИЛИ(OR) и ИСКЛЮЧАЮЩЕЕ ИЛИ(XOR), и обучить их.
Для каждой логической функции:
-
Создать новый набор обучающих данных;
-
Создать новый набор прямонаправленных нейронных сетей различной конфигурации:
-
однослойную сеть (входной и выходной слой);
-
двухслойную сеть с двумя нейронами скрытого слоя;
-
двухслойную сеть с четырьмя нейронами скрытого слоя;
-
трехслойную сеть, содержащую 8 нейронов в первом скрытом слое и 4 нейрона во втором скрытом слое.
Обучить каждую сеть набора;
Протестировать каждую сеть на обучающем наборе данных;
На основании оценок качества обучения и функционирования и параметров сети выбрать наилучшую сеть.
Сегодня в области нейронных вычислений используются десятки моделей нейронных сетей, предназначенных для решения различных задач. Каждая из этих моделей отличается от других своей архитектурой, т.е. количеством входных и выходных нейронов, количеством слоёв, направлением и структурой межнейронных связей. В зависимости от конкретной задачи выбирают сеть определённой архитектуры и связанный с архитектурой и с задачей специально разработанный для них закон обучения.
Выполнение задания:
ИЛИ(OR).
По проведённым опытам мы можем сказать, что однослойная сеть (входной и выходной слой) в данной задаче лучше.
Оценивать качество обучения и функционирования сети будем следующем образом.
В окне Network Set Editor содержится следующая необходимая для этого информация:
-
Error – среднеквадратичная ошибка обучения на всех обучающих примерах
, где – абсолютная ошибка на i-м примере.
-
Performance – доля правильно классифицированных данных (в задачах классификации).
Из проведённых опытов выносим информацию:
-
однослойная сеть (входной и выходной слой):
-
двухслойная сеть с двумя нейронами скрытого слоя:
-
двухслойная сеть с четырьмя нейронами скрытого слоя:
-
-
трехслойная сеть, содержащую 8 нейронов в первом скрытом слое и 4 нейрона во втором скрытом слое:
Наименьшая ошибка наблюдается именно в однослойной сети, а доля правильно классифицированных данных только в однослойной сети = 1, а в остальных случаях = 0.
ИСКЛЮЧАЮЩЕЕ ИЛИ(XOR)
1. Однослойная сеть
2. Двухслойная сеть с двумя нейронами скрытого слоя
3. Двухслойная сеть с четырьмя нейронами скрытого слоя
4. Трехслойная сеть, содержащая 8 нейронов в первом скрытом слое и 4 нейрона во втором скрытом слое
Вывод: здесь наблюдается проблема логической функции исключающее ИЛИ, которая не может смоделирована с помощью простого персептрона. Многослойные сети персептронных нейронов в отличие от простых персептронов моделируют более сложные разделяющие поверхности – выпуклые и невыпуклые, ограниченные и неограниченные. Это свойство объясняет их большие, по сравнению с простыми сетями, возможности. Ошибка уменьшается по мере возрастания количества нейронов сети. Но увеличение количества нейронов уменьшает быстродействие системы.
Вывод:
Научились создавать и редактировать обучающие и тестовые данные, создавать и обучать искусственные нейронные сети (ИНС), оценивать качество обучения и функционирования ИНС с помощью пакета STATISTICA Neural Networks.
Наиболее оптимальной сетью для реализации функции OR будет однослойная сеть(простой персептрон)
Наиболее оптимальной сетью для реализации функции XOR будет двухслойная сеть с двумя нейронами скрытого слоя, так как простой персептрон не может смоделировать разделяющую поверхность