Министерство образования и науки Российской Федерации

Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования

«Глазовский государственный педагогический институт

имени В. Г. Короленко»

Кафедра информатики, теории и методики обучения информатике

Моделирование персептрона на персональном компьютере

Курсовая работа

студентки группы 145

факультета информатики, физики и математики

Сизовой Есении Викторовны

Научный руководитель: Данилов О. Е.,

канд. пед. наук, доцент.

Дата защиты курсовой работы: ________

Оценка: ____________________________

оценка и подпись научного руководителя

Глазов, 2013

ОГЛАВЛЕНИЕ

Введение...................................................................................................................3

1. Теория нейронных сетей...............................................................................4

   1. Понятие персептрона и классификация нейронных сетей...................4

   2. История возникновения искусственных нейронных сетей................11

   3. Сфера применения персептрона...........................................................14

   4. Обучение персептрона...........................................................................15

2. Программирование персептрона................................................................17

   1. Алгоритм работы персептрона.............................................................17

   2. Демонстрация обучения на составленной компьютерной

программе …..........................................................................................................18

3. Результаты обучения персептрона.......................................................20

Заключение.............................................................................................................21

Литература.............................................................................................................23

ВВЕДЕНИЕ

Человеческий мозг содержит множество особых клеток, называемых нейронами. Все они связаны друг с другом огромным количеством нервных нитей, называемых синапсами. Получившаяся таким образом огромная сеть нейронов отвечает за все те явления, которые мы привыкли называть мыслями и эмоциями, а также за все многообразие сенсомоторных функций. До сих пор нет четкого ответа на вопрос, каким образом биологическая нейросеть осуществляет управление всеми этими процессами, хотя уже исследовано достаточно много аспектов ее работы. Из-за технической невозможности создания биологических нейронных сетей, в настоящее время создаются их неодушевленные аналоги - искусственные нейронные сети.

Актуальность исследований в этом направлении подтверждается массой различных применений нейронных сетей.

Возвращаясь к общим чертам, присущим всем нейронным сетям следует отметить принцип параллельной обработки сигналов, который достигается путем объединения большого числа нейронов в так называемые слои и соединения определенным образом нейронов различных слоев, а также, в некоторых конфигурациях, и нейронов одного слоя между собой, причем обработка взаимодействия всех нейронов ведется послойно.

Широкий круг задач, решаемый нейронными сетями, не позволяет в настоящее время создавать универсальные, мощные сети, вынуждая разрабатывать специализированные нейронные сети, функционирующие по различным алгоритмам. Тип используемой нейросети во много диктуется поставленной задачей. Так, для задачи классификации удобными могут оказаться персептрон. Персептрон также применим и для задач идентификации систем и прогноза.

Цель исследования — ознакомиться с нейронными сетями, разобрать, что такое персептрон.

Объектом исследования — изучение теории нейронных сетей, программирование персептрона.

Предметом исследования — обучение однонейронного персептрона.

В соответствии с объектом, предметом и целью исследования курсовой работе были успешно решены следующие задачи:

1. Понятие персептрона и классификация нейронных сетей.

2. История возникновения искусственных нейронных сетей.

3. Сфера применения персептрона.

4. Обучение персептрона.

Курсовая работа состоит из введения, двух глав, заключения, списка использованной литературы.

В заключении сделаны выводы и подведен итог проделанной работы.

1. Теория нейронных сетей

1.1. Понятие персептрона и классификация нейронных сетей

ПЕРСЕПТРОН (от лат. perceptio — восприятие) — обучающая система, моделирующая восприятие и распознавание образов. Под образом понимается множество всех внешних ситуаций (объектов изображения), которые персептрон объединяет в один класс. Персептрон рассматривают иногда как модель мозга, которая, во-первых, наделена некоторыми существенными свойствами мозга (способностью классифицировать и обучаться) и, во-вторых, имеет некоторые конструктивные аналоги с его устройством [4].

Персептроном называется простейшая нейронная сеть, веса и смещения которого могут быть настроены таким образом, чтобы решить задачу классификации входных векторов. Задачи классификации позволяют решать сложные проблемы анализа коммутационных соединений, распознавания образов и других задач классификации с высоким быстродействием и гарантией правильного результата [4].

Биологический нейрон.

Нейрон — это элементарный инструмент человеческого мозга, который представляет из себя следующее (рис. 1).

Рис. 1. Биологический нейрон

Около 10¹¹ нейронов участвуют примерно в 10¹⁵ передающих связях, имеющих длину метр и более. Нейрон принимает и обрабатывает электрохимические сигналы. Вот суть его работы: дендриды идут от тела нервной клетки к другим нейронам, где они принимают сигналы в точках соединения, называемых синапсами. Принятые синапсом входные сигналы подводятся к телу нейрона. Здесь они суммируются, причем одни входы стремятся возбудить нейрон, другие – воспрепятствовать его возбуждению. Когда суммарное возбуждение в теле нейрона превышает некоторый порог, нейрон возбуждается, посылая по аксону сигнал другим нейронам. Такая связанная структура нейронов и называется нейронной сетью. У этой схемы много усложнений и исключений, тем не менее, большинство искусственных нейронных сетей моделируют лишь эти простые свойства.

Искусственный нейрон.

Рис. 2. Искусственный нейрон

Искусственный нейрон в первом приближении имитирует свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона. Хотя сетевые парадигмы весьма разнообразны, в основе почти всех их лежит эта конфигурация.

Здесь множество входных сигналов, обозначенных x₁, х₂, ..., х_n, поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые вектором Х, соответствуют сигналам приходящим в синапсы биологического нейрона. Каждый сигналу умножается на соответствующий вес w₁,w₂,...,w_n, и поступает на суммирующий блок. Каждый вес соответствует "силе" одной биологической синаптической связи. (Множество весов в совокупности обозначаются вектором W). Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть NET. F — постоянная пороговая величина, или же функция, более точно моделирующая нелинейную (в нашем, более простом случае, линейную) передаточную характеристику биологического нейрона и представляющая нейронной сети большие возможности.

Однослойные искусственные нейронные сети.

Рис. 3 . Однослойная нейронная сеть

Хотя один нейрон и способен выполнять простейшие процедуры распознавания, сила нейронных вычислений от соединений нейронов в сетях. Простейшая сеть состоит из группы нейронов, образующих слой, как показано в правой части рисунка. Отметим, что вершины – круги слева служат лишь для распределения выходных сигналов. Они не выполняют каких-либо вычислений и поэтому не будут считаться слоем. Каждый элемент из множества входов Х с отдельным весом соединен с каждым искусственным нейроном. А каждый нейрон выдает взвешенную сумму входов в сеть. В искусственных и биологических сетях многие соединения могут отсутствовать, все соединения показаны в целях общности. Могут иметь место так же соединения между выходами и входами элементов в слое. Удобно считать веса элементами матрицы W. Матрица имеет n строк и m столбцов, где n — число входов, а m — число нейронов. Таким образом, вычисление выходного вектора OUT, компонентами которого являются выходы NET нейронов сводится к матричному умножению OUT = XW.

Классификация нейронных сетей и их свойства.

Нейронная сеть представляет собой совокупность нейроподобных элементов, определенным образом соединенных друг с другом и с внешней средой с помощью связей, определяемых весовыми коэффициентами. В зависимости от функций, выполняемых нейронами в сети, можно выделить три их типа:

1. Входные нейроны, на которые подается вектор, кодирующий входное воздействие или образ внешней среды, в них обычно не осуществляется вычислительных процедур, а информация передается с входа на выход путем изменения их активации;

2. Выходные нейроны, выходные значения которых представляют выходы нейронной сети; преобразования в них осуществляются по выражениям. Несут важную функцию приведения значения выхода сети в требуемый промежуток (осуществляется это с помощью функции активации);

3. Промежуточные нейроны, составляющие основу нейронных сетей, преобразования в которых выполняются также по выражениям.

В большинстве нейронных моделей тип нейрона связан с его расположением в сети. Если нейрон имеет только выходные связи, то это входной нейрон, если наоборот – выходной нейрон. Однако возможен случай, когда выход топологически внутреннего нейрона рассматривается как часть выхода сети. В процессе функционирования сети осуществляется преобразование входного вектора в выходной, некоторая переработка информации. Конкретный вид выполняемого сетью преобразования данных обусловливается не только характеристиками нейроподобных элементов, но и особенностями ее архитектуры, а именно топологией межнейронных связей, выбором определенных подмножеств нейроподобных элементов для ввода и вывода информации, способами обучения сети, наличием или отсутствием конкуренции между нейронами, направлением и способами управления и синхронизации передачи информации между нейронами.

С точки зрения топологии можно выделить три основных типа нейронных сетей: 1) полносвязные (рис. 4, а); 2) многослойные или слоистые (рис. 4, б); 3) слабосвязные (с локальными связями) (рис. 4, в).

Рис. 4. Архитектуры нейронных сетей: а — полносвязная сеть; б — многослойная сеть с последовательными связями;

в — слабосвязные сети

В полносвязных нейронных сетях каждый нейрон передает свой выходной сигнал остальным нейронам, в том числе и самому себе. Все входные сигналы подаются всем нейронам. Выходными сигналами сети могут быть все или некоторые выходные сигналы нейронов после нескольких тактов функционирования сети.

В многослойных нейронных сетях нейроны объединяются в слои. Слой содержит совокупность нейронов с едиными входными сигналами. Число нейронов в слое может быть любым и не зависит от количества нейронов в других слоях. В общем случае сеть состоит из Q слоев, пронумерованных слева направо. Внешние входные сигналы подаются на входы нейронов входного слоя, а выходами сети являются выходные сигналы последнего слоя. Кроме входного и выходного слоев в многослойной нейронной сети есть один или несколько скрытых слоев. Внутри одного слоя используется одна и та же функция активации.

В слабосвязанных нейронных сетях нейроны располагаются в узлах прямоугольной или гексагональной решетки. Каждый нейрон связан с четырьмя (окрестность фон Неймана), шестью (окрестность Голея) или восемью (окрестность Мура) своими ближайшими соседями.