Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Лекция по Нейронным сетям.doc
Скачиваний:
61
Добавлен:
20.05.2014
Размер:
170.5 Кб
Скачать

HC - формальное представление обрабатывающих информацию объектов, обменивающихся информацией. Сеть называется нейронной по аналогии с с рервой системой в медицине и психологии. Поскольку нейронные сети являются формализованными, в них широко используется специфический математический аппарат. Нейронные сети были разработаны по аналогии с сетью нейронов в биологических объектах. Биологический нейрон – это микроскопический объект, который, как правило, имеет два состояния: возбужденное и заторможенное. С помощью связей он соединяется с другими нейронами, а информация по нервной системе БО передается с помощью слабого электрического тока.

Хронология

  • 1943 годНорберт Винер вместе с соратниками публикует работу о кибернетике. Основной идеей является представление сложных биологических процессов математическими моделями.

  • 1943 годМаккалок и Питтс формализуют понятие нейронной сети в фундаментальной статье о логическом исчислении идей и нервной активности.

  • 1949 годХебб предлагает первый алгоритм обучения.

  • В 1958 году Розенблаттом изобретен перцептрон. Перцептрон обретает популярность — его используют для распознавания образов, прогнозирования погоды и т. д. Казалось, что построение полноценного искусственного интеллекта уже не за горами.

  • В 1960 году Уидроу (Widrow) совместно со своим студентом Хоффом на основе дельта-правила (формулы Уидроу) разработали Адалин, который сразу начал использоваться для задач предсказания и адаптивного управления. Адалин был построен на базе созданных ими же (Уидроу — Хоффом) принципально новых элементах — мемисторах. Сейчас Адалин (адаптивный сумматор) является стандартным элементом многих систем обработки сигналов.

  • В 1961 году под руководством М. М. Бонгарда разработана программа «Кора»: «…задача Коры — поиск разделяющего правила после того, как найдены операторы, дающие достаточно четкие (коротко кодируемые) характеристики объекта или его частей». Программа Кора нашла применение, в частности, для распознавания нефтеносных пластов.

  • В 1969 году Минский публикует формальное доказательство ограниченности перцептрона и показывает, что он неспособен решать некоторые задачи (Проблема "четности" и "один в блоке"), связанные с инвариантностью представлений. Интерес к нейронным сетям резко спадает.

  • 1974 год — Пол Дж. Вербос и А. И. Галушкин одновременно изобретают алгоритм обратного распространения ошибки для обучения многослойных перцептронов. Изобретение не привлекло особого внимания.

  • 1975 год — Фукушима представляет Когнитрон — самоорганизующуюся сеть, предназначенную для инвариантного распознавания образов, но это достигается только при помощи запоминания практически всех состояний образа.

  • 1982 год — после длительного упадка, интерес к нейросетям вновь возрастает. Хопфилд (en:John Joseph Hopfield) показал, что нейронная сеть с обратными связями может представлять собой систему, минимизирующую энергию (так называемая сеть Хопфилда). Кохоненом представлены модели сети, обучающейся без учителя (Нейронная сеть Кохонена), решающей задачи кластеризации, визуализации данных (самоорганизующаяся карта Кохонена) и другие задачи предварительного анализа данных.

1986 годДэвидом И. Румельхартом, Дж. Е. Хинтоном и Рональдом Дж. Вильямсом и независимо и одновременно С. И. Барцевым и В. А. Охониным (Красноярская группа) переоткрыт и существенно развит метод обратного распространения ошибки. Начался взрыв интереса к обучаемым нейронным сетям.

Основной идеей использования нейронных сетей является возможность параллельной или псевдопараллельной обработки информации. Основными методами в науке является исторический и метод аналогий. При методе аналогий в соответствие биологическим объектам поставили элементы, которые было просто реализовать. Современные нейронные сети, как правило, представляют собой сеть процессоров, которые предназначены для решения определенных задач, в первую очередь задач распознавания образов за счет параллельных и псевдопараллельных вычислений.

Рассмотрим систему зрения человека. После того как изображение проходит через зрачок оно проецируется на сетчатку глаза, где находятся рецепторы, которые воспринимают сигнал. Рецепторы возбуждаются по-разному, возбуждаются соответствующие нейроны и изображение попадает в мозг, где оно и обрабатывается. Изображение окончательно формируется в мозге. Задача состоит в том, чтобы обработать как можно быстрее сигналы, которые передаются с матрицы (аналогия сетчатки). Это очень сложный процесс, так как человек различает цвета. Многие животные не воспринимают цвета, а видят в определенном спектре, только высшие обезьяны и птицы различают всю гамму. Если возьмем метод аналогии, то для животных матрица заполняется ограниченными значениями (от 0 до 8), а для человека от 0 до многих миллионов. Аналогично пытаются построить процесс технического зрения

Перцептро́н, или персептрон (англ.perceptron от лат.Perceptio — восприятие; нем.perzeptron) — математическаяикомпьютерная модельвосприятияинформациимозгом(кибернетическаямодель мозга), предложенная Фрэнком Розенблаттомв1957 годуи реализованная в виде электронной машины«Марк-1»в1960 году. Персептрон стал одной из первых моделейнейросетей, а «Марк-1» — первым в мире нейрокомпьютером. Несмотря на свою простоту, персептрон способен обучатьсяи решать довольно сложные задачи.

Персептрон состоит из трёх типов элементов, а именно: поступающие от сенсоров сигналыпередаютсяассоциативным элементам, а затем реагирующим элементам. Таким образом, перцептроны позволяют создать набор «ассоциаций»между входнымистимуламии необходимойреакциейна выходе. В биологическом плане это соответствует преобразованию, например, зрительной информации вфизиологический ответот двигательныхнейронов. Согласно современной терминологии, персептроны могут быть классифицированы как искусственные нейронные сети:

  1. с одним скрытым слоем;

  2. с пороговой передаточной функцией;

с прямым распространением сигнала

Пример: распределение времени ЦП:

-монопольное (MS DOS)

-по приоритетам (системы реального времени)

-каждому процессу дается квант времени.

Если система управления сложная и она подсоединена к многим датчикам, которые работают в реальном времени и сама система должна работать в реальном времени, в этом случае часто используют нейронные сети, а систему делают многоуровневой.

Пример: сложная производственная система (обычно двухуровневая) для них существуют специальные ОС, которые определяются понятием SCADA., трехуровневая система управления МКС.

Основная идея технической нейронной сети: обработать множество сигналов {N}, полученных с датчика и получить в результате значительно меньшее множество, которое некоторым образом отображает полученные сигналы. Наиболее простым элементом, который позволяет это сделать является сумматор, где входные сигналы суммируются, и выдается один результирующий сигнал.