Обучение нс Основные понятия
Обучение – есть процесс непрерывного развития и формирования сознания посредствам взаимодействия с внешней средой и в соответствии с индивидуальными особенностями организма.
Процесс обучения связан с появлением, как у биологических, так и у технических систем новых свойств, таких как:
появление новых связей
увеличение числа нейронов или их совершенствование
появление новых форм взаимодействия между элементами системы
Процесс обучения связан с функционированием системы во внешней среде. Схема взаимодействия системы с внешней средой приведена ниже.
1 – выявление параметров, характеризующих внешнюю среду
2 – выбор алгоритма обучения
3 –осуществление на основе результатов обучения процесса самоорганизации, выбор алгоритма кластеризации (формирование классов внешней среды)
4 – приспособление, выработка сигналов обратной связи
5 – построение модели поведения (правильность выбранной модели поведения определяется реакцией внешней среды)
Процесс продолжается до тех пор, пока не будет достигнуто состояние равновесия между моделью поведения системы и внешней средой.
Выбор алгоритма построения модели поведения некоторого объекта зависит от режима его функционирования во внешней среде. Можно выделить следующие режимы:
режим реального времени (on-line)
реактивный режим (отработка воздействий внешней среды за определённый промежуток времени τ)
стабильный режим, время некритично (off-line)
Модель взаимодействия системы с внешней средой положена в основу любой интеллектуальной системы, реагирующей на воздействия внешней среды.
Основная задача обучения НС – приблизить функцию, которую реализует реальная сеть, к неизвестной функции, которую можно определить по имеющемуся множеству примеров (обучающему множеству - обучающей выборки).
При решении задач распознавания большое значение имеет проблема стабильности-пластичности. Пластичность – способность воспринимать и правильно распознавать новые образы. Стабильность – способность сохранять старые, ранее запомненные образы, при восприятии новых. Эта проблема не всегда может быть решена.
Основные механизмы обучения:
обучение в процессе адаптации;
обучение в процессе самоорганизации.
Адаптация – приспособление системы к внешней среде. Самоорганизация – динамическая перестройка системы с целью её адаптации.
Синергетика – наука о самоорганизации. Основоположник синергетики – немецкий учёный Г. Хакен.
«Жизнь – это высшее проявление процессов самоорганизации».
Одно из первых правил обучения было предложено Хеббом: если при повторных предъявлениях одного и того же образа НС два нейрона (i и j) одновременно активизируются, то коэффициент синаптической связи wij между этими нейронами увеличивается. Процесс обучения можно свести к подаче M образов на вход системы и формированию связей между нейронами в соответствии с тем, какую активность они проявляют в процессе обучения.
Таким образом, НС формируется множеством нейронов, связи между которыми имеют более высокую проходимость, чем связи между остальными нейронами сети. Это множество нейронов называется ансамблем. Если возбуждается часть нейронов ансамбля, благодаря высокой проходимости связей с другими нейронами внутри ансамбля возбуждается весь ансамбль. Ансамбль нейронов соответствует любому конкретному понятию. Часто повторяемые определённые образы ведут к образованию нейронных ансамблей, т. е. формируют в памяти устойчивую систему понятий.
Правило Хебба положено в основу создания ассоциативных сетей (например, сеть Хопфилда).
Л. Тауц, Э. Кэндел ?????
Если моделирующий и пресинаптический нейроны одновременно являются активными, то связь между пресинаптическим и постсинаптическим нейронами усиливается.
Правило Кэндела было положено в основу создания ассоциативно-проективной памяти (Н. М. Амосов, Институт кибернетики АН УССР).