- •Алгоритм расчета весовой матрицы сети Хопфилда (Hopfield). Пример
- •1. Бинарные сети Хопфилда (Hopfield): структура, свойства, назначение и области применения. Непрерывные сети Хопфилда
- •2. Заданы функции активации двух формальных нейронов скрытого слоя rbf-сети в виде радиальных базисных функций
- •Динамические нейросети с внешней динамикой
- •2. Для двунаправленной ассоциативной памяти (lfg) заданы адреса и информации по этим адресам
- •1.Применение сетей Кохонена при распознавании речи и в роботах
- •1.Динамические нейросети с внутренней динамикой
- •2. Для двунаправленной ассоциативной памяти (lfg) заданы адреса и информации по этим адресам
- •1.Интерполяция и аппроксимация функций с помощью rbf-сетей
- •2. Применение частично рекуррентных сетей Жордана и Элмана для решения задач прогнозирования
- •Предварительная обработка значений признаков. Снижение размерности пространства признаков по методу главных компонент
- •Сети Кохонена, их структура и алгоритм обучения
- •Структура нечёткой интеллектуальной системы – основные блоки и их назначение. Примеры применения
- •1. Применение сетей Кохонена при распознавании речи и в роботах
- •1.Применение динамических нейронных сетей для решения задач прогнозирования и компьютерного контроля знаний
- •1. Частично рекуррентные нейросети
- •2. Динамические нейронные сети и нейрокомпьютеры. Сети с внутренней динамикой
- •1. Сети Кохонена, их структура и алгоритм обучения
- •1. Гибридные нейро-нечёткие продукционные системы – достоинства, структура и примеры применения
- •2. Для двунаправленной ассоциативной памяти (lfg) заданы адреса и информации по этим адресам
- •2. Сети радиальных базисных функций (rbf-сети): структура и назначение. Примеры применения. Применение rbf-сетей для решения задач прогнозирования и определения психометрической функции преподавателя
1. Применение сетей Кохонена при распознавании речи и в роботах
Распознание речи
Д ля распознавания финской и японской речи. Шестиугольная сетка нейронов Кохонена хорошо зарекомендовала себя в качестве двумерного соревновательного слоя. Оня была предложена Кохоненом (88-89) в качестве фонемных карт для распознания финской и японской речи.
Дискретизированные звуки речи каждые 10 ms подвергаются преобразованию Фурье. Полученный при этом кратковременный спектр разделяется на 15 диапазонов частот.
Самоорганизующаяся карта Кохонена имеет соответственно 15 входных нейронов. На вход каждого из них подается интенсивность одного частотного диапазона. Соревновательный слой содержит 12x8 нейронов для распознования различных фонем (звуков). При этом не каждый нейрон соответствует одной фонеме. Олна фонема может быть представлена несколькими нейронами соревновательного слоя. Произнесенное слово, представленное нейросети, состоит из последовательности вводов. При этом последовательность нейронов-победителей описывает это слово в форме пути на фонемной карте.
Роботы
Задача состоит при этом в такой установке руки робота, чтобы она могла взять предмет на ровной рабочей поверхности. Входная информация для управления рукой робота поступает от двух камер, формирующих двумерных вектор положения предмета на поверхности. На основе этой входной информации определяется 3 угла ~1, ~2, ~3 плеч робота так, чтобы рука робота разместилась непосредственно над предметом.
БИЛЕТ N 12
1.Применение динамических нейронных сетей для решения задач прогнозирования и компьютерного контроля знаний
В ряде задач существенной составляющей является время, включение параметров времени в работу ИНС позволяет учитывать статистические характеристики в различных нестационарных процессах. (Колебание цен на фондовых рынках, сигналы радаров). Для учета фактора времени используются динамические нейронные сети. В общем случае в динамических системах или процессах выход их в некоторый момент времени зависит не только от входов в текущий момент времени, но и от сигналов в предшествующие моменты времени, - то есть необходимо учитывать предысторию. Например: при управлении движением летательного аппарата необходимо учитывать не только его состояние в данный момент времени, но и состояние в предшествующий момент времени. Поскольку такие задачи как прогнозирование(например финансовых временных рядов) компьютерный контроль знаний требует учета предыдущих состояний системы, то для их решения удобно пользоваться динамическими ИНС.
БИЛЕТ N 13
1. Частично рекуррентные нейросети
Первые модели ИНС — сети прямого распространения, без обратных связей. Их выход полностью определялся текущими значениями сенсоров и коэффициентов (весов) на каждом входе каждого нейрона. Кроме того применялся метод обучения с учителем, когда весы входов нейронов подгонялись так, что бы сеть выдавала для обучающего набора входных значений допустимое отклонение от требуемых результатов. Такой метод был биологически неправдоподобным.
Первой решили проблему обучения сети без учителя. Основной принцип такого обучения состоит в том, что если отсылающий и принимающий нейроны одновременно активны (выход =1), то вес связи этих нейронов увеличивается. Биологически приемлемым здесь является логика обучения нейрона внутри границ самого нейрона и повторение свойства связи (синапса) биологических нейронов. Нейрон стал цельной логической самоорганизующейся единицей внутри ИНС.
Второй решили проблему влияния последовательностей на результат работы ИНС, сначала просто добавляя выход от ИНС к входящему сигналу (сети Хопфилда), а далее в рекуррентных ИНС добавлением связей от внутренних нейронов (сеть Элмана) либо от выхода ИНС (сеть Джордана) с единичной задержкой. Рекуррентные связи на входе обычно называют контекстом для входных данных. Рекуррентные ИНС уже можно использовать в системах управления движущимися объектами, а также использовать для запоминания последовательностей.
Сети с обратными связями - это сети, у которых информация с последующих слоев передается на предыдущие.
В качестве примера сетей с обратными связями на рисунке представлены так называемые частично-рекуррентные сети Элмана и Жордана.
БИЛЕТ N 13
Частично-рекуррентные сети:
а – Элмана; б – Жордана
Сеть Джордана является примером рекуррентной архитектуры, являющейся нелинейным расширением АРСС модели. Контекстный слой содержит копию значений активации выходного слоя для предыдущего момента времени. Каждый его нейрона имеет обратную связь с самим собой с коэффициентом, меньшим 1.
2. Задан образ x=(1,-1,1,-1)T. Определите для него весовую матрицу сети Хопфилда. Проверить работоспособность сети при распознавании искаженного образа (1,1,1,-1).
Весовая матрица Хопфилда: ,…
- соответствует
(не искаженному)
БИЛЕТ N 12
2. Задано ортонормированное множество ключевых образов-адресов A1=(1,0,0,0), A2=(0,1,0,0)) и A3=(0,0,1,0) и соответствующее множество запомненных образов B1=(5,1,0), B2=(-2,1,6) и B3=(-2,4,3)
Определите весовую матрицу связей между слоями A и B. На вход A подается зашумленная версия адреса A1иск =(0,8; -0,15;0,15; -0,20).
Определите отклик B на выходе слоя B. Покажите, что этот отклик наиболее близок к B1 в смысле расстояния Эвклида.
Весовая матрица связей A и В:
Проверка работоспособности.
- для нейрона победителя.
- B1 - нейрон-победитель.
БИЛЕТ N 11
