2. Применение частично рекуррентных сетей Жордана и Элмана для решения задач прогнозирования

Первые модели ИНС — сети прямого распространения, без обратных связей. Их выход полностью определялся текущими значениями сенсоров и коэффициентов (весов) на каждом входе каждого нейрона. Кроме того применялся метод обучения с учителем, когда весы входов нейронов подгонялись так, что бы сеть выдавала для обучающего набора входных значений допустимое отклонение от требуемых результатов. Такой метод был биологически неправдоподобным.

Первой решили проблему обучения сети без учителя. Основной принцип такого обучения состоит в том, что если отсылающий и принимающий нейроны одновременно активны (выход =1), то вес связи этих нейронов увеличивается. Биологически приемлемым здесь является логика обучения нейрона внутри границ самого нейрона и повторение свойства связи (синапса) биологических нейронов. Нейрон стал цельной логической самоорганизующейся единицей внутри ИНС.

БИЛЕТ N 10

1. Предварительная обработка значений признаков. Снижение размерности пространства признаков по методу главных компонент

В предварительную обработку входит, например поиск и выделение главных компонент среди множества всех признаков, представление признаков в соответсвии со структурой ИНС. В соответствии с методом главных компонент часто нужно бывает снизить количество входных признаков( то есть выбрать самые нужные, значимые – которые наиболее полно позволяют наиболее представлять информацию об объекте, который они описывают)

2. Сети Кохонена, их структура и алгоритм обучения

Сеть Кохонена самоорганизующаяся.

Для обучения используют значение признаков распознаваемого образа. Сеть сама классифицирует образы.

1. Инициализация значений весовых векторов случайными значениями.

2. Сети предъявляется некоторый образ, с некоторыми характеристиками Х.

3. Определяется расстояние между входным вектором и весовым вектором связи: - евклидово расстояние

4. Нейрон Кохонена, весовой вектор которого наиболее удаленный от вектора значения признака объявляется нейроном-победителем (обозначается как нейрон С).

5. Осуществляется коррекция весового вектора победителя и нейронов в некоторой окрестности R. Победителя корректируют максимально η=1, а дальше – чем нейрон дальше от победителя – тем меньше степень воздействия корректировки : - получение нового значения весового вектора. - коэф. коррекции, , - близость нейрона победителя (с) и нейрона j.

6. Проверка по критерию сходимости: , После чего или переход к пункту 2 или стоп.

БИЛЕТ N 15

1. Структура нечёткой интеллектуальной системы – основные блоки и их назначение. Примеры применения

Нечеткая переменная определяется тройкой <Название, Мнп(х),х>

Пример: <Нормальная_температура, Мнп(t °C),х={34, 42 °C}>

Структуры базы нечетких правил:

1) Много входов, один выход (MISO)

2) Много входов и много выходов (MIMO)

Лингвистическая переменная - это нечеткие переменные, характеризующиеся функцией принадлежности.

Общий вид: ЛП=<Название, Терм_множество, Х>

Пример: ЛП=<Посещаемость лекции, {никогда. редко, часто, почти всегда, всегда}, x[0.1]>

Определение веса правила: когда в левой части правила содержится конъюнкция нечетких входных лингвистических переменных.

Пример:

Если х1=мал И х2=сред То У=Сред

2. Задан образ x=(1,-1,-1,1)^T. Определите для него весовую матрицу сети Хопфилда. Проверить работоспособность сети при распознавании искаженного образа (-1,1,-1,1)

Весовая матрица Хопфилда: ,…

- не соответствует (не искаженному), т.к. искаженный образ слишком сильно отличается (на половину)

БИЛЕТ N 9

Второй решили проблему влияния последовательностей на результат работы ИНС, сначала просто добавляя выход от ИНС к входящему сигналу (сети Хопфилда), а далее в рекуррентных ИНС добавлением связей от внутренних нейронов (сеть Элмана) либо от выхода ИНС (сеть Джордана) с единичной задержкой. Рекуррентные связи на входе обычно называют контекстом для входных данных. Рекуррентные ИНС уже можно использовать в системах управления движущимися объектами, а также использовать для запоминания последовательностей.

Сети с обратными связями - это сети, у которых информация с последующих слоев передается на предыдущие.

В качестве примера сетей с обратными связями на рисунке представлены так называемые частично-рекуррентные сети Элмана и Жордана.

Сеть Джордана является примером рекуррентной архитектуры, являющейся нелинейным расширением АРСС модели. Контекстный слой содержит копию значений активации выходного слоя для предыдущего момента времени. Каждый его нейрона имеет обратную связь с самим собой с коэффициентом, меньшим 1.

Частично-рекуррентные сети: а – Элмана; б – Жордана

БИЛЕТ N 8

2. Для k-го шага процесса самообучения заданы весовые векторы двух нейронов Кохонена w₁=(w₁₁=4, w₁₂=3)^T и w₂=( w₂₁=2, w₂₂=4)^T. Сети предъявляется образ, характеризуемый вектором x=(x₁=2, x₂=2)^T. Определите нейрон-победитель и следующие приближения весовых векторов w₁ и w_2.

- для нейрона победителя. - w₂ - нейрон-победитель.

Корректировка: , , пусть

БИЛЕТ N 11