5. Нейронные сети. Карты Кохоненна.

Нейронная сеть (нейросеть) – это система взаимосвязанных искусственных нейронов, которые подобно мозгу живых организмов могут состоять из нервных клеток.

Интеллектуальные свойства таких систем обеспечиваются за счёт взаимодействия простых компонентов ( нейронов) и настройкой связей между ними в процессе диктации.

Можно сказать что нейроесть обучается за счёт модификации своей собственной структуры в ответ на получаемую из вне информацию.

Нейроести организованы в несколько слоёв, поэтому они являются распределёнными. Информация обрабатывается параллельно, поскольку все нейроны одного слоя независимо друг от друга обрабатывают входную информацию. Нейронные сети оперируют числовыми векторами.

Структура искусственного нейрона

Входные сигналы – это данные поступающие из окружающей среды, и (или) от других активных нейронов.

Диапазон значений может быть разным. W_i – набор весовых коэффициентов, определяющих силу связи между нейронами.

F- пороговая функция, предназначенная для поиска выходного значения нейрона.

Схема простой нейросети.

З елёным цветом обозначены входные нейроны,

голубым — скрытые нейроны,

жёлтым — выходной нейрон.

Характерным примером, с которым не смогли справиться однослойные нейросети, была задача исключающего или.

Самоорганизующиеся карты Кохонена.

Основным отличием данной технологии от нейросетей, является то, что при обучении используется метод обучения без учителя, то есть результат обучения зависит только от структуры входных данных

Алгоритм функционирования самообучающихся карт (Self Organizing Maps – SOM) представляет собой один из вариантов кластеризации многомерных векторов.

Данный подходя применяется для решения разных задач, но в основном решает задачи кластеризации.

В самоорганизующихся картах (SOM) нейроны упорядочены в некоторую структуру, при этом во время обучения модифицируется не только нейрон-победитель, но и его соседи, но в меньшей степени.

SOM считают одним из методов проецирования многомерного пространства пространством более низкой мерности.

При использовании этого алгоритма векторы схожие в исходном пространстве оказываются рядом и на полученной карте.

Нейрон-победитель – нейрон карты, который в наибольшей степени соответствует вектору входов. Именно этот нейрон определяет к какому классу относится пример и именно он модифицируется при обучении.

Структура

SOM подразумевает использование упорядоченной структуры нейронов, обычно это одно или двух мерные сетки. При том каждый нейрон представляет собой n-мерный вектор, где n определяется размерностью входного пространства, т.е. размерностью входных векторов. Обычно нейроны располагаются в узлах двумерной сетки с прямоугольными или шестиугольными сетками. Количество нейронов в сетке определяется степенью детализации, которая нужна исследователю.

Процесс

В начале необходимо задать радиус обучения. Он определяет какое количество нейронов, вокруг нейрона победителя будет участвовать в обучении вместе с ним. Радиус обучения максимален при первой итерации, в дальнейшем он уменьшается, так что в конце обучения свой вес корректирует только один нейрон – победитель.

Начинается работа с инициализацией весовых коэфф. Нейронов, удачно выбранные способ инициализации, может существенно ускорить процесс обучения п привести к более качественному результату.

Существует 3 способа инициализации начальных значений:

1. Инициализация случайными значениями (малыми значениями)

2. Иниц. Примерами, которые случайным образом выбираются из обучающей выборки

3. Линейная иниц. – веса иниц. Векторами, которые линейно упорядочены вдоль некоторого пространства

После инициализации и объединения двух множеств начинается собственно обучение. Оно состоит из последовательности коррекций весов векторов ( нейронов)

На каждом шаге обучения из исходного набора данных случайно выбирается один из векторов, а затем производится поиск наиболее похожего на него вектора коэфф. Нейронов. Выбранный вектор –это нейрон-победитель. Похожий – расположенный ближе всего. После обнаружения нейрона-победителя производится корректировка весов нейросети. При этом вектор, описывающий нейрон-победитель и векторы описывающие его соседей- нейронов перемещаются в направлении входного вектора. Совмещение входного вектора и вектора нейрона-победителя как правило происходит в несколько итераций. После их совмещения другая пара и процесс повторяется до тех пор, пока не будут кластеризованы все входные данные.

В Итоге получаем кластеризованный в многомерном пространстве набор данных.

Количество карт равно количеству входных значений.