Отображение кластеров.

Кластером будет являться группа векторов, расстояние между которыми внутри этой группы меньше, чем расстояние до соседних групп. Структура кластеров при использовании алгоритма SOM может быть отображена путем визуализации расстояния между опорными векторами (весовыми коэффициентами нейронов). При использовании этого метода чаще всего используется унифицированная матрица расстояний (u-matrix). При использовании этого метода вычисляется расстояние между вектором весов нейрона в сетке и его ближайшими соседями. Затем эти значения используются для определения цвета, которым этот узел будет отрисован. Обычно используют градации серого, причем чем больше расстояние, тем темнее отрисовывается узел. При таком использовании узлам с наибольшим расстоянием между ними и соседями соответствует черный цвет, а близлежащим узлам – белый.

Описание реализации сети

В программе реализован алгоритм SOM, состоящий из 64 нейронов. Карта представляет собой прямоугольную сетку 8х8 элементов. Количество входов произвольно и задается размерностью векторов из обучающего множества.

При инициализации весам присваиваются малые случайные значения (от 0 до 1), при этом веса не нормируются.

Функция соседства нейронов h(t) используется Гауссова с ,убывающей линейно от 8 до 0.0001 .

Cкорость обучения a(t) убывает линейно от 0.9 до 0.1 .

Рекомендуемое количество эпох обучения – более 32000 (500*количество нейронов)

На карте отображаются как принадлежность вектора кластеру, так и расстояние между кластерами (extended Kohonen map). Степень схожести кластеров показано путем окрашивания ребер между нейронами в различные оттенки серого. Более светлые показывают схожесть, более темные – различие кластеров (имеется в виду расстояние между весовыми векторами соседних нейронов в евклидовом пространстве). Используется 16 градаций серого цвета.

Работа с программой

1. решетка справа на экране карта (SOM) 8x8

2. слева список векторов – обучающее множество (заполняется после загрузки векторов)

3. внизу слева можно вводить произвольный вектор (должно быть задано обучающее множество)

4. внизу справа задается количество эпох обучения (по умолчанию 32000)

подробнее:

1. На карте отображаются поданные на вход сети вектора. Ребра между соседними клетками (нейронами) показывают степень схожести этих нейронов. Светлее ребро – более схожи нейроны, темнее – более различны. Раскраску можно включить/выключить в пункте меню “Show\Map as extended”.

2. “Vectors list (training set)”

Список векторов отображает текущее обучающее множество. Вектора загружаются из файла (“File\Load set of vectors…”). Слева перед точкой стоит номер вектора (для наглядности первые 26 векторов представлены буквами английского алфавита).

Чтобы подать желаемые вектора на вход сети, необходимо выделить один/несколько векторов и нажать кнопку “Give vectors to net”. После чего они появятся на карте справа. Вектора подаются и отображаются последовательно (верхний, затем 2-ой сверху…). В случае отнесения 2-х и более векторов к одному кластеру, на карте будет отображен только последний вектор, принадлежащий этому кластеру.

3. “Vector”

В поле ввода можно задавать произвольный вектор, используя только числа и знак ‘-‘. Элементы вектора разделяются пробелом. Задание вектора возможно только при загруженном обучающем множестве векторов и количество его элементов должно совпадать с количеством входов сети.

После нажатия кнопки “Give vector to net” вектор добавляется к обучающему множеству (но участвовать в обучении будет только после переобучения сети) и отображается на SOM карте.

4. “Training”

В окне ввода задается количество эпох обучения. По умолчанию используется 32000 эпох.

Описание меню:

“File”

“Clear Kohonen map” - очищает карту (визуально, данные при этом не затрагиваются)

“Load set of vectors…” - загрузка файла с векторами обучающего множества

“Load map weights …” - загрузка файла с весами сети

“Save map weights …” - сохранение файла с весами сети

“Save Kohonen map” - сохранение файла с отображением текущего состояния карты

“Exit” - выход из программы

“Process”

“Train” - обучение сети. Выполняется только после загрузки обучающего множества

“Stop training” - прерывание обучения и очистка весов сети.

“Clasterize” - подать на вход сети все вектора из обучающего множества (только при обученной сети)

“Show”

“Map as extended” - включает/отключает раскраску ребер карты

Структура файлов:

Файлы с обучающим множеством (*.set) :

Состоят из чисел, знаков ‘-‘ и пробелов.

Первые два числа – количество векторов и размерность вектора.

Остальные числа – элементы векторов, разделенные пробелами и символами ‘конец строки’.

Элементы векторов – целые числа.

Файлы с весами сети (*.wgh) :

Аналогично предыдущим, но элементы – вещественные.

Файлы с отображением текущего состояния карты (*.res) :

Текстовой файл, представляющий схему карты.

Примерный порядок действий:

1. Загрузить обучающее множество из 32 векторов ( “File\Load vectors set...” файл “vectors.set” ). Эти векторы отобразятся в окне "Vectors list".

2. Загрузить веса сети ( “File\Load map weights…” файл “wght32k.wgh”, веса после 32000 эпох обучения)

или

2’. Задать число эпох в "Number of epochs". Затем запустить обучение (“Process\Train”)

3. Выделить в окне "Vectors list" требуемые векторы (которые будут участвовать в кластеризации) и нажать "Give vectors to net". Кластеризация отобразится на карте.

4. Ввести произвольный вектор в поле “Vector” и нажать "Give vector to net". Сеть отнесет его к какому-либо кластеру и отобразит его. Его номер можно посмотреть в списке векторов, это будет последний вектор в списке.