It_Kompyuterny_Praktikum

множество всех действительных матриц размером c n. Тогда нечетким с- разбиением (или матрицей степеней принадлежности) называется матрица M [ ik ] Vcn при выполнении следующих условий:

В отличие от четкого, при нечетком c-разбиении любой объект одновременно принадлежит к различным кластерам, но с разной степенью. Условия (4.2) и (4.3) требует только, чтобы сумма степеней принадлежности объекта ко всем кластерам была нормализована к 1, а также чтобы количество кластеров, к которым принадлежит объект не превышало c.

Обозначим центры кластеров, т.е. точки в р-мерном пространстве, вокруг которых сконцентрированы соответствующие объекты, через

vi (vi1, vi2 ,..., vip ) , i 1.c

При использовании евклидового расстояния задача нечеткой кластеризации состоит в нахождении такой матрицы степеней принадлежности M и таких координат центров кластеров V (v1 , v 2 ,..., vc ) ,

которые обеспечивают минимум следующего критерия:

k 1

экспоненциальный вес ( m 1). В математике под обозначением обычно

понимают норму, т.е. функцию, заданную на векторном пространстве и обобщающая понятие длины вектора.

61

Значение экспоненциального веса устанавливается до начала кластеризации. Экспоненциальный вес m влияет на матрицу степеней принадлежности M. Чем больше m, тем конечная матрица c-разбиения становится более «размазанной», а при m все объекты принадлежат всем кластерам с одинаковой степенью принадлежности, что является очень плохим решением. Экспоненциальный вес позволяет также при формировании координат центров кластеров усилить влияние объектов с большими значениями степеней принадлежности и уменьшить влияние объектов с малыми значениями степеней принадлежности. На настоящий момент не существует теоретически обоснованного правила выбора значения m. Обычно устанавливают m=2.

Аналитического решения задачи нахождения оптимальных координат центров кластеров и матрицы степеней принадлежности не существует, поэтому она решается численно. В среде MATLAB алгоритм нечетких центров реализован в функции fcm.

Функция fcm может иметь три входных аргумента:

1)Х – матрица, представляющая данные, подлежащие кластеризации. Каждая строка матрицы соответствует одному объекту (образу);

2)с – количество кластеров, которое должно быть получено в результате выполнения функции fcm. Количество кластеров должно быть больше 1 и меньше числа образов, заданных матрицей Х.

3)options – необязательный аргумент, устанавливающий параметры

алгоритма кластеризации:

options(1) – значение экспоненциального веса (по умолчанию – 2.0);

options(2) – максимальное количество итераций алгоритма кластеризации (значение по умолчанию - 100);

options(3) – минимально допустимое значение улучшения целевой функции за одну итерацию алгоритма (значение по умолчанию –

0.000001);

options(4) – вывод промежуточных результатов во время работы

функции fcm (значение по умолчанию – 1).

Для использования значений по умолчанию можно ввести NaN в качестве значения соответствующей координаты вектора options.

Алгоритм кластеризации останавливается, когда выполнено максимальное количество итераций или когда улучшение целевой функции за одну итерацию меньше указанного минимально допустимого значения.

Функция fcm имеет три выходных аргумента:

1)V – матрица координат центров кластеров, полученных в результате кластеризации. Каждая строка матрицы соответствует центру одного кластера;

2)M – матрица степеней принадлежности образов к кластерам. Каждая строка матрицы соответствует функции принадлежности одного кластера;

62

3)obj_fcn – вектор значений целевой функции на каждой итерации алгоритма кластеризации.

Модуль графического интерфейса Findcluster:

GUI-модуль (Модуль графического интерфейса) Findcluster позволяет автоматически находить центры кластеров многомерных данных с помощью нечеткого c-means алгоритма и алгоритма вычитающей кластеризации (subtractive clustering). Загрузка модуля Findcluster осуществляется по команде findcluster. Основное графическое окно модуля Findcluster с указанием назначения функциональных областей приведено на рис. 4.24.

Модуль Findcluster содержит 7 верхних типовых меню графического окна (File (Файл), Edit (Редактирование), View (Обзор), Insert (Вставка),

Tools (Инструменты), Windows (Окна) и Help (Помощь)), область визуализации, область загрузки данных, область кластеризации, область вывода текущей информации а также кнопки Info (Информация) и Close (Закрыть), которые позволяют вызвать окно справки и закрыть модуль, соответственно.

Область визуализации

В этой области в двумерном пространстве выводятся экспериментальные данные (образы) и найденные центры кластеров. Для образов используется маркер в виде красной окружности (o), а для центров кластеров – маркер в виде черной точки ().

Вобласти также расположены меню выбора координатных осей X-axis

иY-axis, позволяющие ассоциировать признаки образов с осями абсцисс и ординат.

Область загрузки данных

В этой области, которая расположена в правом верхнем углу окна, находится кнопка Load Data (Загрузка данных). Нажатие этой кнопки позволяет загрузить данные для кластеризации, хранящиеся на диске. После нажатия кнопки Load Data… открывается типовое окно открытия файла. В файле данные должны быть записаны построчно, т. е. каждому образу должна соответствовать одна строка файла данных.

Область вывода текущей информации

В этой области, которая расположена внизу графического окна, выводится наиболее важная текущая информация, например, состояние модуля, номер итерации алгоритма кластеризации, значение целевой функции и т.п.

Область кластеризации

В этой области пользователь может выбрать алгоритм кластеризации, установить параметры алгоритма кластеризации, провести кластеризацию и сохранить координаты центров кластеров в виде файла. В области расположены следующие меню и кнопки.

63

Меню Method (Метод) позволяет выбрать один из двух алгоритмов кластеризации: subtractiv – алгоритм вычитающей кластеризации; fcm - нечеткий c-means алгоритм. При выборе алгоритма вычитающей кластеризации графическое окно модуля Findcluster имеет вид, показанный на рис. 4.24. В этом случае пользователь имеет возможность установить значения следующих параметров алгоритма Influence Range (Диапозон влияния), Squash (Давка), Accept Ratio (Принимаемый коэффициент) и Reject Ratio (Отклоненный коэффициент), смысл которых объяснен в описании функции subclust. При выборе нечеткого c-means алгоритма область кластеризации принимает вид, изображенный на рис. 4.25. В этом случае пользователь имеет возможность установить значения следующих параметров: Cluster Num. – количество кластеров; Max Iteration # - максимальное количество итераций алгоритма; Min – минимально допустимое значение улучшения целевой функции за одну итерацию алгоритма; Exponent – значения экспоненциального веса.

Рис. 2.24. Основное окно модуля Findcluster

64

Рис. 2.26. Окно выполнения алгоритма

вычитающей кластеризации

Рис. 2.25. Область

кластеризации

Кнопка Start – запускает кластеризацию. При использовании алгоритма fcm значения координат центров кластеров выводятся в окне визуализации после каждой итерации. При использовании вычитающего алгоритма открывается дополнительное окно (рис. 2.26), показывающее динамику процесс кластеризации. Координаты центров кластеров выводятся по окончанию выполнения алгоритма.

Кнопка Clear Plot позволяет очистить поле вывода данных.

Для выявления центров кластеров (точек в многомерном пространстве данных) откроем файл clusterdemo.dat для просмотра его структуры (рис. 2.27). Файл представляет собой массив цифр (экспериментальных данных), сгруппированных в три столбца (многомерный массив).

Рис. 2.27. Файл clusterdemo.dat

Пример выполнения:

1)загрузим файл данных MATLAB\toolbox\fuzzy\fuzdemos\ clusterdemo.dat с помощью кнопки «Load Data»;

2)выберем алгоритм кластеризации Fuzzy c-means (fcm), с помощью кнопки «Method»;

3)зададим число кластеров равное 3, с помощью кнопки опции

«Cluster num»;

65

4)зададим число итераций равное 100, с помощью кнопки опции

«Max Iteration#»;

5)нажимаем кнопку Start и получаем результат (рис. 2.28).

Рис. 2.28. Результат работы программы Clustering (центры кластеров окрашены в черный цвет).

При увеличении количества кластеров до 30 получим результат, представленный на рис. 2.29.

66

Рис. 2.29. Результат работы программы Clustering

(центры кластеров окрашены в черный цвет).

Выводы (пример):

В результате выполнения лабораторной работы мы ознакомились с графической средой программы кластеризации – Clustering, пакета Fuzzy Logic Toolbox, которая выявляет центры кластеров. Мы убедились, что с помощью этой программы можно быстро найти центры кластеров.

С использованием демонстрационного примера было произведено сравнение работы двух алгоритмов нахождения центров кластеров (алгоритм вычитающей кластеризации и алгоритм нечетких центров). В результате сравнения было выявлено, что алгоритм вычитающей кластеризации менее точен и подойдет, если не нужна высокая точность кластеризации данных, а алгоритм нечетких центров более точен, его нужно применять, если требуется высокая точность результата. Таким образом, точность решения зависит от выбора алгоритма кластеризации и от формы представления входных данных.

Контрольные вопросы:

1.Какая программа использовалась для выявления центров кластеров?

2.Дайте определение кластеризации.

3.Для каких задач может быть использована кластеризация?

4.Как может быть определено расстояние между кластерами?

5.Назовите этапы алгоритма кластерного анализа.

67

6. Каким образом определяются центры кластеров?

3. Компьютерный практикум по нейронным сетям

3.1. Аппроксимация функции на основе нейронных сетей

Цель работы: научиться использовать нейронные сети для аппроксимации функции.

Задание: В среде MATLAB необходимо построить и обучить нейронную сеть для аппроксимации таблично заданной функции yi f (xi ) , i 1.20 .

Разработать программу, которая реализует нейросетевой алгоритм аппроксимации и выводит результаты аппроксимации в виде графиков. Варианты задания представлены в табл. 3.1.

Варианты заданий

Значения xi i 0.1, i 1,20 – одинаковые для всех вариантов.

Таблица 3.1

Рис. 6.1. Результат работы нейронной сети

Выводы (пример):

В результате выполнения лабораторной работы я ознакомился с основами теории искусственных нейронных сетей. В среде MATLAB был создан программный код, с помощью которого была построена и обучена нейронная сеть с одним скрытым слоем без обратных связей для аппроксимации таблично заданной функции. Я убедился, что нейронные сети являются одним из мощных математических аппаратов для решения задач аппроксимации функций.

Контрольные вопросы:

1.Дайте определение «нейрона».

2.Что Вы понимаете под обучением нейронной сети?

3.Что такое «Обучающее множество»?

4.Объясните смысл алгоритма обучения с учителем.

5.Что называют аппроксимацией функции?

6.Какие функции в среде MATLAB используются для создания нейронной сети?

70