Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Доповідь ІАД.doc
Скачиваний:
4
Добавлен:
25.11.2019
Размер:
910.34 Кб
Скачать

Кластеризація

Методи кластеризації

Адаптивний метод кластеризації

1. Введение

Кластеризацией является разбиение множества данных на группы по схожим признакам. Кластеризация используется при решении многообразных задач обработки данных, в том числе при распознавании образов, машинном обучении, автоматической классификации, выработке стратегий управления и т. д.

До сих пор не было найдено какого-либо универсального алгоритма, который был бы эффективным на данных различной природы. В основном используются итеративные методы кластеризации, которые базируются на априорном задании количества кластеров и некотором выборе первоначального разбиения. При этом результат их применения существенно зависит от правильности оценки количества кластеров.

Устойчивость кластеризации показывает, насколько различными получаются результирующие разбиения на группы после многократного применения алгоритмов кластеризации для одних и тех же данных. В данной статье приводится краткий обзор основных методов, позволяющих оценить устойчивость кластеризации, которая связана с действительным количеством кластеров. Описаны методы на основе индексов, которые сравнивают внутренние и внешние дисперсии кластеров. Также описаны алгоритмы, использующие функции устойчивости, которые определяют соответствие назначенных кластеров для выборочных элементов множества.

Вычислительная сложность известных алгоритмов исследования устойчивости кластеризации существенно растет при увеличении мощности исследуемого множества данных. Также большинство из них недостаточно математически обоснованы. В статье рассматривается несколько помехоустойчивых алгоритмов, которые могут работать на множествах произвольной структуры.

2. Задача кластеризации

Кластеризацию можно определить как процесс объединения данных в группы по схожим признакам. Эта задача является одной из фундаментальных в области анализа данных и Data Mining. Список областей, в которых применяется кластеризация, очень широк: сегментация изображений, прогнозирование, анализ текстов, сжатие данных и многие др. На современном этапе кластеризация часто выступает первым шагом при анализе данных. После выделения схожих групп применяются другие методы. Для каждой группы строится отдельная модель. Решения задач кластеризации используются в таких научных направлениях, как статистика, распознавание образов, оптимизация, машинное обучение, финансовая математика, автоматическая классификация, выработка стратегий управления, исследование свойств ДНК, моделирование филогении организмов и др. Отсюда многообразие синонимов понятию кластер — класс, таксон, сгущение. Однако стоит различать классификацию и кластеризацию. Классификацией называется отнесение каждого элемента в определенный класс с заранее известными параметрами, полученными на этапе обучения. При этом число классов строго ограничено. Кластеризация — это разбиение множества данных на кластеры. Кластерами будем называть подмножества, параметры которых заранее неизвестны. Количество кластеров может быть произвольным или фиксированным.

Цели кластеризации могут быть различными в зависимости от особенностей конкретной прикладной задачи:

  • определить структуру множества данных, разбив его на группы схожих объектов, упростив дальнейшую обработку данных в каждом кластере в отдельности;

  • сократить объем хранимых данных, оставив по одному наиболее типичному представителю от каждого кластера;

  • выделить нетипичные объекты, которые не подходят ни к одному из кластеров.

Основная суть алгоритмов кластеризации заключается в следующем. Имеется обучающая последовательность (набор данных) {x1,..., xn} Є X и функция расстояния между объектами р(х, х'). Требуется разбить последовательность на непересекающиеся подмножества (называемые кластерами) так, чтобы каждый кластер состоял из объектов, близких по метрике р , а объекты разных кластеров существенно отличались. Алгоритм кластеризации — это функция а : X → У , которая любому объекту х Є X ставит в соответствие метку кластера уiY . Множество меток Y заранее неизвестно.

На сегодняшний момент число методов разбиения групп объектов на кластеры довольно велико - несколько десятков алгоритмов и еще больше их модификаций.

В кластеризации выделяют два основных подхода: декомпозиция (неиерархический), когда каждый объект связан только с одной группой, и кластеризация на основе иерархий (иерархический), когда каждая группа большего размера состоит из групп меньшего размера.

Классические иерархические алгоритмы работают только с категорийными атрибутами, когда строится полное дерево вложенных кластеров. Здесь распространены агломеративные (объединительные) методы построения иерархий кластеров. В них производится последовательное объединение исходных объектов и соответствующее последовательное уменьшение числа кластеров. Также существуют разделительные техники, когда кластеры разделяются. При этом изначально предполагается, что в системе только один кластер. Иерархические алгоритмы обеспечивают сравнительно высокое качество кластеризации. Большинство из них имеют сложность O(п2).

Неиерархические алгоритмы основаны на оптимизации некоторой целевой функции, определяющей оптимальное в определенном смысле разбиение множества объектов на кластеры. В этой группе популярны алгоритмы семейства к-средних (к-теапв), которые в качестве целевой функции используют сумму квадратов взвешенных отклонений координат объектов от центров искомых кластеров. Кластеры ищутся сферической либо эллипсоидной формы.

Решение задачи кластеризации принципиально неоднозначно, поскольку не существует однозначно наилучшего критерия качества кластеризации, число кластеров, как правило, неизвестно заранее и устанавливается в соответствии с некоторым субъективным критерием, а также результат кластеризации во многих алгоритмах существенно зависит от метрики, выбор которой чаще всего субъективен и определяется экспертом.

Таким образом, не существует единого универсального алгоритма кластеризации. При использовании любого алгоритма важно понимать его достоинства и недостатки, учитывать природу данных, с которыми он лучше работает и способность к масштабируемости.