Понятие порога

Под порогом обычно подразумевается выбранное заранее число, с которым сравнивают расстояние или меры близости между объектами или кластерами для того, чтобы решить можно ли отнести два объекта (либо объект и класс, или два класса) к одному классу.

Пункт 5. Функционалы качества разбиения на классы и экстремальная постановка задачи кластер-анализа §5.1 Функционалы качества разбиения при заданном числе классов

Пусть задана метрика d в пространстве признаков П (р).Пусть X={X₁,..,X_n}- множество наблюдений, а S=(S₁,..,S_k), X=S₁…S_k и S=(S₁,..,S_k), X=S₁S_k – два некоторых фиксированных разбиения множества наблюдений X на заданное число классов К.

Естественно попытаться сравнить качество разбиения на заданное число классов.

Для этого вводится некоторый функционал качества - числовая функция Q(S), аргументом которой является разбиение S.

Тогда под наилучшем разбиением S*=(S*,..,S*) естественно понимать разбиение X=S*₁S*_k на котором достигается экстремум выбранного функционала качества.

Q (S)extr (min или max)

Приведем примеры некоторых используемых функционалов качества.

1. Сумма (взвешенная сумма) внутриклассовых дисперсий

2. Сумма (взвешенная сумма) квадратов внутриклассовых расстояний между объектами (наблюдениями):

3. Обобщенная внутриклассовая дисперсия

Другой вариант использования обобщенной дисперсии:

Функционалы Q₃ (S) и Q^₃(S) используются, в частности, в случаях, когда есть основания полагать, что многомерные наблюдения X₁, X₂,..., X_n сосредоточены в пространстве размерности p.

§5.2 Функционалы качества разбиения при неизвестном числе классов

Пусть исследование заранее не известно на какое число классов подразделяются многомерные наблюдения X₁, X₂,..., X_n. В этой ситуации функционалы качества разбиения Q (S) выбираются в виде алгебраической комбинации (суммы, произведения и т д.) двух функционалов Y₁ (S) и Y₂ (S), один из которых Y₁ (S) является убывающей (не возрастающей) функцией числа классов К и характеризует, вообще говоря, внутриклассовой разброс наблюдений, а второй Y₂ (S) является возрастающей (неубывающей) функцией числа классов К. Интерпретация функционала Y₂ (S) может быть различной. Идея рассмотрения двух функционалов реализуется, например, в следующем методе, основанном на методе, предложенный А.Н.Колмогоровым. Эта схема опирается на понятие меры концентрации Z_r(S) точек , соответствующую разбиению S=(S₁,..,S_k), и на

понятии средней меры внутриклассового расстояния Y ^(k)_r(S).

                                                                                                                                                                (5.1)

V (X_i)- число элементов в кластере, содержащем X_i

r – числовой параметр, выбираемый исследователем.

Если X_iS_j, то V(X_i)=n_j.                                                                                                                 (5.2)

В частности, можно показать, что при r =-1 из (5.1) Z_-1(S)=1/k, где k- число кластеров.

Действительно,

Тогда

Далее при r =0, для Z₀ (S)=lim Z_r (S) при r0, имеем

- информационная мера концентрации.

Это следует из п.4.2, где указано, что

Поэтому в силу (5.2)

Аналогично, можно показать, что в силу п.4.2 и (5.2)

Отметим, что при объединении двух кластеров, т е. при переходе от разбиения S=S₁S_mS_qS_k (к- слогаемых) к разбиению S=S₁(S_mS_q)S_k (к-1 слогаемых), объединение кластеров S_m и S_q дает прирост меры концентрации Z₁(S).

Замечание: r мера концентрации Z_r(S) задаваемая (5.1) имеет минимальное значение, равное 1/n, при разбиении множества X на n одноэлементных кластеров.

Средняя мера внутриклассного рассеяния также основывается на понятии степенного среднего

                                                                                                                                                                 (5.3)

– обобщенная мера рассеяния, характеризующая класс S_l , параметр r выбирает исследователь.

Можно показать, что

S (X_i)- кластер, содержащий X_i

Экстремальная задача формулируется следующим образом: требуется найти такое разбиение S*, для которого достигала бы экстремума какая-нибудь алгебраическая комбинация Y₁ (S) и Y₂ (S).

Например:

,- некоторые константы (например ==1).

-задаётся формулами . (5.3) и (5.1) соответственно.

Подведя итог изложенному выше, отметим, что выбор того или иного функционала качества осуществляется весьма произвольно и опирается на эмпирические и прогрессивно-интуитивные соображения, а не на какую-либо формализованную систему.