Мера разделимости Махалонобиса

Если средние величины будут равны между собой, то результат у нас будет равен 0, независимо от дисперсии классов, которые не имеют никакого значения для статистического классификатора, основанного на вероятностях. Поэтому были определены меры, основанные на вероятностном подходе.

Эта мера разделимости является многопараметрическим обобщением для евклидовой меры для нормальных распределений и эта мера тоже всегда равна 0, если средние классы равны между собой. Такие меры как дивергенция и расстояние Бхаттачариа устраняют проблемы приравнивания классов к нулю. Дивергенция равна 0 только в том случае, когда равны между собой средние классы и ковариационные матрицы. У этих мер расстояния тоже есть своя проблема и заключается она в том, что она имеет свойство безгранично увеличиваться для разделимостей больших классов, и они не сходятся к одной мере.

Преобразованная дивергенция

Она основана на отношении вероятности между классами a и b, и этот коэффициент демонстрирует это поведение.

Расстояние Джеффриса-Матусита

Это расстояние зависит от расстояния между функциями вероятности между классами a и b и схожа с вероятностью при правильной классификации для разделимостей больших классов, но при этом требует больший объем вычислений. Разделимость может быть использована для определения в среднем наилучшей комбинации признаков при разделении классов друг от друга. Мера разделимости классов обычно рассчитывается для всех возможных пар классов и для всех комбинаций q признаков из общего числа K признаков. Высчитывается средняя разделимость по всем парам классов и находится такое подмножество признаков, которое обеспечивает наивысшую степень разделимости признаков. Следовательно, можно использовать это подмножество для классификации, тем самым сэкономить время. Не обязательно согласовывать меру разделимости для анализа подмножества признаков с мерой, используемой классификатором.

Неконтролируемое обучение

При неконтролируемом обучении эксперт использует какой-то компьютерный алгоритм, который определяет местоположение сгущений признаков внутри какой то однородной выборки значений пикселей, это будут кластеры, которые затем принимают на себя роль представителей классов и в последующем используются для расчетов характерных признаков классов. Контролируемое и неконтролируемое обучение дополняют друг друга следующим образом: в первом случае при контролируемом обучении аналитик вводит внешнюю информацию в процессе анализа для ограничения классов и их характеристик. При неконтролируемом обучении с помощью вычислительного алгоритма сам определяет характерную структуру данных, и она не будет ограничена никакими внешними данными.

Понятие «кластер» в большинстве случаев будет вводить в заблуждение, потому что оно подразумевает под собой существование какой-то отдельной группировки векторов пикселов в определенном месте многомерного пространства признаков данных, но такого не бывает (или очень редко). Для того чтобы создать исчерпывающий набор классов, который будет охватывать все пространство набора данных мы обязаны использовать большие выборки. Такие конкурентоспособные алгоритмы, такие как алгоритм К-средних находят оптимальное разделение в распределении данных на требуемое число классов и в этом алгоритме окончательные вектора МХ, которые и являются результатом кластеризации находятся в центрах распределения вероятности каждого подкласса