12. Область применения алгоритма Дискриминантная функция.
Назначение:
решение задач распознавания в ситуациях, когда в МО представлены объекты K образов (K=2,3,…), распределенные нормально.
Постановка задачи:
в исходных данных, представленных в виде ТОС, присутствуют представители всех образов. Для каждого объекта указана его принадлежность к образу. В процессе распознавания определяется принадлежность объектов экзамена к одному из образов.
Условия применимости:
- все свойства измерены в арифметической шкале;
- в МО не менее 2 образов;
- в пространстве «объекты-свойства» объекты обучения имеют нормальное распределение (образы компактны).
Дискриминантный анализ эффективно использовать при достаточно
близком расположении образов и даже при небольшом их наложении.
11. Алгоритм распознавания «Дискриминатная функция».
Назначение — решение задач распознавания в ситуациях, когда в МО представлены объекты K образов (K=2,3..), распределенные нормально.
Постановка задачи.
В исходных данных, представленных в виде ТОС, присутствуют представители всех образов. Для каждого объекта указана его принадлежность к образу. В процессе распознавания определяется принадлежность объектов экзамена к одному из образов.
Метод решения задачи.
Этот метод основан на предположении, что объекты, составляющие каждый из образов, многомерно нормально распределены. Мы опираемся на эталонные объекты. Теоретически разделяются:
— линейный дискриминантный анализ, когда матрицы ковариации для разных образов равны;
— квадратичный дискриминантный анализ, когда матрицы ковариации для разных объектов различны.
Линейный дискриминантный анализ.
Рассмотрим случай, когда в МО имеется два образа. Оказывается, что при равных ковариационных матрицах поверхность с одной стороны от которой больше вероятность принадлежности к одному из образов, а с другой к другому (критерий Байеса) является гиперплоскость, т.е. линейная поверхность размерности n-1 (n— размерность пространства).
В данном случае эта поверхность вычисляется следующим образом:
(5.1)
Формула (5.1) называется уравнением линейной дискриминантной функции, где
—
n-мерный
вектор столбец в пространстве свойств
;
— математическое
ожидание (среднее) объектов 1-го образа;
— математическое
ожидание (среднее) объектов 2-го образа;
T — транспонирование;
—
матрица
коэффициентов ковариации.
Коэффициенты ковариации вычисляются следующим образом:
,
где M — знак математического ожидания.
Распознавание с отказами.
Пусть имеется k образов, где k>2(т.е. известны эталоны для этих образов). Тогда можно построить линейную дискриминантную функцию для любой пары образов:
,
где i,
j-1,
k
— образы.
относится
к i-му
образу, если
для всех j,
или к области отказа, если такового i
— нет.
Посмотрим как это выглядит на графике (рис. 5.11), где
D — гиперплоскости;
1, 2, 3 — образы;
4 — область отказа.
В область отказа попадают такие точки, для которых невозможно определить принадлежность к одному из образов. Другими словами точка отказа — это такая точка, координаты которой при подставлении в дискриминантную функцию дают следующие значения:
;
;
;
.
Дискриминантный анализ эффективно использовать при достаточно близком расположении образов и даже при небольшом их наложении.