Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы оптимизации в радиотехнических системах. Практикум
.pdf
∈
∈
=
.cx,2
;cx1,
d
2p
1p
p
двух компонентов, показан на рис. 5.1. Однако в целом получить эффективное разделение векторов можно только на основе разделяющих функций более сложного вида.
Рис. 5.1
Устройства, выполняющие разделение векторов в пространстве признаков, могут иметь различную структуру. Одним из вариантов построения устройств классификации векторов является использование нечеткой
(fuzzy) логики или нейронных сетей.
Пусть имеется обучающая последовательность входных векторов
p
x
∈X, каждый из которых состоит из двух компонентов: x
p
= (x
p
p
, x
1
), где
2
p – порядковый номер вектора. Вектор xp может быть представлен в виде
точки в двумерном пространстве (рис. 5.1). Каждый вектор последова-
m
тельности отнесен к одному из двух классов cm = (c
1
m
, c
), m = 1, 2, т. е.
2
каждому вектору xp соответствует значение dp, устанавливаемое по формуле
Таким образом, на вход устройства подается последовательность пар:
входной вектор – номер класса, к которому он принадлежит.
Для принятия решения о принадлежности входного вектора одному
из организованных классов cm могут быть использованы нечеткие множе-
p
ства, элементами которых являются значения x
1
p
, x
. Согласно [26, 37]
2
каждому элементу нечеткого множества соответствует значение функции
принадлежности (ФП) из диапазона [0, 1]. Единичное значение ФП озна-
71
>
>
=
),μ(c)μ(c,2
);
μ(c)μ(c1,
m*
12
21
чает полную принадлежность к классу, нулевое – полную непринадлеж-
ность. Значение ФП в диапазоне от 0 до 1 означает, что объект частично
принадлежит к классу.
Классифицирующее устройство должно работать по следующему ал-
горитму (выбирается аргумент максимизации)
где μ(c1) – ФП вектора xp классу c1; μ(c2) – ФП вектора xp классу c2; μ(c1) =
= min[μ1(x
p
), μ1(x
1
p
)]; μ(c2) = min[μ2(x
2
p
), μ2(x
1
p
)]; μ1(x1), μ1(x2) – ФП компо-
2
нентов вектора классу c1; μ2(x1), μ2(x2) – ФП компонентов вектора клас-
су c2.
В общем виде вычисляемое значение устройства представляет собой
функционал
m* = f(xp, S),
где S – вектор параметров ФП.
Требуется найти функции принадлежности, позволяющие выполнять
разделение векторов в пространстве признаков в соответствии с обучающей выборкой. Иными словами, необходимо найти такие значения вектора S, при которых выполняется следующее условие:
m* = f(xp, S) = dp.
В соответствии с рассмотренными условиями поставленная задача
сводится к нахождению параметров четырех ФП: μ1(x1), μ2(x1), μ1(x2),
μ2(x2). Так как ФП может иметь произвольную форму, разделяющая функция в пространстве признаков может быть нелинейной.
Для простоты будем полагать, что каждая ФП имеет треугольную аппроксимацию и задана следующим выражением:
72
>=
≤
≤
−
−
−
=
≤≤
−
−
−
=
<=
b, x
0,
μ(x)
b;
xH
,
Hb
x
H
b
b
μ(x)
H;x
a,
a
H
a
a
H
x
μ(x)
a;x0,μ(x)
(5.1)
где x – аргумент ФП; H, a, b – параметры настройки ФП, устанавливаемые
экспертным путем. Пример изображения треугольной ФП показан на рис.
5.2. В данном случае H – положение максимума ФП.
Рис. 5.2 Рис. 5.3
В общем случае параметры ФП должны записываться с индексами,
соответствующими номеру класса и номеру компонента вектора, т. е. H
m
, b
m
1
a
1
, H
m
m
, a
2
2
m
, b
. Например, запись H
2
1
означает положение максиму-
2
m
1
ма ФП компонента x2 классу с1 (рис. 5.3). Нахождение значений каждой
ФП сводится к нахождению трех ее параметров настройки.
Пусть обучающая выборка представлена двумя векторами x1 и x2,
принадлежащими разным классам, например: x
1∈c1
, x
2∈c2
(в дальнейшем
векторы, принадлежащие классу с1, будем изображать на рисунках в виде
квадратов, векторы, принадлежащие классу с2 – в виде окружностей). Расположение точек, соответствующих векторам обучающей выборки, пред-
2
ставлено на рис. 5.4. В соответствии с рисунком x
11
> x
2
, x
1
2
> x
1
.
2
,
Для выполнения разделения двух точек, принадлежащих разным
классам, ФП устройства могут быть установлены приближенно. Зададим
параметры ФП, как показано на рис. 5.5, 5.6.
73
Рис. 5.4
Рис. 5.5 Рис. 5.6
Вектор x
1∈c1
, следовательно, максимумы ФП μ1(x1), μ1(x2) должны
быть расположены, как показано на рис. 5.5, 5.6. Аналогично, поскольку
2∈c2
x
x
редине интервалов [x
, максимумы ФП μ2(x1), μ2(x2) должны соответствовать значениям x
2
. Точки пересечения r и v ФП двух разных классов расположены на се-
2
2
1
, x
1
] и [x
1
1
2
, x
2
]. Таким образом, параметры ФП на
2
2
1
рис. 5.5, 5.6 заданы следующими значениями:
H
1
1
= x
1
1
, H
1
2
= x
1
1
, a
2
1
= x
2
1
, b
1
2
= x
2
2
, H
2
1
= x
2
2
, H
1
2
= x
2
2
, a
2
2
= x
1
2
, b
2
1
= x
1
.
1
В рассмотренном варианте установки параметров ФП в пространстве
могут быть выделены области, соответствующие различным соотношени-
,
ям между ФП (области обозначены цифрами I, II, III, IV на рис. 5.7).
В области I всегда выполняется условие μ1(x1) > μ2(x1), μ1(x2) > μ2(x2),
т. е. μ(c1) > μ(c2). Точка, попавшая в эту область, будет всегда отнесена к
классу c1. Также в области II всегда будет выполняться условие
μ2(x1) > μ1(x1), μ2(x2) > μ1(x2), т. е. μ(c2) > μ(c1). Любая точка из этой облас-
74
1
2
1
2
2
1
2
1
2
1
2
2
1
Hb
x
Hb
b
)(xμ
−
−
−
=
;xxv,
xx
x
xx
x
2
22
1
2
2
2
2
1
2
2
2
2
2
≤<
−
−
−
2
1
2
1
1
2
1
2
1
2
1
1
2
H
b
x
Hb
b
)(xμ
−
−
−
=
.xxr,
xx
x
xx
x
1
11
2
1
1
1
1
2
1
1
1
1
1
≤<
−
−
−
ти будет отнесена к классу c2. В областях III, IV могут быть выполнены
оба рассмотренных условия, т. е. точка, попавшая в эту область, может
быть отнесена как к классу c1, так и к классу c2.
Рис. 5.7
Процедура принятия решения на основе аргумента максимизации
фактически предполагает анализ разности значений μ(c2) и μ(c1). Если
разность μ(c1) – μ(c2) > 0, точка в пространстве будет отнесена к классу c1,
и наоборот, если разность μ(c1) – μ(c2) < 0, точка в пространстве будет отнесена к классу c2. Равенство рассмотренной разности нулю будет определять уравнение разделяющей функции:
μ(c1) – μ(c2) = min[μ1(x1), μ1(x2)] – min[μ2(x1), μ2(x2)] = 0.
Рассмотрим область III на рис. 5.7. В данной области min[μ1(x1),
μ1(x2)] = μ1(x2), min[μ2(x1), μ2(x2)] = μ2(x1), следовательно, уравнение разделяющей функции может быть записано в виде
μ1(x2) – μ2(x1) = 0.
В соответствии с графиками на рис. 5.5, 5.6 ФП μ1(x2) и μ2(x1) определяются следующими функциями:
=
=
75
1
2
1
2
2
1
2
Hb
xb
−
−
0
Hb
xb
2
1
2
1
1
2
1
=
−
−
1
1
1
1
1
11
aH
ax
−
−
.
0
aH
ax
2
2
2
2
2
22
=
−
−
Так как ФП аппроксимированы линейными функциями, разделяющая
функция в области пространства III будет также линейной. Аналогично
линейным также будет и уравнение разделяющей функции для области IV:
μ1(x1) – μ2(x2) = 0.
Таким образом, в случае рассмотренной установки параметров ФП
разделяющие функции в областях III и IV будут заданы уравнениями прямых (рис. 5.8). В общем случае разделяющие прямые в областях III и IV
могут проходить под различными углами, т. е. положение разделяющих
прямых в пространстве полностью определяется параметрами ФП.
Рис. 5.8
В случае установки параметров ФП в соответствии с рис. 5.5, 5.6
уравнения разделяющих прямых для областей пространства III и IV будут
определяться выражениями (соответственно)
–
–
; (5.2)
(5.3)
m
m
При неизменных положениях максимумов ФП параметры a
m
b
полностью определяют прохождение разделяющих прямых в областях
2
, a
1
2
, b
m
1
,
III и IV. Если в результате установки параметров ФП классификация дан-
76
;
xH
xHxHxbHb
b
i
2
1
2
i
1
1
2
i
2
2
1
i
1
1
2
2
1
1
2
2
1
−
⋅+⋅−⋅−⋅
=
.
xH
xHxHxbHb
b
i
1
2
1
i
1
1
2
i
2
2
1
i
2
2
1
1
2
2
1
1
2
−
⋅−⋅+⋅−⋅
=
ных производится неправильно (т. е. имеется некоторое число ошибочно
классифицированных векторов), положение разделяющей прямой может
m
m
m
быть скорректировано путем изменения параметров a
, a
1
, b
2
1
, b
m
2
. На
рис. 5.9 показан пример корректировки разделяющей прямой в области III.
Рис. 5.9
В данном случае имеется ошибочно классифицированный вектор xi,
функция f(x1, x2) показывает первоначальное расположение разделяющей
прямой, функция f*(x1, x2) – прохождение разделяющей прямой после
корректировки параметров ФП. В соответствии с рисунком вектор xi принадлежит классу c1, однако разделяющая прямая f(x1, x2) имеет такое положение, что устройство относит этот вектор к классу c2 (di = 1, m*= 2,
m* ≠ di). После корректировки прямая f*(x1, x2) выполняет правильное
разделение векторов, т. е. m* = 1, di = m* = 1.
В области III для того чтобы разделяющая прямая проходила через
ошибочно классифицированный вектор xi, следует скорректировать пара-
2
метры b
1
1
, b
. Требуемое значение параметра ФП может быть выражено
2
из уравнений (5.2), (5.3) при подстановке в них координат вектора xi (для
области III) [38]:
77
При установке значения параметра b
2
или b
1
1
в соответствии с при-
2
веденными выражениями (при неизменных остальных параметрах) разделяющая прямая будет проходить через точку, соответствующую вектору xi (прямая, обозначенная точками на рис. 5.9). Чтобы вектор xi был однозначно отнесен к классу и не принадлежал разделяющей прямой, к вычисленным значениям параметров следует прибавить некоторую константу w. В этом случае разделяющая прямая будет соответствовать
функции f*(x1, x2).
При использовании линейных ФП разделение объектов в областях
III, IV может быть выполнено только с помощью прямых. Согласно работе [34] линейное разделение областей пространства, принадлежащих разным классам, возможно только в том случае, если области являются выпуклыми [34]. Линейное разделение областей возможно, если существует
хотя бы одно направление в пространстве, проекции на которое не пересекаются [34].
На рис. 5.10 представлен пример выпуклых областей, на рис. 5.11 –
пример областей, которые не являются выпуклыми. Вектор λ показывает
направление в пространстве, проекции точек на которое не пересекаются.
Рис. 5.10 Рис. 5.11
Для эффективного разделения невыпуклых областей расположения
векторов разделяющая функция должна быть нелинейной (кривая f*(x1, x2)
на рис. 5.11) или даже иметь разрывы.
Для получения нелинейной разделяющей функции должны быть использованы ФП сложной формы. Если в области III при наличии разделяющей прямой, определяемой ФП на рис. 5.5, 5.6, имеется ошибочно
78
классифицированный вектор xi (рис. 5.12), вокруг координат вектора может быть выделена некоторая окрестность, ограниченная интервалом [K,
L] по оси x1 и интервалом [M, N] по оси x2.
Рис. 5.12 Рис. 5.13
В соответствии с рисунком вектор x
i∈c1
, однако прямая f(x1, x2) отно-
сит этот вектор к классу c2 (di = 1, m* = 2, m* ≠ di). Для правильной классификации в рассмотренных интервалах разделяющая прямая должна
быть смещена в область расположения векторов, принадлежащих классу
c2, что показано на рис. 5.13. Вне окрестности корректировка разделяющей прямой не требуется. Смещения разделяющей прямой в интервалах
[K, L], [M, N] можно добиться путем введения кусочно-линейной аппроксимации ФП. В случае рис. 5.5, 5.6 при неизменном положении максимума значение каждой ФП определяется только одним параметром b
или b
1
.
2
2
1
Для смещения разделяющей прямой в интервалах [K, L], [M, N] значения указанных параметров должны быть скорректированы. Для области
III уравнение разделяющей прямой определяется значениями ФП μ1(x2) и
μ2(x1). Аппроксимируя ФП в интервалах [K, L], [M, N] прямыми с измененными значениями параметров b
2
или b
1
1
, можно добиться смещения
2
разделяющей прямой.
Для увеличения площади пространства, принадлежащей классу c1,
следует увеличивать значения ФП μ1(x2) в интервале [M, N] (рис. 5.14) либо уменьшать значения ФП μ2(x1) в интервале [K, L] (рис. 5.15). Форма
разделяющей функции после рассмотренных изменений ФП показана на
рис. 5.16.
79
Рис. 5.14 Рис. 5.15
Рис. 5.16
Для увеличения площади пространства класса c2 следует увеличивать
значения ФП μ2(x1) в интервале [K, L] (рис. 5.17), либо уменьшать значения ФП μ1(x2) в интервале [M, N] (рис. 5.18). Форма разделяющей функции после рассмотренных изменений ФП показана на рис. 5.19.
Рис. 5.17 Рис. 5.18
80
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]