
- •Лекция 3
- •1. Обобщенные решающие функции
- •2.1Общие положения
- •2.2Методы нахождения коэффициентов в линейных решающих функциях
- •2.3Нелинейные решающие функции
- •2.4Системы ортогональных функций
- •2.5Система ортогональных функций нескольких переменных
- •2.10Контрольные вопросы
- •Лекция 2. Методы классификации образов с помощью функций расстояния
- •2.1Классификация образов сравнением с эталоном
- •2.2Классификация для единственного эталона
- •2.3Задача классификации на множестве эталонов.
- •2.4Классификация по правилу ближайшего соседа.
- •2.5Контрольные вопросы
Лекция 3
1. Обобщенные решающие функции
2.1Общие положения
Обобщенные решающие функции вводятся с целью упрощения для работы с нелинейными функциями. В этом случае получается линейная обобщенная функция, которая имеет вид
,
где
-
действительные однозначные функции
образа x. Таким образом,
,
.
По отношению к вектору
функция
будет линейной. Весь дальнейший анализ
можно проводить с решающей функцией,
считая, что она линейная.
Наибольшим распространением является представление обобщенно-решающих функций с помощью полиномов.
.
В общем случае квадратичная функция записывается так:
.
Решающую функцию для случая полиномов можно записать в матричном виде. Для этого введем обозначения:
где
-
матрица, содержащая коэффициенты
;
-
вектор, содержащий элементы
;
c- постоянная.
2.2Методы нахождения коэффициентов в линейных решающих функциях
Отметим, что коэффициенты
представляют вектор в (n+1)-мерном пространстве. Рассмотрим область, в которой может находиться один из допустимых векторов-коэффициентов. Пусть для примера словарь признаков двумерный и количество классов - два. Тогда предположим, что класс
,
а класс
.
Задача сводится к отысканию вектора
,
который удовлетворяет системе неравенств:
Чтобы систематизировать эти неравенства, умножим последние два уравнения на -1.
Уравнение
,
определяет плоскость, проходящую через начало координат в системе координат
0w1w2w3.
Можно рассмотреть следующую постановку решения задачи нахождения неизвестных коэффициентов:
Пусть имеется система неравенств
.
Целевая функция
Нахождение оптимума целевой функции в ряде случаев позволяет получить решение.
2.3Нелинейные решающие функции
Часто построить линейную решающую функцию не удается, поэтому используются нелинейные функции. Если конкретный вид решающей функции определить нельзя, то применяется представление решающей функции в виде функционального ряда. Разложение в ряд Маклорена и Тейлора подходит в том случае, когда известны производные функции до n- ного порядка. Для решающих функций общего вида характерно то, что они не являются дифференцируемыми в пределах заданных интервалов. Поэтому представляется возможным лишь представление в виде ряда по системе ортогональных функций.
2.4Системы ортогональных функций
Функции f(x) и g(x) называют ортогональными на отрезке [a;b] относительно весовой функции u(x), если соблюдается условие ортогональности:
Введем следующие определения:
скалярным произведением функций f(x) и g(x) на отрезке [a;b] называется определенный интеграл
.
Нормированной ((f,f)=1) функцией называется функция с единичной нормой.
Нормой функции f называется скалярное произведение функции саму на себя
.
Система функций 1(x), 2(x),..., каждая пара которой ортогональна в интервале [a;b], называется ортогональной системой функций. Условие ортогональности выражается в виде:
ij- символ Кронекера;
Весовую функцию можно включить в исходные функции, тогда получится новая система ортогональных функций без весовой функции.
Система функций называется полной, если любую кусочно-непрерывную функцию можно в среднем как угодно точно аппроксимировать с помощью линейной комбинации функций, входящих в данную систему.
Все функции, образующие ортогональную систему функций, являются линейно-независимыми, т.е. не существует таких сi, не всех равных нулю, что
с11(x)+c22(x)+...+cnn(x)=0 для любого x.
С помощью системы ортогональных функций i(x) представление искомой функции f(x) записывается в виде
Основной задачей теперь является отыскание неизвестных коэффициентов ai. Для случая ортогональных функций i(x) решение дается в виде известного определенного интеграла
-
b
ai=
f(x) i(x)dx
a