- •Типовая задача восстановления закономерностей в множествах объектов реального мира
- •Концептуальная база восстановления зависимостей: гипотеза компактности
- •Диполь в метрическом пространстве
- •Простейшая реализация гипотезы компактности
- •Более «тонкая» реализация гипотезы компактности для непрерывного метрического пространства
- •Идеальные условия для реализации гипотезы компактности: Евклидова метрика в конечномерном линейном пространстве
- •Метод опорных векторов: Выпуклая форма критерия
- •Метод опорных векторов: Выпуклая форма критерия
- •Метод опорных векторов: Выпуклая форма критерия
- •Повтор: Диполь в метрическом пространстве
- •Простейшая реализация гипотезы компактности
- •Более «тонкая» реализация гипотезы компактности для непрерывного метрического пространства
- •Оптимальная эластичная деформация растров пары изображений
- •Среднее арифметическое изображение
- •Среднее арифметическое изображение
- •Евклидовы метрики
- •Евклидовы метрики
- •Евклидовы метрики
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Пополнение метрического пространства с евклидовой метрикой
- •Линейные операции в евклидовом метрическом пространстве
- •Потенциальная функция (кернел) на множестве объектов, определяемая евклидовой метрикой
- •Евклидова метрика на множестве объектов, определяемая потенциальной функцией (кернелом)
- •Линейный принцип восстановления зависимостей на основе потенциальной функции (Kernel-based Dependence Estimation)
- •Аффинные операции в евклидовом метрическом пространстве
- •Аффинные операции в евклидовом метрическом пространстве
- •Аффинные операции в евклидовом метрическом пространстве
- •Аффинные операции в евклидовом метрическом пространстве
- •Евклидово аффинное пространство
- •Евклидово аффинное пространство
- •Евклидово аффинное пространство
- •Евклидово аффинное пространство
- •Евклидово аффинное пространство
- •Евклидово аффинное пространство
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи svm)
- •Задача обучения для произвольной функции попарного сравнения объектов: Relational Dependence Estimation
- •Обучение для заданной функции попарного сравнения с отбором базисных объектов: Relevance Object Machine
- •Обучение для заданной функции попарного сравнения с отбором базисных объектов: Relevance Object Machine
- •Обучение для заданной функции попарного сравнения с отбором базисных объектов: Relevance Object Machine
- •Обучение для заданной функции попарного сравнения с отбором базисных объектов: Relevance Object Machine
- •Обучение для заданной функции попарного сравнения с отбором базисных объектов: Relevance Object Machine
- •Relevance Object Machine – выпуклый критерий обучения в линейном пространстве вторичных признаков
- •Более общая концепция: Несколько разных функций парного сравнения объектов
- •Более общая концепция: Несколько разных функций парного сравнения объектов
- •Типичная зависимость ошибки на контроле и числа релевантных объектов от уровня селективности вторичных признаков
- •Частный случай: Метрика как функция попарного сравнительного представления объектов
- •Р егуляризованный критерий обучения в метрическом пространстве объектов
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово расстояние между произвольным элементом и заданной аффинной комбинацией определяется выражением
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово расстояние между произвольным элементом и заданной аффинной комбинацией определяется выражением
Наличие операции аффинной комбинации любого конечного числа элементов позволяет называть евклидово метрическое пространство евклидовым аффинным пространством.
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово расстояние между произвольным элементом и заданной аффинной комбинацией определяется выражением
Наличие операции аффинной комбинации любого конечного числа элементов позволяет называть евклидово метрическое пространство евклидовым аффинным пространством. От евклидова линейного пространства его отличает только отсутствие нулевого элемента.
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово расстояние между произвольным элементом и заданной аффинной комбинацией определяется выражением
Наличие
операции аффинной комбинации любого
конечного числа элементов позволяет
называть евклидово метрическое
пространство
евклидовым аффинным пространством. От
евклидова линейного пространства его
отличает только отсутствие нулевого
элемента. Если дополнительно назначить
любой элемент в качестве нулевого
,
то евклидова метрика
порождает в
,
во-первых, линейные операции сложения
двух элементов и умножения элемента на
действительный коэффициент, и, во-вторых,
скалярное произведение (кернел):
.
Евклидово аффинное пространство
Аффинная комбинация конечной совокупности элементов евклидова метрического пространства с коэффициентами , :
.
Евклидово расстояние между произвольным элементом и заданной аффинной комбинацией определяется выражением
Наличие операции аффинной комбинации любого конечного числа элементов позволяет называть евклидово метрическое пространство евклидовым аффинным пространством. От евклидова линейного пространства его отличает только отсутствие нулевого элемента. Если дополнительно назначить любой элемент в качестве нулевого , то евклидова метрика порождает в , во-первых, линейные операции сложения двух элементов и умножения элемента на действительный коэффициент, и, во-вторых, скалярное произведение (кернел): .
Евклидова
метрика
порождает
континуум
разных линейных пространств и кернелов,
но все они определяют одну и ту же
исходную метрику
.
Диполь и аффинная гиперплоскость в евклидовом метрическом (аффинном) пространство
Евклидово метрическое (аффинное) пространство с метрикой .
Диполь
,
– узлы диполя.
– аффинная
гиперплоскость.
Диполь и аффинная гиперплоскость в евклидовом метрическом (аффинном) пространство
Евклидово метрическое (аффинное) пространство с метрикой .
Диполь , – узлы диполя.
– аффинная гиперплоскость.
– произвольный
элемент евклидова метрического
пространства,
– его расстояние до аффинной гиперплоскости
с учетом знака.
|
|
Диполь и аффинная гиперплоскость в евклидовом метрическом (аффинном) пространство
Евклидово метрическое (аффинное) пространство с метрикой .
Диполь , – узлы диполя.
– аффинная гиперплоскость.
– произвольный элемент евклидова метрического пространства, – его расстояние до аффинной гиперплоскости с учетом знака.
Теорема.
|
|
Диполь и аффинная гиперплоскость в евклидовом метрическом (аффинном) пространство
Евклидово метрическое (аффинное) пространство с метрикой .
Диполь , – узлы диполя.
– аффинная гиперплоскость.
– произвольный элемент евклидова метрического пространства, – его расстояние до аффинной гиперплоскости с учетом знака.
Теорема. . |
|
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая
совокупность:
|
|
|
Представление искомых узлов диполя:
|
Диполь и аффинная гиперплоскость в евклидовом метрическом (аффинном) пространство
Евклидово метрическое (аффинное) пространство с метрикой .
Диполь , – узлы диполя.
– аффинная гиперплоскость.
– произвольный элемент евклидова метрического пространства, – его расстояние до аффинной гиперплоскости с учетом знака.
Теорема. . |
|
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
|
|
Представление искомых узлов диполя:
|
Совокупность параметров, полностью определяющих выбор решающей функции
|
Множество диполей единичной длины, определяющих одну и ту же дискриминантную гиперплоскость |
||||
|
|
|
|||
|
|||||
|
|
|
|||
Совокупность параметров, полностью определяющих выбор решающей функции
|
Множество диполей единичной длины, определяющих одну и ту же дискриминантную гиперплоскость |
||
|
|
продольный сдвиг |
|
поворот |
|||
Совокупность параметров, полностью определяющих выбор решающей функции
|
Множество диполей единичной длины, определяющих одну и ту же дискриминантную гиперплоскость |
||
|
|
продольный сдвиг |
|
поворот |
|||
Совокупность параметров, полностью определяющих выбор решающей функции
|
Множество диполей единичной длины, определяющих одну и ту же дискриминантную гиперплоскость |
||
|
|
продольный сдвиг |
|
поворот |
|||
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
|
|
Представление искомых узлов диполя: , ,
|
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
|
|
Представление искомых узлов диполя: , ,
|
|
|
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
|
|
Представление искомых узлов диполя: , , . |
В условиях принятых предположений достаточно искать дискриминантную функцию в виде |
|
Задача обучения распознаванию объектов двух классов: Принцип максимизации зазора (аналог задачи SVM)
Обучающая совокупность: |
|
|
Представление искомых узлов диполя: , , . |
В условиях принятых предположений достаточно искать дискриминантную функцию в виде |
|
Эквивалентная формулировка задачи:
|
Здесь
не учтены ограничения на коэффициенты
при объектах обучающей совокупности
|

.