Анализ главных компонент

Синонимы: Principal Component Analysis (PCA), преобразование Карунена-Лева, Собственные лица (Eigenfaces)

Из исходных изображений извлекаются компоненты таким образом, чтобы максимизировать разброс (дисперсию) среди всех имеющихся изображений (То есть компоненты будут очень хорошо выражать различия изображений). Компоненты извлекаются методом линейной проекции на собственные вектора корреляционной матрицы изображений. Проблема заключается в том, что лица, относящиеся к одному и тому же человеку (но с разными углами, изображениями лица) PCA будет также сильно разносить. Поэтому часто PCA используется совместно с LDA на начальной стадии для снижения общей размерности задачи.

Алгоритм

Пусть общее число изображений T и размерность каждого из них N. Вычтем общее среднее из всех изображений и получим новый набор векторов

- размерность NxT

Пусть S – ковариационная матрица, построенная по всей базе:

- размерность NxN

Производится разложение данной матрицы на собственные числа и вектора.

В силу большой размерности матрицы S (квадрат от размерности изображений) поступают хитрее. Поскольку собственные числа у матриц и совпадают (то есть собственные числа матрицы включают в себя все собственные числа матрицы ), то вначале находят собственные числа и вектора матрицы (у нее размерность TxT):

Домножим на A последнее уравнение, получим

Отсюда видно, как связаны собственные вектора U матрицы и собственные вектора V матрицы :

Найдем m максимальных собственных значений из множества и соответствующие им собственные вектора. Из этих векторов и составляется проекционная матрица PCA:

Вектора X, представляющий собой изображение лица, проецируется в вектора Y с использованием проекционной матрицы следующим образом:

При распознавании в режиме реального времени новое изображение вычитается из среднего и проецируется в Y.

Метод Фишера работает уже с проекциями лиц, сделанными по PCA.

Анализ независимых компонент

Синонимы: Independent Component Analysis (ICA), независимый факторный анализ (НФА)

Также как и PCA это извлечение признаков из входных образов лиц, но компоненты являются статистически независимыми или независимыми насколько это возможно.

Текущую реализацию алгоритмов для НФА можно разделить на несколько подходов. Первый подход заключается в минимизации или максимизации некоторых функций, соответствующих определенным критериям. Проблемой является необходимость использования очень сложной матрицы или тензорных операций. Другой подход состоит из адаптивных алгоритмов, часто основанных на стохастических градиентных методах. Ограничением этого подхода является медленная сходимость.

Топографический независимый факторный анализ

Топографический НФА (ТНФА) является расширением НФА. В данном методе объекты снимаются в разных позах и при разных условиях освещения. В результате применения ТНФА получается топографическая карта базисных компонент. Карта является топографической в следующем смысле: базисные компоненты как элементы отображения упорядочиваются в 2D-карте таким образом, что компоненты со схожими углами зрения группируются на одной оси, а изменения освещения учитываются на другой оси. Это обеспечивает значимое множество базисных векторов, которые можно использовать для построения подпространств точек зрения для обнаружения и распознавания объектов, основанного на внешнем виде инвариантно к углу зрения.

Для обучения ТНФА используются изображения, содержащие лица, повернутые на углы от -90° до +90°.

Топографический НФА представляет собой обучающий метод с помощью которого базисные компоненты упорядочиваются в соответствии с некоторыми статистическими данными высшего порядка. В ТНФА предположение о независимости ослаблено. Компоненты которые близки друг к другу, т.е. находящиеся внутри определенной окрестности, не считаются независимыми; они могут коррелировать по значениям их энергии.