Экспериментальная часть

В данной работе проводят исследование процедуры анализа главных компонент, используемого для выбора признаков. При этом требуется установить влияние взаимного расположения векторов обучающей выборки на выбираемые признаки. В частности, требуется установить, как соотносятся эти признаки с межклассовыми признаками, если векторы обучающей выборки образуют кластеры. Также требуется установить чувствительность главных компонент к нелинейностям в расположении образов. Для этого необходимо выполнить следующую последовательность действий.

1. Используя математические библиотеки вычисления собственных чисел и собственных векторов матрицы, выполнить реализацию процедуры АГК (при этом требуется реализовать генерацию обучающей выборки и вычисление для нее ковариационной матрицы).

2. Сформировать различные обучающие выборки образов, варьирующиеся по расположению образов в пространстве признаков, наличию и взаимному расположению кластеров (рекомендуется рассмотреть случаи одного, двух и трех кластеров) и т.д.

3. Определить условия, при которых главная компонента может выступать в качестве межклассового признака, и при которых она не может использоваться для различения образов разных классов.

4. Установить, как нелинейность расположения образов влияет на направление главной компоненты.

5. Проанализировать полученные результаты. Определить ограничения процедуры анализа главных компонент. Сделать выводы по работе.

Литература

1. Потапов, А.С. Распознавание образов и машинное восприятие: общий подход на основе принципа минимальной длины описания / А.С. Потапов. – СПб.: Политехника, 2007. – С. 214-222.

2. Хант, Э. Искусственный интеллект / Э. Хант. – М.: Мир, 1978. – С. 219-220.

Вопросы для самопроверки:

1. К какому типу методов машинного обучения можно отнести анализ главных компонент?

2. На основе какого критерия в данном подходе выбираются признаки?

3. Закладывается ли в анализе главных компонент возможность образов формировать кластеры в пространстве признаков?

4. Пусть признаки – это физические параметры некоторого объекта (выражаемые, например, в килограммах, метрах и т.д.). Изменится ли результат работы анализа главных компонент при в другую систему единиц (например, все значения признаков, представленные в километрах, будут представлены в метрах)?

5. Может ли идея линейного анализа главных компонент быть расширена на выбор нелинейных признаков? Какие трудности при этом могут возникнуть?