Факторный анализ Модель факторного анализа

Как и прежде будем полагать, что Х = (X₁, X₂, …, X_k)^T — исходный k-мерный случайный вектор. Каноническая модель факторного анализа для центрированного вектора имеет следующий вид:

(2.3.1)

где F = (F₁, F₂, …, F_m) — центрированный и нормированный случайный вектор некоррелированных m общих факторов для всех исходных случайных величин X_i (m < k), — (неслучайная) матрица нагрузок случайных величин X_i на факторы F_j, — нормально распределенный центрированный вектор  специфических факторов ₁, ₂, …, _k, некоррелированных как между собой, так и с общими факторами.

Пусть — ковариационная матрица вектора Х, а Σ_ε =  — ковариационная матрица (диагональная) вектора  с диагональными элементами, равными .

Построим систему уравнений для нахождения матриц A и Σ_ε. С учетом (16) и условий на векторах F и получим:

Итак,

или

(2.3.2)

Таким образом, здесь, в отличие от модели главных компонент, ковариации исходных случайных величин полностью воспроизводятся матрицей нагрузок, а для воспроизведения их дисперсий помимо нагрузок нужны дисперсии _i специфических факторов. И далее, так как

,

то здесь, как и в компонентном анализе, ковариации .

Замечание. Если исходный k-мерный вектор Х не только центрирован, но и нормирован, то Σ_Х — это корреляционная матрица R_Х и система (17) примет вид

R_Х = AA^T+Σ_ε

или

(2.3.3)

и в этом случае , а .

Величину называют общностью случайной величины Х_i, а матрицу R' = A'A'^T, где — редуцированной матрицей (R' отличается от R только тем, что ее диагональными элементами являются не единицы, а общности h_i).

В системе (17) k² уравнений, а число неизвестных (a_ij и υ_i) равно mk + k < < k(k + 1). Если допустить, что k, m и матрица Σ_Х таковы, что решение этой системы существует (иначе построение модели (16) допустимо?), то это решение не единственно.

Действительно, пусть V — ортогональная матрица размером . Проведем тождественные преобразования модели (16):

. (2.3.4)

В преобразованной модели вектор общих факторов — это вектор , а матрица нагрузок .

Итак, если решение системы (17) существует, то оно не единственно: допустим целый класс матриц нагрузок, которые связаны между собой ортогональными преобразованиями.

Замечание. В методе главных компонент также допустимо ортогональное преобразование матрицы нагрузок. Однако вращение пространства главных компонент меняет вклады компонент в общую дисперсию исходных случайных величин: они не равны собственным значениям.

При каких дополнительных условиях на k, m и матрицу нагрузок А решение системы (17) единственно с точностью до ортогонального преобразования? Матрица А должна быть такой, чтобы при вычеркивании из нее любой строки оставшуюся матрицу можно было бы разделить на две подматрицы ранга m (откуда получаем, что 2m  k — 1). Сформулированное требование к матрице А является не только достаточным, но и при m = 1 и m = 2 необходимым условием единственности решения системы (17).

Будем предполагать, что решение единственно с точностью до ортогонального преобразования. Тогда, вращая систему координат в m-мерном пространстве общих факторов, можно найти такую матрицу нагрузок, которая позволила бы дать содержательную интерпретацию общих факторов в терминах исходных случайных величин. Существует несколько вариантов дополнительных условий на класс матриц А, обеспечивающих уже окончательную однозначность решения. От этих условий зависит и метод нахождения матриц А, Σ_ε, вектора F, и, соответственно, способ их статистического оценивания.

Наиболее формализованы следующие варианты дополнительных идентифицирующих требований к виду матрицы А:

1. матрица должна иметь диагональный вид с различными расположенными в порядке убывания диагональными элементами;

2. матрица A^TB (где матрица задана заранее) имеет ранг m и должна быть треугольной (наддиагональной); в частности, при

    матрица ,

т. е. исходный признак Х₁ выражается только через общий фактор F₁; X₂ — через F₁ и F₂ и т. д.

Общая итерационная схема нахождения (при заданном m) параметров (А, Σ_ε) факторной модели такова:

• задаются нулевым приближением диагональной матрицы Σ_ε (нулевым приближением дисперсий v_i специфических факторов);

• получают нулевое приближение матрицы ψ = AA^T;

• последовательно определяют нулевые приближения столбцов a₁, a₂, …, a_m матрицы А;

Замечание. Нетрудно убедиться в том, что . Исходя из этого равенства и учитывая специфику выбранного варианта идентифицирующих требований к матрице А, сначала находят столбец а₁. Затем переходят к матрице и определяют столбец а₂ и т. д.

• определяют первые приближения дисперсий v_i (первое приближение матрицы Σ_ε) и переходят к следующей итерации;

• итерационный процесс заканчивают, когда очередное приближение матрицы Σ_ε мало отличается от предыдущего.

В реальных задачах располагают лишь оценкой ковариационной матрицы Σ_X. Заменив в рассмотренной общей схеме Σ_X на , можно получить оценки и соответственно матрицы нагрузок А и ковариационной матрицы Σ_ε специфических факторов.