книги / Статистический анализ данных в геологии. Кн. 2

раничения. Простейшее из них — это предположить число фак­ торов равным некоторому априори заданному числу р. К сожа­ лению, в большинстве геологических задач число факторов неизвестно заранее и может быть даже важным объектом ис­ следования. Другой путь — задать границу либо для [ЛЛ] [А*]', либо для [vare//] и затем извлекать факторы до тех пор, пока этот предел не будет достигнут.

Мы будем исследовать две из многих схем факторного ана­ лиза, начав с нахождения собственных значений и собственных векторов корреляционной матрицы и затем отбрасывая менее важные из них. Это не приводит к «истинному» факторному решению, однако математика слишком прямолинейна, и это приближение используется всюду в науках о Земле, в которых применяется факторный анализ. Мы приведем также краткий обзор метода максимального правдоподобия, который дает «истинные» факторы. К сожалению, соответствующие матема­ тические процедуры слишком сложны, чтобы их здесь описывать.

Хотя первый из рассматриваемых методов факторного ана­ лиза использует главные компоненты, все же вычисление соб­ ственных значений и собственных векторов в этом случае раз­ личается с двух точек зрения. Во-первых, собственные значения вычисляются для стандартизованной ковариационной, или кор­ реляционной, матрицы. Это предполагает не только то, что все переменные имеют одинаковые веса, но также позволяет нам считать векторы главных компонент факторами. Во-вторых, собственные векторы, вычисленные в так называемой нормали­ зованной форме (см. стр. 135), преобразуются так, что они определяют векторы, длины которых пропорциональны тем вариациям, которые они представляют. Эти преобразованные собственные векторы являются факторами множества данных.

Преобразование нормализованных, или единичных, собствен­ ных векторов в факторы не нарушает направлений векторов и не изменяет их длины. Это делается умножением каждого эле­ мента нормализованного собственного вектора на соответст­ вующее сингулярное значение, т.е. квадратный корень из соот­ ветствующего собственного значения. Полученный фактор есть вектор, взвешенный пропорционально вкладу в общую диспер­ сию, которую он представляет.

Влияние стандартизации обсуждалось в одном из предшест­ вующих разделов, посвященных методу главных компонент. Здесь мы продемонстрируем его, используя данные, представ­ ленные на рис. 6.33. Необработанная ковариационная матрица имеет вид

' 6,08 11,08'

.11,08 27,54.

292

2 0

•

•

5- О •

••

293

и собственные значения, или, скорее, квадратные корни из них, определяют матрицу сингулярных значений

Пели преобразование выполнено правильно, то сумма квадра­

векк.ров, а их длина равна квадратным корням нз собственных значении. Собственные значения характеризуют относительный вклад каждого собственного вектора в суммарную дисперсию.

.Значения длины векторов, представляющих факторы, равны собственным значениям (точнее, квадратным корням из собст­ венных значений), поэтому факторы отражают также дисперсии (или. более точно, стандартные отклонения). Так как собствен­ ные векторы сначала нормализовались, а затем умножались на

Рис. 6.35. Графическое представление двух факторов для двумерных дан­ ных, изображенных на рис. 6.34

294

квадратный корень из собственных значений, то каждая фак­ торная нагрузка взвешена пропорционально квадратному кор­ ню из вклада в дисперсию, соответствующего данной перемен­ ной. В нашем примере первый фактор составляет примерно

тов изменчивости переменной 1 распределяется на два фактора, так же как и 100% изменчивости переменной 2. (Взаимность влияния этих дисперсий на два фактора — неизбежное следст­ вие работы с матрицей порядка 2x2. Это соотношение, вообще говоря, не имеет места для матриц более высоких порядков.)

Расположив факторные нагрузки в форме матрицы, мы по­

Если возвести в квадрат элементы матрицы факторных зна­ чений и произвести суммирование по каждой переменной, то суммы вкладов переменных в факторы будут одинаковыми, т. е.

сти будут равны исходным дисперсиям. Так как мы используем стандартизированные переменные, то эти общности равны 1.00. Однако если извлечь меньше факторов, то общности будут меньше исходных дисперсий, н мы получим показатель эффек­

второй переменной.

Так как значения общностей зависят от числа сохраняемых факторов, то вопрос о последних ставит нас перед лицом одной

2 9 5

нет простого ответа, и его отсутствие является одним из самых серьезных возражений против факторного анализа. Психологиэкспериментаторы на ранней стадии развития факторного ана­ лиза решали эту задачу прямолинейно: они определяли столько факторов, сколько требовала проверяемая ими теория. Другой столь же приближенный способ состоит в том, что определяет­ ся только два или три фактора, так как это максимальное чис­ ло, которое можно изобразить графически на диаграмме рас­ сеяния, и любое увеличение числа факторов ведет к увеличению размерности пространства, в котором решается поставленная задача, в результате чего ее трудности заметно возрастают.

Некоторые исследователи советуют сохранять столько фак­ торов, сколько имеется собственных чисел, больших единицы. Иными словами, сохраняются все факторы, которые дают боль­ ший вклад в дисперсию, чем исходные стандартизированные переменные. В большинстве примеров лишь немногие факторы содержат большую часть вклада в дисперсию множества дан­ ных, и эта рекомендация оказывается полезной. Однако если исходные переменные оказываются слабо коррелированными или некоррелированными, половина или более факторов может иметь собственные значения, большие единицы. В результате не только получается очень большое число факторов, но и воз­ можно, что ни один из них не допускает никакой интерпрета­ ции. Если данные таковы, что факторный анализ к ним приме­ ним (т.е. наблюдаемые дисперсии возникли благодаря корре­ ляции между переменными и рассматриваемыми факторами), то лишь некоторые факторы дают большой процентный вклад в суммарную дисперсию и общности имеют высокие значения. Если для того чтобы учесть большую часть исходной диспер­ сии, требуется сохранение большого числа факторов или если значения общностей нескольких первых факторов низкие, то факторная модель чаще всего оказывается неподходящей.

Прежде чем переходить к рассмотрению следующей про­ цедуры факторного анализа, а именно вращению факторных осей для получения «простой структуры», применим изложен­ ные выше методы к рассмотренному примеру, Мы используем данные табл. 6.18 и сохраним два фактора, так как интуиция подсказывает нам, что в этом случае требуется только два фак­ тора, а именно факторы размера и формы. Матрица стандарти­

компонент н приведены также соответствующие им собственные значения. Мы сохраним только первые два из них и преобра­ зуем их в факторы. С этой целью умножим нормализованные собственные векторы на квадратный корень из соответствую-

296

Собственные значения и матрица собственных векторов для данных табл. 6.25 (сохранены лишь два собственных вектора

с собственными значениями, превосходящими 1,000)

щих собственных значений, в результате чего получим факторные нагрузки. Матрица факторных нагрузок [/4я], имеющая в действительности порядок тХр, с целью экономии места представлена в следующем виде:

фактор I [0,747 0,795 0,710 0,910 —0,235 - -0,178 —0,886 фактор II 0,491 0,373 —0,596 0,389 0,963 0,971 0,218 ‘

2 9 7

пар факторных нагрузок и суммирования по факторам. Конеч­ но, если сохраняется р<Ст факторов, то исходную ковариацион­

матрица факторных нагрузок, то эквивалентная матричная за­ пись этой формулы имеет вид

[s2l = M ff]-H*]'*

если считать, что векторы факторных нагрузок являются столб­ цами матрицы. Стандартизированная матрица остаточных ко­ вариаций (пли остаточная корреляционная матрица) находит­ ся как разность двух матриц

Воспроизведенная и остаточная корреляционные матрицы для нашего примера даны в табл. 6.27. Остаточная матрица является мерой неспособности этих факторов учесть изменчи­ вость исходного множества данных.

Вращение факторов

Несмотря на то что факторный анализ позволяет умень­ шить число измерений в задаче, дать содержательную интер­ претацию факторов бывает не очень легко. Возможно, это ре­ зультат того, что положение р ортогональных факторных осей в ш-мерном пространстве определяется положением пг—р не­ нужных ортогональных осей в выборочном пространстве. Одна­ ко для описания наших данных достаточно только р факторных осей. Если исключить из рассмотрения излишние ортогональ­ ные оси, то оставшиеся факторные оси можно подвергнуть дополнительному вращению, которое может помочь в нахожде-

298

нии наилучшего их расположения. Для этой цели можно ис­ пользовать разнообразные схемы вращения. Мы будем исполь­ зовать так называемый варимакс Кайзера, основой которого является изменение положения факторных осей до тех пор, пока проекции каждой переменной на факторные осп не ока­ жутся близкими либо к нулю, либо к их максимальным значе­ ниям. Иными словами, в результате применения этого метода факторные нагрузки оказываются близкими либо к нулю, либо к ±1. Обычно для каждого фактора мы получаем немного довольно больших значений факторных нагрузок и много не­ значимых нагрузок. В этом случае интерпретация в терминах исходных переменных проводится легко. Однако имеются слу­ чаи, когда вращение факторных осей не облегчает анализа и даже приводит к дальнейшему ухудшению результатов. Это связано либо с взаимной коррелированностью факторов, или указывает на то, что выбранная факторная модель оказывается плохой.

Метод варимакс сводится к максимизации дисперсии на­ грузок на факторы. Определим дисперсию s*2 нагрузок на k-vs фактор как

299

сматривается только общая часть дисперсии по каждой пере­ менной и отбрасывается ее часть, соответствующая т—р ком­ понентам, необходимым для учета всех дисперсий каждой пере­ менной. Максимизация дисперсии приводит к увеличению ин­ тервала изменения факторных нагрузок, которые для того, что­ бы удовлетворить требованиям метода Кайзера, стремятся ли­ бо к своему экстремальному (положительному или отрица­ тельному) значению, либо к нулю.

Никакой простой аналитической схемы для метода варнмакс не существует. Обычно вращение факторных осей прово­ дится итеративным методом. Вращению подвергаются две оси, в то время как другие оси остаются неподвижными. После того как все оси подвергнуты вращению, процесс повторяется снова до тех пор, пока уменьшение дисперсии нагрузок на каждом шаге не станет ниже некоторого заранее заданного уровня.

Этот метод вращения лучше всего проиллюстрировать на примере. Мы сделаем попытку «почистить» факторы, получен­ ные для наших искусственно взятых данных по параллелепипе­ дам, применяя метод вращения к двум оставленным факторам. На ряс. 6.36 нагрузки семи исходных переменных на фактор I нанесены по отношению к нагрузкам на фактор II. Связывая построенные точки с началом координат, получаем диаграмму, на которой факторные нагрузки представлены как векторы. Ориентация векторов по отношению к факторным осям отра­ жает степень их корреляции с факторами. Длина каждого век­ тора пропорциональна общности переменной, которую этот век­ тор представляет. Если два фактора нанесены с полным учетом всех вариаций исходной переменной, то общность переменной равна единице и на диаграмме она будет лежать па окружно­ сти единичного радиуса. В этом примере все обшности высоки, поэтому все векторы, представляющие семь исходных перемен­ ных, лежат вблизи от единичной окружности.

Варнмаксное вращение изменяет факторные нагрузки, по­ этому исходные переменные имеют либо высокую положитель­

3 0 0