книги / Статистический анализ данных в геологии. Кн. 2

ционной матрицы. Сами по себе они позволяют глубже проник­ нуть в структуру матрицы, но часто их можно интерпретиро­ вать и как факторы. Многие современные схемы факторного анализа используют метод главных компонент в качестве от­ правного пункта для анализа. По этой причине, а также в силу того что доказательства п интерпретация метода главных ком­ понент весьма просты, мы начнем с его рассмотрения.

Как уже отмечалось, геологи часто испытывают неудобство от пользования этой терминологией; большинство нз опублико­ ванных работ показывает, что геологи называют «факторным анализом» метод главных компонент. «Факторы», встречаю­ щиеся в этих работах, на самом деле нужно называть компо­ нентами. Некоторые авторы испытывают столь большую нелов­ кость от этой путаницы, что нашли выход в том, что ввели для факторного анализа, в отличие от компонентного, название «истинный факторный анализ» [33].

Предположим, что измерены две переменные на множестве объектов, например длина н ширина раковин брахпопод. Полу­ ченные данные приведены в табл. 6.19 и графически изображе­ ны на рис. 6.18. Дисперсия переменной A'i равна 20,3, перемен­

В гл. 3 указывалось, что матрицу можно представить геометри­ чески в многомерном пространстве как множество векторов. Будем считать, что каждая строка матрицы дает координаты концевых точек вектора, представляющего эту строку. Матрицу порядка 2 x 2 можно представить на плоской диаграмме, как это сделано на рис. 6.19. Более того, эти векторы можно счи­ тать произвольными осями m-мерного эллипсоида. Собственные векторы матрицы дают ориентацию главных осей эллипсоида, а собственные значения представляют длины каждой из после­ довательных главных полуосей. В гл. 3 так были интерпретиро-

272

л.

10 -

о

ваиы произвольные матрицы, но очевидно, что ковариационные матрицы легко можно интерпретировать так же. Метод глав­ ных компонент сводится к нахождению этих осей и измерению их длин.

Если проведены измерения переменных на некотором мно­ жестве объектов, то для них можно вычислить матрицу кова­ риаций порядка т Х т — [s2]. Найдем т ее собственных векто­ ров и т собственных значений. Так как ковариационная матри­ ца всегда симметрична, то эти т собственных векторов будут ортогональными, т. е. углы между ними будут прямыми.

Вычислим собственные векторы и собственные значения на­ шей матрицы [s2] порядка 2X2 н изобразим полученные век­ торы графически. Первый собственный вектор имеет коорди­ наты

Г 0,66 ■ 1== 0,75 J*

что означает, что первый собственный вектор, соответствующий I главной оси эллипсоида, отклоняется на 0,66 единиц по sj2 для каждых 0,75 единиц по s22. Первое собственное значение равно 37,9 и является длиной главной полуоси. Второй собст­ венный вектор имеет координаты

Ясно, что он образует прямой угол с первым. Собственное зна­

на рис. 6.20. Обратите внимание на то, что на диаграмму нане­ сены векторы ковариационной матрицы и поэтому измерения на диаграмме даны в тех же единицах, что и в дисперсии, или, как в этом примере, в квадратах единиц длины.

Определим суммарную дисперсию рассматриваемых данных как сумму вкладов от индивидуальных дисперсии. Так как последние расположены на диагонали ковариационной матри­ цы, то эта процедура эквивалентна нахождению следа матри­ цы. В данном примере суммарная дисперсия равна 20,3 + 24,1 = = 44,4. Вклад первой переменной составляет 20,3/44,4, плп око­ ло 46% суммарной дисперсии, а вклад второй — примерно 54%. Как указывалось в гл. 3, сумма собственных значений матрицы равна ее следу, поэтому сумма ее собственных значений также равна 37,9 + 6,5 = 44,4. Так как эти собственные значения опре­ деляют длину двух главных осей, то последние также характе­ ризуют суммарную дисперсию множества данных, и вклад каж­ дой из них в суммарную дисперсию равен соответствующему собственному значению, деленному на след матрицы. Первая главная ось составляет 37,9/44.4, или 86% суммарной дпспер-

274

сии, в то время как вторая ось — только 14%. Иными словами, изменчивость множества данных по первой главной оси равна 4/5 общей изменчивости наблюдений. Как правило, оказывает­ ся, что по крайней мере одна из главных осей эффективнее (по вкладу в суммарную дисперсию), чем любая из первоначаль­ ных переменных. С другой стороны, по меньшей мере одна из осей должна оказаться менее эффективной, чем любая из ис­

тате получим новое множество данных, с дисперсией 37,9. Ана­ логичное преобразование 1%= + где pi и [32— коорди­ наты второго собственного вектора, приведет к преобразованию данного множества точек в множество с дисперсией, равной только 6,5. Так как эти новые переменные определены на осях, образующих прямой угол друг с другом, то ковариация между ними равна нулю. В табл. 6.20 представлены данные табл. 6.19, преобразованные таким образом. В табл. 6.20 каждое исходное наблюдение заменено его проекцией на главные оси. Проекти­

собственного вектора. Проектирование на вторую главную ось осуществляется по формуле

У2( = 0.75А',/ — 0,66X2l.

Координаты собственных векторов, используемые для вычис­ ления проекций наблюдений, называются нагрузками. Они яв­ ляются коэффициентами линейного уравнения, которое исполь­ зуется для определения собственного вектора. В литературе

Т а б л и ц а 6.20

Главные компоненты для данных табл. 6.19, вычисленные с помощью проектирования исходных данных на главные оси; дисперсия Y t равна 37,9, дисперсия У 2 равна 6,5

по факторному анализу обычно используется термин «нагрузка переменной А на первый фактор», который означает, что речь идет о коэффициенте первого собственного вектора при пере­

содержащая последовательные собственные векторы в т столб­ цах из т элементов и каждый из них соответствует некоторой исходной переменной. В нашем примере

Это можно сделать, отбросив любую из переменных X t или Х2, что приведет к потере либо 46%, либо 54% изменчивости, в за­ висимости от того, какую переменную мы сохраним. Однако если спроектировать все наблюдения на первую главную ось, то потеря составит только 14% от изменчивости данных.

На рис. 6.21 представлены проекции данных точек на глав­ ные оси. Необходимо отметить, что дисперсия, соответствующая первой главной оси, больше любой из дисперсий по какой-либо прямой, проходящей через точки заданного множества. Однако эта дисперсия не превосходит сумму дисперсий вдоль двух осей Xi и Х2 и если второй собственный вектор исключается из рассмотрения, то неизбежно происходит потеря изменчивости. В этом легко убедиться, если спроектировать вектор фактор­ ных значений Уц снова на оси Х\ и Х%. Хотя при этом некото­ рые точки и могут удаляться от своего среднего значения, все равно происходит уменьшение дисперсии по обеим переменным (рис. 6.22).

Теперь рассмотрим данные табл. 6.19 и ранжируем каждое наблюдение по двум переменным. Тогда на графике эти дан­ ные будут выглядеть так, как изображено на рис. 6.23. Ранжи­ рование приводит к тому, что переменные оказываются в выс­ шей степени коррелированными, и этот факт отражен в том, что ковариация теперь равна 21,9. Так как использовались од­ ни и те же наблюдения, то дисперсии остаются неизменными. Если теперь найти собственные векторы и собственные значе-

276

Д и сп ер си я по к ом п онен те I равн а 37,9, а д и с п ер си я по к ом п он ен те I I — 6,5

персии происходят из-за тою, что не используется главная компонента II

пня новой ковариационной матрицы, то можно обнаружить, что собственные векторы почти не уменьшились:

Однако новые собственные значения будут совершенно дру­ гими. Первое собственное значение равно 44,2, так что теперь первая главная ось дает вклад в суммарную дисперсию, равную 44,2/44,4, т.е. более 99%. Вторая ось так мала, что ее почти невозможно нанести на диаграмму (рис. 6.24). Очевидно, что можно отбросить вторую главную компоненту с очень малой потерей дисперсии множества данных. Сделав это, можно представить исходные .двумерные данные с помощью одной единственной переменной (определенной первой главной ком­ понентой), а это означает, что осуществлена редукция размер­ ности исходных данных от двух к одному.

277

Вместо ранжирования данных можно было бы провести рандомизацию, как показано на рис. 6.25. Рандомизация раз­ рушает нею корреляцию между двумя переменными, т. е. по­ лученное в результате этой процедуры значение ковариации равно нулю. Дисперсии, естественно, остаются такими же, так как мы использовали те же данные и просто изменили их по­ рядок. Если найти собственные значения и собственные векто­ ры -«той ковариационной матрицы, то получим два вектора:

с!ва собственных значения почти равны между собой: пер­ вое равно 24,3, а второе 20,1. Таким образом найдены две глав­

ло/ксииям;' о том, что корреляция между переменными почти нулевая; следовательно, две исходные оси почти ортогэнальны. Так как две исходные переменные почти равны по величине, то найденные оси определяют эллипс, близкий к окружности. Ни­ какие другие оси, даже найденные методом главных компо­ нент. не будут лучше, чем эти две исходные переменные. В ука­ занной ситуации не существует такого преобразования исход­ ных данны.х, которое позволило бы уменьшить число перемен­ ных бее значительной потери информации. Конечно, маловеро­ ятно, чтобы естественные множества данных имели нулевые ковариации для всех пар переменных.

В этом простом примере сначала вычислялась ковариацион­ ная матрица, элементы которой отражают исходные единицы измерения. При условии, что все переменные выражены в од­ них и тех же или соизмеримых единицах, главные компоненты будут отражать относительный вес различных переменных. Однако метод главных компонент чувствителен по отношению к величинам измерений, поэтому, если длины раковин брахиопод заданы в сантиметрах, а ширина — в миллиметрах, то пере­ менная, представляющая ширину, будет оказывать в 10 par большее влияние на результат, чем переменная, представляю­ щая длину.

Очередной путь преодоления этого затруднения состоит в стандартизации всех переменных так, чтобы они имели среднее, равное 0,0, и дисперсии, равные 1,0. Тогда элементы ковариа­ ционной матрицы будут состоять из корреляций, и главные компоненты будут иметь безразмерный вид. Цель стандартиза­ ции выровнять влияние переменных, дисперсия которых мала, и мменьшить влияние переменных, дисперсия которых велика. Это может оказаться нежелательной, но неизбежной процеду­ рой, если исходные переменные выражены в различных и не­

279

совместимых единицах. Ле Мэтр [42] приводит интересные примеры, относящиеся к влиянию стандартизации на главные компоненты, вычисляемые по геохимическим и петрографиче­ ским данным.

В большинстве геологических примеров относительные вели­ чины переменных играют существенную роль и поэтому пред­ почтительно проводить исследования с оригинальными перемен­ ными и исходной ковариационной матрицей. В тех условиях, когда требуется стандартизовать переменные для того, чтобы сделать их совместимыми, следует помнить, что свойство, кото­ рое кажется относительно незначимым, может оказать сильное влияние на анализ. Аналогично, если компоненты вычисляются из корреляционной матрицы, нагрузки должны быть вычислены из стандартизованных, а не исходных значений переменных.

Рассмотрим эффекты анализа главных компонент на более широком множестве данных, используя измерения и;. 25 слу­ чайно генерированных блоках, перечисленных в табл. 6.18. Ко­

93% общей дисперсии изучаемого множества данных, Первый, составляющий примерно 60% общей дисперсии, дает на;.боль­ шие вклады в переменные Х 3 п Х&. Обе эти переменные явля­

ные — далеко слева. Первая компонента не позволяет осущест­ вить разделение брусоподобных и плоских тел, так как каждое из них имеет хотя бы одну очень малую короткую ось. Отсюда мы заключаем, что первая компонента характеризует выаиу по отношению к остальным размерам.

Второй собственный вектор имеет большие веса по всем трем осям и по длине главной диагонали. Мы можем интерпре­ тировать его как фактор, обобщенно отражающий размеры тела. Эта интерпретация хорошо согласуется с рис. 6.27. Вдоль второй главной компоненты параллелепипеды рассортированы в соответствии с их размерами, причем наименьший расположен внизу, а наибольший — сверху.

Интерпретация смысла нагрузок на главные компоненты иногда называется апробацией. Возможно, некоторые специали­ сты считают, что использование этого термина делает процесс более приемлемым. Графическое представление нагрузок на главные компоненты оказывает существенную помощь в интер­ претации (рис. 6.28). Напомним, что в гл. 3 собственные векто-

280

мат р и ц ы )

Пе р е м е н н а я

их длин равнялась единице. Поэтому нагрузки отражают лишь относительную значимость переменной относительно некоторой главной компоненты, а не значимость самой этой компоненты.

Хотя МГК и привел к результату, который мы ожидали ь этом эксперименте, разделение форм не является вполне оп­

добных тел. Этот результат не является неожиданным, так как

281