книги / Статистический анализ данных в геологии. Кн. 2

общая сумма квадратов SSr равнялась сумме квадратов в каж­ дой группе S S W плюс сумма квадратов между группами SSs. Точно такая же структура удобна и в дискриминантном анализе.

Обозначения многогруппового дискриминантного анализа достаточно сложны, так как требуется рассмотреть не только объекты и переменные, по и группы, в которых лежат эти объ­ екты. В силу этого нужно сначала использовать обозначения с тремя индексами, например, хт: обозначает i-ю переменную, измеренную на /-м объекте внутри группы k. Дело осложняется тем, что не все группы содержат одинаковое число объектов, поэтому необходимо ввести обозначение для числа объектов в k-\\ группе — пк. Предположим, что наблюдения классифициру­

ются в g различных групп. Если собрать все группы вместе, то

е

мы найдем, что во всем множестве имеется всего N= 2 пк

k = \

объектов, каждый из которых характеризуется некоторым на­ бором переменных.

352

Общее среднее г-й переменной есть среднее всех наблюдений переменной г. несмотря на группы, в которых находятся наблю­ дения. Это общее среднее равно

k= 1 ; = 1

Коэффициент ковариации между переменными с и I для всех объектов, несмотря на группы, равен

Если вычислить эту меру для всех возможных пар переменных, то получим симметрическую матрицу [S] порядка рХр, которая будет называться матрицей общих сумм произведений. Вычис­ лим также меру ковариации между переменными i и / внутри 5 групп по формуле

* = 1 7 = 1

Для всех возможных пар переменных эти коэффициенты об­ разуют матрицу [1К], которая представляет сумму произведений между группами. Эта матрица эквивалентна сумме матриц [S/М] и [SAS], используемых в простом дискриминантном ана­ лизе для двух групп. Наконец, выразим дисперсию между груп­ пами:

Это также матрица [В] порядка рХр, которая содержит меж­ групповые суммы произведений.

Как и в обычном дисперсионном анализе, внутригрупповые и межгрупповые суммы квадратов, сложенные вместе, дают общую сумму произведений

велико. Легко убедиться, что это отношение является многомер­

группами в дисперсионном анализе. Если это отношение велико, то это значит, что группы широко разбросаны, в то время как наблюдения внутри групп плотно собраны вокруг своих средних.

Задача дискриминантного анализа состоит в нахождении мно­ жества линейных весов для переменных так, чтобы это отноше­ ние было максимальным. Если считать, что это множество весов образует вектор [Л]], то дискриминантный анализ можно трак­ товать как задачу нахождения элементов этого вектора [Л(] таким образом, чтобы отношение

Щ ' [ В ] [ А А

W \W ] 1А1

достигало максимума. Конечно, на вектор [ЛД необходимо на­

Можно найти второе множество линейных весов [Л2]. которые язляются элементам:: собственного вектора, <оотастст:>ующего второму по величине собственному значению. Аналои.4.1 > мож­ но найти третье множество весов, четвертое и т. д. Таким обра­ зом мы вычислим последовательность дискриминантных функ­ ций, которые дают разделение на заранее заданные группы на­ столько хорошо, насколько это возможно. В силу природы соб­ ственных векторов они ортогональны друг другу, и каждый следующий является вектором, дающим наилучшее разделение. Можно вычислить дискриминантную функцию для каждого по­ ложительного собственного значения. В общем случае число положительных собственных значений будет равно наименьше­ му из чисел g— 1 или р. К сожалению, матрица, полученная по формуле [ 1Е]- 1[В], не является симметричной, н поэтому ее соб­ ственные векторы находятся нелегко. В некоторых программах дискриминантного анализа собственные векторы находятся ите­ рационными методами, основанными на процессе, называемом разложением на особые значения [7]. Другие программы сна­ чала преобразовывают матрицу в симметричную форму, а затем находится множество собственных векторов, которое в свою очередь преобразуется в требуемое множество. Этот метод опи­ сан в [19], критические шаги пояснены в [47].

Наблюдения, используемые в вычислении дискриминантной функции, можно спроектировать на пространство, определенное дискриминантными осями. Это делается с помощью матричного

354

векторов, соответствующих наибольшим собственным значени­ ям, которые используются в дискриминантных функциях. Цент­ роиды g групп можно спроектировать на дискриминантное про­ странство по формуле

где матрица [X*] имеет порядок g X p и состоит из средних всех переменных для каждой группы. Ограничим свое внимание на парах дискриминантных функций (обычно это первая и вторая) п нанесем наблюдения и центроиды групп на диаграмму рас­ сеяния. Обычно предварительно данные шкалируются. В неко­ торых программах производится стадартизация, а из каждого наблюдения вычитается общее среднее и результат делится на стандартное отклонение, вычисленное по всему множеству дан­ ных. В других программах деление производится на объединен­ ные внутригрупповые стандартные отклонения. Мараскилло и Левин [46] дают поучительное сравнение различных подходов.

Очевидно, наблюдение неизвестного происхождения можно спроектировать на дискриминантное пространство, просто ум­ ножая его слева на транспозицию матрицы [Л]. Групповая при­ надлежность нового наблюдения становится очевидной из его положения на диаграмме рассеяния, однако так же можно вы­ числить меру ее расстояния до центроида каждой группы. Но­ вое наблюдение классифицируется как принадлежность к бли­ жайшей группе.

Вычислить обобщенные расстояния от нового наблюдения до

Это даст нам обобщенные расстояния от нового наблюдения до каждой из g групп, измеренные в Гмерном дискриминантном пространстве. С другой стороны, можно вычислить

что дает обобщенные расстояния от нового наблюдения до цент­ роидов каждой группы, измеренные в исходном р-мерном про­ странстве. Объяснение этого и других используемых определе­ ний сходства между наблюдением и центроидами различных групп приводится в [19], где также дается метод построения доверительных областей относительно центроидов.

Дискриминантные функции — удобный метод определения групп, если несколько групп, предполагаемые различными, ока­

зываются действительно различными. Рассмотрим одно прило­ жение такого типа.

Когда осадочные породы формируются в морских условиях, в них остается морская вода. Химический состав этой реликто­ вой воды в последующем изменяется благодаря ионному обме­ ну и другим реакциям, смешиванию с другими морскими вода­ ми и разбавлению за счет просачивания поверхностных ве^. Тем не менее, реликтовые воды, полученные при канатном бу­ рении, могут иметь составные характеристики, которые дают ключ к происхождению или фациальным условиям формирова­ ния содержащих их пород.

Табл. 6.43 содержит анализы солености в виде характерис­ тик (ЕРМ), являющихся эквивалентом частям на миллион для вод нефтяных полей из трех карбонатных толщ в Техасе и Опла­

та б л и ц а 6.43

Химические анализы проб соленой воды, взятых из скважин в трех типах карбонатных отложений в Техасе и Оклахоме [54]

356

коме. Пробы брались из разных нефтеносных подразделении. Для определения того, различны ли эти данные, к ним был применен дискриминантный анализ. Если они различны, то это заводит на мысль, что анализы солености дают информацию о природе их первоначальных фаций, так как все три исходные породы имеют приблизительно одни и те же литологические

арактеристики и, соответственно, сходные истории формироання.

Так как имеется три группы, то требуется вычислить только ■.вс дискриминантные функции и найти только два положитель­ ных собственных значения. Первое из них Ау = 13,29 составляет ■лЗ,6% межгрупповой дисперсии, второе А,2= 0,902 дает остальные 0.4%. На рис. 6.51 представлены две оси дискриминантных функций с метками дискриминанта и центроидами трех пред­ ставленных групп. Метки могут быть стандартизованы так, что­ бы их общее среднее равнялось нулю и стандартные отклонения комбинированных данных разнялись нулю.

Первая дискриминантная функция явно отделяет реликто­ вую воду из доломитов Грейбурга (группа 2) от воды, взятой дз доломитов Элленбургера (группа 1) и известняков Виола (группа 3). Различия по второй дискриминантной функции ус­ танавливаются менее явно из-за перекрытий групп 1 и 2 и пере­ крытий групп 2 и 3. Однако рассматриваемые вместе две дис­ криминантных функции полностью разделяют три группы. Это обнадеживающее заключение наводит на мысль, что пробы ре­ ликтовой воды из формаций, имеющих сходные литологические свойства, могут иметь одинаковые относительно однородные характеристики.

357

КАНОНИЧЕСКАЯ КОРРЕЛЯЦИЯ

Мы снова обратимся к многомерным методам, которые име­ ют ту же вычислительную основу, что и факторный анализ, однако яо используемым понятиям и методам они тесно связа­ ны с множественной регрессией. Вспомним, что (множественная регрессия имеет дело с установлением связей между единствен­ ной зависимой переменной У и множеством предсказывающих переменных Хь X2, . . . . Обобщение этого метода состоит в установлении связей между множеством переменных У и другим множеством переменных X, измеренных на одних и тех же объ­ ектах. Эти соотношения определяются с помощью линейных комбинаций переменных X и У, которые дают наивысшую кор­ реляцию между этими двумя множествами.

Такие корреляции называются каноническими корреляция­ ми, а линейные комбинации называются каноническими пере­ менными. В самом деле, превратим множество переменных X

вединственную новую переменную и множество переменных У

вдругую единственную новую переменную и затем вычислим корреляцию между этими новыми переменными. Процесс этого

превращения линеен, т. е. исходные переменные взвешиваются и складываются вместе, в результате получается каноническая переменная. Применение канонической корреляции может вклю­ чать определение соотношения между наборами геохимических и петрографических переменных или множеством петрографи­ ческих откликов каротажа .скважин и свойств формации, изме­ ренных на образцах керна, взятых из тех же скважин.

Так как все переменные измерены в одних и тех же пробах,

стоящей из четырех блоков: матрица Syy порядка рХр, содер­ жащая дисперсии и ковариации переменных У; матрица Sxx порядка qXq, содержащая дисперсии и ковариации переменных X; матрица Sxy порядка p X q (и ее транспозиция S'xy), которая содержит коэффициенты корреляции между переменными X и У, т. е.

[5] =

Хотя матрица [S] расчленяется, она имеет вид нормальной ко­ вариационной матрицы. Она симметрична относительно диаго­ нали, на которой стоят дисперсии; внедиагональные элементы являются коэффициентами корреляции.

358

Обозначим подматрицу порядка п х р матрицы данных, со­ держащую переменные У, через [У], а подматрицу (порядка n x q матрицы данных, содержащую переменные X, через [X]. Мат­ рицы [У] и [X] можно преобразовать с помощью умножения на произвольные векторы, которые в новых координатах будут линейными комбинациями старых;

[В]'[Х],

где [Л ] — вектор порядка I X / ? , [В] — вектор порядка 1— Дис­ персии двух множеств преобразованных переменных будут

И Г Р * ,] [А] [fi]'[S„] [В].

Ковариации между преобразованными переменными X и У будут

и г ы т

Цель анализа канонических корреляций состоит в выборе элементов двух векторов [Л] и [В] так, чтобы коэффициенты корреляции достигали максимума при условии равенства дис­ персий единице, Если с самого начала дисперсии стандартизи­ руются так, чтобы они равнялись единице, то одновременно стандартизируются и коэффициенты ковариации, становясь ко­ эффициентами корреляции между переменными. Используя методы теории собственных значений, можно найти векторы А и В, обладающие желаемыми свойствами. Имеется гарантия того, что каноническая корреляция будет больше, чем наиболь­ шая корреляция между исходными переменными X и любой исходной переменной У, т. е, больше, чем любой элемент мат­ рицы [Sxj,]. Это объясняется тем, что можно немедленно указать линейную комбинацию, которая будет иметь высокую корреля­ цию, считая все элементы векторов Л и В равными нулю, ис­ ключая те, что соответствуют переменным с нанвысшей корре­ ляцией, которую надо принять равной единице.

Уравнение, которое требуется решить в этом случае, очень напоминает основное уравнение для нахождения собственных значений в анализе главных компонент;

ков расчлененной ковариационной матрицы [S], Матричное ум­ ножение дает матрицу-произведение [Л], имеющую порядок q X q и представляющую объединенную матрицу дисперсий двух множеств переменных, т. е.

359

К сожалению, матрица Л асимметрична, поэтому для нахожде­ ния ее определителя и решения системы уравнений требуется привлечение трудоемких вычислительных процедур.

Собственное значение X равно квадрату коэффициента кор­ реляции между двумя каноническими переменными. Так как матрица Л имеет порядок qXq, то существует q различных соб­ ственных значений, каждое из которых представляет коэффици­ ент корреляции между различными парами канонических пере­ менных. Последовательные собственные значения будут умень­ шаться по величине и каждая пара канонических переменных будет некоррелирована со всеми другими парами канонических переменных.

Вектор В, используемый для преобразования [X] в канони­ ческие переменные, находится с помощью определения собст­ венных векторов, соответствующих уже найденным собственным значениям:

( [ Л ] - Я [/])[£ ] = [0]

или

( [Sxx]-* [Sxy]' [Suy]~' [S,„] — Я[/]) [fi] = ГО].

Напомним, что собственные векторы вычисляют, подставляя собственные значения в систему совместных уравнений и затем решая ее. Как только вектор преобразования [В] найден, нахо­ дим эквивалентное каноническое преобразование У по формуле

И] = Ь?уу]-> [5 ,у][В [/К х.

Конечно, для каждого % имеется соответствующий вектор [А] и вектор [В]. Каждая векторная пара будет преобразованием пары [X] и [У] в канонические переменные; коэффициент кор­

реляции между новыми переменными будет равен /' = У>.. Проиллюстрируем метод канонических корреляций, обратив­

шись снова к данным по случайным блокам. Данные естествен­ но попадают в два класса, так как переменные Хь Х2 и Х3 яв­ ляются основными измерениями блоков, в то время как пере­ менные от Х4 до Х7 выражаются через них. Первые три переменные можно определить как образующие множество пе­ ременных У, а последующие четыре— как образующие множе­ ство переменных X.

В табл. 6.44 приведены стандартная ковариационная (или корреляционная) матрица данных по блокам, расчлененная для канонической корреляции, матрица [Л], для которой требуется найти собственные значения, а также ее собственные значения, канонические корреляции, которые они представляют, и векто­ ры [А] и [5], соответствующие наибольшей канонической кор­ реляции. Мы можем использовать вектор [Л] для преобразова-

360

Т а б л и ц а 6.44

[В\ для преобразования переменных X в другое множество ме­ ток или канонических переменных. На рис. 6.52 указана диа­ грамма первой пары канонических переменных для данных по блокам. Совершенно очевидно, что имеется явно выпаженная линейная связь между двумя множествами, представленными в канонической форме. Рис. 6.53 есть аналог той же диаграммы для второй пары канонических переменных. Диаграмма указы­ вает на очень сильную корреляцию, даже несмотря на ю, что преобразование совсем другое.

Комментарии, сделанные в разделе о главных компонентах относительно «чтения» нагрузок на компоненты, в равной степе­ ни справедливы и для канонического преобразования. Векторы [А] и [В] являются весами, используемыми для преобразования исходных переменных У и X в канонические переменные. При некоторых обстоятельствах можно указать физические значения комбинации весов частного вида. Канонические переменные можно трактовать по аналогии с факторами. Однако нет уве­

361