Биостат - помощь / Учебники / Ивантер Коросов Введение в количественную биологию

x1 = xa1 + xb1 + xс1 … ( x1 как сумма вкладов разных факторов

в первый признак)

xj = xaj + xbj +... + xlj …,

xm = xam + xbm + ...+ xmj (xm как сумма вкладов разных факторов в m-й признак)

ГКa = xa1 + ...+ xaj + ...+ xam – сумма вкладов одного фактора в зна-

чения всех признаков, где ГКа – значение главной компоненты, характеризующей дей-

ствие одного из процессов формирования вариант (фактор a), xaj – вклад фактора a в значение варианты j-го признака данного объекта.

Для другого процесса (фактор b) имеем:

ГКb = xb1 + xb 2 +... + xbj + ... + xbm

и т. д. для всех прочих факторов.

Например, как показывает практика, первой главной компонентой в выборке животных обычно оказывается фактор возрастных отличий, что позволяет записать примерное выражение:

ГКвозраст = норм.Wвозраст + норм.Ltвозраст + норм.Lcвозраст + ... .

Иными словами, главная компонента, характеризующая действие возраста, представляет собой сумму соответствующих долей вариант по всем признакам.

Конечно, странно и неправильно было бы складывать граммы с миллиметрами и миллиграммами, поэтому в уравнении присутствует префикс норм., говорящий о том, что в расчетах принимают участие значения, предварительно преобразованные к виду, позволяющему проводить такие операции. Эти значения центрированы (к средней) и нормированы (на стандартное отклонение):

норм. xji = z ji = (xji − M j ) / S j ,

где норм. xji, или zji, – нормированное i-е значение j-го признака, Mj, Sj – средняя и стандартное отклонение j-го признака по всей выборке,

i – индекс объекта, особи, j – индекс признака.

После нормирования признаки утрачивают единицы измерения и складывать их значения вполне допустимо.

Требование максимума дисперсии

Представленным выше способом формируется столько главных компонент, сколько существенных причин участвовало в формировании вариант. Теперь можно детальнее показать, почему количество расчетных признаков (главных компонент) должно быть меньше, чем число исходных переменных. На выборке объектов можно часто наблюдать, как от объекта к объекту разные признаки изменяются чуть ли не синхронно, т. е. сходным образом реагируют на одни и те же факторы. Факт корреляции между признаками означает, что они содержат много общей информации о действующих факторах. При этом каждый отдельный фактор влияет на несколько признаков. Главные компоненты как раз и выражают эти немногие причины изменчивости, которых всегда меньше, чем исходных признаков.

Получается, что 100% информации об изменчивости вариант, заключенной в исходной матрице данных, перераспределяется между компонентами по-иному, чем между признаками. Например, когда изучается 10 признаков, можно условно принять, что каждый из них привносит по 10% информации. Пусть при этом половина значения каждой варианты каждого признака будет изменяться у разных особей под действием одной причины (например, возраста), тогда на долю главной компоненты, которая уловит эти возрастные отличия, придется 50% общей информации; она будет в пять раз более информативна, чем любой исходный признак. Аналогично можно представить, что на половые отличия придется 30% информации (изменчивости значений вариант), на отличия по срокам наблюдения – 10%, а на все прочие более слабые причины – оставшиеся 10%. Эти 10– 20% относятся, как правило, к стохастическому шуму (слабые несущественные факторы, ошибки измерения), их обычно не рассматривают. В итоге можно увидеть, что вместо 10 признаков львиную долю общей изменчивости вариант отобразили, «объяснили» всего 3 главных компоненты.

В рамках компонентного анализа «сила» каждой компоненты (характеристики некоего фактора) оценивается как доля дисперсии

232 Задача «Классифицировать объекты»

данной компоненты в общей дисперсии признаков, составляющей 100% (этот принцип, по существу, заимствован из дисперсионного анализа). Как уже говорилось, количество информации в многомерной статистике выражается степенью отличия объектов друг от друга, т. е. общей дисперсией их значений (S²ГКj). Эта общая по всем признакам дисперсия перераспределяется между разными компонентами. (В публикациях можно найти выражения вроде «доля дисперсии первой главной компоненты составляет 34%»; буквально это означает, что относительная сила влияния некоего фактора, выраженного этой компонентой, составляет 34%.) Процедура расчета главных компонент организована таким образом, что первыми описываются самые сильные влияния, действие самого сильного фактора, т. е. чтобы дисперсия первой компоненты имела наибольшее значение. Затем вычисляются оценки действия второго по значимости фактора, с меньшей дисперсией, и так далее в порядке уменьшения величины дисперсии главных компонент:

S 2 ГК1 > S 2 ГК 2 > ... > S 2 ГКl > ... > S 2 ГКm .

Факторные нагрузки

Подходя к рассмотрению техники расчетов главных компонент, выразим их модель с использованием не абсолютных значений вкладов разных признаков, но относительных. Если значение отдельной варианты есть сумма вкладов разных факторов xj = xaj + xbj + xсj , то величина вклада в значение варианты отдель-

ного фактора составит некую долю от общего значения варианты:

компоненты:

ГКa = a1 × x1 + a2 × x2 + ... + ai × x j + ... + am × xm ,

второй:

ГКb = b1 × x1 + b2 × x2 + ... + bi × x j + ... + bm × xm и так далее.

гда меньше, чем признаков, k ≤ m).

Как же практически можно определить, какую долю каких факторов содержит в себе каждое значение исходных признаков, т. е. чему равны конкретные значения коэффициентов aj (факторных нагрузок) и как их вычислить? Для упрощения объяснения на первых порах придется несколько пожертвовать строгостью понятий.

Сначала зададимся более простым вопросом – как определить долю участия некоего внешнего фактора в каких-либо двух изучаемых признаках (например, масса и размеры особи)? Если некий фактор будет действовать на оба признака одновременно, это значит, что изменения значений вариант от объекта к объекту будут происходить более или менее синхронно, сопряженно. Поскольку известно, что сопряженное варьирование двух признаков лучше всего оценивать с помощью корреляционного анализа, значит, коэффициент корреляции и покажет, чтó в варьировании двух признаков есть общего и какова степень этой общности. Корреляция на уровне r = 1 свидетельствует о том, что оба изучаемых признака абсолютно детерминированы друг другом или единственной внешней причиной. Говоря упрощенно, коэффициент корреляции r = 0.5 свидетельствует, что примерно половинная доля значений каждой из вариант обоих признаков определяется действием некоего общего фактора, а другие «половинки значений» сформированы под влиянием иных обстоятельств. Такой уровень корреляции как раз характерен для связи вес – размеры особи. Любой коэффициент корреляции будет отражать то общее, что есть между каждой парой изучаемых признаков, что заставляет их сопряженно изменяться от варианты к варианте.

Коэффициенты в уравнениях главных компонент – это аналоги коэффициентов корреляции между признаками, они названы факторными нагрузками (отличия между коэффициентами корреляции и факторными нагрузками показаны ниже). Это удачное название показывает, во-первых, какой эффект данный l-й фактор оказал на данный j-й исходный признак, а также, во-вторых, какой вклад вносит данный признак в значение данной главной компонен-

ты. Итак, факторные нагрузки есть аналоги коэффициентов корреляции между признаками (например, между первым признаком и всеми остальными, r1i); это позволяет записать примерную формулу:

КК j » r11 × x1 + r12 × x2 + ... + r1i × xi + ... + r1m × xm .

Расчет корреляционных компонент

Используя наши данные по гадюкам (W – масса тела, Lt – длина тела, Lc – длина хвоста), рассмотрим расчет таких «корреляционных компонент», аналогов главных компонент (табл. 9.6, 9.7). Если рассчитать корреляции между тремя признаками, получим всего шесть коэффициентов (включая автозависимости, r = 1.00).

Таблица 9.6

Матрица корреляций

Возьмем в качестве факторных (точнее, «корреляционных») нагрузок первый столбец коэффициентов, выражающий сопряжение трех признаков с массой тела змеи: r11 = rWW = 1.00, r12 = rWLt = 0.789, r13 = rWLc = – 0.492. Тогда уравнение первой корреляционной компоненты примет вид:

КК1 = 1.00 ×W + 0.789 × Lt - 0.492 × Lc .

Рассчитаем значения компонент, новых признаков, для конкретных особей (для простоты обойдемся без нормирования); для первого самца:

КК11 = 1 00× 40 + 0.789× 45 - 0.492× 77 = 37 6,

для последней самки

КК117 = 1.00 ×112 + 0.789 ×57 - 0.492 × 70 = 122.6 .

Что же дают нам эти первые результаты? Значения главных компонент, новых признаков, обозначает одно общее направление изменчивости, характерное для всех морфологических признаков – это увеличение размеров тела с возрастом. Ход графика первой корреляционной компоненты (КК1) в общих чертах совпадает с ходом графика изменения массы (W) и длины (Lt) тела; эта компонента‚ по существу, подменяет собой два исходных признака, ее можно назвать общим термином «размеры особи». Факторные нагрузки (табл. 9.6) для этих двух признаков велики и положительны. Третий же признак дает отрицательный вклад в первую компоненту, отделяя себя от прочих. Есть все основания считать, что он характерен для какого-то иного направления изменчивости. (В нашем примере

– это половые отличия: у самок хвосты короче.) Таким образом, на первом этапе удалось выделить одно направление изменчивости и наметить другое. Конкретизируем его с помощью второй главной компоненты.

Рис. 9.5. Корреляционные компоненты

Откуда же взять значения факторных нагрузок во второй и следующих компонентах? Ведь они должны быть другими, поскольку, по определению, следующие компоненты должны характеризовать другие направления изменчивости вариант, другие факторы!

Здесь компонентный анализ идет по пути расчета частных коэффициентов корреляции. Общий коэффициент корреляции отражает сопряженное варьирование признаков только относительно самого сильного общего фактора, тогда как эффекты действия более слабых факторов (иных направлений изменчивости) затушевываются. Чтобы выявить оставшиеся направления изменчивости, нужно удалить эффект главного фактора! Для этого из всех значений вариант следует, условно говоря, «вычесть» долю, обусловленную этим самым сильным фактором. Для нашего примера попробуем поступить грубо и от значений исходных признаков непосредственно вычтем значение первой главной компоненты: x'ij = xij − ГК1 .

Оставшаяся часть значения каждого признака будет отражать действие всех прочих причин, кроме первой. Если теперь рассчитать корреляцию для вариант, «очищенных» от влияния первого фактора, то корреляция между признаками должна показать их сопряженное изменение относительно другого, второго по силе фактора. Понятно, что корреляционная структура «очищенной» матрицы данных будет совершенно другой, нежели у исходной: все зависимости оказались высокими и положительными (r > +0.9) (табл. 9.8).

Для расчета значений второй компоненты в качестве факторных нагрузок возьмем коэффициенты корреляции с опорой на признак (Lc – KK1) (табл. 9.8).

Эти новые коэффициенты корреляции сыграют роль факторных нагрузок для уравнения второй корреляционной компоненты:

КК2 = 0.976 × (W - КК1 ) + 0.923 × (Lt - КК1 ) +1.00 × (Lc - КК1 ) ;

расчеты значений этой компоненты для конкретных особей приведены в табл. 9.7.

Таблица 9.8

Матрица корреляций

Судя по графику хода второй компоненты (рис. 9.5), она в первую очередь «пытается» отследить и усилить второе направление изменчивости данных – отличие самцов (особи № 1– 8) и самок (особи № 9– 17) по длине хвоста: у самок хвост короче, чем у самцов. Как показывают факторные нагрузки, признаку «длина хвоста» (1.00) в этом помогают переменные «масса» (0.976) и «длина тела» (0.923). Итак, вторая компонента обозначила другой внутренний фактор отличия особей, изменчивость по длине хвоста, половой диморфизм.

Требование ортогональности компонент

В рамках компонентного анализа рассмотренная процедура «вычитания» информации о влиянии отдельного фактора из общей информации об изменчивости вариант имеет одно важное условие, специально оговоренное и обязательно выполняемое при вычислениях. Компоненты должны быть ортогональны, т. е. вовсе не долж-

ны коррелировать друг с другом:

= 0.

Идеологически это понятно: исходные значения должны полностью утратить «след» первого учтенного фактора, чтобы можно было оценивать роль второго; информация, которая воплотится в следующую компоненту, должна быть полностью независима от предыдущей компоненты. Обязательное отсутствие корреляции между компонентами гарантирует, что каждая из главных компонент содержит уникальную информацию об обособленном направлении изменчивости признаков.

Поскольку в проведенных выше расчетах это условие специально не выдерживалось, оказалось, что корреляционные компоненты существенно не ортогональны: rКК12 = −0.98. Судя по высокому

отрицательному коэффициенту, здесь явно проявляется ложная корреляция (см. раздел 8, с. 201) как результат вычитания общего значения (– K1).

Процедура компонентного анализа не имеет такого недостатка, поскольку «вычленение» информации, учтенной главной компонентой, выполняется непосредственно из матрицы коэффициентов корреляции: из каждого общего коэффициента корреляции вычисляется коэффициент корреляции между теми долями вариант, которые сформированы под действием первого фактора. Детали этого вычислительного процесса не так и важны, главное, что обновленная матрица корреляций полностью утрачивает информацию о первом факторе и никаких ложных корреляций не появляется.

Компонентный анализ

Рассмотрим результаты собственно компонентного анализа (табл. 9.9, 9.10), выполненного для исходных данных по размерам гадюки (табл. 9.7) в среде пакета StatGraphics. Условие ортогональности выполнено, компоненты независимы (с точностью до ошибки округления): rГК12 = -0.00002.

Таблица 9.9

Факторные нагрузки

Исходя из полученных факторных нагрузок, уравнение первой главной компоненты имеет вид:

ГК1 = 0.644 × норм.W + 0.603 × норм.Lt - 0.470 × норм.Lc .