Многомерный статистический анализ. Ч.1. Методическое пособие

№ 4681 М И Н И С Т Е РС Т В О Н АУ К И И В ЫС Ш Е ГО О Б РА З О ВА Н И Я РФ

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ

«НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ТЕХНОЛОГИЧЕСКИЙ УНИВЕРСИТЕТ «МИСиС»

ИНСТИТУТ ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ И АВТОМАТИЗИРОВАННЫХ СИСТЕМ УПРАВЛЕНИЯ

Кафедра автоматизированных систем управления

А.Н. Гончаренко

МНОГОМЕРНЫЙ СТАТИСТИЧЕСКИЙ АНАЛИЗ

Часть  1

Методическое пособие

Рекомендовано редакционно-издательским советом университета

Москва 2022

УДК 65.011.56 Г65

Р е ц е н з е н т канд. техн. наук, доц. Д.В. Калитин

Гончаренко, Алексей Николаевич.

Г65 Многомерный статистический анализ. Часть  1 : метод. пособие / А.Н. Гончаренко. – Москва : Издательский Дом НИТУ «МИСиС», 2022. – 53 с.

В методическом пособии рассмотрены многомерные методы статистического анализа данных. Основное внимание уделено моделям анализа данных, условиям их применения, а также особенностям представления данных и интерпретации результатов.

Пособие предназначено для студентов, обучающихся в магистратуре по направлению подготовки 09.04.01 «Информатика и вычислительная техника», а также для изучающих информационные технологии. Будет полезно для студентов при подготовке выпускной квалификационной работы и магистерской диссертации.

УДК 65.011.56

Гончаренко А.Н., 2022

НИТУ «МИСиС», 2022

3

ВВЕДЕНИЕ

Многомерные методы статистического анализа данных появились еще в начале ХХ в. Однако из-за большого объема и сложности вычислений они по лучили широкое распространение только благодаря созданию компьютеров, особенно персональных, с «дружественными» операционными системами

ипользовательскими интерфейсами.

Вметодическом пособии основное внимание уделяется моделям анализа данных, условиям их применения, особенностям представления данных и интерпретации результатов.

Настоящее учебное пособие предназначено для студентов, магистрантов, аспирантов, изучающих методологию количественных исследований и методы статистического анализа данных; преподавателей, научных сотрудников и специалистов, принимающих участие в эмпирических исследованиях. Его изучение предполагает предварительное знакомство с основами прикладной статистики (на уровне одномерных распределений, анализа парных связей, проверки статистических гипотез) и одним из программных средств статистического анализа данных (SPSS, Statistica, R и т.п.).

4

1.  КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ

1.1.  Структура связей между переменными

В зависимости от вкладываемого в исследование смысла связи между переменными могут быть как корреляционными, так и причинными (каузальными). Связь между двумя переменными называется корреляционной, если они рассматриваются как двусторонне взаимодействующие, без выделения причины и следствия. Связь называется причинной, если одна из переменных (зависимая) измеряет следствие, а другая или несколько независимых переменных (предикторов) измеряют одну или несколько причин.

Меры корреляционной связи. Большинство статистических мер связи предназначены для измерения парных корреляционных связей между переменными. Разумеется, они могут использоваться и для причинных связей на тех уровнях анализа, когда их причинно-следственное содержание игнорируется.

Выбор меры связи между двумя переменными зависит, в первую очередь, от уровня их измерения: для двух количественных переменных это коэффициент линейной корреляции Пирсона; для двух порядковых переменных – коэффициенты ранговой корреляции Спирмана и Кендалла; для двух дихотомических переменных – коэффициенты Ф (фи) и Юла; для номинальных переменных с числом градаций более двух – коэффициент Крамера. Если переменные имеют разный уровень измерения, выбирается коэффициент, соответствующий более низкому уровню. Например, если одна переменная является количественной, а вторая порядковой, рекомендуется использовать одну из порядковых мер связи (возможно, количественную переменную придется при этом сгруппировать в интервалы); если одна из переменных является номинальной, а вторая – порядковой, следует использовать коэффициент Крамера. В многомерной статистике наиболее часто используется коэффициент линейной корреляции Пирсона в силу его универсальности.

5

Наибольший интерес в задачах многомерной статистики представляют переменные, связи между которыми обладают «направленностью», т.е. могут трактоваться как «прямые» или «обратные». Понятие направленности может применяться только в двух случаях. Во-первых, когда обе переменные являются количественными и (или) порядковыми: связь является прямой, если значения двух переменных одновременно увеличиваются или уменьшаются; обратной – если увеличение значения одной переменной сопровождается уменьшением значения другой. Во-вторых, когда обе переменные являются дихотомическими: связь является прямой, если два фиксируемых свойства объектов чаще встречаются и не встречаются совместно, чем порознь; обратной – если соответствующие свойства чаще встречаются порознь, чем совместно.

Коэффициент корреляции между переменными xi и xj обозначается ri, j и обладает следующими свойствами:

1)  коэффициент корреляции симметричен (ri, j = rj, i);

2)  значение коэффициента корреляции находится в пределах –1 ≤ ri, j ≤ 1 для направленных связей; 0 ≤ ri, j ≤ 1 для ненаправленных связей;

3)  ri, j = 0, если связи между переменными нет;

4)  ri, j >0, если связь является прямой или ненаправленной; 5)  ri, j < 0, если связь является обратной;

6)  ri, j = ±1, если связь является полной, т.е. по значению одной переменной можно точно определить значение второй.

Идеальным случаем для задач снижения размерности и классификации является использование переменных с одинаковым уровнем измерения: количественных, порядковых (измеренных с использованием шкал Лайкерта и подобных им оценочных шкал с четным или нечетным количеством градаций, которые могут рассматриваться как квазиинтервальные или дихотомические. Номинальные переменные, не являющиеся дихотомическими, а также порядковые переменные, которые не могут рассматриваться как квазиинтервальные, используются только в отдельных многомерных статистических моделях с применением специально разработанных для этого техник, которые будут рассмотрены в соответствующих разделах.

6

В ситуации, когда одновременно должны анализироваться несколько переменных с разным уровнем измерения, рекомендуется использовать коэффициент парной корреляции Пирсона (1.1), универсальный в том смысле, что коэффициент ранговой корреляции Спирмана, коэффициент для двух дихотомических переменных и коэффициент бисериальной корреляции, используемый когда одна переменная количественная, а вторая – дихотомическая, являются полными его аналогами:

Si, Sj – стандартные отклонения переменных xi и xj.

Матрица корреляций. Для представления структуры связей между переменными используется матрица корреляций. Это квадратная таблица, в которой строки и столбцы соответствуют одним и тем же переменным (общее количество переменных будем обозначать буквой k, размерность матрицы k × k). В клетке на пересечении строки с номером i и столбца с номером j указывается значение коэффициента корреляции ri, j для переменных xi и xj (табл.  1.1).

Таблица  1.1

Матрица корреляций (i, j = 1, k)

7

В матрице корреляций могут использоваться любые меры связи при условии, что все переменные имеют одинаковый уровень измерения. Так, если все переменные количественные, используется коэффициент Пирсона (r), если порядковые – коэффициент Спирмана (rs) или Кендалла (t), если дихотомические – коэффициент Ф (фи), если номинальные – коэффициент Крамера (V).

Если переменные имеют разный уровень измерения, в матрицу корреляций не должны включаться номинальные переменные, не являющиеся дихотомическими. Для переменных с любыми другими уровнями измерения вычисляется коэффициент корреляции Пирсона с учетом его модификаций для порядковых и дихотомических переменных. При компьютерной обработке данных это происходит автоматически.

Матрица корреляций симметрична относительно главной диагонали (ri, j = rj, i), которая полностью состоит из единиц (коэффициент корреляции переменной с самой собой равен 1). Поэтому она может быть представлена в форме верхнего или нижнего треугольника.

Граф матрицы корреляций. В социологии широко распространены структурные модели. Их используют для анализа структуры связей между переменными, структуры исследуемой статистической совокупности объектов, структуры набора понятий в представлениях респондентов и др. По методам представления различают математические и визуальные (графические) структурные модели, причем многие математические модели могут быть представлены визуально.

Матрица корреляций содержит исчерпывающую информацию о структуре связей между переменными. Однако для ее непосредственного анализа требуются опыт и значительные усилия, особенно при большом количестве используемых переменных. Поэтому во многих случаях при анализе матрицы корреляций применяются специальные алгоритмы, реализованные в компьютерных программах, – метод главных компонент, факторный анализ, кластерный анализ и др.

Наиболее простым инструментом анализа матрицы корреляций является граф. Граф – это геометрическая схема, состоящая из точек, соединенных линиями и (или) стрелками. Точки

8

называются вершинами графа, линии – ребрами, стрелки – дугами. Вершины графа изображают переменные. При использовании графа для анализа корреляционных связей вершины соединяются линиями (ребрами). Если связь между переменными является причинной, вершины соединяются стрелками (дугами), направленны ми от причины к следствию. В графе одновременно могут присутствовать как ребра, так и дуги. Заметим, что если значения коэффициентов корреляции, по которым мы судим о силе связей и принимаем решение об отображении их на графе, вычисляются, то наличие или отсутствие причинных отношений между переменными, от которых зависит выбор дуги или ребра в качестве средства изображения связи на графе, устанавливаются теоретически.

Вершины, соединенные ребрами и (или) дугами, называются смежными. Смежность вершины равна числу проходящих через нее ребер и дуг. Вершины, не соединенные ни с какими другими вершинами (смежность равна 0), называются изолированными. Заметим, что независимо от количества изображенных связей на графе должны присутствовать все переменные (вершины), в том числе изолированные.

Наиболее сложной проблемой при построении графа связей является определение границы значений коэффициента корреляции, выше которой связь можно считать «существенной». Граница выбирается таким образом, чтобы граф, с одной стороны, был достаточно информативным, обеспечивающим отражение всех существенных с точки зрения выявления структуры связей между переменными, с другой стороны, был достаточно «прозрачным», не содержал избыточных связей, затрудняющих понимание структуры. В сложных случаях при построении графа рекомендуется для начала взять «завышенное» граничное значение, что обеспечит изображение минимального набора ребер. Впоследствии оно может быть уменьшено, что приведет к увеличению числа отображаемых связей. Для построения графа рекомендуется начать с вершины с максимальной смежностью и изобразить все ее существенные связи. Затем перейти к следующей по смежности вершине. Процесс продолжается до тех пор, пока на граф не будут нанесены все ребра и (или) дуги, а также изолированные вершины. Взаимное расположение вер-

9

шин на графе, обеспечивающее наиболее ясное представление структуры связей между переменными, нередко оказывается сложной дизайнерской задачей. Для ее решения могут применяться разнообразные программные средства.

Пример  1.1

В нашем примере в качестве границы выбрано r ≥ 0,55 (рис.  1.1). В матрице корреляций (табл.  1.2) коэффициенты, значения которых по абсолютной величине не ниже 0,55, выделены жирным шрифтом.

Таблица  1.2

Матрица корреляций между социально-демографическими показателями

Рис.  1.1. Граф матрицы причинных связей между переменными

Причинно-следственные отношения между переменными установлены посредством логического анализа.

10