Контрольные вопросы и упражнения

1.Когда говорят об однофакторном и многофакторном дисперсионном анализе?

2.Нарушение какой предпосылки дисперсионного анализа может привести к неверным выводам?

3.Почему процедура сравнения нескольких средних называется дисперсионным анализом?

4.Какова роль р-величины при принятии решения в дисперсионном анализе на основе компьютерных расчетов?

5.В чем суть метода Шеффе при сравнении индивидуальных средних?

6.Как с помощью метода наименьшей значимой разности определяются группы однородности индивидуальных средних?

7.Как формулируется задача однофакторного дисперсионного анализа при использовании разложения общей суммы квадратов отклонений?

8.Как формулируется задача однофакторного дисперсионного анализа при использовании разложения наблюдений на основе математической модели однофакторного дисперсионного анализа?

9.Как формулируются гипотезы в случае двухфакторного дисперсионного анализа на основе разложения общей суммы квадратов отклонений?

10.В чем суть главных эффектов и эффекта пересечения в случае двухфакторного дисперсионного анализа?

11.Как формулируются гипотезы в случае двухфакторного дисперсионного анализа на основе разложения наблюдений с использованием математической модели линейного двухфакторного дисперсионного анализа?

12.Какова роль графиков средних для главных эффектов и пересечений в анализе решения задачи дисперсионного анализа?

Выполнить следующие задания

Пример 1. Проверьте на 5%-м уровне значимости по данным из раздела Описательная статистика (Пример 1) равенство оценок степени удовлетворенности по всем трем позициям. По результатам решения задачи определить, надо ли проводить сравнение индивидуальных средних, и если надо, то каковы его результаты.

Пример 2. Проверить при α = 0,05, зависит ли расход горючего (переменная mpg) от года выпуска автомобиля (переменная year) по информации в файле Cardata ППП

Statgraphics Plus.

Пример 3. Проверить при α = 0,05, зависит ли расход горючего для автомобиля (переменная mpg) от места его производства (переменная origin) по информации в файле Cardata ППП Statgraphics Plus.

Пример 4. Проверить при α = 0,05, зависит ли расход горючего для автомобилей (переменная mpg) от места их производства (переменная origin) и года выпуска (переменная year) по информации в файле Cardata ППП Statgraphics Plus. Расчеты провести в два этапа: без подключения фактора пересечения и с ним. Результаты сравнить. Построить графики средних для главных факторов и фактора пересечения и провести их анализ сопоставив график с таблицей средних и их доверительных интервалов. Проанализировать результаты множественных сравнений.

Пример 5. Для выявления зависимости самочувствия жителей города от их здоровья и района проживания в каждом из 3-х районов были опрошены по 20 человек и

Предполагается, что чем лучше самочувствие, тем выше оценка, а состояние здоровья оценивается двумя баллами: 1- здоров, 2 – не совсем здоров.

Анализ провести на 5 %-м уровне значимости как однофакторный, так и двухфакторный с подключением и графических опций.

Пример 6. У 100 покупателей магазина спросили, какую сумму они оставили в магазине, покидая его, и как они рассчитались (1 – наличными, 2 – пластиковой карточкой и 3 – чеком). Собранная информация следующая:

Провести однофакторный дисперсионный анализ , поочередно принимая за фактор: метод платежа и пол покупателя (1 - женщина, 2 – мужчина). Провести полный двухфакторный дисперсионный анализ. Результаты сравнить. Дать экономическую интерпретацию полученных результатах.

Глава 6. Корреляционно–регрессионный анализ в принятии решений

Значения социально–экономических показателей формируются под влиянием различных факторов, главных и второстепенных, взаимосвязанных между собой и действующих нередко в разных направлениях. Поэтому, кроме локального изучения таких показателей (их уровней, характера изменчивости, распределения и т.д.), важной задачей при принятии решений является изучение связей между различными показателями.

Одним из методов изучения взаимосвязей в статистике является корреляционный и регрессионный анализ.

6.1.Парная (простая) линейная корреляция

Корреляционным анализом называется совокупность приемов, с помощью которых исследуются и обобщаются взаимосвязи корреляционно связанных величин. В отличие от естественных наук, в социально-экономическом анализе редко встречаются функциональные связи, здесь взаимосвязи проявляются лишь в общем и среднем, при рассмотрении совокупности явлений в целом, а не отдельных ее элементов. Как известно, корреляционная связь заключается в изменении вида распределения, а следовательно, среднего значения одной величины при изменении значения другой. Мерой тесноты линейной корреляционной связи служит коэффициент корреляции Пирсона. Для двух случайных величин x и y он определяется из соотношения

где суммирование ведется по всем возможным значениям случайных величин x и y, а x и y, соответственно, ожидаемые значения величин x и y. Оценкой коэффициента парной (простой) линейной корреляции служит выборочный коэффициент парной

корреляции

где x и y - выборочные средние величины для x и y, а суммирование ведется по всем

элементам выборки. После несложных преобразований можно получить вычислительный вариант этой формулы:

значения одной переменной среднее значение другой убывает. Если ρ = 0, то это означает отсутствие линейной корреляционной связи, а если ρ = 1, то это означает наличие между переменными линейной функциональной связи: прямой в случае (+1) и обратной в случае (-1).

Оценивая значение коэффициента корреляции по выборочным данным, мы должны быть уверены в надежности такой оценки. Обычно это осуществляется с помощью

степенями свободы. При компьютерных расчетах вместе с оценками коэффициентов корреляции обычно рассчитываются и выборочные уровни значимости для статистик Стьюдента. Если расчетное значение уровня значимости или р-величина для какоголибо выборочного коэффициента корреляции окажется больше фиксированного уровня значимости, например 0,05, то гипотеза Ho не отклоняется, и в этом случае говорят, что коэффициент корреляции незначимо отличен от нуля, следовательно, линейная корреляционная связь между соответствующими переменными отсутствует. В противном случае говорят, что коэффициент корреляции значимо отличен от нуля, что означает наличие линейной корреляционной связи между соответствующими переменными.

Для качественной интерпретации значений коэффициентов парной линейной корреляции (в случае их значимого отличия от нуля) используют шкалу Чеддока:

6.2. Задача анализа матрицы парных коэффициентов корреляции

Корреляционный и регрессионный анализы настолько тесно связаны, что, как правило, редко рассматриваются отдельно друг от друга. Если в корреляционном

анализе выявляется наличие и теснота связи, то в регрессионном – конкретный вид такой связи.

Одно из различий этих двух видов анализа заключается в том, что в корреляционном анализе переменные равноправны, а в регрессионном анализе они делятся на зависимые и независимые. Такое деление в последнем случае хотя и обязательно, но довольно условно. Осуществляется это исходя из профессионально– логических соображений, и его результат зачастую зависит от цели исследования.

Деление переменных на зависимые и независимые терминологически не совсем удачно отражает суть дела и означает лишь то, что в регрессионном анализе значение зависимой переменной оценивается на основе уравнения регрессии по известным значениям независимых переменных. На самом деле независимые переменные зачастую зависят, в том числе и друг от друга.

Хотя идеальным условием реализации регрессионного анализа является независимость независимых переменных между собой, ясно, что это практически не выполняется, но совсем уж нежелательно, чтобы между независимыми переменными наблюдалась тесная корреляционная взаимосвязь. В этом случае говорят о коллинеарности переменных. Считается, что две случайные переменные коллинеарны, если коэффициент корреляции между ними не менее 0,8. Если таких переменных несколько, то говорят о мультиколлинеарности. Как уже отмечалось, мультиколлинеарность – нежелательное явление в регрессионном анализе, и ее выявление является одной из задач анализа матрицы парных коэффициентов корреляции.

Матрица парных коэффициентов корреляции состоит из коэффициентов корреляции, рассчитанных для набора переменных y, x1, x2,….., xm и размещенных в виде матрицы. В дальнейшем переменную y будем называть зависимой, а остальные – независимыми. И хотя для корреляционного анализа эти переменные равноправны, мы их будем различать в целях дальнейшего использования. Поскольку rxy = ryx, то корреляционная матрица симметрична относительно своей главной диагонали, на которой обычно проставляют единицы. Поэтому, естественно, анализировать только одну из частей корреляционной матрицы (верхнюю или нижнюю относительно главной

Договоримся в дальнейшем анализировать верхнюю часть матрицы. Первая строка матрицы содержит коэффициенты корреляции между зависимой переменной y и независимыми переменными х1, х2, …, xm. Коэффициенты этой строки анализируют с целью выявления значимых и незначимых независимых переменных. Значимость независимой переменной здесь понимается с точки зрения влияния ее на зависимую переменную. Если проверка гипотезы Н0: ух = 0 покажет, что коэффициент

корреляции незначимо отличен от нуля, то это означает, что соответствующая независимая переменная незначимо влияет на зависимую переменную, т. е. незначима, и в уравнение регрессии ее включать не следует. Отметим, что подобные выводы правомерны лишь на начальном этапе анализа информации, на самом деле взаимосвязи здесь более сложные, о чем речь ниже.

Второй этап анализа матрицы парных коэффициентов корреляции заключается в выявлении мультиколлинеарности среди независимых переменных. Для этого

просматривается оставшаяся часть матрицы R (кроме первой строки) и выделяются коэффициенты по величине 0,8. Они и укажут на коллинеарные переменные. Обычно в уравнение регрессии не включают те из коллинеарных переменных, которые слабее связаны с зависимой переменной. Более подробно об этом - также ниже.

6.3. Частная и множественная корреляция

Частная и множественная корреляция рассматривается обычно в случае изучения совокупности многомерных измерений. Рассмотрим ее кратко на промере 3-мерного пространства.

Пусть имеем три переменные: x, y, z .

Частным коэффициентом корреляции между x и y при фиксированном значении z является величина, определяемая из выражения

Остальные частные коэффициенты корреляции определяются путем замены соответствующих индексов в приведенной формуле.

Частные коэффициенты корреляции обладают всеми свойствами парных коэффициентов корреляции. Они служат показателями линейной корреляционной связи между двумя переменными независимо от влияния других случайных переменных.

Понятие частного коэффициента корреляции распространяется по аналогии на случай более 3-х переменных. Частная корреляция иногда помогает обнаружить переменные величины, которые усиливают или ослабляют связи между конкретными переменными и, в том числе, очищает взаимосвязи между переменными от опосредованных зависимостей.

Например, в статистической литературе приводится следующий пример “ложной” корреляции между переменными: в одном из исследований обнаружилась тесная корреляционная связь между такими величинами, как число пожарников и число пожаров в городе. Если исходить из формального подхода, то можно было бы сделать вывод, что виновниками пожаров в городах в основном являются пожарники. На самом же деле эти две переменные напрямую зависят от третьей переменной: величина города и ее влияние на рассматриваемые переменные привело к тому, что они изменяются однонаправлено, т. е. чем больше величина города, тем больше значение этих переменных.

Чтобы определить, есть ли “чистая” зависимость между рассматриваемыми переменными, необходимо исключить влияние переменной “величина города” на значение изучаемых переменных. Реализовать это можно, либо воспользовавшись приведенной выше формулой для расчета частного коэффициента корреляции, либо рассчитать коэффициенты парной корреляции между рассматриваемыми переменными, предварительно исключив из них влияние “засоряющей переменной” путем, например, вычислением остатков уравнений парной регрессии каждой из переменных по переменной “величина города”.

В развитие рассмотрения частной корреляции распространим понятие корреляционной связи на более чем две переменные. Тесноту линейной корреляционной связи между одной переменной и несколькими другими измеряют с помощью множественного коэффициента корреляции. Множественный коэффициент корреляции, например, между одной величиной z и двумя другими величинами x и y определяется по формуле

Такой коэффициент заключен между нулем и единицей и равен единице, когда связь между величинами z и (x,y) является линейной функциональной, и равен нулю, если линейная связь между z и (x,y) отсутствует. Остальные множественные коэффициенты корреляции определяются путем замены соответствующих индексов в приведенной формуле. Понятие частного коэффициента корреляции по аналогии распространяется на случай более 3-х переменных.

Выше приведены лишь частные формулы расчета коэффициентов частной и множественной корреляции, использующие коэффициенты парной корреляции. Проше вычислять эти коэффициенты, используя элементы корреляционной и обратной корреляционной матриц, тем более, что эти формулы по форме не изменяются при увеличении размерностях на случай более чем три. Эти формулы здесь не приводятся, т. к. при размерностях более чем три расчеты предполагается вести при помощи компьютерных программ, а для начального знакомства с этими коэффициентами достаточно и приведенных формул.

Известно, что квадрат коэффициента корреляции называется коэффициентом детерминации и эти коэффициенты имеют четкую интерпретацию. Например, коэффициент детерминации в случае двух переменных показывает долю вариации одной переменной, обусловленную изменением другой переменной.

Часто коэффициенты детерминации выражают в процентах и если, например, rxy2 =

85 %, то это означает, что на 85 % изменение, например, y обусловлено изменением x, а остальные 15 % изменения y зависят от изменения не учтенных факторов, в том числе и ошибок наблюдений. Аналогично и для коэффициентов множественной детерминации.

6.4.Уравнение линейной регрессии

Если в регрессионном анализе рассматривается пара переменных, а именно; одна зависимая и одна независимая, то говорят о парной (простой) регрессии. Если независимых переменных более одной, то говорят о множественной регрессии. Парная регрессия удобна тем, что ее можно изобразить визуально на графике, поэтому мы будем обращаться к ней именно с этой целью, хотя ясно, что реальные зависимости обычно требуют рассмотрения множественной регрессии.

В дальнейшем будем рассматривать только линейную регрессию, поскольку считается, что большую часть зависимостей при изучении социально-экономических явлений можно с определенной степенью точности описать линейными соотношениями, а если это не так, то зависимости можно свести к линейным с помощью определенных преобразований переменных.

Пусть рассматривается совокупность переменных y, x1, x2, … , xm, причем будем считать, что y – зависимая переменная, а x1, x2, … , xm – независимые. Для этих переменных модель множественной линейной регрессии в общем виде может быть

Уравнение множественной линейной регрессии (как оценка модели) в общем виде может быть записано так:

(оценки случайных величин ε).

Отличие ε и е заключается в том, что е наблюдаемы, ε – нет. Так, если расчетные

которые рассчитаны по уравнению регрессии и лежат на гиперплоскости, определяемой уравнением регрессии (в двумерном случае расчетные значения расположены на линии регрессии).

Отметим еще раз, что а и bk (k = 1, m ) не параметры уравнения регрессии, а их

оценки, получаемые обычно на основе метода наименьших квадратов (МНК). Суть МНК состоит в определении оценок параметров уравнения регрессии (свободного члена и коэффициентов регрессии) из условия минимизации суммы квадратов

Реализация этого метода в случае парной регрессии: y = a + bx + е дает следующие вычислительные формулы для оценок параметров этого уравнения:

Подведем итог. Для реализации МНК необходимо, чтобы относительно выполнялись следующие предпосылки:

1)является случайной величиной, имеющей нормальный закон распределения;

Оценки МНК в случае выполнения перечисленных предпосылок являются несмещенными, состоятельными и эффективными. Если 3) и 4) нарушены, то первые два свойства оценок сохраняются, но они становятся менее эффективными.

Свободный член уравнения регрессии обычно не интерпретируется. Коэффициенты же уравнения регрессии показывают, на сколько изменится значение зависимой переменной (в своих единицах измерения), если значения соответствующих независимых переменных изменятся на единицу (в своих единицах измерения) при фиксированных значениях других. Но это верно, если выполняется основная предпосылка регрессионного анализа: независимые переменные не зависят между собой. В случае же мультиколлинеарности коэффициенты уравнения регрессии вообще теряют какой-либо смысл.

К этому мы еще вернемся, а сейчас отметим, что коэффициенты уравнения регрессии, как и всякие абсолютные показатели, не могут быть использованы в сравнительном анализе, если единицы измерения соответствующих переменных различны. Например, если y – расходы семьи на питание, х1 – размер семьи, а х2 –

b1, то это не значит, что x2 сильнее влияет на y, чем х1, т. к. b2 - это изменение расходов семьи при изменении доходов на 1 руб., а b1 – изменение расходов при изменении размера семьи на 1 человека и сравнивать эти показатели нельзя.

Сопоставимость коэффициентов уравнения регрессии достигается при

рассмотрении стандартизованного уравнения регрессии:

y0 = 1x10 + 2x20 + … + mxm0 + е ,

где y0 и x0k - стандартизованные значения переменных y и xk:

уравнения регрессии (но не параметры уравнения регрессии, в отличие от приведенных выше обозначений). -коэффициенты показывают, на какую часть своего стандартного отклонения Sy изменится зависимая переменная y, если независимая переменная xk изменится на величину своего стандартного отклонения S xk . Оценки параметров

уравнения регрессии в абсолютных показателях (bk) и β–коэффициентов связаны соотношениями:

но вычислять их рекомендуется не по этим формулам, а непосредственно, рассчитывая уравнение регрессии по стандартизованным значениям переменных.

-коэффициенты уравнения регрессии создают реальное представление о воздействии независимых переменных на моделируемый показатель. Если величина - коэффициента превышает значение соответствующего парного коэффициента корреляции, то влияние зависимой переменной на y следует признать значимым. Кроме того, совпадение знаков при парных коэффициентах корреляции и - коэффициентах логически подтверждает правильность включения выбранных показателей в модель.

Наравне с -коэффициентами при анализе воздействия показателей, включенных в уравнение регрессии, на моделируемый признак используются также коэффициенты эластичности

которые показывают, на сколько процентов изменится зависимая переменная, если соответствующая независимая переменная изменится на один процент.

6.5. Оценка точности уравнения регрессии

Как уже отмечалось, оценки параметров уравнения регрессии вычисляются по выборочным данным и лишь приближенно оценивают эти параметры. В связи с этим появляется необходимость оценить точность как уравнения регрессии в целом, так и его параметров в отдельности. При решении первой задачи используют процедуру дисперсионного анализа, основанную на разложении общей суммы квадратов