ПСОД студенты / Корреляционный анализ

подготовки отчета о проделанной работе. Вы можете отредактировать этот отчет либо в STATISTICA, либо загрузив его в какой-либо текстовой редактор, например, MS Word for Windows. Для сохранения Окна Текста/Вывода необходимо использовать команду Save из меню File.

В рамке Supplementary Info (Вспомогательная информация) можно установить стиль и полноту информации, которая направляется на тот или иной канал вывода. Вы можете выбрать следующие стили вывода информации:

Brief (Краткий). Выберите эту установку, если необходимо выводить лишь содержание выбранных электронных таблиц. При этом не будет выводиться никакая дополнительная информация;

Short (Короткий). Этот стиль вывода, кроме содержания электронных таблиц, включает в себя вывод заголовка страницы (название модуля, дату, время, номер страницы), имя файла, условия выбора случаев и другую вспомогательную информацию;

Medium (Средний). По сравнению с коротким стилем дополнительно включает длинные метки для переменных;

Long (Подробный). Стиль, который обеспечивает наиболее подробный вывод информации о данных: всю информацию о двойной записи переменных и др.

Output Header (Заголовок вывода). Заголовок, который будет выведен при печати каждой новой страницы. По умолчанию он форматируется по левому краю листа. Имеет смысл включить в него название статистического исследования.

Date and Time (Дата и Время). Установить вывод даты и времени на каждой странице.

Center Titles (Центрировать заголовки). Располагает заголовки вывода по центру листа.

В следующей группе установок имеется возможность определить установки автоматической подготовки отчетов. Рамка, задающая параметры процесса автоматического создания отчета – Auto-report (Автоматический отчет) включает в себя следующие опции:

•Auto-Retrieve the Text/Output Window Contents (Автоматически дополнять содержание Окна текста/вывода). При выборе этой опции в Окне текста/вывода автоматически открывается самый последний сохраненный текстовой файл или файл формата RTF, и вывод осуществляется в конец этого файла;

•Auto-Exit from Scrollsheets and Graphs (Автоматический выход из графиков и таблиц Scrolsheets);

(Автоматическая печать/выдача страницы после каждой операции вывода);

• Automatically Eject Each Filled Page (Автоматическая выдача каждой заполненной страницы).

Вывод графической информации

Перед выводом графиков необходимо прежде всего определить канал вывода. Возможны следующие варианты вывода, которые могут быть выбраны в рамке Output (Вывод).

Off (Отключить вывод). Выбор этой опции, отключает вывод информации на принтер или в файл.

Printer (Принтер). При помощи этой опции указывается, что вся информация из электронных таблиц посылается на принтер.

Window (Окно Текста/Вывода). При выборе этой опции вся информация направляется в Окно Текста/Вывода. Для сохранения Окна Текста/Вывода необходимо использовать команду Save из меню File.

Рамка, задающая параметры процесса автоматического создания отчета– Auto-report (Автоматический отчет), включает в себя следующие опции:

•Auto-Retrieve the Text/Output Window Contents (Автоматически дополнять содержание Окна Текста/Вывода). При выборе этой опции в

Окне Текста/Вывода автоматически открывается самый последний сохраненный текстовой файл или файл формата RTF, и вывод осуществляется в конец этого файла. Если эта опция не выбрана, то открывается чистое окно;

•Auto-Exit from Scrollsheets and Graphs (Автоматический выход из графиков и электронных таблиц Scrollsheets). В результате анализа обычно генерируется очередь графиков и таблиц. При этом на последнем графике или таблице в очереди появляется кнопка Continue. Вы должны нажать на нее для продолжения вывода (при этом по умолчанию будет закрыто самое старое окно с графиком или таблицей). Однако если вы выберете опцию Автоматический выход, из графиков и электронных таблиц Scrollsheets и опцию Автоматической печати таблиц в отчет, то анализ прерываться не будет и все графики и (или) таблицы будут выведены

вОкно Текста/Вывода;

•Automatically Print All Graphs (Auto-Report) (Автоматическая печать всех графиков (Автоотчет)). При выборе этой опции автоматически все графики, появляющиеся на экране, будут направляться на определенный канал вывода.

2) Проверка значимости параметров модели, т.е. значимо ли они отличаются от нуля или нет.

• Интерполяция результатов, анализ, оптимизация и прогнозирование.

Предпосылки к проведению регрессионного анализа

• Случайные ошибки наблюдений имеют нормальный закон распределения

ε → N (0,σ) , M (ε) = 0, D(ε) =σ2 = const.

• Отсутствие автокорреляции между ошибками наблюдений, т.е. последовательные значения εi не зависят друг от друга.

Метод наименьших квадратов

Для нахождения оценок параметров модели по результатам наблюдений используется метод наименьших квадратов (МНК). Пусть проведено n независимых наблюдений случайной величины Y при соответствующих значениях x , совместный закон распределения которых неизвестен. Следовательно, теоретическую функцию регрессии мы не сможем найти. Наша задача оценить эмпирическую функцию регрессии

~y = a~0 +a~1x.

Согласно МНК, параметры подбираются таким образом, чтобы минимизировать сумму квадратов отклонений наблюдаемых значений от расчетных по модели значений

значения выходной переменной, рассчитанные по модели. Из необходимых условий минимума

мешает пониманию, знак ~ над параметрами будет опускаться). Они будут определяться из решения системы двух линейных уравнений

na0 +a1∑xi =∑yi ,a0∑xi +a1∑xi2 =∑yi xi .

Здесь и далее, если это не оговорено особо, суммирование происходит от i=1,n,(1). Оценки параметров, получаемые по методу МНК, при условии выполнения предпосылок относительно случайных ошибок наблюдений, будут обладать следующими свойствами:

•несмещенность;

•состоятельность;

•эффективность.

Проверка адекватности модели

Для проверки гипотезы адекватности модели необходимо сравнить две суммы квадратов:

1) Остаточную сумму квадратов, характеризующую отклонение от регрессии

2) Сумму квадратов, обусловленную регрессией

n

=∑(~ − 2 ,

QR i=1 yi y)

где y =1 ∑n yi .

n i=1

Тогда выборочное значение F, имеющее распределение Фишера

может служить проверкой адекватности для заданного уровня значимости λ (обычно для экономических задач λ=0,05) и степеней свободы

S2 =Qe /(n −k −1)

можно использовать в качестве оценки дисперсии σ2 – дисперсии

случайной величины. Результаты проверки адекватности удобно представить в виде (табл. 2.1).

Полезной характеристикой линейной регрессии является коэффициент детерминации, вычисляемый по формуле

Коэффициент детерминации равен той доле результатов наблюдений

множественного коэффициента корреляции между результатами наблюдений

и вычисленными значениями ~yi . Если R2=0.75 это значит, что модель работает на 75%, а 25% приходится на ошибку или неучтенные в модели факторы (для практических целей целесообразно, чтобы R2 ≥ 0,75). Для небольших значений n<30 необходимо использовать скорректированный коэффициент детерминации

R*2 =1 − n −n −k 1−1 (1 − R2).

Проверка значимости параметров модели

В результате проверки устанавливается статистическая значимость или незначимость отличия от нуля оценок параметров регрессии. Это проверка осуществляется отдельно для каждого параметра модели. Для оценки значимости коэффициентов регрессии можно воспользоваться следующим правилом, если абсолютная величина коэффициента регрессии больше доверительного интервала, то гипотеза о незначимости коэффициента отвергается

отклонения (с.к.о.) ошибок коэффициентов регрессии, для простой линейной регрессии y = a0 +a1x они могут быть вычислены соответственно

Можно проверять значимость коэффициентов по t-критерию. Воспользуемся формулой

~

t = a i .

S a i

Вычисленное значение сравнивается с табличным и если t ≥ t f; λ/2, то коэффициент значим. В противном случае соответствующую переменную можно исключить из модели и все расчеты, включая решение системы линейных уравнений, повторить снова.

2.3. МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ

Множественная линейная регрессия представляет собой выражение

~y =a0 +a1x1 +a2 x2 +...+ak xk .

Для случая k =2 по результатам наблюдений система нормальных уравнений, полученная МНК, будет иметь вид

a0n+a1∑x1i +a2∑x2i =∑yi ,

a0∑x1i +a1∑x1i2 +a2∑x1i x2i =∑yi x1i ,a0∑x2i +a1∑x1i x2i +a2∑x2i2 =∑yi x2i .

Дальнейшие рассуждения удобно вести, используя следующие матричные обозначения:

a =(AT A)−1 ATY.

Ковариационная матрица оценок параметров регрессионной модели будет равна

Kaiaj =S2(AT A)−1.

Дисперсии параметров модели определяются соотношением

S2ai = Kaiai .

Во множественной линейной регрессии предпосылки регрессионного анализа и его проведение полностью совпадают с простой линейной регрессией. Особенностью множественной регрессии является корреляция независимых переменных. Желательно избегать включения в модель линейно зависимых переменных.

2.4. НЕКОТОРЫЕ НЕЛИНЕЙНЫЕ МОДЕЛИ, СВОДЯЩИЕСЯ К ЛИНЕЙНЫМ

Существуют два вида нелинейности регрессионных моделей:

Нелинейные относительно независимых переменных.

Например,

~y = a0 +a1 x1 +a2 x22 +a3 x1 x2 .

В этом случае необходимо просто сделать замену переменных:

Нелинейные относительно параметров регрессии.

Например,

Выполним функциональное преобразование:

К сожалению, не всегда можно функциональными преобразованиями от нелинейных моделей перейти к линейным. Кроме того, нужно иметь в виду, что при вычислении параметров по методу МНК минимизируется сумма квадратов отклонений преобразованных, а не исходных данных.

2.5. ПРОВЕРКА ПРЕДПОСЫЛОК РЕГРЕССИОННОГО АНАЛИЗА

Проверка нормальности закона распределения ошибок

Анализ ошибок проводится по следующей схеме. Предполагаем, что εi ~ N(0,σ) , тогда εi ~ N (0,1) . Тогда, если модель правильна, то

дисперсия остатков, характеризующая качество аппроксимации результатов наблюдений

служит оценкой величины σ2 – дисперсии ошибок наблюдений, где

e −среднее значение отклонений. Случайная величина ei / S представляет

собой единичные нормальные отклонения. Если эти отклонения будут находиться в интервале [-2; 2] , то, следовательно, наше предположение о

том, что εi ~ N(0,σ) не ошибочно.