Paly_I_A__Prikladnaya_statistika_Uchebnoe_po

Уравнение регрессии x на y: x = -348,84y + 999,4. Несколько значений х:

Эти прямые показаны на рис. 3.2. Прямые не так близки, как в случае с текстом, масса монеты не столь жестко связана с ее возрастом, как число слов и букв в предложении.

3.5.ДРУГИЕ УРАВНЕНИЯ РЕГРЕССИИ

3.5.1.Парабола второго порядка

Уравнение имеет вид y = ax2 + bx + c.

Метод наименьших квадратов дает такую систему линейных уравнений относительно неизвестных коэффициентов а, b, c:

3.5.2. Показательная функция

Уравнение имеет вид y = bxa.

Прологарифмируем левую и правую части, для определенности вычислим натуральные логарифмы

ln(y) = a·ln(x) + ln(b).

Обозначим ln(y) через y1, ln(x) через x1, ln(b) через b1. Получаем уравнение относительно неизвестных коэффициентов а и b1:

y1 = ax1 + b1

Определив по методу наименьших квадратов числа a и b1, найдем

3.5.3. Степенная функция

Уравнение имеет вид y = bax.

Прологарифмировав левую и правую части, получим линейное уравнение относительно неизвестных параметров

y1 = a1x + b1,

где y1 = ln(y), a1 =ln(a), b1 = ln(b).

После определения параметров a1 и b1 находим числа a и b: b = eb1.

3.5.4. Гиперболическая функция

Уравнение имеет вид y = ax1+ b .

Положив y1 = 1y , получим линейное уравнение относительно а и b:

y1 = ax + b.

О более сложных уравнениях регрессии можно прочитать в специальной литературе по корреляционному и регрессионному анализу.

3.5.5. О квазилинейном уравнении регрессии

Уравнение регрессии будем называть квазилинейным, если оно имеет вид

y(a1, a2 ,..., ak , x) = a1 f1(x) + a2 f2 (x) +... + ak−1 fk−1(x) + ak .

Здесь a1, a2 ,..., ak −неизвестные параметры уравнения регрессии, f1(x), f2 (x), ..., fk−1(x) − заданные функции аргумента x.

Это уравнение линейно относительно неизвестных параметров, метод наименьших квадратов дает такую линейную систему уравнений для определения значений a1, a2, ..., ak

или просто уi .

Левая часть последнего уравнения системы − сумма теоретических значений величины y, правая часть этого уравнения − сумма выборочных (экспериментальных) значений этой величины. Таким образом, в случае квазилинейного уравнения регрессии, суммы теоретических и эксперимен-

Умножим теперь первое уравнение системы на a1, второе − на a2,…, последнее, k-е уравнение, умножим на ak. и сложим все уравнения. В результате получим равенство

обладают дисперсией только в том смысле, что разным значениям аргумента x соответствуют разные значения функции уi (x) . Число su2

называется остаточной (необъясненной) дисперсией. Это − дисперсия разностей (остатков, отклонений) yi − yi . Эти разности не имеют

никакого отношения к уравнению регрессии и поэтому не могут быть объяснены с точки зрения уравнения регрессии. Чем сильнее экспериментальные значения отклоняются от теоретических, тем больше

число su2 , тем хуже уравнение регрессии соответствует экспериментальным данным (объясняет экспериментальные данные).

Из сказанного вытекает, что всегда s 2у ≥ s 2у) , и равенство достигается,

если уi = уi , i =1,2,L, n.

3.5.6. Пример построения нелинейного уравнения регрессии

В качестве примера рассмотрим данные из табл. 3.4, где указаны объемы производства (xi, 1000т) и фермерская цена (уi долл. за 1т), скорректированная на индекс потребительских цен вишни в США в 1954 - 1969 гг.

Таблица 3.4

Год 1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969

xi 204 260 168 239 192 218 185 266 276 150 344 248 200 198 228 278

yi 267 174 228 208 225 243 227 217 163 345 154 165 299 325 294 188

Как правило, зависимость между ценой и объемом производства товара нелинейна. Диаграмма рассеяния для данного примера показана на рис. 3.5. Какой-либо отчетливой зависимости между значениями величин x и y на диаграмме рассеяния не видно. Но о приблизительно линейной или параболической зависимости сказать все же можно. Подкрепим эти рассуждения расчетами.

Рис. 3.5

Если вычислить по этим данным выборочный коэффициент корреляции, то получим, что r = -0,738, а это достаточно близко к 1. Ниже мы постараемся обосновать, почему парабола все-таки несколько лучше описывает эти данные, чем прямая. Коэффициенты системы линейных уравнений таковы:

∑xi 2 yi = 187221051.

Система для определения коэффициентов a, b, c параболического уравнения регрессии у = ах2 + bx + с получилась такой:

56063921000a + 216509904b + 870918c =187221051;216509904a + 870918b + 3654c =817659;

870918a + 3654b +16c = 3722.

Следовательно, у = 0,00173x2 – 1,723х + 532.

Коэффициент а близок к нулю, это означает, что полученная парабола не слишком отличается от прямой линии.

Линейное уравнение регрессии, полученное по методу наименьших квадратов, таково: у = -0,887х +435,18.

Графики функций y1(x) = -0,00173x2 – 1,723x + 532 и y2(х) = -0,887х + 435,18 показаны на рис. 3.5.

Если теперь рассчитать суммы квадратов отклонений:

Расчеты, выполненные по сгруппированной выборке, отличаются, конечно, от расчетов, выполненных непосредственно по исходным данным. Разница получается вследствие перехода к серединам интервалов. Но она, как правило, невелика, а вычисления по сгруппированной выборке получаются намного проще.

3.7. ИНДЕКС КОРРЕЛЯЦИИ

Выборочный коэффициент корреляции r является мерой линейной связи между составляющими двумерной выборки. Если такая связь существует, но не является линейной, значение r не может служить ее мерой. Чтобы оценить, насколько хорошо соответствует экспериментальным данным некоторое квазилинейное уравнение регрессии у = f(x), используют индекс корреляции Ryx,, определяемый формулой

Если экспериментальные числа уi совпадают с теоретическими значениями у(хi) (точки (хi, уi) на диаграмме рассеяния лежат на кривой y = =f(x)), то Ryx = 1.

Так как всегда s 2y ≥ s 2y) , то 0 ≤ R ≤ 1.

Чем ближе к 1 число Ryx , тем точнее уравнение регрессии соответствует экспериментальным данным, тем сильнее связь между значениями составляющих двумерной выборки.

Пример. Найдем индекс корреляции между объемом производства вишни и ценой вишни (пункт 3.5.5) при описании зависимости многочленом второго порядка. Расчетные данные:

∑yi 2 = 918446; n ∑(y(xi ) −y)2 = 471442,88;

Ryx=0,748, что несколько больше, чем модуль выборочного коэффициента корреляции r (r = -0,738). Мы получили подтверждение, что параболическое уравнение лучше соответствует опытным данным, чем линейное.

Индекс корреляции не позволяет определить, положительной или отрицательной является корреляция между величинами у и x (растут или убывают значения у с ростом x). Это можно сделать по виду диаграммы рассеяния и графика соответствующего уравнения регрессии.

В заключение отметим, что, построив уравнение регрессии x на у (x = =g(y)), можно рассчитать индекс корреляции Rxy ≠ Ryx, т.е. оценить, как x зависит от у.

3.8. ИНДЕКС ФЕХНЕРА И КОРРЕЛЯЦИОНННОЕ ОТНОШЕНИЕ

Здесь будут описаны два способа оценки степени связи между составляющими двумерной выборки без использования уравнения регрессии. Прежде всего, постараемся уточнить, что подразумевается под термином «связь». Ведь если нет уравнения у = f(x), связывающего аргумент x и зависимую переменную у, понятие «связь» становится расплывчатым. Будем говорить, что между составляющими двумерной выборки существует положительная корреляция (связь), если с ростом значений x значения y проявляют тенденцию к возрастанию. Соответственно говорят об отрицательной корреляции между x и у, если с ростом значений x значения у проявляют тенденцию к убыванию. Конечно, и формулировку «проявлять тенденцию к» нельзя назвать строгой. Но на интуитивном уровне она представляется понятной.

Г.Фехнер (1801 - 1887), немецкий психолог, предложил очень простой способ оценки степени такого рода связи. Для определения индекса Фехнера вычисляют средние x , y , а затем для каждой пары (xi, уi) определяют знаки отклонений хi – x , уi – y . Для каждой пары (xi, yi) возможны четыре сочетания знаков: + +; + —; — +; — —. Обозначим через V количество совпадений, через W – количество несовпадений

Ясно, что -l ≤ i ≤ l и что при i > 0 имеем положительную корреляцию, при i < 0 – отрицательную, при i = 0 связь в указанном нами смысле отсутствует. Найдем индексы Фехнера для примеров из §3.1.

Пример с текстом. Пары знаков получаются такими:

(- -), (- -), (- -), (+ +), (- -), (- -) (+ +) (- -) (++), (++).

Отсюда V = 10, W = 0, i1 = l.

Пример с монетами. Пары знаков следующие:

(- +), (- +), (- +), (- +), (- +), (+ -), (+ -) (+ +), (+ -), (+ -). Значит V = 1, W = 9, i2 = -0,8.

Пример с кубиками. Последовательность пар знаков:

(0 +), (+ -), (+ -), (- -), (- +), (+ -), (- -). (+ +), (+ -), (+ +).

Если просто не учитывать первую пару (x1 = x = 4), то V = 4, W = 5,

i3 = -0,11. Если поделить единицу пополам, то V = 4,5 ; W = 5,5, i3 = -0,1. Корреляционное отношение как мера тесноты связи между

составляющими двумерной выборки было предложено К. Пирсоном. Оно вычисляется по корреляционной таблице, а расчетная формула аналогична формуле для индекса корреляции. В дополнение к обозначениям §3.6

По аналогии с индексом корреляции, корреляционное отношение ηyx вводится так:

Напомним, что

k – число интервалов группировки по составляющей x двумерной выборки;

xi – середина i-го интервала группировки по составляющей x;

ni – частота i-го интервала группировки по составляющей х, i = 1,2,..,k; yj – середина j-гo интервала группировки по составляющей y;

m - число интервалов группировки по составляющей у;

lj – частота j-го интервала группировки по составляющей у, j =1,2,...,m; nij – частоты прямоугольников группировки;

n – объем двумерной выборки.

Если все точки на диаграмме рассеяния сгруппированной выборки