1638

уравнение относительно неизвестных параметров

1

Положив y1 y , получим линейное уравнение относительно а и b:

y1 = ax + b.

О более сложных уравнениях регрессии можно прочитать в специальной литературе по корреляционному и регрессионному анализу.

3.5.5. О квазилинейном уравнении регрессии

Уравнение регрессии будем называть квазилинейным, если оно имеет вид

y(a1,a2,...,ak ,x) a1 f1(x) a2 f2(x) ... ak 1 fk 1(x) ak .

Здесь a1,a2,..., ak неизвестные параметры уравнения регрессии, f1(x), f2(x),..., fk 1(x) заданные функции аргумента x.

Это уравнение линейно относительно неизвестных параметров, метод наименьших квадратов дает такую линейную систему уравнений для определения значений a1, a2,..., ak

41

Левая часть последнего уравнения системы сумма теоретических значений величины y, правая часть этого уравнения сумма выборочных (экспериментальных) значений этой величины. Таким образом, в случае квазилинейного уравнения регрессии, суммы теоретических и эксперимен-

Умножим теперь первое уравнение системы на a1, второе на a2,…, последнее, k-е уравнение, умножим на ak. и сложим все уравнения. В результате получим равенство

ui разность yi yi. Из доказанных свойств величин yi вытекает, что

обладают дисперсией только в том смысле, что разным значениям аргумента x соответствуют разные значения функции уi (x). Число su2

называется остаточной (необъясненной) дисперсией. Это дисперсия разностей (остатков, отклонений) yi yi . Эти разности не имеют никакого отношения к уравнению регрессии и поэтому не могут быть объяснены с точки зрения уравнения регрессии. Чем сильнее экспериментальные значения отклоняются от теоретических, тем больше

42

3.5.6. Пример построения нелинейного уравнения регрессии

В качестве примера рассмотрим данные из табл. 3.4, где указаны объемы производства (xi, 1000т) и фермерская цена (уi долл. за 1т), скорректированная на индекс потребительских цен вишни в США в 1954 - 1969 гг.

Таблица 3.4

Как правило, зависимость между ценой и объемом производства товара нелинейна. Диаграмма рассеяния для данного примера показана на рис. 3.5. Какой-либо отчетливой зависимости между значениями величин x и y на диаграмме рассеяния не видно. Но о приблизительно линейной или параболической зависимости сказать все же можно. Подкрепим эти рассуждения расчетами.

Рис. 3.5

Если вычислить по этим данным выборочный коэффициент корреляции, то получим, что r = -0,738, а это достаточно близко к 1. Ниже мы постараемся обосновать, почему парабола все-таки несколько лучше описывает эти данные, чем прямая. Коэффициенты системы линейных уравнений таковы:

43

Система для определения коэффициентов a, b, c параболического уравнения регрессии у = ах2 + bx + с получилась такой:

56063921000a 216509904b 870918c 187221051;

216509904a 870918b 3654c 817659;

870918a 3654b 16c 3722.

Коэффициент а близок к нулю, это означает, что полученная парабола не слишком отличается от прямой линии.

Линейное уравнение регрессии, полученное по методу наименьших квадратов, таково: у = -0,887х +435,18.

Графики функций y1(x) = -0,00173x2 – 1,723x + 532 и y2(х) = -0,887х + 435,18 показаны на рис. 3.5.

Если теперь рассчитать суммы квадратов отклонений:

которые минимизируются при использовании метода наименьших квадратов, то, после округления, S1 = 23953; S2 = 23481. Разница, конечно, невелика, но рассеяние экспериментальных точек вокруг параболы все - таки меньше, чем вокруг прямой.

3.6. РАСЧЕТ КОЭФФИЦИЕНТОВ ЛИНЕЙНОГО УРАВНЕНИЯ РЕГРЕССИИ ПО СГРУППИРОВАННЫМ ДАННЫМ

При большом объеме n двумерной выборки ее группируют, получая т.н. корреляционную таблицу (табл. 3.5). Каждый из диапазонов значений составляющих двумерной выборки разбивают на несколько интервалов, как правило, одинаковой ширины. Затем подсчитывают частоты nij

каждого из получившихся прямоугольников группировки – число пар двумерной выборки, попавших в данный прямоугольник.

Обозначения:

k – число интервалов группировки по составляющей x двумерной выборки;

xi – середина i-го интервала группировки по составляющей x;

ni – частота i-го интервала группировки по составляющей х, i = 1,2,..,k; m - число интервалов группировки по составляющей у;

44

yj – середина j-гo интервала группировки по составляющей y;

lj – частота j-го интервала группировки по составляющей у, j = 1,2,...,m; nij – частоты прямоугольников группировки;

n – объем двумерной выборки.

Следующие соотношения очевидны:

Расчеты, выполненные по сгруппированной выборке, отличаются, конечно, от расчетов, выполненных непосредственно по исходным данным. Разница получается вследствие перехода к серединам интервалов. Но она, как правило, невелика, а вычисления по сгруппированной выборке получаются намного проще.

3.7. ИНДЕКС КОРРЕЛЯЦИИ

Выборочный коэффициент корреляции r является мерой линейной связи между составляющими двумерной выборки. Если такая связь существует, но не является линейной, значение r не может служить ее мерой. Чтобы оценить, насколько хорошо соответствует экспериментальным данным некоторое квазилинейное уравнение регрессии у = f(x), используют индекс корреляции Ryx,, определяемый формулой

45

Если экспериментальные числа уi совпадают с теоретическими значениями у(хi) (точки (хi, уi) на диаграмме рассеяния лежат на кривой y = =f(x)), то Ryx = 1.

Так как всегда s2y s2y , то 0 ≤ R ≤ 1.

Чем ближе к 1 число Ryx , тем точнее уравнение регрессии соответствует экспериментальным данным, тем сильнее связь между значениями составляющих двумерной выборки.

Пример. Найдем индекс корреляции между объемом производства вишни и ценой вишни (пункт 3.5.5) при описании зависимости

Ryx=0,748, что несколько больше, чем модуль выборочного коэффициента корреляции r (r = -0,738). Мы получили подтверждение, что параболическое уравнение лучше соответствует опытным данным, чем линейное.

Индекс корреляции не позволяет определить, положительной или отрицательной является корреляция между величинами у и x (растут или убывают значения у с ростом x). Это можно сделать по виду диаграммы рассеяния и графика соответствующего уравнения регрессии.

В заключение отметим, что, построив уравнение регрессии x на у (x = =g(y)), можно рассчитать индекс корреляции Rxy ≠ Ryx, т.е. оценить, как x зависит от у.

3.8. ИНДЕКС ФЕХНЕРА И КОРРЕЛЯЦИОНННОЕ ОТНОШЕНИЕ

Здесь будут описаны два способа оценки степени связи между составляющими двумерной выборки без использования уравнения регрессии. Прежде всего, постараемся уточнить, что подразумевается под

46

термином «связь». Ведь если нет уравнения у = f(x), связывающего аргумент x и зависимую переменную у, понятие «связь» становится расплывчатым. Будем говорить, что между составляющими двумерной выборки существует положительная корреляция (связь), если с ростом значений x значения y проявляют тенденцию к возрастанию. Соответственно говорят об отрицательной корреляции между x и у, если с ростом значений x значения у проявляют тенденцию к убыванию. Конечно, и формулировку «проявлять тенденцию к» нельзя назвать строгой. Но на интуитивном уровне она представляется понятной.

Г.Фехнер (1801 - 1887), немецкий психолог, предложил очень простой способ оценки степени такого рода связи. Для определения индекса Фехнера вычисляют средние x , y , а затем для каждой пары (xi, уi) определяют знаки отклонений хi – x , уi – y . Для каждой пары (xi, yi) возможны четыре сочетания знаков: + +; + —; — +; — —. Обозначим через V количество совпадений, через W – количество несовпадений

при i < 0 – отрицательную, при i = 0 связь в указанном нами смысле отсутствует. Найдем индексы Фехнера для примеров из §3.1.

Пример с текстом. Пары знаков получаются такими:

(- -), (- -), (- -), (+ +), (- -), (- -) (+ +) (- -) (++), (++). Отсюда V = 10, W = 0, i1 = l.

Пример с монетами. Пары знаков следующие:

(- +), (- +), (- +), (- +), (- +), (+ -), (+ -) (+ +), (+ -), (+ -). Значит V = 1, W = 9, i2 = -0,8.

Пример с кубиками. Последовательность пар знаков:

(0 +), (+ -), (+ -), (- -), (- +), (+ -), (- -). (+ +), (+ -), (+ +).

Если просто не учитывать первую пару (x1 = x = 4), то V = 4, W = 5,

i3 = -0,11. Если поделить единицу пополам, то V = 4,5 ; W = 5,5, i3 = -0,1. Корреляционное отношение как мера тесноты связи между

составляющими двумерной выборки было предложено К. Пирсоном. Оно вычисляется по корреляционной таблице, а расчетная формула аналогична формуле для индекса корреляции. В дополнение к обозначениям §3.6

47

Внешний вид табл. 3.7 несколько отличается от вида табл. 3.5, иллюстрирующей двумерную группировку. Табл. 3.7 построена так, чтобы можно было легко вообразить диаграмму рассеяния, не строя ее саму.

Имеем:

n = 60; k = 7; m = 8; hx = hy = 20 (длины интервалов группировки).

1

y60 (200*2 + 180*2 + 160*5 + 140*9 + 120*13 + 100*14 + 80*10

+60*5) = 114,7;

49

7

yi y 2 ni = 8*(67,5 – 114,7)2 + 4*(105 – 114,7)2 + 13*(100 – 114,7)2 +

i 1

+15*(113,3–114,7)2 + 9*(131,1–114,7)2 +7*(154,3–114,7)2 +4*(190 – 114,7)2 = = 57115,8;

8

y j y 2 l j = 2*(200 – 114,7)2 + 2*(180 – 114,7)2 + 5*(160 – 114,7)2 +

i 1

+9*(140 – 114,7)2 + 13*(120 – 114,7)2 + 14*(100 – 114,7)2 +10*(80 – 114,7)2 + +5*(60 – 114,7)2 = 69493,4;

ηyx = 0,82.

Для справки: коэффициент корреляции r = 0,92, предел прочности и предел текучести связаны сильной линейной зависимостью.

3.9.ЗАДАЧИ

1. Как выражаются коэффициенты линейного уравнения регрессии через выборочный коэффициент корреляции r ?

2. Показать, что выборочный коэффициент корреляции r не изменится, если значения хi, уi подвергнуть преобразованию: хi = хi + a; уi = уi + b;

i = 1,2, ... , n. Как изменится выборочный коэффициент корреляции r, если все числа хi умножить на одно и то же число d, все числа y умножить на одно и то же число b, i = 1,2, ..., n?

3. В соответствии с методом наименьших квадратов составить систему уравнений для определения коэффициентов следующих уравнений

регрессии:

у = a + bex, y = a + b∙sinωx + с∙cosωx

b

(ω – заданное число), y a x .

В задачах 4 - 19 нужно найти числовые характеристики выборки и определить (если r ≥ 0,7) коэффициенты линейного уравнения регрессии х на у, если у можно принять за независимую переменную.

4. Результаты тестирования (баллы) 10 студентов. Первый тест проверяет память (x), второй - способность к логическому мышлению (у):

50