2.2. Определение параметров функциональной зависимости

методом наименьших квадратов

При совместном исследовании двух случайных величин по имеющейся выборке (х₁, у₂), (х₂, у₂),…,(x_k, y_k) возникает, как указывалось выше, задача определения зависимости между ними. Если вид функции y = f (x, a, b,...) задан, то требуется найти значения коэффициентов a, b,..., при которых y_i наименее отличаются от f (x_i). В методе наименьших квадратов, как отмечалось, коэффициенты должны быть такими, что принимает минимальное значение.

а) Линейная зависимость y = ax + b. Если , то из условия получаем:

б) Квадратичная зависимость y = (ax + b)². Отсюда и система для определения a, b может быть получена по аналогии с предыдущим случаем с помощью замены y_i на :

в) Показательная зависимость Логарифмируя, получаем: lny=ax + b, и система уравнений для a, b имеет вид:

г) Зависимость вида Тогда y² = ax + b, и условия для а и b можно задать так:

д) Логарифмическая зависимость y = ln(ax + b), то есть e^y = ax + b, и

Пример. Найти параметры зависимости между х и у для выборки

xi	1,4	1,7	2,6	3,1	4,5	5,3
yi	2,5	4,7	18,3	29,8	74,2	110,4

для случаев: 1) линейной зависимости y = ax + b;

2) квадратичной зависимости y = (ax + b)²;

3) показательной зависимости y = e^{ax + b}.

Определить, какая из функций является лучшим приближением зависимости между х и у.

По виду выборки достаточно очевидно, что связь между х и у скорее всего не является линейной – у растет не пропорционально х. Проверим это предположение, найдя коэффициенты а и b для каждой из функций. Для этого вычислим предварительно = 3,1; = 40,0;

Теперь можно решать линейные системы для а и b:

1) то есть линейная зависимость имеет вид: у = 27,34х – 44,74.

2) квадратичная функция:

у = (2,29х – 1,68)².

3) показательная функция:

у = е^{0,94х + 0,04}.

Вычислим значения

:

yi	2,5	4,7	18,3	29,8	74,2	110,4
(yi)лин	-6,46	1,74	26,34	40,0	78,29	100,13	379,93
(yi)кв	2,33	4,9	18,27	29,37	74,4	109,35	1,397
(yi)показ	3,85	5,09	11,67	18,8	69,5	146,66	1503,81

Итак, наилучшим приближением является квадратичная функция. ◄

2.3. Ранговая корреляция

Пусть объекты генеральной совокупности обладают двумя качественными признаками (то есть признаками, которые невозможно измерить точно, но которые позволяют сравнивать объекты между собой и располагать их в порядке убывания или возрастания качества). Договоримся для определенности располагать объекты в порядке ухудшения качества.

Пусть выборка объема п содержит независимые объекты, обладающие двумя качественными признаками: А и В. Требуется выяснить степень их связи между собой, то есть установить наличие или отсутствие ранговой корреляции.

Расположим объекты выборки в порядке ухудшения качества по признаку А, предполагая, что все они имеют различное качество по обоим признакам. Назовем место, занимаемое в этом ряду некоторым объектом, его рангом х_i: х₁ = 1, х₂ = 2,…, х_п = п.

Теперь расположим объекты в порядке ухудшения качества по признаку В, присвоив им ранги у_i , где номер i равен порядковому номеру объекта по признаку А, а само значение ранга равно порядковому номеру объекта по признаку В. Таким образом, получены две последовательности рангов:

по признаку А … х₁, х₂,…, х_п

по признаку В … у₁, у₂,…, у_п .

При этом, если, например, у₃ = 6, то это означает, что данный объект занимает в ряду по признаку А третье место, а в ряду по признаку В – шестое.

Сравним полученные последовательности рангов.

1. Если x_i = y_i при всех значениях i, то ухудшение качества по признаку А влечет за собой ухудшение качества по признаку В, то есть имеется «полная ранговая зависимость».

2. Если ранги противоположны, то есть х₁ = 1, у₁ = п; х₂ = 2, у₂ = п – 1;…, х_п = п, у_п = 1, то признаки тоже связаны: ухудшение качества по одному из них приводит к улучшению качества по другому («противоположная зависимость»).

3. На практике чаще всего встречается промежуточный случай, когда ряд у_i не монотонен. Для оценки связи между признаками будем считать ранги х₁, х₂,…, х_п возможными значениями случайной величины Х, а у₁, у₂,…, у_п – возможными значениями случайной величины Y. Теперь можно исследовать связь между Х и Y, вычислив для них выборочный коэффициент корреляции

, (2)

где (условные варианты). Поскольку каждому рангу x_i соответствует только одно значение y_i, то частота любой пары условных вариант с одинаковыми индексами равна 1, а с разными индексами – нулю. Кроме того, из выбора условных вариант следует, что , поэтому формула (2) приобретает более простой вид:

. (3)

Итак, требуется найти и . Можно показать, что . Учитывая, что , можно выразить через разности рангов . После преобразований получим: , , откуда . Подставив эти результаты в (3), получим выборочный коэффициент ранговой корреляции Спирмена:

. (4)

Свойства выборочного коэффициента корреляции Спирмена.

1. Если между А и В имеется «полная прямая зависимость», то есть ранги совпадают при всех i, то ρ_В = 1. Действительно, при этом d_i = 0, и из формулы (21.4) следует справедливость свойства 1.

2. Если между А и В имеется «противоположная зависимость», то ρ_В = - 1. В этом случае, преобразуя d_i = (2i – 1) – n, найдем, что , тогда

3.В остальных случаях -1 < ρ_B < 1, причем зависимость между А и В тем меньше, чем ближе | ρ_B | к нулю.

Можно использовать и другой коэффициент – коэффициент ранговой корреляции Кендалла. Рассмотрим ряд рангов у₁, у₂,…, у_п, введенный так же, как и ранее, и зададим величины R_i следующим образом: пусть правее у₁ имеется R₁ рангов, больших у₁; правее у₂ – R₂ рангов, больших у₂ и т.д. Тогда, если обозначить R =R₁ + R₂ +…+ R_n-1, то выборочный коэффициент ранговой корреляции Кендалла определяется формулой

(6)

где п – объем выборки.

Замечание. Легко убедиться, что коэффициент Кендалла обладает теми же свойствами, что и коэффициент Спирмена.

Пример 2. Десять школьников сдавали выпускной экзамен ЕГЭ по математике и вступительный экзамен по системе централизованного тестирования. Результаты обоих экзаменов оценивались по 100-балльной шкале и оказались следующими (1-я строка – оценки ЕГЭ, вторая – централизованного тестирования):

87 82 80 79 63 55 40 34 33 29

57 92 80 69 71 43 49 51 20 19

Найти выборочные коэффициенты корреляции Спирмена и Кендалла.

Составим последовательности рангов по убыванию баллов на каждом экзамене:

x_i 1 2 3 4 5 6 7 8 9 10

y_i 5 1 2 4 3 8 7 6 9 10 .

Вычислим d_i: d₁ = 1 – 5 = -4; d₂ = 2 – 1 = 1; d₃ = 3 – 2 = 1; d₄ = 4 – 4 = 0;

d₅ = 5 – 3 = 2; d₆ = 6 – 8 = -2; d₇ = 7 – 7 = 0; d₈ = 8 – 6 = 2; d₉ = d₁₀ = 0.

Найдем Тогда выборочный коэффициент ранговой корреляции Спирмена

Приступим к вычислению коэффициента корреляции Кендалла. Определим, сколько рангов, больших данного, располагается справа от каждого y_i:

R₁ = 5; R₂ = 8; R₃ = 7; R₄ = 5; R₅ = 5; R₆ = 2; R₇ = 2; R₈ = 2; R₉ = 1; R₁₀ = 0;

R = 5 + 8 + 7 + 5 + 5 + 2 + 2 + 2 + 1 = 37;

Заметим, что величины выборочных коэффициентов корреляции позволяют предполагать существование связи между результатами экзаменов. Для проверки этого предположения следует проверить гипотезу о значимости соответствующего выборочного коэффициента ранговой корреляции. ◄

Вопросы для самопроверки

1. В чем состоит различие между функциональной и статистической зависи­мостями между случайными величинами?

2. Опишите форму корреляционной таблицы.

3. Сформулируйте две основные задачи корреляционного анализа.

4. Что такое корреляционный момент, коэффициент корреляции, регрессия?

5. Как получают эмпирическую линию регрессии?

6. Какова форма линии регрессии при линейной корреляционной зависи­мости?

7. В каком диапазоне могут быть значения коэффициента корреляции?

8. Что следует сказать о двух случайных величинах, если коэффициент кор­реляции равен нулю или же равен единице?

9. Как ставится задача определения параметров линии регрессии методом наименьших квадратов?