Исходные данные для расчета коэффициента корреляции

хi	хi – Мх	(хi – Мх)2	уi	уi – Му	(уi – Му)2	(хi – Мх) . (уi – Му)
69	–14	196	18	–42	1764	558
70	–13	169	48	–12	144	156
72	–11	121	42	–18	324	198
75	–8	64	31	–29	841	232
83	0	0	56	–4	16	0
90	7	49	84	24	576	168
90	7	49	56	–4	16	–28
91	8	64	68	8	64	64
95	12	144	90	30	900	360
95	12	144	107	47	2209	564
∑ 830	∑ 0	∑ 1000	∑ 600	∑ 0	∑ 6854	∑ 2302
Мх 83			Му 60

Поскольку r_выч= 0,88 > r_табл= 0,77 приР= 0,99 и ν = 8, то зависимость между содержанием подвижного марганца и гидролитической кислотностью достоверная линейная положительная.

Определим также достоверность зависимости с использованием критерия Стъюдента t по формуле (5.5):t_r = 0,88 ^. /= 5,27.

Поскольку t_выч= 5,27 > t_табл= 3.36 при ν = 8 иР= 0,99 (см. прил. 4), то зависимость между данными показателями доказана (достоверна).

В рассмотренном примере оба критерия подтвердили достоверную линейную положительную зависимость между содержанием подвижного марганца и гидролитической кислотностью

Таким образом, достоверность связи устанавливается путем сравнения r (η) расчетного (фактического) и r (η) теоретического (табличного). Если r(η)_выч > r(η)_табл при учете степени свободы (ν) вариационных рядов и уровня вероятности P = 0,95 и 0,99, то зависимость между признаками доказана без учета величины r(η). Регрессионный анализ обычно является продолжением корреляционного в случае если r (η) ≥ ± 0,7.

Коэффициент детерминации (причинности) R² (D²) – это коэффициент корреляции, возведенный в квадрат, например, R² = r² = 0,2² = 0,04. С помощью коэффициента детерминации можно установить долю влияния анализируемого факторного признака на результативный признак. В случае, когда R² = 0,04, можно утверждать, что доля влияющего фактора (x) на признак (y) составляет 4 %. Следовательно, на долю других факторов приходится 96 % влияния.

5.2. Нелинейная корреляция

Зависимость между признаками не всегда выражается в виде прямой линии. Если рассеяние точек на графике приближается к кривой линии (см. рис.5.1, в, г), то зависимость устанавливается с использованием корреляционного отношения (η), величина которого изменяется только от 0 до 1. Для него теоретические значения приводятся отдельно в таблице или находятся при перерасчете его в критерий Стъюдента. При нелинейной корреляции вычисляется корреляционное отношение (η).

Для установления формы связи иногда используется критерий криволинейности в случаях, когда кривая линия мало отличается от прямой. Существует несколько способов оценки степени криволинейности. Рассмотрим два из них.

Первый способ менее точный. Оценка степени криволинейности определяется по разности коэффициента корреляции и корреляционного отношения использованием неравенства: η² – r² ≥ 0,1. Корреляция считается криволинейной, если полученный результат соответствует этому неравенству. Предварительно следует рассчитать между сравниваемыми выборками r и η.

Второй способ оценки степени криволинейности связан с применением критерия Стъюдента:

t = 0,5 ≥ 3.

Если t_выч < 3 или t_выч < t_табл, то рассматриваемая связь несущественно отклоняется от прямолинейной, поэтому относим ее к линейной. В других случаях связь между признаками относят к криволинейной и рассчитывается корреляционное отношение.

Корреляционное отношение, как и коэффициент корреляции, используется для оценки прямой и обратной зависимости между признаками.

Оценка прямой нелинейной зависимости между признаками. Нелинейная зависимость прямая определяется как параболическая. Расчет корреляционного отношения производится по формуле с использованием функции у:

, (5.6)

где – среднее арифметическое частных групп поy_i; n – число вариант в частной группе; –M_y – отклонение общего среднего (M_y) от средних арифметических частных групп ().

Ошибка корреляционного отношения независимо от способа расчета вычисляется следующим образом:

m_η = (5.7)

Критерий Стьюдента определяется с использованием η:

t_η = η / m_η. (5.8)

Если t_выч > t_табл, то корреляционное отношение признается достоверным.

Пример. Следует установить, существует ли зависимость между температурой воздуха (х, ^оС) и упругостью водяного пара (у, мбар) по шести метеорологическим постам Беларуси исходя из следующих данных:

xi	14,7	14,9	15,3	15,6	16,0	16,7
yi	13,3	13,7	14,2	14,5	14,7	14,6

При построении графика получена кривая близкая к параболе (рис. 5.4).

По исходным данным (табл. 5.2) рассчитываем корреляционное отношение между хиу. Выборку разбиваем на частные группы по значенияму. Их должно быть не менее трех. В нашем примере выделены частные две группы для сокращения расчета. Для частных групп рассчитываются средние () и отклонение их от общей средней для выборки (М_у), а также отклонения индивидуальных вариант выборки (у_i) от общей средней (М_у). Сумму отклонений в квадрате из табл. 5.2 заносим в формулу (5.6) и вычисляем η.

η_у== 0,79.

Ошибку корреляционного отношения находим по формуле (5.7):

m_η== 0,31.

Достоверность результатов определяем по критерию Стъюдента (5.8):

t_η= 0,78 / 0,31 = 2,51.

Поскольку t_η= 2,51 <t_табл= 2,78 приР 0,95 для ν = 4 (см. прил. 4), то значение корреляционного отношения следует признать не доказанным, а зависимость между температурой воздуха и упругостью водяного пара положительна, но не достоверна.

Рис. 5.4. Кривая зависимости упругости водяного пара (х) от температуры воздуха

Таблица 5.2