5.1. Линейная корреляция

Для установления формы зависимости по исходным (x, y) строится график. В случае линейной зависимости вычисляется коэффициент корреляции (r), при нелинейной – корреляционное отношение (η). В зависимости от величины разброса точек на графике можно предварительно установить форму (см. рис. 5.1) и тесноту (см. рис. 5.2) связи.

Рис. 5.2.Степень рассеяния частот и величина связи:

а – r ≈ 0; б – r ≈ 0,5; в – r ≈ 0,7

Линия регрессии по координатам точек на графике проводится таким образом, чтобы точки в равном количестве находились по обе стороны линии. Более точное значение r получаем расчетным способом. Более точное значение r получаем расчетным способом следующим образом как при прямой (r от 0 до 1), так и при обратной (r от 0 до –1) зависимости:

, (5.1)

где (x_i – M_x), (y_i – M_y) – отклонения значений индивидуальных вариант x_i и y_i от их средних значений М_х и М_у.

Более простой алгебраический расчет коэффициента вариации с учетом объема выборки (n):

. (5.2)

Исходные данные и суммы по ним получаем из представленной формы:

xi

xi2

xi – Mx

yi

yi2

yi – My

xy

(xi-Mx)( yi – My)

Принимается следующая характеристика тесноты корреляционной связи: если r (η) = 0 ± 0,4, то связь считается слабой; от ± 0,4 до ± 0,7 – средняя; от ± 0,7 до ± 1 – сильная; r = ± 1 и η = 1 – связь считается функциональная.

Достоверность вычисленного коэффициента корреляции может быть установлена двумя путями: путем сравнения с табличным значением r (прил. 7); второй путь – через критерий Стьюдента. Если r_выч > r_табл, то влияние фактора на признак достоверно; если меньше табличного – не достоверно.

При использовании критерия Стьюдента для доказательства достоверности r вначале рассчитывают стандартную ошибку коэффициента корреляции:

, (5.3)

где N_n – число сопряженных пар в сравниваемых выборках.

Значение коэффициента корреляции записывают с учетом его ошибки и уровня значимости: r_{0,95 (0,99)} m_r. Затем вычисляют критерий Стьюдента для коэффициента корреляции:

t_r = r / m_r (5.4)

Критерий Стьюдента можно рассчитать иначе:

t_r = /(5.5)

Если вычисленный критерий Стьюдента больше табличного (прил. 4), то зависимость существенна, если меньше – не достоверна. Приближенная оценка статистической достоверности r осуществляется исходя из того, что абсолютное значение r должно превышать ошибку (m_r) в два и более раза.

Рис. 5.3.Зависимость содержания подвижного марганца (у) от гидролитической кислотности (х)

Пример.Исследованиями установлено, что на содержание подвижного марганца в почве влияет реакция среды. Необходимо доказать достоверность установленной зависимости. Получены следующие исходные данные (х– гидролитическая кислотность, мэкв на 100 г почвы;у– содержание подвижного марганца, мг/кг почвы):

x	83	72	69	90	90	95	95	91	75	70
y	56	42	18	84	56	107	90	58	31	48

Вначале строим график (рис. 5.3), который указывает на существование между исследуемыми показателями положительной линейной зависимости, что требует вычисления коэффициента корреляции. Для этого проводим расчет данных по таблице исходных данных (5.1). Необходимые суммарные результаты подставляем в формулу (5.1) и вычисляем коэффициент корреляции:

r= 2302 /= 0,88.

Таблица 5.1