
- •Міністерство освіти та науки україни
- •Блок – схема послідовності дій при аналізі
- •Виключення “вискакуючих" значень
- •Обчислення середніх величин
- •Обчислення статистичних помилок та можливого відхилення результату експерименту від дійсного значення.
- •Вміст антитоксину в крові людей через 3 місяці 12 днів після повторного внутрішньом'язового введення правцевого анатоксину
- •Оцінка кількості дослідів, необхідних для отримання результатів із зазделегідь заданою мірою точності
- •Оцінка величини межи довірчих інтервалів при підсумовуванні, відніманні, перемноженні або поділі двох середніх
- •Оцінка достовірності відмінності між двома середніми величинами
- •Оцінка ступеня кореляції
- •Додаток
- •Величина коефіцієнтів f, необхідних для виключення
- •Критичні точки розподілу Стьюдента
- •Номери результатів дослідів, що можуть бути прийняті як пограничні значення довірчого інтервалу медіани (за умовою, що результати дослідів розташовані к порядку збільшення їх значень)
- •Література
- •«Статистичні методи обробки результатів мікробіологічних досліджень»
Оцінка ступеня кореляції
Одна з задач, що найчастіше зустрічаються в експериментальному дослідженні - виявлення зв'язків між явищами. Виявити зв'язок між змінами величин, що вимірюються часто непросто через їх випадкові варіації (коливання).
Одна з найпростіших ознак наявності кореляційного зв'язку полягає в тому, що чисельне збільшення або зменшення того або іншого показника супроводжується одночасним збільшенням або зменшенням показника, який кількісно характеризує інші явища.
Кількісною характеристикою кореляційного зв'язку є коефіцієнт кореляції rxy (індекс xy вказує на зв'язок ознаки х з ознакою у, яку характеризує коефіцієнт r).
Кореляційний зв'язок може бути позитивним (прямим), коли обидві ознаки міняються в одному напрямі, і негативним (зворотнім), коли розвиток одного явища пов'язаний з ослабленням іншого.
Якщо зв'язок між показниками носить прямий характер, то величина коефіцієнта кореляції буде знаходитись в інтервалі від 0 до +1. Прі зворотному характері зв'язку величина r буде укладена в інтервалі від 0 до -1. Прийнято вважати, що величина rxy в діапазоні від 0 до 0,3 свідчить про слабу міру зв'язку, від 0,3 до 0,7 - про помірну і вище за 0,7 - про сильну міру зв'язку між показниками х і у.
Часто дослідник виявляє, що кореляційний зв'язок між ознаками, що вивчаються. відсутній, так як коефіцієнт кореляції rxy виявляється значно меншим 1 (наближається до 0). Це вказує на відсутність в цьому випадку прямолінійного кореляційного зв'язку. Однак, це не означає, що зв'язку між цими двома ознаками немає. Можливо між ними існує нелінійний кореляційний зв'язок. У цьому випадку зв'язок між ознаками потрібно оцінювати по коефіцієнту нелінійної кореляції , який точніше, ніж коефіцієнт кореляції r, відображає міру цього зв'язку.
Якщо при аналізі вибірки невідомо, який між двома ознаками існує зв'язок, потрібно розрахувати коефіцієнт кореляції (r) і коефіцієнт нелінійної кореляції (). У випадку, якщо ці два коефіцієнти рівні, або близькі за значеннями, то це означає зв'язок прямолінійний. Якщо ці два коефіцієнти розрізнюються значно, то у цьому випадку зв'язок нелінійний.
Коефіцієнт лінійної кореляції r обчислюється за формулою:
rxy
=
(18),
де
і
означають
середні, обчислені відповідно з
всіх показників х
та у,
-
сума всіх обутків відхилень показника
x
та показника y
від середніх
та
(для кожної пари результатів), а
i
-
суми квадратів тих же відхилень.
Якщо кількість пар х і у менше 30 (n 30), то розрахунок показника помилки коефіцієнта кореляції можна провести по формулі:
mr
=
(19).
Міру достовірності можна знайти з таблиці 2 додатку при ступені свободи
df = n -2 (де n - число пар ознак х і у).
Приклад 11.
При вивченні впливу ультрафіолетового світла на клітки кишкової палички отримані дані про зміну чисельності життєздатних клітин (у), вираженої у відсотках, в залежності від часу опромінення (х).
n |
X (час опромі-нення, сек) |
Y
(кількість колоній на чашці) |
(Xi- Xср) |
(Yi-Y р) |
(Xi- Yср)* (Yi - Yср) |
(Xi - Xср)2 |
(Yi - Yср)2 |
1 2 3 4 5 6 7 8 |
1 2 2 3 4 5 10 10 |
95 100 92 18 44 48 0 5 |
-3,6 -2.6 -2.6 -1.6 -0.6 0.4 5.4 5.4 |
44.7 49.7 41.7 -32.3 -6.3 -2.3 0.0 -45.3 |
-160.9 -129.2 -108.4 51.7 3.8 -0.9 0.0 -244.6 |
13.0 6.8 6.8 2.6 0.4 0.2 29,2 29.2 |
1998.1 2470.1 1738.9 1043.3 39.7 5.3 0.0 2052.1 |
n=8 |
=37 Хср= 4.6 |
402 Yср= 50.3 |
|
|
= -588,8 |
= 88,2 |
= 9347,5 |
Одержані
значення підставимо у формулу 18:
Помилку коефіцієнту кореляції знаходимо за формулою19, якщо кількість пар Х та Y більше 30 , але менше 100 (30 n 100).
mr=
(19)
Якщо кількість пар менше 30, то разрахунок слід пролводити за формулою:
(20)
Показник крітерія Стьюдента з данних досліду разраховують за формулою:
t=
(21)
Ступінь достовірності коефіцієнту кореляції можно знайти по таблицях 2 та 4 при ступені свободи df=n-2.
Подальші розрахунки, проведені на основі данних прикладу 11 дали можливість визначити величини помилки коефіцієнту кореляції (mr) та значення t-крітерія:
=
0,204;
З таблиці 2 видно, що для числа ступеней свободи дорівнюючих 14 (n1+n2-2) теоретичне значення t становить 2,98 (для Р0,01або 99%). Оскільки t за данними досліду складає 3,18, що більше за 2,98, то можливо вважати доказаним, що вирогідність коефіцієнту кореляції більше за 99%.
З більшею точністю визначити показник Р можливо за допомогою таблиці 4. Для t= 3,18 і df=14 величина Р 99,3%.