У лекції описані стадії Data Mining та дії, що виконуються в рамках цих стадій. Розглянуто відомі класифікації методів Data Mining. Наведено порівняльну характеристику деяких методів, засновану на їхніх властивостях.

Основна особливість Data Mining – це сполучення широкого математичного інструментарію (від класичного статистичного аналізу до нових кібернетичних методів) і останніх досягнень у сфері інформаційних технологій. У технології Data Mining гармонійно об'єдналися строго формалізовані методи та методи неформального аналізу, тобто кількісний і якісний аналіз даних.

До методів і алгоритмів Data Mining відносяться наступні: штучні нейронні мережі, дерева рішень, символьні правила, методи найближчого сусіда і k-найближчого сусіда, метод опорних векторів, байєсові мережі, лінійна регресія, кореляційно-регресійний аналіз; ієрархічні методи кластерного аналізу, неієрархічні методи кластерного аналізу, у тому числі алгоритми k-середніх і k-медіани; методи пошуку асоціативних правил, у тому числі алгоритм Apriori; метод обмеженого перебору, еволюційне програмування та генетичні алгоритми, різноманітні методи візуалізації даних і безліч інших методів.

Більшість аналітичних методів, що використовуються в технології Data Mining – це відомі математичні алгоритми і методи. Новим у їхньому застосуванні є можливість їхнього використання при рішенні тих або інших конкретних проблем, обумовлена програмними засобами та технічними можливостями, що появилися. Слід зазначити, що більшість методів Data Mining були розроблені в рамках теорії штучного інтелекту.

Метод (method) являє собою норму або правило, певний шлях, спосіб, прийом рішень завдання теоретичного, практичного, пізнавального, управлінського характеру.

Поняття алгоритму з'явилося задовго до створення електронних обчислювальних машин. Зараз алгоритми є основою для вирішення багатьох прикладних і теоретичних завдань у різних сферах людської діяльності, у більшості – це завдань, вирішення яких передбачає застосування комп'ютера.

Алгоритм (algorithm) – точне приписання щодо послідовності дій (кроків), що перетворять вихідні дані в шуканий результат.

Класифікація стадій Data Mining

Data Mining може складатися із двох або трьох стадій:

Стадія 1. Виявлення закономірностей (вільний пошук).

Стадія 2. Використання виявлених закономірностей для прогнозування невідомих значень (прогностичне моделювання).

На доповнення, до цих стадій іноді вводять стадію валідації, що випливає за стадією вільного пошуку. Ціль валідації – перевірка достовірності знайдених закономірностей. Однак, ми будемо вважати валідацію частиною першої стадії, оскільки в реалізації багатьох методів, зокрема, нейронних мереж і дерев рішень, передбачено поділ загальної множини даних на навчальну та перевірочну, і останнє дозволяє перевіряти достовірність отриманих результатів.

Стадія 3. Аналіз виключень – стадія призначена для виявлення та пояснення аномалій, знайдених у закономірностях.

Отже, процес Data Mining може бути представлений поруч таких послідовних стадій:

ВІЛЬНИЙ ПОШУК (у тому числі ВАЛІДАЦІЯ)  ПРОГНОСТИЧНЕ МОДЕЛЮВАННЯ  АНАЛІЗ ВИКЛЮЧЕНЬ

1. Вільний пошук (Discovery)

На стадії вільного пошуку здійснюється дослідження набору даних з метою пошуку прихованих закономірностей. Попередні гіпотези щодо виду закономірностей тут не визначаються.

Закономірність (law) – істотна і постійно повторювана взаємозалежність, що визначає етапи і форми процесу становлення, розвитку різних явищ або процесів.

Система Data Mining на цій стадії визначає шаблони, для одержання яких у системах OLAP, наприклад, аналітикові необхідно обмірковувати та створювати безліч запитів. Тут же аналітик звільняється від такої роботи – шаблони шукає за нього система. Особливо корисне застосування даного підходу в надвеликих базах даних, де вловити закономірність шляхом створення запитів досить складно, для цього потрібно перепробувати безліч різноманітних варіантів.

Вільний пошук представлений такими діями:

• виявлення закономірностей умовної логіки (conditional logic);

• виявлення закономірностей асоціативної логіки (associations and affinities);

• виявлення трендів і коливань (trends and variations).

Допустимо, є база даних кадрового агентства з даними про професію, стаж, вік і бажаний рівень винагороди. У випадку самостійного надання запитів аналітик може одержати приблизно такі результати: середній бажаний рівень винагороди фахівців у віці від 25 до 35 років дорівнює 1200 умовним одиницям. У випадку вільного пошуку система сама шукає закономірності, необхідно лише задати цільову змінну. У результаті пошуку закономірностей система сформує набір логічних правил "якщо ..., то ...".

Можуть бути знайдені, наприклад, такі закономірності "Якщо вік < 20 років і бажаний рівень винагороди > 700 умовних одиниць, то в 75% випадків здобувач шукає роботу програміста" або "Якщо вік >35 років і бажаний рівень винагороди > 1200 умовних одиниць, то в 90% випадків здобувач шукає керівну роботу". Цільовий змінної в описаних правилах виступає професія.

При наданні іншої цільової змінної, наприклад, віку, одержуємо такі правила: "Якщо здобувач шукає керівну роботу і його стаж > 15 років, то вік здобувача > 35 років в 65 % випадків".

Описані дії, у рамках стадії вільного пошуку, виконуються за допомогою:

• індукції правил умовної логіки (задачі класифікації і кластеризації, опис у компактній формі близьких або схожих груп об'єктів);

• індукції правил асоціативної логіки (задачі асоціації і послідовності та інформація, що добувається при їхній допомозі);

• визначення трендів і коливань (вихідний етап задачі прогнозування).

На стадії вільного пошуку також повинна здійснюватися валідація закономірностей, тобто перевірка їх достовірності на частині даних, які не брали участь у формуванні закономірностей. Такий прийом поділу даних на навчальну та перевірочну множину часто використовується в методах нейронних мереж і дерев рішень і буде описаний у відповідних лекціях.