Вимоги до даних

Для того, щоб за допомогою C4.5 побудувати вирішальне дерево і застосовувати його, дані повинні задовольняти декільком умовам.

Інформація про об'єкти, які необхідно класифікувати, повинна бути представлена ​​у вигляді кінцевого набору ознак (атрибутів), кожен з яких має дискретне або числове значення. Такий набір атрибутів назвемо прикладом. Для всіх прикладів кількість атрибутів і їх склад мають бути постійними.

Безліч класів, на які будуть розбиватися приклади, повинно мати кінцеве число елементів, а кожен приклад має однозначно ставитися до конкретного класу. Для випадків з нечіткою логікою, коли приклади належать до класу із певною ймовірністю, C4.5 непридатний.

У навчальній вибірці кількість прикладів повинна бути значно більше кількості класів, до того ж кожен приклад має бути заздалегідь асоційований зі своїм класом. З цієї причини C4.5 є варіантом машинного навчання з учителем.

Побудова дерева

Нехай є - навчальна вибірка прикладів, а - множина класів, що складається з елементів. Для кожного прикладу з відома його приналежність до якогось із класів .

Побудова дерева рішень алгоритмом C4.5 принципово не відрізняється від його побудови в ID3. На першому кроці є корінь і асоційована з ним множина , яку необхідно розбити на підмножини. Для цього необхідно вибрати один з атрибутів в якості перевірки. Обраний атрибут має значень, що дає розбиття на підмножини. Далі створюються нащадків кореня, кожному з яких поставлено у відповідність своя підмножина, отримана при розбитті . Процедура вибору атрибута і розбиття по ньому рекурсивно застосовується до всіх нащадків і зупиняється в двох випадках:

1) після чергового розгалуження в вершині опиняються приклади з одного класу (тоді вона стає листом, а клас, якому належать її приклади, буде рішенням аркуша),

2) вершина виявилася асоційованою з порожньою множиною (тоді вона стає листом, а в якості рішення вибирається клас, який найбільш часто зустрічається у безпосереднього предка цієї вершини).

2. Приклади дерев, що вирішують завдання класифікації.

 Якщо залежна, тобто цільова змінна приймає дискретні значення, за допомогою методу дерева рішень вирішується завдання класифікації.

Якщо ж залежна змінна приймає безперервні значення, то дерево рішень встановлює залежність цієї змінної від незалежних змінних, тобто вирішує задачу чисельного прогнозування.

У найбільш простому виді дерево рішень - це спосіб представлення правил в ієрархічній, послідовної структурі. Основа такої структури - відповіді "Так" або "Ні" на низку запитань.

На рис.2 наведено приклад дерева рішень, завдання якого - відповісти на запитання: "Чи грати в гольф?" Щоб вирішити завдання, тобто прийняти рішення, чи грати в гольф, слід віднести поточну ситуацію до одного з відомих класів (в даному випадку - "грати" або "не грати"). Для цього потрібно відповісти на ряд питань, які знаходяться у вузлах цього дерева, починаючи з його кореня.

Перший вузол нашого дерева "Сонячно?" є вузлом перевірки, тобто умовою. При позитивній відповіді на питання здійснюється перехід до лівої частини дерева, званої лівою гілкою, при негативному - до правої частини дерева. Таким чином, внутрішній вузол дерева є вузлом перевірки певної умови. Далі йде наступне питання і т.д., поки не буде досягнутий кінцевий вузол дерева, що є вузлом рішення. Для нашого дерева існує два типи кінцевого вузла: "грати" і "не грати" в гольф.

У результаті проходження від кореня дерева (іноді званого кореневої вершини) до його вершини вирішується завдання класифікації, тобто вибирається один з класів - "грати" і "не грати" в гольф.

 

Ні

Так

Температура повітря висока?

Чи йде дощ?

Так

Так

Ні

Ні

Не грати

Не грати

Грати

Грати

Рис.2 Дерево рішень "Грати чи в гольф?"

Метою побудови дерева рішення в нашому випадку є визначення значення категоріальної залежної змінної.

Отже, для нашої задачі основними елементами дерева рішень є:

Корінь дерева: "Сонячно?"

Внутрішній вузол дерева або вузол перевірки: "Температура повітря висока?", "Чи йде дощ?"

Лист, кінцевий вузол дерева, вузол рішення або вершина: "Грати", "Не грати"

Гілку дерева (випадки відповіді): "Так", "Ні".

У розглянутому прикладі вирішується завдання бінарної класифікації, тобто створюється дихотомічна класифікаційна модель. Приклад демонструє роботу так званих бінарних дерев.

У вузлах бінарних дерев розгалуження може вестися тільки в двох напрямках, тобто існує можливість тільки двох відповідей на поставлене запитання ("так" і "ні").

Бінарні дерева є найпростішим, приватним випадком дерев рішень. В інших випадках, відповідей і, відповідно, гілок дерева, що виходять з його внутрішнього вузла, може бути більше двох.

Розглянемо більш складний приклад. База даних, на основі якої має здійснюватися прогнозування, містить такі ретроспективні дані про клієнтів банку, що є її атрибутами: вік, наявність нерухомості, освіта, середньомісячний дохід, повернув чи клієнт вчасно кредит. Завдання полягає в тому, щоб на підставі перерахованих вище даних (окрім останнього атрибуту) визначити, чи варто видавати кредит новому клієнтові.

Така задача вирішується в два етапи: побудова класифікаційної моделі і її використання.

На етапі побудови моделі, власне, і будується дерево класифікації або створюється набір якихось правил. На етапі використання моделі побудоване дерево, або шлях від його кореня до однієї з вершин, що є набором правил для конкретного клієнта, використовується для відповіді на поставлене питання "Видавати чи кредит?"

Правилом є логічна конструкція, представлена ​​у вигляді "якщо: то:".

На рис.3 наведено приклад дерева класифікації, за допомогою якого вирішується завдання "Чи видавати кредит клієнту?". Вона є типовою задачею класифікації, і за допомогою дерев рішень отримують достатньо хороші варіанти її вирішення.

 

Рис. 3 Дерево рішень "Чи видавати кредит?"

Як ми бачимо, внутрішні вузли дерева (вік, наявність нерухомості, дохід і освіта) є атрибутами описаної вище бази даних. Ці атрибути називають прогнозуючими, або атрибутами розщеплення (splitting attribute). Кінцеві вузли дерева, або листи, іменуються мітками класу, які є значеннями залежної категоріальної змінної "видавати" або "не видавати" кредит.

Кожна гілка дерева, що йде від внутрішнього вузла, відзначена предикатом розщеплення. Останній може ставитися лише до одного атрибуту розщеплення даного вузла. Характерна особливість предикатів розщеплення: кожний запис використовує унікальний шлях від кореня дерева тільки до одного вузла-рішення. Об'єднана інформація про атрибути розщеплення і предикат розщеплення у вузлі називається критерієм розщеплення (splitting criterion).

На рис.3 зображено одне з можливих дерев рішень для розглянутої бази даних. Наприклад, критерій розщеплення "Яку освіту?", Міг би мати два предиката розщеплення і виглядати інакше: освіта "вищу" і "не вищу". Тоді дерево рішень мало б інший вигляд.

Таким чином, для даної задачі (як і для будь-якої іншої) може бути побудовано безліч дерев рішень різної якості, з різною прогнозуючої точністю.

Якість побудованого дерева рішення вельми залежить від правильного вибору критерію розщеплення. Над розробкою та удосконаленням критеріїв працюють багато дослідників.

Метод дерев рішень часто називають "наївним" підходом. Але завдяки цілому ряду переваг, даний метод є одним з найбільш популярних для вирішення задач класифікації.

Приклад індивідуального завдання:

Припустімо, що нас цікавить, чи виграє наша улюблена футбольна команда наступний матч. Ми знаємо, що це залежить від ряду параметрів; перераховувати їх всі - завдання безнадійне, тому обмежимося основними:

• Чи вище перебуває суперник по турнірній таблиці;

• Чи вдома проходить матч;

• Чи пропускає матч хтось із лідерів команди;

• Чи йде дощ.

У нас є деяка статистика на цей рахунок:

Хочеться зрозуміти, чи виграє наша команда в черговій грі.