2.3 Варіанти індивідуальних завдань

За допомого датчика псевдовипадкових чисел сформувати масиви із заданою апріорно залежністю у вигляді , де – нормально розподілена випадкова величина. Оцінити лінійну середньоквадратичну регресію на та визначити коефіцієнт кореляції величин , . Зробити висновок про зв'язок між , . Визначити величину залишкової дисперсії (похибки). Оцінити лінійну середньоквадратичну регресію на , визначити кут між прямими регресії.

1. Визначити параметри вибіркового рівняння прямої лінії середньоквадратичної регресії за згрупованими даними ([3], с. 61).

2. Визначити параметри вибіркового рівняння прямої лінії середньоквадратичної регресії для не згрупованих даних ([3], с. 60).

3. Оцінити параметри параболічної кореляції другого порядку виду .

2.4 Контрольні запитання і завдання

1. Що таке коефіцієнт кореляції і регресія двовимірної випадкової величини?

2. Поясніть поняття середньоквадратичної регресії.

3. Поясніть поняття лінійної та нелінійної регресії.

4. Як пов’язані між собою вибірковий коефіцієнт кореляції та кореляційне відношення?

5. Поясніть оптимальність та застосування залишкової дисперсії (похибки).

6. Що таке криволінійна кореляція?

3 Побудова правил класифікації та дерев рішення

3.1 Мета роботи

Освоїти практичні засоби побудови правил класифікації та використання дерев рішень для задач ІАД.

3.2 Вказівки по організації самостійної роботи студентів

Кожний об’єкт характеризується набором змінних

,

де – незалежні, – залежна змінна. Приклад залежної змінної – гра буде чи ні (див. таблицю). Якщо множина значень залежної змінної скінченна, тобто , то маємо задачу класифікації.

Дерево рішень – це спосіб подання правил в ієрархічній послідовній структурі. Під правилом розуміється логічна конструкція, представлена у вигляді "якщо ... то ...".

Завдання класифікації – це задача віднесення будь-якого об'єкта до одного з наперед відомих класів, наприклад, Давати / Не давати кредит (рис. 111).

Рис. 111 Приклад дерева рішень при видачі кредиту

На основі апріорних даних будується дерево. При цьому клас кожної із ситуацій вважається відомим. При побудові дерева всі дані навчальної вибірки спочатку потрапляють у верхній вузол, а потім розподіляються по вузлах, які, у свою чергу, також можуть бути розбиті на дочірні вузли.

Як правило, кожний вузол дерева включає перевірку визначеної незалежної змінної [2]. Дерева рішень можна завжди перетворити в правила (навпаки – не завжди можливо). Основні проблеми побудови дерева рішень – вибір змінної для розбиття та проблема зупинки розбиття. Вони вирішуються, в основному, евристичним шляхом, причому, більшість правил застосовується тільки для часткових випадків. Треба віддавати перевагу побудові дерева, що складається із незначної кількості вузлів, яким відповідає велика кількість об’єктів навчальної вибірки.

При побудові дерев рішень основна увага приділяється наступним питанням: вибору критерію атрибуту, за яким піде розбиття, зупинки навчання і відсікання гілок.

Правило побудови (створення дерева рішень). Процес створення відбувається зверху вниз, тобто є низхідним. У ході процесу алгоритм повинен розбити множину на підмножини, які б асоціювалися з цим вузлом перевірки, таким чином, щоб об'єкти підмножин, отриманих у результаті цього розбиття, були представниками одного класу або ж були максимально наближені до такого розбиття.

Правило зупинки. Визначаємо, чи є даний вузол внутрішнім вузлом та буде розбиватися далі, або ж він є кінцевим вузлом, тобто вузлом рішення.

Правило відсікання гілок. Процес проходить знизу вгору, тобто є висхідним. Відсікання гілок слід проводити там, де ця процедура не призводить до зростання помилки, тобто кількість неправильно класифікованих об'єктів не збільшується.

Область застосування дерев рішень можна об'єднати в три класи:

• Опис даних. Дерева рішень дозволяють зберігати інформацію про дані в компактній формі, що містить точний опис об'єктів.

• Класифікація. Дерева рішень вирішують задачі класифікації, тобто віднесення об'єктів до одного з відомих класів. Цільова (залежна) змінна при цьому повинна мати дискретні значення.

• Регресія. Цільова змінна має безперервні значення, дерева рішень встановлюють залежність цільової змінної від незалежних (вхідних) змінних. До цього класу належать задачі чисельного прогнозування.

Розглянемо (табл. 1) даних (навчальна вибірка) для оцінки проведення футбольних матчів.

Підготовка до роботи включає ознайомлення із поняттями правила та дерева рішення, оцінки значень помилки для правил на основі навчальної вибірки, ознайомлення з методами побудови правил класифікації (правило , Naive Bayes), вивчення методів побудови дерев рішень (алгоритми ID3, покриття) [2].

Основні поняття: правило класифікації, дерево рішення, методи побудови правил класифікації, методи побудови дерев рішень.