- •Интеллектуальный анализ данных Лабораторный практикум
- •5.05010101 «Обслуживание программных систем и комплексов»
- •Касилов о.В., Компаниец в.А.
- •Содержание
- •Вступление
- •Лабораторная работа № 1
- •Начало работы с системой Deductor Studio 5 .2
- •Мастер импорта;
- •Сценарии
- •Базовые визуализаторы
- •Построение многомерной диаграммы
- •Работа с визуализатором Таблица
- •Очистка данных
- •Парциальная предобработка
- •Редактирование аномальных значений
- •Спектральная обработка (сглаживание)
- •Факторный анализ
- •Корреляционный анализ
- •Дубликаты и противоречия
- •Лабораторная работа № 2 трансформация данных
- •Разбиение даты
- •Преобразование данных к скользящему окну
- •Группировка данных
- •Слияние данных
- •Квантование
- •Настройка набора данных
- •Фильтрация данных
- •Сортировка, замена значений
- •Замена значений
- •Кросс-таблица
- •Свёртка столбцов
- •Вопросы для проверки
- •Лабораторная работа № 3 работа с хранилищем данных
- •Рассмотрим пример проектирования структуры хд
- •Создание нового хранилища данных
- •Настройка подключения хранилища данных
- •Проектирование структуры хранилища данных
- •Наполнение хранилища данных
- •Извлечение информации из хранилища данных Импорт из процесса
- •Импорт из измерения
- •Кубы в Deductor Warehouse
- •Самостоятельная работа по созданию хранилища данных
- •Вопросы для проверки
- •Лабораторная работа № 4
- •Многомерный анализ данных при помощи встроенного в Deductor olap модуля.
- •Добавление новых данных в хд
- •Получение olap-отчетов
- •Формирование отчета по объемам продаж за последние четыре месяца по товарным группам
- •Манипуляции с измерениями
- •Формирование отчета по каждой аптеке за каждый месяц
- •Фильтрация
- •Построение аналитической отчетности
- •Самостоятельная работа по созданию кросс-таблицы и кросс- диаграммы
- •Вопросы для проверки
- •Лабораторная работа № 5
- •Узел Калькулятор
- •Задание
- •Проведение abc-анализа
- •Суть метода
- •Алгоритм авс-анализа
- •Выполнение abc-анализа
- •Stat("ИмяСтолбца";"Тип")
- •CumulativeSum("ИмяПоля"; ["ИмяПоляГруппы"])
- •Проведение xyz-анализа
- •Суть метода
- •Алгоритм xyz-анализа
- •Выполнение xyz-анализа
- •Проведение abc-xyz-анализ
- •Суть метода
- •Выполнение abc-xyz -анализа
- •Вопросы для проверки
- •Лабораторная работа № 6
- •1. Логистическая регрессия и roc-анализ
- •Деревья решений
- •Прогнозирование с помощью линейной регрессии
- •Прогнозирование с помощью построения пользовательских моделей
- •Лабораторная работа № 7 искусственные нейронные сети
- •1. Искусственные нейронные сети
- •Пример работы многослойного персептрона
- •Аппроксимация многомерных функций
- •Лабораторная работа № 8
- •Кластеризация с помощью алгоритма k-means
- •2. Сегментация клиентов телекоммуникационой компании с использованием карт Кохонена
- •Кластеризация при равном весе входных атрибутов
- •Кластеризация при различных весах входных атрибутов. Акцент на выделении кластера Активная молодеж ь
- •Кластеризация при ограничении набора входных атрибутов. Акцент на выделении кластера Активная молодеж ь
- •Лабораторная работа № 9 ассоциативные правила
- •Алгоритм поиска ассоциативных правил
- •Создание ассоциативных правил для анализа покупательских корзин для стимулирования спроса
- •Интерпретация ассоциативных правил
- •Полезные советы:
- •4. Визуализатор Что-если в ассоциативных правилах
- •Список литературы
- •Інтелектуальний аналіз даних Лабораторний практикум
Факторный анализ
Факторный анализ служит для понижения размерности пространства входных факторов. Обработку можно выполнять как в автоматическом
режиме (с указанием порога значимости), так и вручную (основываясь на значениях матрицы значимости).
Рассмотрим применение обработчика на примере данных из файла
Anketa1.txt. Он содержит таблицу с информацией о кредитах граждан.
Выявим значение факторов, влияющих на возврат кредита. Выполните импорт текстового файла Anketa1.txt
При импорте указываем следующие параметры (рис. 1.34):
Рисунок 1.34 – Настройка параметров импорта
Обратите внимание на типы данных (рис. 1.35).
В качестве средства визуализации выбираем таблицу (рис. 1.36).
В Мастере обработки выберем Факторный анализ и зададим входные поля – Личный доход в месяц, Сумма кредита, Стаж работы, Рыночная стоимость автомобиля, Рыночная стоимость недвижимости, Количество лет проживания в регионе (рис. 1.37).
Рисунок 1.35 – Настройка типов данных
Рисунок 1.36 – Таблица с данными
На следующем шаге предлагается запустить процесс понижения размерности пространства входных факторов. После завершения процесса можно выбрать, какие из полученных в результате обработки факторы оставить для дальнейшей работы. Это делается путем указания необходимого порога значимости (рис. 1.38).
Рисунок 1.37 – Факторный анализ при помощи Мастера обработки
Рисунок 1.38 – Изменение порога значимости при помощи Мастера обработки
Теперь необходимо перейти к следующему шагу и выбрать способ визуализации; результаты просмотрим в таблице (рис. 1.39).
Рисунок 1.39 – Результаты визуализации
Для получения такого рода визуализации необходимо выполнить настройку полей и установить для факторов число десятичных знаков равное трем (рис. 1.40).
Рисунок 1.40 – Настройка параметров визуализации
Результаты сохранить в файле L1_7.ded.
Корреляционный анализ
Корреляционный анализ применяется для оценки зависимости выходных полей данных от входных факторов и устранения незначащих факторов. Принцип корреляционного анализа состоит в поиске таких значений, которые в наименьшей степени коррелированы (взаимосвязаны) с выходным результатом. Такие факторы могут быть исключены из результирующего набора данных практически без потери полезной информации. Критерием принятия решения об исключении является порог значимости. Если корреляция (степень взаимозависимости) между входным и выходным факторами меньше порога значимости, то соответствующий фактор отбрасывается как незначащий.
Рассмотрим применение обработки на примере данных из файла region.txt. В данном примере определим степень влияния экономических показателей региона на среднедушевой доход жителей.
В новом проекте импортируем данные из указанного файла.
Устранение незначащих входных факторов
В Мастере обработки выбираем Корреляционный анализ и задаем входные и выходные поля (рис. 1.41). Входными факторами будут являться все экономические показатели региона, а выходным будет Среднедушевой денежный доход.
На следующем шаге необходимо выбрать метод, на основе которого будет происходить расчет коэффициентов корреляции, выберем метод Коэффициент корреляции Пирсона (рис. 1.42).
После выполнения предварительных настроек запускаем процесс корреляционного анализа, по результатам которого предлагается выбрать, какие факторы оставить для дальнейшей работы. Это делается либо вручную, основываясь на значениях матрицы ковариации, либо путем указания порога значимости (по умолчанию порог значимости равен 0,05) (рис. 1.43).
Рисунок 1.41 – Корреляционный анализ при помощи Мастера обработки
Рисунок 1.42 – Выбор метода корреляции
Рисунок 1.43 – Изменение порога значимости
По полученной матрице корреляции видно, какие факторы влияют сильнее других, и какие можно не учитывать при построении всевозможных моделей (рис. 1.44).
Рисунок 1.44 – Матрица корреляции
Результат сохранить в файле L1_8.ded.
