- •Лекции по курсу «Системы обработки экономической информации»
- •Тема 1. Общее представление о Data Mining
- •1. Что такое Data Mining
- •2. Области использования Data Mining
- •3. Типы закономерностей
- •Классы систем Data Mining
- •Тема «Документальные (полнотекстовые) системы данных и знаний»
- •1. Назначение и основные понятия
- •Общая функциональная структура дипс
- •3. Формальное представление смыслового содержания текста
- •Тема «Обработка и поиск текстовой информации»
- •Обработка входящей текстовой информации
- •Поиск текстовой информации
- •Эффективность дипс
- •1. Обработка входящей текстовой информации
- •2. Поиск текстовой информации
- •Оценка качества дипс
- •Тема «знания и их представление»
- •Понятие о знании
- •Логические модели
- •3. Продукционные модели
- •4. Фреймовая модель представления знаний
- •5.Семантические сети
- •Тема «Особенности обработки информации у человека»
- •1. Основные понятия
- •2. Конструкт как единица мыслительной деятельности
- •3. Понятие как единица мыслительной деятельности
- •4. Мысленные модели
- •5. Когнитивные модели.
- •6. Объектно-схемные или качественные модели.
- •7. Синтез моделей с различными уровнями семантики и формализации
- •Тема «Нейросети»
- •Назначение и основные понятия
- •Одиночный нейрон
- •Простые нейросети
- •Назначение и основные понятия
- •2. Структура нейросетей
- •Тема «Нейросети»
- •1. Методы обучения нейронных сетей
- •2. Модель нейронной сети с обратным распространением ошибки
- •1. Методы обучения нейронных сетей
- •Применение нейросетей
- •1) Общая характеристика нейросетевых технологий
- •2 Классы решаемых задач
- •3) Области использования нейросетей
- •Общая характеристика нейросетевых технологий
- •2. Классы решаемых задач
- •3. Области использования нейросетей
- •Тема «Генетические алгоритмы»
- •Классы задач оптимизации
- •Методы решения оптимизационных задач
- •Эволюционные вычисления
- •Основы теории генетических алгоритмов
- •Решение задач с помощью генетических алгоритмов
- •Генетические алгоритмы и нейросети
- •Тема «Метод группового учета аргументов»
- •Особенности моделирования экономических систем
- •Идеология и использование мгуа
- •Общее описание метода мгуа
- •Особенности моделирования экономических систем
- •Идеология и использование мгуа
- •Общее описание метода мгуа
- •Вопросы к 1 модулю «Системы обработки экономической информации»
- •1. Что такое Data Mining
- •Области использования Data Mining
- •Классы систем Data Mining
Методы решения оптимизационных задач
На сегодняшний день можно выделить три основных типа решения оптимизационных задач:
методы, основанные на нахождении аналитического решения;
методы перебора вариантов;
методы, использующие элементы случайности.
Аналитические методы хорошо изучены, и, как правило, сводятся к решению системы линейных или нелинейных уравнений. Основные недостатки:
требование дифференцируемости всех функций, входящих в состав уравнений;
метод позволяет найти лишь локальные экстремумы, вследствие чего найденное решение может быть далеко от оптимального.
Методы перебора вариантов также хорошо изучены. Их основная идея заключается в том, что пространство поиска любой задачи можно представить в виде совокупности дискретных точек. Даже если переменные непрерывны, вследствие погрешностей любого измерения мы можем представить их дискретными (с шагом дискретности, равным либо погрешности измерения, либо с учетом требований к точности конечного результата). В этом случае процесс решения заключается в переборе всех точек пространства независимых переменных и вычислению в них целевой функции. Основной недостаток – необходимость большого количества вычислений, в результате чего для большой части практических задач невозможно получить решение за приемлемое время.
Например, пусть мы имеем 10 независимых переменных, каждая из которых может принимать 102 значений. Общее число вариантов составляет 1020. Самый быстрый на настоящее время компьютер вычисляет со скоростью примерно 109 операций/секунду (пусть одну точку обрабатывает за три такта – 3 10-9 сек. Тогда суммарное время решения задачи составит порядка 104 лет. А это далеко не самая сложная задача. Реальные задачи управления на уровне крупной фирмы или государства могут включать сотни и даже тысячи переменных.
Методы, использующие элементы случайности, также как и методы перебора, основаны на поиске в дискретном пространстве оптимального решения. Однако поиск в данном случае реализуется не методом перебора вариантов, а путем некоторого случайного «перескока» из точки в точку. При этом резко сокращается объем вычислений, необходимых для нахождения экстремума. Несмотря на определенные преимущества по сравнению с методами перебора, методы, основанные только на случайности, также во многих случаях не позволяют получать качественные решения за приемлемое время.
Исследования показали, внесение в случайные процессы некоторых элементов детерминированности дает значительное улучшение показателей. Одним из таких «частично» случайных методов и являются эволюционные вычисления.
Эволюционные вычисления
В рамках эволюционных вычислений существуют три основных класса методов:
генетические алгоритмы;
эволюционные стратегии;
эволюционное программирование.
Основная особенность генетических алгоритмов заключается в представлении любой альтернативы решения (значения целевой функции для какой-либо точки многомерного пространства) в виде битовой строки (записи в двоичном виде) фиксированной длины, манипуляция которой осуществляется вне всякой связи с ее смысловой интерпретацией. То есть в данном случае применяется единое универсальное представление любой задачи.
Эволюционные стратегии, напротив, оперируют объектами, тесно связанными с решаемой задачей. Каждая альтернатива решения представляется единым массивом численных параметров, представляющих аргумент целевой функции. Решение направлено на улучшение сходимости входящих в массивы параметров с учетом их смыслового содержания.
В основе направления эволюционного программирования находится идея представления альтернатив в виде универсальных конечных автоматов, способных реагировать на стимулы, поступающие из внешней среды.
Общей особенностью методов эволюционных вычислений является то, что они не гарантируют нахождения глобального экстремума целевой функции. Однако они способны найти наилучшее решение за наименьшее время, особенно существенно их преимущество проявляется при решении задач с большим количеством переменных, целевая функция от которых имеет большое количество экстремумов.
