- •Оглавление
- •Аналитические технологии
- •Формализация нейронных сетей
- •Принцип обучения искусственных нейронных сетей
- •Концепция обучения нейронной сети, предложенная Хэбом
- •Сбор данных для нейронной сети
- •Прикладные возможности нейронных сетей
- •Переобучение и обобщение
- •Персептрон
- •Алгоритм обратного распространения ошибки
- •Сигмоидальный нейрон
- •Нейрон типа «адалайн»
- •Инстар и оутстар Гроссберга
- •Нейрон типа wta (Winner Takes All)
- •08.10.2011 Модель нейрона Хэбба
- •Стохастическая модель нейрона
- •Стохастические алгоритмы обучения
- •Настройка числа нейронов в скрытых слоях многослойных сетей в процессе обучения
- •Алгоритмы сокращения
- •Конструктивные алгоритмы
- •Упрощенные алгоритмы расщепления
- •Радиальная базисная сеть
- •Вероятностные нейронные сети
- •Линейные нейронные сети
- •Обучение
- •Сети с самоорганизацией на основе конкуренции
- •12.11.2011 Модели ассоциативной памяти. Сети Хопфилда
- •Когнитивные карты
- •19.11.2011 Генетические алгоритмы Естественный отбор и генетическое наследование
- •Модель эволюции в природе, реализованная программно
- •Символьная модель простого генетического алгоритма
- •Работа простого генетического алгоритма
- •26.11.2011 Шима (Schema)
- •Применение аналитических технологий
- •03.12.2011
- •Бизнес-приложения
- •Программные реализации аналитических технологий
- •Список литературы
Когнитивные карты
Когнитивная карта – это ориентированный граф, узлы которого представляют собой некоторые объекты (концепты) а дуги – связи между ними, характеризующие причинно-следственные отношения.
Связи могут быть:
Положительные – существует в случае, если увеличение (уменьшение) количественных характеристик одного концепта приводит к увеличению (уменьшению) другого концепта.
Отрицательные – обратная зависимость количественных характеристик.
Рисунок 33 Когнитивные карты
|
С1 |
С2 |
С3 |
С4 |
С5 |
С6 |
С1 |
0 |
0 |
+1 |
-1 |
0 |
+1 |
С2 |
0 |
0 |
0 |
+1 |
0 |
+1 |
С3 |
0 |
0 |
0 |
0 |
0 |
0 |
С4 |
0 |
+1 |
0 |
0 |
0 |
0 |
С5 |
+1 |
0 |
+1 |
0 |
0 |
0 |
С6 |
0 |
0 |
0 |
-1 |
0 |
0 |
Элементы матрицы определяют связи отi-ого элемента к j-тому элементу. Положительные связи кодируются +1, отрицательные -1, отсутствие связей – 0.
, где - карта состояний.
Когнитивные карты поструктура напоминают нейронные сети. Если рассматривать концепты как нейроны, а коэффициент связей между ними как синоптические веса, то можно использовать их как нейронные сети, использующиеся для построения экспертных систем, предназначенных для прогнозирования ситуаций по имеющимся данным. В таких ситуациях используются экстраполирующие сети, являющиеся разновидностью модели ассоциативной памяти. Рассмотрим особенности функционирования подобной сети.
Пусть на вход сети подается образу которогоk компонентов известны, а остальные необходимо определить. Сеть реконструирует недостающие компоненты по следующему алгоритму:
Инициализация нейронов сети случайным образом:
Вычисление новых состояний нейронов:
Выполнение шага 2 до тех пор, пока сеть не достигнет устойчивого состояния;
19.11.2011 Генетические алгоритмы Естественный отбор и генетическое наследование
Генетическая информация записывается в виде молекул ДНК. Каждая молекула ДНК – цепочка, состоящая из молекул-нуклеотидов четырех типов, обозначаемых A, T, C, G. Каждая молекула ДНК окружена оболочкой, и такое образование называется хромосомой. Каждое врожденное качество особи кодируется определенной частью хромосомы, которая называется геном этого свойства. Различные значения гена называются аллелями.
Для получения ДНК потомка ДНК предков делятся на две части обмениваются своими половинками. Этот процесс называется кроссовер.
Модель эволюции в природе, реализованная программно
Рисунок 34 Модель эволюции в природе, реализованная программно
Для моделирования эволюционного процесса генерируем случайную популяцию, т.е. несколько индивидуумов со случайным набором хромосом, или числовых векторов. Генетические алгоритмы имитируют эволюцию этой популяции как циклический процесс скрещивания индивидуумов и смены поколений. Жизненный цикл популяции – набор случайных скрещиваний и мутаций, в результате которой к популяции добавляется некоторое количество новых индивидуумов. Отбор в генетическом алгоритме – процесс формирования новой популяции из старой, после чего старая популяций погибает.
Отбор в генетическом алгоритме осуществляется посредством определения приспособленности индивидуума (вычисление значения целевой функции или проверка заданных критериев). Популяция следующего поколения формируется в соответствии со значением целевой функции. Вероятностью участия индивидуума в скрещивании берется приспособленность. Иногда используется стратегия элитизма, при которой несколько лучших индивидуумов переходят в следующее поколение без изменений, не участвуя в кросовере или отборе. Каждое следующее поколение будет лучше предыдущего. Когда приспособленность индивидуума перестает заметно увеличиваться работу генетического алгоритма останавливают и в качестве решения задачи берут наилучшего из найденных индивидуумов.
Пример:
Дано К=500 – объем капитала.
Задача – распределить капитал между объектами.
Создание начальной популяции:
Наборы хромосом |
Индексы доходности | ||
5 | |||
3 | |||
4 | |||
2 |
Скрещивание:
Мутация:
Отбор.