
- •Интеллектуальные системы. Основные классы систем и задач. Понятие иис
- •Критерии интеллектуальности ис
- •История развития иис
- •Классификация задач, решаемых иис
- •Классы иис
- •Символьная обработка и вычислительный интеллект в задачах искусственного интеллекта. Символьная обработка в задачах искусственного интеллекта
- •Вычислительный интеллект в задачах искусственного интеллекта
- •Экспертные системы. Архитектура систем. Экспертные системы
- •Архитектура экспертной системы
- •Архитектура нечеткой экспертной системы.
- •Архитектура нейронной экспертной системы.
- •Архитектура мягкой экспертной системы.
- •Экспертная деятельность
- •Вычисление нечеткой импликации:
- •Архитектура нечёткой экспертной системы
- •Искусственная нейронная сеть. Математическая модель нейрона.
- •Функция активации. Виды нейронных сетей. Функция активации.
- •Виды нейронных сетей.
- •Нс без обратных связей
- •Полносвязные сети
- •Обучение нс. Решение задачи классификации. Обучение нс
- •Решение задачи классификации
- •Обучение нс. Решение задачи кластеризации.
- •Обучение нс. Решение задачи аппроксимации.
- •Нейронная сеть как универсальный аппроксиматор.
- •Эффективность аппроксимации с помощью нейронных сетей и систем нечеткого вывода.
- •Линейно-сепарабельные задачи.
- •Нейронная сеть как универсальный аппроксиматор.
- •Сети Кохонена. Алгоритм обучения «победитель забирает все» Сети Кохонена
- •Алгоритм обучения «победитель забирает все»
- •Дельта-правило в машинном обучении
- •Алгоритм обратного распространения ошибки.
- •Архитектура нейронной экспертной системы
- •Эволюционные вычисления. Классы эволюционных вычислений.
- •История эволюционных вычислений
- •Классы эволюционных вычислений.
- •Обобщение идей эволюционных вычислений
- •Понятие генетического алгоритма.
- •3 Основные положения в теории эволюции (Теория «Происхождения Видов» 1859г. Дарвина):
- •Кодировка хромосом. Оператор отбора.
- •Операторы рекомбинации и мутации. Оператор скрещивания (оператор кроссовера)
- •Оператор мутации
- •Сходимость га.
- •Теорема схем.
- •Гибридные интеллектуальные системы.
- •Методы гибридизации.
- •Способ 1
- •Способ 2 (метод -срезов)
- •Понятия t-нормы и s–конормы.
- •Общие свойства t – норм и s — конорм
- •Пары норм и конорм
- •Определения и-или-нейронов и нечеткой нейронной сети.
- •Нечеткая нейронная сеть архитектуры anfis
- •Пример функционирования нечеткого нейронного контроллера
- •Определить входные переменные.
- •Пример. Нечёткий регулятор для стиральной машины (архитектура anfis)
- •Алгоритмы обучения для неч-ой нейр-ой сети контроллера
- •Нечёткий контроллер на основе нейронной сети (nnflc).
- •Архитектура anfis (адаптивная нейронная сеть, основанная на системе нечёткого вывода).
- •Нейронная сеть для нечётких (nndfr)
- •Нечёткие нейронные сети с генетической настройкой.
- •Эффективность аппроксимации с помощью нейронных сетей и систем нечеткого вывода.
- •Моделирование линейного нейрона
- •Моделирование многослойного перцептрона
- •Моделирование сети Кохонена
- •Пример генетической оптимизации при решении задач
Обобщение идей эволюционных вычислений
Эволюционные вычисления возникли, как раздел современной информатики из попытки заимствовать основные механизмы самоорганизации биологических систем с последующим извлечением формальных процедур и алгоритмов.
Основные принципы биологических систем |
Основные принципы эволюционных вычислений |
Наследственность, устойчивость видов. Носителями признака являются хромосомы, разделённые на гены, кодирующие различные свойства организма. |
Каждое техническое решение представляется набором параметров – генов, которые в совокупности составляют структурированную строку, называемую по аналогии хромосомой. При алгоритмах эволюционного перебора новые решения, т.е. хромосомы формируются как комбинации из фрагментов уже существующих строк, т.е. фрагменты наследуются. Операция комбинирования фрагментов называется кроссовером. |
Изменчивость. Биологические системы по мере развития приобретают новые свойства. Мутация – явление изменения содержания генов под влиянием внешних факторов. |
Мутация реализуется случайным изменением элемента структурированной строки хромосомы. |
Принцип естественного отбора. Самый адаптируемый организм оставляет в среднем самое многочисленное потомство, поэтому полезные признаки начинают доминировать. |
Для организации формирования следующего поколения в эволюционных вычислениях используют принцип пропорционального отбора или пропорциональной селекции.
Ps(i) = фитнесс/ ср.фитнес поп популяции Ps – вероятность отбора f – fines-функция i – номер хромосомы. |
Понятие генетического алгоритма.
3 Основные положения в теории эволюции (Теория «Происхождения Видов» 1859г. Дарвина):
Наследственность
Изменчивость
Естественный отбор
Основные принципы ГА были сформированы Голландом в 1975 г. Генетические алгоритмы описывают теорию эволюции приближенно. В природе особи конкурируют друг с другом за различные ресурсы, в том числе за возможность произвести потомство. Наиболее приспособленные особи будут иметь больше шансов передать свои гены потомкам, т.е. гены высокоадаптивных особей распространяются в популяции. Таким образом, вид приспосабливается к окружающей среде.
В ГА каждая особь представлена хромосомой – одним возможным решением задачи. ГА по аналогии с эволюционным механизмом работают с популяцией, каждая из хромосом которой является потенциальным решением задач.
ГА – адаптивный метод поиска, применяемый для решения задач функциональной оптимизации. Каждая хромосома оценивается мерой её «приспособленности» функцией оптимальности (fitness function) – в методах оптимизации – целевая функция. Наиболее приспособленные особи получают возможность воспроизвести потомство с помощью «перекрёстного скрещивания». Наименее приспособленные особи постепенно исчезают из популяции в процессе эволюции.
Общая схема генетического алгоритма.
Сгенерировать начальную популяцию
Пока не достигнуто значение, большее Fitnessmax:
Выбрать часть существующей популяции (отдавая предпочтение более приспособленным особям)
Применить к этой части генетические операции, породив потомство.
Посчитать Fitness для особей новой популяции.
Точка останова – количество поколений, заранее задаётся.
Установить счетчик поколений N=0, Установить максимальное число поколений Nmax=max, max – любое подходящее число.
Вычислить целевую функцию для всех элементов популяции.
Отобрать в соответствии с принципом рулетки наиболее адаптированных представителей для формирования следующего поколения.
Выполнить кроссовер для формирования следующего поколения.
Заменить старую популяцию на новую, увеличить счетчик поколений N=N+1.
Выполнить мутацию с помощью назначения вероятностей (Pm~0,001 для любого объекта)
Если N=Nmax, то выдать лучший объект и закончить алгоритм, иначе (N<Nmax) идем к шагу 4.
Сегодня термином генетические алгоритмы называют не одну модель, а достаточно широкий класс алгоритмов. ГА – универсальный метод решения задачи методов оптимизации.
Если задачи решаются специальными методами, то они могут быть эффективнее ГА. Преимущество ГА в том, что их можно применять для решения сложных задач, для которых специальных методов не существует.
Стандартным называется генетический алгоритм, в котором:
хромосомы представляются битовыми строками
используется принцип пропорционального отбора выбора родителей
функция оптимальности (фитнес-функция) позволяет проранжировать всех представителей популяции.
Схема ГА.
ГА – адаптивный метод поиска, применяемый для решения задач функциональной оптимизации. Каждая хромосома оценивается мерой её «приспособленности» (fitness function) – в методах оптимизации – целевая функция. Наиболее приспособленные особи получают возможность воспроизвести потомство с помощью «перекрёстного скрещивания». Наименее приспособленные особи постепенно исчезают из популяции в процессе эволюции.
Рисунок 6 Общая схема ГА
Генетический алгоритм в псевдокоде.
Начало
Создать начальную популяцию
Оценить приспособленность каждой особи
Остановка = ложь
Пока не остановка выполнять
Начало
Повторить (размер популяции/2) раз
Начало
Выбрать 2 особи с высокой приспособленностью для скрещивания
Скрестить потомков
Оценить приспособленность потомков
Поместить потомков в новое поколение
Конец
Если приспособленность лучшего потомка > порога, то остановка = истина
Конец
Конец.