
- •Искусственный интеллект. Основные направления и этапы развития.
- •Структура мозга. Уровни моделирования. Основные элементы моделей.
- •Виды функций активации
- •Классификация нейронных сетей
- •Применение нейронных сетей
- •Методика решения формализуемых задач в нейросетевом базисе
- •Настройка нейронной сети на решение прикладных задач
- •Обучение нс Основные понятия
- •Основные алгоритмы обучения нс без обратных связей
- •Персептронные алгоритмы обучения Алгоритм обучения по правилу Хебба
- •Алгоритм обучения Розенблатта
- •Процедура Уидроу-Хоффа
- •Обучение многослойной нейронной сети без обратных связей Математическая постановка задачи обучения
- •Алгоритм обратного распространения ошибки
- •Генетические алгоритмы оптимизации
- •Суть генетического алгоритма
- •Методы формирования популяции
- •Иллюстрация работы генетического алгоритма
- •Особенности реализации генетических алгоритмов
- •Модификация основных параметров га
- •Мобильные га
- •Динамическое изменение параметров в процессе выполнения га
- •Разновидности га
- •Применение генетического алгоритма к обучению многослойного персептрона
- •Рекуррентные и рециркуляционные сети
- •Сеть Хопфилда
- •Применение сети Хопфилда к решению задач комбинаторной оптимизации
- •Сеть Хемминга
- •Самоорганизующиеся нейронные сети Самоорганизация в нс
- •Конкурентное обучение
- •Сеть Кохонена
- •Алгоритмы кластеризации
- •Пороговый алгоритм
- •Алгоритм максимального расстояния
- •Алгоритм внутригруппового среднего (метод k-средних, k-means clustering, c-means clustering)
- •Алгоритм нечётких k-средних (fuzzy c-means clustering)
- •Алгоритм состязания процедур соединения и разделения.
- •Сети адаптивного резонанса
- •Основы адаптивного резонанса
- •Архитектура art
- •Комбинированные нс
- •Иерархический классификатор
- •Нейронные сети с функциональными связями
- •Решающие деревья
- •Методы проектирования нейросетевых архитектур для решения прикладных задач
- •Выбор топологии нс для решения задач нейроуправления
- •Практическое применение нс Управление движением робота по заданной траектории
- •Обучение и формирование обучающей выборки для управления мобильным роботом
- •Тестирование робота
- •Автономное управление мобильным роботом
Самоорганизующиеся нейронные сети Самоорганизация в нс
Основная цель самоорганизации в НС – создание условий выживания организмов в определённых условиях.
Под самоорганизацией понимается процесс разбиения входного пространства на области (кластеры) таким образом, чтобы при поступлении новых данных в виде входных векторов их можно было идентифицировать (разнести по кластерам).
Для двухмерного пространства существует
оптимальное разделение (Voronoj):
правильные многоугольники, в узлах (в
центре многоугольников) которых –
нейроны. При подаче нового вектора
на вход системы определяется расстояние
между входным вектором и каждым из
нейронов. При отнесении вектора к
какому-либо классу точность определяется
допуском.
С. Гроссбергом было доказано, что оптимальное разбиение существует только для двухмерного пространства. Также им были предложены определённые алгоритмы, с помощью которых можно разделить n-мерное пространство.
Для построения кластеров необходимо произвести обучение сети.
Различают обучение с учителем и без учителя. Ранее нами были изучены алгоритмы обучения с учителем. Рассмотрим алгоритмы обучения без учителя, которые также называются алгоритмами объективной классификации.
Для реализации алгоритмов обучения без учителя необходимо:
выбрать способ разбиения объектов на классы;
выработать правила отнесения входного образа к определённому классу.
НС, работа которых основана на использовании алгоритма объективной классификации, свойственен принцип самообучения или самоорганизации.
Суть самообучения:
при обучении правильные ответы сети не сообщаются;
во время процедуры обучения происходит формирование кластеров на основе обобщения имеющейся входной информации, сосредоточенной в обучающей выборке;
обученная сеть относит новый входной вектор к одному из кластеров, руководствуясь некоторым критерием сходства.
К НС, обучающимся без учителя (НС объективной классификации или НС с самоорганизацией), можно отнести следующие нейронные сети:
сети Кохонена
ART-сети
ART MAP
Процесс разбиения некоторого множества объектов на классы с целью решения задач классификации и распознавания называется кластеризацией.
Процесс кластеризации реализуется в алгоритмах обучения без учителя.
Критерием разбиения служит некоторая мера близости или сходства. Кластеризация и обучение проводится на основе определённых математических методов, использующих соответствующие им математические модели пространства объектов.
Например, объекты – n-мерные
векторы X=(x1,
x2,…,xn)
,
в качестве меры близости двух объектов
Х1 и Х2 можно
принять:
евклидово расстояние между ними
максимальную разность значений компонент векторных описаний
скалярное произведение двух векторов
Введенные меры сходства могут служить критерием для отнесения некоторого объекта к соответствующему классу.