Обучение без учителя

Обучение без учителя используется для выявления скрытых закономерностей, зависимостей между объектами. При таком подходе нейронной сети представляются обучающие примеры без указания правильного результирующего значения. Единственная доступная сети информация – уровень возбуждения нейронов, и в зависимости от него подстраиваются синаптические веса. Общая идея обучения состоит в том, чтобы усиливать связи между наиболее возбужденными нейронами, таким образом увеличивая специализацию нейронов. Для обучения без учителя начальные веса синаптических связей устанавливаются случайными, в результате на каждый входной образ реакция нейронов будет слегка различаться. В ходе обучения сильная реакция будет усиливаться еще больше, а слабая останется неизменной или будет заглушаться (если присутствует конкуренция), и после определенного количества циклов обучения выработается устойчивая реакция сети на различные образцы. Такой механизм носит название положительной обратной связи. В данном случае это относится к тому, что незначительные различия между реакцией нейронов постепенно усиливаются все больше, и из случайных особенностей весов нейронов формируется в будущем структура сети.

Классы задач, решаемые таким методом:

• Кластеризация: задача разделения на кластеры входных данных таким образом, чтобы внутри каждого кластера объекты были схожи, а объекты разных кластеров – различались.

• Поиск правил ассоциации: выявление для набора признаков объекта часто встречающихся сочетаний значений.

• Сокращение размерности: представление многомерных (по числу характеристик) объектов в пространстве меньшей размерности с минимальными потерями данных.

• Визуализация данных: отображение многомерных данных в виде двумерных карт. Частный случай задачи сокращения размерности.

• Восполнение пропущенных данных: прогнозирование неизвестных значений признаков объекта по имеющимся на основании выявленных зависимостей между признаками (для количественных признаков применяются методы задачи регрессии, для качественных – задачи классификации).

Существует две большие категории подходов к обучению без учителя. Первый – это основанные на корреляции методы, для их реализации используется алгоритм Хебба. Сотрудничество между нейронами выражается в том, что нейроны в группе взаимно усиливают возбуждение друг друга, таким образом их совместный сигнал становится больше от их взаимодействия. В ходе обучения выделяются группы сотрудничающих нейронов, реагирующих на одни и те же образцы. Второй подход основан на использовании конкуренции между нейронами и между группами нейронов. В основе обучения лежит метод Кохонена. Наиболее приспособленные исходно к распознаванию конкретного образца нейроны будут подавлять более слабый сигнал других нейронов.

Методы обучения нейронных сетей с учителем Обучение однослойного персептрона

Входные данные передаются через рецепторы нейронам, которые вырабатывают отклик. Эталонный вектор выходных значений содержит эталонные значения выхода каждого нейрона. Отклик нейронов сравнивается с этим значением, и полученная в результате функция ошибки используется для модификации весов входных связей нейронов.