Нейронные сети в системах управления
Искусственные нейронные сети, подобно биологическим, являются вычислительной системой с огромным числом параллельно функционирующих простых процессоров с множеством связей. Несмотря на то что при построении таких сетей обычно делается ряд допущений и значительных упрощений, отличающих их от биологических аналогов, искусственные нейронные сети демонстрируют удивительное число свойств, присущих мозгу, — это обучение на основе опыта, обобщение, извлечение существенных данных из избыточной информации.
Нейронные сети могут менять свое поведение в зависимости от состояния окружающей их среды. После анализа входных сигналов (возможно, вместе с требуемыми выходными сигналами) они самонастраиваются и обучаются, чтобы обеспечить правильную реакцию. Обученная сеть может быть устойчивой к некоторым отклонениям входных данных, что позволяет ей правильно «видеть» образ, содержащий различные помехи и искажения.
В 50-х годах прошлого века группа исследователей объединила биологические и физиологические подходы и создала первые искусственные нейронные сети.Хотя эти сети эффективно решали некоторые задачи из области искусственного зрения, предсказания погоды и анализа данных, они были не в состоянии решать другие задачи, внешне похожие на те, с которыми они успешно справлялись. С этого времени начался период интенсивного анализа.Были построены теории, доказан ряд теорем, касающихся функционирования нейронных сетей. С 70-х годов в научных журналах стали появляться публикации, касающиеся искусственных нейронных сетей. Постепенно был сформирован теоретический фундамент, на основе которого сегодня создается большинство сетей. В последние два десятилетия разработанная теория стала активно применяться для решения прикладных задач. Появились и фирмы, занимающиеся разработкой прикладного программного обеспечения для конструирования искусственных нейронных сетей. 90-е годы ознаменовались приходом искусственных нейронных сетей в бизнес, где они показали реальную эффективность при решении многих задач — от предсказания спроса на продукцию до анализа платежеспособности клиентов банка.
Сегодня существует большое число различных конфигураций нейронных сетей с различными принципами функционирования, которые ориентированы на решение самых разных задач. В качестве примера рассмотрим многослойную полносвязанную нейронную сеть прямого распространения (Рис.10.1), которая широко используется для поиска закономерностей и классификации образов. Полносвязанной нейронной сетью называется многослойная структура, в которой каждый нейрон произвольного слоя связан со всеми нейронами предыдущего слоя, а в случае первого слоя — со всеми входами нейронной сети. Прямое распространение сигнала означает, что такая нейронная сеть не содержит петель.
Рис. 10.1. Пример многослойной полносвязанной нейронной сети прямого распространения сигнала
Обучение нейронных сетей
Способность к обучению является основным свойством мозга. Для искусственных нейронных сетей под обучением понимается процесс настройки архитектуры сети (структуры связей между нейронами) и весов синаптических связей (влияющих на сигналы коэффициентов) для эффективного решения поставленной задачи. Обычно обучение нейронной сети осуществляется на некоторой выборке. По мере процесса обучения, который происходит по некоторому алгоритму, сеть должна все лучше и лучше (правильнее) реагировать на входные сигналы.
Выделяют три парадигмы обучения: с учителем, самообучение и смешанная. В первом способе известны правильные ответы к каждому входному примеру, а веса подстраиваются так, чтобы минимизировать ошибку. Обучение без учителя позволяет распределить образцы по категориям за счет раскрытия внутренней структуры и природы данных. При смешанном обучении комбинируются два вышеизложенных подхода.
Существует большое число алгоритмов обучения, ориентированных на решение разных задач. Среди них выделяет алгоритм обратного распространения ошибки, который является одним из наиболее успешных современных алгоритмов. Его основная идея заключается в том, что изменение весов синапсов происходит с учетом локального градиента функции ошибки. Разница между реальными и правильными ответами нейронной сети, определяемыми на выходном слое, распространяется в обратном направлении (Рис.10.2) — навстречу потоку сигналов. В итоге каждый нейрон способен определить вклад каждого своего веса в суммарную ошибку сети. Простейшее правило обучения соответствует методу наискорейшего спуска, то есть изменения синаптических весов пропорционально их вкладу в общую ошибку.
Рис. 10.2. Метод обратного распространения ошибки для многослойной полносвязанной нейронной сети
Конечно, при таком обучении нейронной сети нет уверенности, что она обучилась наилучшим образом, поскольку всегда существует возможность попадания алгоритма в локальный минимум. Для этого стараются выйти из локального экстремума. Если после нескольких таких действийнейронная сеть сходится к тому же решению, то можно сделать вывод о том, что найденное решение оптимально.
Построение нейронных сетей в пакете MATLAB
Нейронные сетимогут быть построены и исследованы в приложении Simulinkпрограммной средыMATLAB. Пакет NeuralNetworkToolbox содержит ряд блоков, которые могут быть непосредственно использованы для построения нейронных сетей в среде Simulink, либо применяться вместе с функцией gensim, см. [10].
Для вызова набора блоков в командной строке необходимо набрать команду neural, после выполнения которой появляется окно Рис.10.3.
Рис.10.3. Основные нейросетевые блоки Simulink
Каждый из этих блоков в свою очередь является набором некоторых блоков. Рассмотрим их.
Блоки функции активации (TransferFunctions). Двойной щелчок кнопки мыши на блоке TransferFunctions приводит к появлению библиотеки функций активации (Рис.10.4). Каждый из этих блоков данной библиотеки преобразует подаваемый на него вектор в соответствующий вектор той же размерности.
Рис.10.4. Библиотека функций активации
Блоки преобразования входов сети.Блок NetInputFunctionsоткрывает библиотеку блоков, представленную на Рис.10.5. Блоки данной библиотеки реализуют функции преобразования входов сети.
Рис.10.5. Библиотека блоков преобразований сигналов
Блоки весовых коэффициентов.Щелкая левой кнопкой мыши по иконке с надписью WeightFunctions получим библиотеку блоков, реализующих функции весов и расстояний, Рис.10.6.
При задании конкретных числовых значений, при операциях со всеми приведенными блоками ввиду особенностей Simulink векторы необходимо представлять как столбцы, а не как строки.
Рис.10.6. Библиотека блоков весовых коэффициентов
Формирование нейросетевых моделей. Основной функцией дляформированиенейросетевых моделей в Simulink является функция gensim, записываемая в форме
gensim(net,st),
где net – имя созданной НС, st – интервал дискретизации (если НС не имеет задержек, ассоциированных с ее входами или слоями, значение данного аргумента устанавливается равным -1) [12]. Задаются входной и целевой векторы,затем запускаемSimulink командой
» gensim(net,-1)
Это приведет к открытию блок-диаграммы (Рис.10.7).
Рис.10.7. Созданная нейросетевая модель Simulink
Для проведения тестирования модели щелкнем дважды по левой иконке надписью Input 1, что приведет к открытию диалогового окна Рис.10.8.
Рис.10.8. Диалоговое окно задания входа НС
Здесь можно задать входные значения для тестирования сети. Пример построения нейронной сети для управления манипулятором приведен в практической части пособия.
Практические занятия по курсу «Системы контроля и управления».