Активационной функцией
Рис. 5.35. Ошибка тестирования робастной НС с пороговой активационной функцией
Рис.5.36. Ошибка тестирования робастной НС с логистической
Активационной функцией
Анализ приведенных зависимостей показал, что в диапазоне относительных величин среднего квадратического значения шума от 0 до 10 % НС с пороговой и логистической активационными функциями практически лишены ошибок распознавания.
При дальнейшем увеличении шума средняя ошибка тестирования начинает возрастать. Следует также отметить, что обучение с шумом снизило общую среднюю ошибку тестирования в присутствии шума по сравнению с исследованиями, проведенными ранее. Также менее заметно влияние на ошибку тестирования количества нейронов первого слоя НС и вида активационной функции в диапазоне изменения относительных величин среднего квадратического значения шума от 0 до 10 %.
Основным результатом данных исследований явилось доказательство применимости процесса робастного обучения для улучшения характеристик распознавания и обеспечения робастности НС.
Анализ полученных результатов позволяет сделать вывод о том, что в рассматриваемом случае при малом объеме обучающего множества и малом относительном уровне среднего квадратического значения шума (до 10%) количество нейронов в первом слое при логистической и пороговой функции активации можно выбрать равным двум.
Структура НС может быть достаточно простой, например содержать 32 входа, 2 нейрона в первом слое с пороговой функцией активации, 2 нейрона в выходном слое со ступенчатой функцией активации.
Нейросетевой тракт обработки интервалов между нулями входных реализаций
В качестве примера на рис. 5.37 приведена электрическая принципиальная схема НС для распознавания объектов по их акустическим излучениям.
Схема нейросетевого блока распознавания включается в работу на короткие моменты времени (равные 1 с при пеленгации объекта) по сигналу "Упр", поступающему с приемного устройства пеленгатора. Одновременно с этим сигнал "Вх." поступает на счетчик длительности интервалов между нулями. Данный счетчик формирует шестиразрядный двоичный весовой код, который поступает на шину адреса ПЗУ. В соответствии с двоичным кодом из ячейки ПЗУ выбирается восьмибитное слово, которое поступает на вход цифро-аналогового преобразователя, преобразующего цифровой код в соответствующее напряжение, пропорциональное весу связи нейрона. ПЗУ и ЦАП в данной схеме работают в импульсном режиме, а сама схема включается лишь на одну секунду. Импульсный режим работы ПЗУ и ЦАП реализуется при помощи управляемого генератора, сигнал запуска которого поступает со схемы определения интервалов между нулями после каждого из интервалов. Далее напряжение, пропорциональное весу связи, поступает на вход цифро-аналогового коммутатора, разветвляющего это напряжение по сигналу управляемого генератора на первый нейрон и на второй нейрон за период 8 мкс. Каждый из нейронов построен по одинаковой схеме. Отличие заключается лишь в величине веса связи, подключенного к каждому из нейронов. Входной слой нейронов реализован на суммирующих интеграторах, построенных на базе микромощных ОУ типа К140УД12. Подсчет количества интервалов заданной длительности осуществляется высокоточным интегрированием по времени с определенным весом, выбор которого для первого и второго нейронов первого слоя осуществляется при помощи коммутатора. Пороговая активационная функция нейронов первого слоя выполнена на усилителях-ограничителях, реализованных на операционных усилителях К140УД12. С выходов усилителей-ограничителей (нейронов первого слоя) сигналы через весовую резистивную матрицу поступают на входы нейронов второго слоя, реализованные на базе суммирующих усилителей К140УД12, с выходов нейронов второго слоя сигналы поступают на входы выходных компараторов. Логическая единица на выходе первого компаратора свидетельствует о наличии в зоне действия пеленгатора самолета, логическая единица на выходе второго компаратора - о наличии вертолета. Ток, потребляемый разработанным трактом НС от источника напряжением 5 В в активном режиме ("Объект есть"), составляет 420 мкА.
В рассматриваемом случае максимальная ошибка представления весовых коэффициентов первого слоя составила 5,7 %. Основная масса ошибок лежит в диапазоне от 0 до 2,5 %.
Для оценки влияния изменения весовых коэффициентов на качество распознавания нейронной сети была исследована зависимость средней ошибки тестирования от величины относительного изменения весовых коэффициентов, приведенная на рис. 5.38.
Как видно из рис. 5.38, изменение ошибки представления весовых коэффициентов в рассматриваемой системе от 0 до 10 % не приводит к увеличению средней ошибки распознавания НС. Поэтому хранение значений весовых коэффициентов в ПЗУ в рассматриваемом случае не будет сказываться на качестве распознавания НС.
Рис. 5.38. Зависимость ошибки тестирования от относительного изменения весов нейронов первого слоя
Выше приведен пример применения нейросетевой технологии для решения задачи обработки сигналов на базе нейросетевого алгоритма распознавания объектов. Методика решения задачи описывается на примере синтеза тракта распознавания типа аэродинамического объекта по акустическому излучению.
Рассмотренная нейросетевая система распознавания и алгоритм её построения являются достаточно универсальными. Они могут быть применены в других задачах распознавания, где априорная неопределенность, отсутствие аналитической модели и малое количество реализаций реального сигнала не позволяют применить классические методы синтеза систем обработки сигналов для получения высококачественного алгоритма распознавания объектов с малыми вероятностями ошибок распознавания.
Контрольные вопросы и задания
Составьте методику вычисления множественных коэффициентов начальной регрессии для векторов входных реализаций при помощи нейросетевых алгоритмов.
Составьте методику выбора информативных признаков и сокращения размерности векторов входных реализаций в АИС БЛ, обрабатывающих нецентрированные параметры сигналов, основанную на регрессионных статистических характеристиках.
Сравните классические и регрессионный методы анализа разделимости классов при распознавании образов в АИС БЛ.
Охарактеризуйте обусловленность вычислительной задачи и матриц корреляционных моментов информативных признаков.
Опишите особенности робастного обучения нейросетей в АИС БЛ.
Сравните влияние на скорость обучения нейросети различных видов функций активации и количества нейронов входного и скрытых слоев.
Как изменяется скорость обучения при применении робастного подхода.
Охарактеризуйте возможности технической реализации элементов нейросетевых трактов обработки сигналов в АИС БЛ.